La questione non è affatto scontata, perché se possiamo stare certi che entro pochi anni potremo fare a meno del volante, ancora non sappiamo cosa dovrebbero fare le auto se poste di fronte a un dilemma morale. Bonnefon, uno psicologo, ha immaginato diverse situazioni in cui l'auto dovrà scegliere tra causare la morte di una o più pedoni, oppure deviare dal percorso e così facendo uccidere il guidatore. Dopodiché ha posto i suoi quesiti a diverse persone, chiedendo loro di dichiarare quale scelta vorrebbero da parte dell'auto.
In linea teorica la macchina (non necessariamente un'auto) dovrebbe agire per ridurre le perdite al minimo possibile, e quindi uccidere il guidatore per salvare dieci pedoni, in un caso estremo ma non impossibile. Ma, si domanda Bonnefon, chi comprerebbe un'auto simile, sapendo che metterà a rischio la vita del proprietario? E se tali auto non avranno mercato, come è lecito supporre, quale futuro c'è per le auto a guida autonoma?
E se meno persone comprano auto a guida autonoma, perché sono pronte a sacrificare il guidatore, allora resta il problema degli incidenti "normali" e delle persone che vi sono coinvolte. "È una situazione da comma 22", si legge sulla rivista del MIT, Technology Review.
Bonnefon ha sottoposto la questione ad alcune centinaia di persone che lavorano per Mechanical Turk di Amazon - un pubblico che si può considerare esperto sull'argomento automazione. Il risultato è in qualche modo prevedibile, ma comunque interessante: tutti vorremmo auto che riducano le perdite al minimo anche a costo di sacrificare il guidatore, fintantoché non siamo noi quelli al volante.
I ricercatori in ogni caso sottolineano che si tratta solo del primo, timido passo in un argomento che è sommariamente complesso. Gli algoritmi etici andranno giocoforza installati sulle auto a guida autonoma, e la loro natura avrà altrettanto forzosamente un impatto sulle vendite dei veicoli stessi. Se i produttori avranno libertà di scelta, o se i governi imporranno delle norme uguali per tutti, avrà a sua volta un peso sul mercato delle auto a guida autonoma, e in ultima analisi sul loro successo.
Restano molte domande a cui bisognerà trovare risposta, dilemmi morali che si ramificano se ci sono bambini a bordo, che non hanno certo scelto di stare lì, o se invece di certezza della morte di parla di maggiori o minori probabilità. E se il produttore offrisse diverse varianti dell'algoritmo, il compratore avrà una qualche responsabilità dovuta alla scelta fatta al momento dell'acquisto?