Le auto a guida autonoma evolvono costantemente sia dal punto di vista hardware, ad esempio delle capacità legate alla sensoristica e ai chip di elaborazione, sia per quanto riguarda le capacità dell'intelligenza artificiale. Tuttavia per strada l'automobile a guida autonoma non sarà sola e isolata ma dovrà interagire con altre auto, sia autonome che guidate da esseri umani, nonché con esseri umani che circolano a piedi, in bicicletta o in moto. Affinché queste interazioni complesse siano sufficientemente sicure, secondo gli scienziati sarà necessario che le IA delle auto a guida autonoma siano capaci di prevedere anche l'irrazionalità di alcune azioni degli esseri umani.
Le auto a guida autonoma attualmente hanno solo due scelte, essere "cortesi" e favorire sempre gli esseri umani, oppure essere competitive e maggiormente aggressive nel perseguire il proprio scopo egoistico, ossia quello di arrivare in sicurezza dal punto A al punto B.
Nessuna delle due però è efficace in assoluto, perché nel primo caso, cedendo sempre il passo agli umani, ci vorrebbe troppo tempo per perseguire il proprio scopo, con una forte perdita di efficienza. Nel secondo, un atteggiamento eccessivamente aggressivo potrebbe innescare nelle altre auto a guida autonoma e negli esseri umani risposte competitive che farebbero diminuire la sicurezza complessiva.
Gli scienziati stanno dunque lavorando sullo sviluppo di algoritmi che consentano di effettuare un'analisi del rapporto costi/benefici valutando ciascuna possibile azione tanto propria quanto degli esseri umani, in modo da poter decidere dinamicamente di volta in volta se essere più "cortesi" o più aggressive.
Insomma gli scienziati stanno insegnando alle IA delle auto a valutare i pro e i contro di ogni decisione, in modo da mediare per scegliere sempre la soluzione migliore evitando il "tutto o niente" e imparando così a reagire anche ai nostri comportamenti irrazionali, che altrimenti produrrebbero reazioni poco efficienti e ne innescherebbero altre altrettanto assurde. È una strada lunga ovviamente, su cui ci si è appena avventurati ma è indispensabile per l'evoluzione futura del settore.