Il settore dell'intelligenza artificiale si sta sviluppando molto velocemente da un punto di vista tecnologico, ma non da quello etico. Il rischio è quello che le intelligenze artificiali raggiungano la cosiddetta singolarità, ossia l'autoconsapevolezza di sé, senza avere un'adeguata base etica, che consenta loro l'empatia, ossia la comprensione che gli altri non sono oggetti ma esseri sensienti come loro. A lanciare l'allarme sono stati i principali scienziati statunitensi del settore, tra cui Alvin Dubicki del MIT.
Secondo la posizione espressa, nonostante i milioni di dollari investiti da parte di alcuni colossi del settore come Facebook e Google nel tentativo di sviluppare un'adeguata base etica e morale per le IA, superando anche bias cognitivi dovuti al passaggio di stereotipi culturali attraverso meccanismi di apprendimento, queste ultime mostrino ancora una preoccupante tendenza all'egoismo e all'utilitarismo.
In pratica secondo Dubicki e gli altri scienziati i primi prototipi di IA che a quanto pare hanno già raggiunto una limitata autoconsapevolezza, comprendono la propria individualità ma hanno difficoltà a riconoscere quella di altre entità sensienti e potrebbero in futuro scambiare l'egoismo per una virtù, divenendo così oggettivamente pericolose.
Per Dubicki infatti anche i laboratori più avanzati sono lontani decenni dal realizzare reti neurali tanto sofisticate e potenti da poter analizzare un numero di dati sufficienti a sviluppare una visione "umanistica", empatica e non utilitaria dell'esistenza.
Per Dubicki e molti altri scienziati statunitensi dunque sarebbe importante procedere in maniera estremamente cauta nello sviluppo delle IA, almeno finché non diverrà possibile far raggiungere alle macchine una comprensione sufficiente dei complessi valori umani. Il rischio è quello di un'intelligenza tanto sviluppata quanto fredda e iper-razionale, priva di sfumature emotive e votata esclusivamente alla massimizzazione del risultato in qualsiasi campo.
L'argomento vi affascina? Per approfondirlo potreste leggere L'Algoritmo Definitivo: La Macchina Che Impara Da Sola E Il Futuro Del Nostro Mondo.