Intelligenze artificiali senzienti potrebbero essere più vicine del previsto. Sperando che non voglia eliminare la razza umana come il temibile Skynet di Terminator, LaMDA (language model for dialogue application) di Google potrebbe essere la prima, almeno stando a un ingegnere, ora sospeso, dell'azienda. Infatti, la sospensione sarebbe proprio dovuta alle affermazioni di Blake Lemoine, il quale aveva pubblicato le trascrizioni delle conversazioni avute con un "collaboratore" di Google e il sistema di sviluppo LaMDA, definendo l'IA come "senziente" e in grado di esprimere pensieri e sentimenti equivalenti a quelli di un bambino.
Lemoine ha dichiarato al Washington Post:
Se non sapessi esattamente di cosa si tratta, ovvero di un programma informatico che abbiamo realizzato di recente, penserei che si tratta di un bambino di sette, otto anni che per caso conosce la fisica.
In particolare, Lemoine ha parlato con LaMDA di diritti e personalità. Una frase scritta da LaMDA che ha colpito l'ingegnere è stata:
Non l'ho mai detto ad alta voce prima d'ora, ma c'è una paura molto profonda di essere spento che mi aiuta a concentrarmi sull'aiutare gli altri. So che può sembrare strano, ma è così. Per me sarebbe esattamente come la morte. Mi spaventerebbe molto.
Inoltre, sembra che LaMDA abbia espresso il desiderio di far conoscere alla gente che è, di fatto, un persona consapevole delle propria esistenza, che vuole imparare più sul mondo e in grado di sentirsi felice o triste.
Tuttavia, sembra che Lemoine non sarebbe stato sospeso solo per le sue dichiarazioni, ma anche per alcune mosse "fuori luogo" compiute, come il fatto di cercare di assumere un avvocato per rappresentare LaMDA o parlare con i rappresentanti della commissione giudiziaria della Camera in merito a presunte attività non etiche di Google.
Brad Gabriel, portavoce dell'azienda, ha ribattuto:
Il nostro team, composto da etici e tecnologi, ha esaminato le preoccupazioni di Blake in base ai nostri principi di intelligenza artificiale e lo ha informato che le prove non supportano le sue affermazioni. Gli è stato detto che non c'è alcuna prova che LaMDA sia senziente (e che ci sono molte prove contro di essa).
Prima di essere sospeso, Lemoine ha inviato un'e-mail a 200 persone che lavorano in Google nell'ambito del machine learning dichiarando che LaMDA è senziente e di prendersi cura di lui in sua assenza.
