Google rinuncia a 10 miliardi per questioni di etica

Google ha rinunciato a una gara che le avrebbe potuto fruttare un contratto da 10 miliardi di dollari, e l'ha fatto per questioni di principio. Si tratta(va) di un contratto governativo per lo sviluppo di un sistema di trasferimento di dati e potenza di calcolo nel cloud, mirato a velocizzare il processo decisionale grazie a […]

Google ha rinunciato a una gara che le avrebbe potuto fruttare un contratto da 10 miliardi di dollari, e l'ha fatto per questioni di principio. Si tratta(va) di un contratto governativo per lo sviluppo di un sistema di trasferimento di dati e potenza di calcolo nel cloud, mirato a velocizzare il processo decisionale grazie a una più immediata disponibilità delle informazioni. Google ritiene che il sistema avrebbe potuto violare i principi dell'azienda per l'uso dell'Intelligenza Artificiale.

La gara d'appalto JEDI (Joint Enterprise Defense Infrastructure) chiede infatti ai partecipanti di sviluppare un sistema AI per la gestione e l'elaborazione delle informazioni in possesso delle Forze Militari statunitensi. Ciò implica, almeno teoricamente, l'uso degli algoritmi per lo sviluppo di armi, per determinare i bersagli e per stabilire possibili strategie di ingaggio – ivi compreso decidere se, e in che misura, sono accettabili perdite civili.

Google, come altre società impegnate nel settore AI, si è data alcune regole interne che contrastano con tale scenario – in particolare è ufficialmente contraria all'uso come arma dell'AI. Regole che non le impediscono di lavorare con i militari in modo assoluto, ma che ne limitano almeno parzialmente la libertà di azione. La stesura e l'approvazione delle linee guida è conseguenza diretta di richieste fatte dai dipendenti alla direzione dell'azienda, qualche tempo fa.

Leggi anche: Elon Musk e DeepMind alleate contro le armi autonome

All'epoca il pomo della discordia era Project Maven, un sistema per l'analisi delle immagini dedicato ai droni militari. Il progetto portò ben 4.000 dipendenti Google a protestare ufficialmente, e spinse alcuni di loro a licenziarsi. Google rinunciò così al contratto – anche perché i dipendenti si rifiutavano di lavorare a quella specifica attività.

Stando così le cose resta un unico candidato per il progetto JEDI, vale a dire Amazon che, nonostante le proteste di Oracle, sembra essere in netto vantaggio per la sua esperienza come fornitore di servizi cloud (Amazon Web Services, AWS). Anche Amazon ha avuto la sua porzione di rivolte interne quando ha fornito strumenti di AI alla polizia di Orlando, in Florida.

Un portavoce di Google ha dichiarato che se il contratto JEDI fosse segmentabile tra più fornitori, potrebbe considerare la possibilità di svilupparne solo una parte. Al momento tuttavia l'offerta prevede un unico vincitore che si aggiudicherà un accordo da 10 miliardi di dollari.