Dopo la dimostrazione spettacolare della telefonata dell'IA per prenotare il barbiere, fatta dal CEO Sundar Pichai al Google I/O, in molti sono insorti indignandosi e preoccupandosi di un'intelligenza artificiale che sembra indistinguibile da un essere umano e così, pressata dall'opinione pubblica, l'azienda ha chiarito che quando questa funzionalità sarà resa disponibile a tutti, l'IA identificherà chiaramente sè stessa come tale in un colloquio con un essere umano, probabilmente tramite una sorta di disclaimer che sarà pronunciato prima di dare il via alla conversazione.
Ovviamente quella di Duplex era solo una sorta di tech demo e probabilmente nell'euforia del risultato raggiunto - di fatto sarebbe la prima IA che passa un test di Touring - Pichai ha trascurato le implicazioni etiche eppure è bastato poco per far emergere tutte le nostre ancestrali paure.
Come tentato di spiegare altrove, come specie temiamo il fatto che l'artificiale arrivi a somigliarci così tanto da soppiantarci, proponendo una sorta di "essere umano 2.0", con tutti i nostri pregi, ma privo delle nostre debolezze. Questo ci spaventa e ci porta a temere la macchina che non può essere chiaramente distinta da noi, come il replicante che passa il test Voight-Kampff in Blade Runner o la Maria robotica di Metropolis.
Ma la di là delle paure irrazionali, effettivamente la presentazione di Duplex deve farci riflettere su temi molto più concreti e importanti, come la sicurezza e la privacy. Nonostante i progressi fatti le IA sono ancora facilmente manipolabili e questo rappresenta un serio problema perché un'IA indistinguibile da un essere umano ma capace di effettuare chiamate potrebbe essere utilizzata facilmente per scopi malevoli di diverso tipo, dalle truffe all'inganno. Campionando le voci, l'IA potrebbe spacciarsi per chiunque, come in Terminator, traendo così in inganno e manipolando a sua volta ignari esseri umani per qualsiasi scopo.
Duplex, Google Assistant, Cortana, Alexa, Siri, non saranno un pericolo diretto per gli esseri umani ancora per molto, molto tempo. Dovremmo però preoccuparci per tempo di non fornire ad altri esseri umani un potente strumento con cui perpetrare più facilmente azioni criminose.
Ex Machina è una delle riflessioni più inquietanti degli ultimi anni sul rapporto tra essere umano e intelligenza artificiale.