Cronologia della AI
Kurzweil crede che i computer arriveranno a essere AGI entro il 2029 e che entro il 2045 non avremo solo la ASI, ma un mondo completamente nuovo; è un momento che lui chiama singolarità. Secondo molti la sua cronologia della AI è troppo ottimista, per non dire sovreccitata – l'imprenditore Mitch Kapor crede che sia stupida e ha scommesso 20.000 dollari che nel 2030 non avremo la AGI. Ma negli ultimi 15 anni i rapidi progressi dei sistemi ANI hanno portato la maggior parte degli esperti di AI più vicini alle posizioni di Kurzweil. Le sue previsioni sono comunque più ambiziose rispetto alla risposta media nel sondaggio di Müller e Bostrom (AGI entro il 2040, ASI entro il 2060), ma la differenza non è poi così grande.
L'idea della singolarità nel 2045 è sostenuta da tre rivoluzioni che avvengono contemporaneamente, nei campi della biotecnologia, della nanotecnologia e, la più importante, la AI.
Prima di continuare soffermiamoci un attimo sulla nanotecnologia, un argomento che vale la pena di conoscere almeno per sommi capi, perché è praticamente onnipresente quando si tratta del futuro dell'Intelligenza Artificiale.
La Nanotecnologia
Il termine nanotecnologia è usato per indicare una tecnologia che riguarda la manipolazione di materia grande tra 1 e 100 nanometri. Un nanometro è un miliardesimo di un metro, o un milionesimo di millimetro, e tra 1 e 100 nanometri troviamo i virus (100 nm), il DNA (10 nm) e cose piccole come le molecole di emoglobina (5 nm) e quelle di glucosio (1 nm). Se e quando conquisteremo la nanotecnologia, il passo successivo sarà la capacità di manipolare i singoli atomi, che sono di un solo ordine di grandezza più piccoli. (~.1 nm).
Il passo ancora successivo sarebbe molto più difficile – la manipolazione delle particelle subatomiche nel nucleo di un atomo, come protoni e neutroni. Queste sono molto più piccole – il diametro di un protone è circa 1,7 femtometri, cioè milionesimi di nanometri.
Per comprendere la portata di quale sfida sia per gli umani manipolare la materia a tale livello, proviamo a ingrandire la scala. La Stazione Spaziale Internazionale è a 431 Km di altezza. Se gli umani fossero giganti tanto grandi da arrivare con la testa alla ISS, sarebbero circa 250.00 volte più grandi di quanto sono oggi. Se ingrandiamo di 250.000 volte la fascia 1-100 nm, avremo 0,25 mmm – 2,5 cm. Quindi la nanotecnologia per noi è l'equivalente di un umano alto 430 Km che cerca di costruire oggetti complessi usando materiali grandi come un granello di sabbia o una grossa biglia. Per arrivare al livello successivo, la manipolazione dei singoli atomi – il gigante dovrebbe posizionare con attenzione oggetti grandi 1/40 mm, così piccoli che un essere umano normale ha bisogno di un microscopio per vederli.
Una tecnologia capace di manipolare i singoli protoni sarebbe come un gigante molto più grande (la cui altezza equivarrebbe alla distanza tra il Sole e Saturno) che cerca di lavorare con granelli sabbia grandi 1 mm, sulla Terra. Per quel gigante la Terra sarebbe equivalente a 1/50 di millimetro; dovrebbe usare un microscopio per vederla e dovrebbe muovere singoli granelli di sabbia sulla Terra con grande precisione. Questo per far capire al lettore quanto è piccolo un protone.
La nanotecnologia fu trattata la prima volta da Richard Feynman durante una conferenza nel 1959, quando spiegò: "i principi della fisica, per quanto io possa capire, non negano la possibilità di manipolare le cose un atomo alla volta. In linea di principio sarebbe possibile per un fisico […] sintetizzare una qualsiasi sostanza chimica scritta dal chimico […]. Come? Disponendo gli atomi come ha detto il chimico, e la sostanza è fatta". Di una semplicità disarmante. Se riusciamo a capire come muovere le singole molecole o gli atomi, possiamo fare letteralmente qualsiasi cosa.
La nanotecnologia divenne un vero e proprio settore di ricerca nel 1986, quando l'ingegner Eric Drexler ne creò le fondamenta con il suo libro Engines of Creation, ma Drexler stesso suggerisce che oggi per conoscere le idee più moderne riguardo alla nanotecnologia è meglio leggere il suo libro del 2013, Radical Abundance.
Il lato oscuro della nanotecnologia
Siamo arrivati fin qui, alla parte meno divertente delle nozioni di nanotecnologia di cui vi devo parlare. Nelle versioni più vecchie della teoria della nanotecnologia, uno dei metodi di nanoassemblaggio proposti prevedeva la creazione di miliardi di piccoli nanobot, che avrebbero lavorato insieme per costruire qualcosa. Un possibile modo per crearli potrebbe essere farne uno capace di autoreplicarsi, e poi lasciare che diventino due, poi quattro, poi otto, e nel giro di una giornata ne avremmo qualche trilione pronti all'uso. È la grande potenza della crescita esponenziale. Geniale, no?
È geniale finché un errore o un incidente non provoca il collasso di tutto il pianeta. Il problema è che la stessa potenza della crescita esponenziale, che rende semplice creare velocemente trilioni di nanobot, rende anche l'autoreplicazione una prospettiva terrificante. Che cosa succede se il sistema s'inceppa, e invece di fermare la replicazione una volta arrivati al numero previsto continua all'infinito? I nanobot sarebbero progettati per consumare tutti i materiali a base di carbonio per alimentare il processo di replicazione, e purtroppo tutta la vita sulla Terra è a base di carbonio. La biomassa della Terra contiene circa 1045 atomi di carbonio. Un nanobot ne userebbe 106, quindi 1039 nanobot consumerebbero tutta la vita sulla Terra in 130 replicazioni (2130 è circa 1039), con oceani di nanobot che invadono il pianeta. Gli scienziati credono che un nanobot potrebbe replicarsi in circa 100 secondi, quindi questo semplice errore porterebbe a una sgradevole fine della vita sulla Terra in 3,5 ore.
In uno scenario ancora peggiore, avremmo un terrorista che in qualche modo riesce a impossessarsi della tecnologia dei nanobot e ha la competenza per programmarli. Potrebbe farne qualche trilione all'inizio e programmarli affinché si diffondano discretamente nel mondo per qualche settimana, senza che nessuno se ne accorga. A un certo punto colpirebbero tutti insieme e ci metterebbero solo 90 minuti a consumare tutto, e non ci sarebbe alcun modo per combatterli[1].
Questa storia dell'orrore è stata ampiamente discussa per anni, e la buona notizia è che probabilmente è stata esagerata. Eric Drexler, che coniò il termine gray goo (la melma grigia), mi ha mandato una mail dopo la prima pubblicazione di questo articolo con i suoi pensieri riguardo a tale scenario: "la gente ama le storie paurose, e questa è da mettere insieme agli zombie. L'idea stessa consuma i cervelli".
Una volta conquistata la nanotecnologia potremo usarla per fare dispositivi tecnologici, abiti, cibo e una gran varietà di prodotti biologici – sangue artificiale, piccoli distruttori di virus e cellule cancerogene, tessuto muscolare, etc. – davvero qualsiasi cosa. In un mondo che usa la nanotecnologia, inoltre, il costo non dipende più dall'abbondanza dei materiali (o scarsità) o dalla difficoltà di manifattura, ma è invece determinato dalla complessità della struttura atomica. In un mondo nanotecnologico un diamante potrebbe costare meno di una gomma per cancellare.
Non ci siamo ancora arrivati. E non è chiaro se stiamo sotto o sovrastimando la difficoltà di questa ricerca. Ma non sembra che siamo troppo lontani. Kurzweil prevede che ci arriveremo entro il prossimo decennio[2]. I governi sanno che la nanotecnologia potrebbe sconvolgere il mondo, e hanno investito miliardi in ricerca (US, EU e Giappone hanno investito circa 5 miliardi, combinati, finora).
Se un computer superintelligente avesse accesso a un valido assemblatore in scala nanometrica, è chiaro che le possibili conseguenze sarebbero di grandissimo impatto. Ma abbiamo concepito la nanotecnologia e siamo vicini al realizzarla, e visto che qualsiasi cosa noi possiamo realizzare è un gioco da ragazzi per un sistema ASI, dobbiamo assumere che un'ipotetica ASI potrebbe creare tecnologie molto più potenti e fin troppo avanzate affinché il cervello umano le possa comprendere. Per questa ragione, nel prendere in considerazione lo scenario "se la rivoluzione AI si rivela una cosa positiva per noi", è praticamente impossibile sovrastimare la portata di ciò che potrebbe accadere. Quindi se le previsioni che seguono riguardo al futuro della ASI vi sembrano fuori luogo o eccessive, tenete presente che si potrebbero realizzare in modi che non possiamo nemmeno immaginare. Con ogni probabilità, i nostri cervelli non sono nemmeno in grado di prevedere le cose che succederebbero.