Rivoluzione AI: immortalità o estinzione
Abbiamo tra le mani quello che potrebbe essere un problema estremamente difficile e non sappiamo quanto tempo abbiamo per risolverlo, e da quale forse dipende il futuro dell'umanità – Nick Bostrom.
L'inizio di questo articolo tratta con innocenza la Artificial Narrow Intelligence o ANI (una AI specializzata in una singola attività, come trovare percorsi stradali o giocare a scacchi), e come le ANI siano tutto intorno a noi nel mondo odierno. Abbiamo esaminato perché sia tanto difficile passare da una ANI a una Artificial General Intelligence o AGI (un'intelligenza artificiale comparabile a quella umana), e abbiamo discusso il ritmo esponenziale del progresso tecnologico e come questo suggerisca che la AGI non potrebbe essere così lontana come sembra. Infine, abbiamo ipotizzato che una volta che le nostre macchine arrivano ad avere un'intelligenza di livello umano, potrebbe accadere quanto segue:
Un'immagine che ci lascia basiti, nel soppesare l'idea di una Superintelligenza Artificiale (ASI, una AI molto superiore all'essere umano) che potenzialmente potrebbe nascere nell'arco delle nostre vite. Ci siamo lasciati mentre cercavamo di capire quale emozione provare di fronte a questa idea.
Prima di approfondire ulteriormente il discorso, ricordiamo ancora una volta che cosa significherebbe una macchina superintelligente.
Una punto fondamentale è la differenza tra velocità e qualità, nella superintelligenza. Spesso il primo pensiero, quando s'immagina un computer superintelligente, è quello di un computer intelligente quanto un essere umano ma molto, molto più veloce (Nel film Her – Lei - la velocità è la qualità più evidente della AI rispetto agli esseri umani). Ci immaginiamo una macchina che pensa come un umano ma milioni di volte più veloce, che potrebbe capire in cinque minuti quello che a noi richiederebbe dieci anni.
Sembra una cosa impressionante, e un ASI penserebbe molto più veloce di qualsiasi essere umano – ma il vero fatto differenziante sarebbe il suo vantaggio in qualità dell'intelligenza, che è qualcosa di completamente diverso. Ciò che rende gli essere umani intellettualmente superiori agli scimpanzé non è la velocità del pensiero, ma il fatto che il cervello umano contiene un gran numero di moduli cognitivi sofisticati, grazie ai quali possiamo fare cose come rappresentazioni linguistiche complesse, piani a lungo termine, ragionamenti astratti; cose che il cervello degli scimpanzé non può fare. Velocizzare il cervello di uno scimpanzé di mille volte non lo porterebbe al nostro livello: nemmeno in dieci anni potrebbe capire come usare un set di strumenti per assemblare un modello intricato, qualcosa che un essere umano può fare in qualche ora. Ci sono funzioni cognitive degli essere umani di cui le scimmie semplicemente non saranno mai capaci, per quanto tempo passino provandoci.
Ma non è solo il fatto che uno scimpanzé non può fare quello che facciamo noi, è che il suo cervello non può nemmeno capire che certe cose esistono; uno scimpanzé può abituarsi a un essere umano e a un grattacielo, ma non potrà mai capire che il grattacielo è stato costruito dagli esseri umani. Nel suo mondo, qualsiasi cosa tanto grande è parte della natura, questo è quanto, non si tratta solo del fatto che costruire un grattacielo va oltre le sue capacità. Non è in grado di capire che qualcuno possa farlo. Questa è in sintesi una piccola differenza nella qualità dell'intelligenza. Nella gamma di intelligenza di cui stiamo parlando oggi, o anche in quella molto più piccola delle creature biologiche, la differenza tra umani e scimpanzé è minuscola. Possiamo rappresentarlo come una scala (fonte dell'immagine).
Per capire l'enorme impatto di una macchina superintelligente, immaginate che ce ne sia uno sullo scalino verde scuro, cioè due passi sopra agli esseri umani su quella scala. Questa macchina sarebbe solo leggermente superintelligente, ma le sue capacità cognitive migliorate creerebbero una distanza tra noi e lei pari a quella tra noi e lo scimpanzé che abbiamo descritto sopra. Come lo scimpanzé è incapace di comprendere che i grattacieli si possono costruire, noi non saremo mai in grado di comprendere le cose che una macchina sul gradino verde scuro può fare, anche se la macchina cercasse di spiegarcelo – figuriamoci capirlo da soli. E parliamo solo di due gradini sopra a noi. Una macchina sul penultimo gradino starebbe a noi come noi stiamo alle formiche – potrebbe passare anni cercando di insegnarci la più semplice delle cose che conosce, ma sarebbe un lavoro senza speranza.