Immortalità o estinzione

Immortalità o estinzione

Ma il tipo di superintelligenza di cui stiamo parlando oggi va ben oltre il limite di questa scala. In un'esplosione d'intelligenza – nella quale più una macchina diventa più intelligente e più veloce nell'aumentare la propria intelligenza, finché la crescita non diventa verticale – una macchina potrebbe impiegare anni a passare dal gradino della scimmia a quello successivo. Ma forse ci vorrebbero solo giorni per salire un altro gradino, e solo ore per salire un altro gradino una volta che ha raggiunto quello verde scuro (due sopra di noi). Una volta che è dieci gradini sopra di noi, potrebbe salire quattro gradini al secondo. Ed ecco perché dobbiamo capire che è chiaramente possibile che, pochissimo tempo dopo la pubblicazione del primo articolo che ci racconta la nascita di una AGI a livello umano, potremmo trovarci a convivere sulla Terra con qualcosa che si trova qui, sulla nostra scala (o un milione di volte più in alto).

Visto che abbiamo appena stabilito che è impossibile cercare di capire il potere di una macchina che è solo due gradini sopra di noi, affermiamo chiaramente che non c'è modo di ipotizzare che cosa potrebbe fare una ASI o quali potrebbero essere le conseguenze per noi. Chiunque affermi il contrario non capisce cosa significhi superintelligenza.

L'evoluzione ha migliorato il cervello biologico lentamente nel corso di centinaia di milioni di anni, quindi se gli esseri umani danno vita a una macchina ASI, ci staremo decisamente gettando l'evoluzione alle spalle. O forse tutto questo è parte dell'evoluzione, forse il lavoro dell'evoluzione consiste nel far sì che l'intelligenza cresca sempre di più, fino a che non diventa capace di creare una macchina superintelligente, e quel livello rappresenta una soglia (tripwire) che attiva un'esplosione che cambia il mondo, e che determina un nuovo futuro per tutti gli esseri viventi:

Per ragioni che discuteremo più avanti, una grande parte della comunità scientifica crede che non sia una questione di "se raggiungeremo tale soglia", ma "quando". Una cosa incredibile, quasi folle.

Questo dove ci porta?

Nessuno al mondo, soprattutto io, vi può dire cosa accadrà quando arriveremo alla soglia. Ma il filosofo di Oxford, nonché autorevole esperto in tema AI Nick Bostrom, crede che possiamo ridurre tutte le possibili conseguenze in due grandi categorie.

Primo, guardando alla storia, possiamo vedere che la vita funziona in questo modo: le specie compaiono, esistono per un po', e dopo qualche tempo, inevitabilmente, lasciando la fascia di equilibrio dell'esistenza e cadono nell'estinzione.

"Tutte le specie alla fine si estinguono" è una delle regole storicamente più affidabili così come lo è "tutti gli esseri umani alla fine muoiono". Fino a oggi il 99,9% delle specie si è estinta, e sembra piuttosto chiaro che se una specie resta nella zona dell'esistenza, è solo una questione di tempo prima che qualche altra specie, o un fenomeno naturale, o una pioggia di asteroidi, la elimini. Bostrom definisce l'estinzione uno "stato di attrazione" – un luogo verso cui tendono tutte le specie e da cui non c'è ritorno.

Molti degli scienziati che ho incontrato riconoscono che la ASI potrebbe spedire gli esseri umani verso l'estinzione, ma altrettanti credono che, se usata in modo appropriato, le abilità dell'ASI si potrebbero usare per portare i singoli essere umani, e l'intera specie, verso un secondo stato di attrazione – l'immortalità della specie. Bostrom crede che l'immortalità sia uno stato di attrazione valido quanto l'estinzione, quindi se riusciamo ad arrivare fino a quel punto avremo sconfitto l'estinzione per sempre, avremo conquistato la mortalità e il destino. Così, anche se tutte le specie sono cadute nell'estinzione, Bostrom crede che la fascia dell'esistenza abbia due lati, solo che nulla sulla Terra è stato abbastanza intelligente da capire come cadere dall'altra parte.

Se Bostrom e altri hanno ragione, e da tutto ciò che ho letto sembra che potrebbe essere così, dobbiamo assimilare due fatti scioccanti:

1)      L'avvento dell'ASI renderà possibile, per la prima volta, che una specie raggiunga l'immortalità.

2)      L'avvento dell'ASI avrà un impatto tanto grande che probabilmente spingerà l'umanità fuori dalla fascia di equilibrio (Balance Beam nelle immagini), in una direzione o nell'altra.

Potrebbe quindi succedere che, quando l'evoluzione arriva alla Soglia, si interrompa definitivamente la relazione degli esseri umani con la fascia di equilibrio e si crei un nuovo mondo, con o senza essere umani. Sembra quindi che l'unica domanda che dovremmo porci è: quando raggiungeremo la Soglia, e da quale parte della fascia cadremo quando succede?