Dovreste pensarci anche voi

Dovreste pensarci anche voi

Bene, veniamo ora alla seconda parte della domanda: quando arriveremo alla Soglia, da quale parte della fascia cadremo?

La superintelligenza avrà un potere tremendo, e quindi la domanda critica per noi è:

Chi o cosa avrà il controllo di quel potere, e quali saranno le sue motivazioni?

La risposta a questa domanda decide se la ASI è uno sviluppo grandioso oppure drammatico e terribile, oppure una via di mezzo.

Naturalmente la comunità degli esperti è ancora una volta divisa in molte diverse opinioni e c'è un acceso dibattito sulla risposta a questa domanda. Il sondaggio di Müller e Bostrom chiedeva agli intervistati di assegnare una probabilità al possibile impatto della AGI sull'umanità, e nel 52% dei casi la risposta era che sarebbe buono o estremamente buono. Nel 31% dei casi invece era cattivo o estremamente cattivo. Il 17% degli intervistati invece crede a un impatto relativamente neutro. In altre parole, per le persone più esperte nel campo sono convinte che si tratterà di una faccenda piuttosto grossa. Vale la pena notare anche che questi numeri riguardano la AGI – e la domanda avesse riguardano la ASI, immagino, la percentuale dei neutrali sarebbe stata ancora più bassa.

Prima di approfondire ulteriormente il tema Bene contro Male, proviamo a combinare le due parti della domanda, vale a dire quando succederà? e sarà buona o cattiva? in una tabella che riassume il punto di vista della maggior parte degli esperti.

Torneremo più avanti sul "Main Camp" (il quadrato rosso/verde nella prima parte del grafico, N.d.R.), che raccoglie la maggior parte degli esperti. Prima di andare avanti vale la pena di fermarsi, chiedetevi che cosa ne pensate finora. Probabilmente lo stesso che pensavo io prima di cominciare a fare ricerche per questo articolo. Ci sono alcune ragioni per cui la maggior parte delle persone non pensa a questo argomento:

• Come ho accennato nella parte uno, i film hanno fatto molta confusione con scenari AI irrealistici che ci fanno credere che la AI non sia qualcosa da prendere davvero sul serio. James Barrat^[1] confronta la situazione alla nostra reazione se ci fosse un serio allarme riguardo ai vampiri.
• Per via di una cosa chiamata pregiudizio cognitivo, fatichiamo a credere che qualcosa sia reale fino a che non ne vediamo la prova. Di certo gli scienziati nel 1988 parlavano abitualmente di quanto sarebbe stato grande l'impatto di Internet, e altri avrebbero guardato i loro schermi pensando con scetticismo "Davvero? Sarà una cosa così grossa?". La loro immaginazione era limitata da ciò che avevano imparato dall'esperienza personale riguardo a cos'era un computer, il che rendeva molto difficile immaginare con chiarezza cosa potevano diventare i computer. Lo stesso sta succedendo oggi con l'AI. Sentiamo dire che sarà una cosa enorme, ma dato che non è ancora successa, e siccome abbiamo esperienza solo di AI relativamente impotenti nel nostro mondo quotidiano, fatichiamo a credere che cambierà le nostre vite radicalmente. Questi pregiudizi sono l'ostacolo con cui si scontrano gli esperti, nel loro sforzo di richiamare la nostra attenzione attraverso il rumore.

Anche se ci credessimo – quante volte oggi avete pensato al fatto che passerete la maggior parte dell'eternità non esistendo? Non molte, vero? Eppure è una questione molto più ingombrante di qualsiasi altra cosa stiate facendo. Succede perché normalmente il nostro cervello si concentra sulle piccole cose quotidiane, anche se facciamo parte di disegni a lungo termine del tutto folli. Mettendola così, siamo piuttosto strani in effetti.

Uno degli obiettivi che si pone questo articolo è allontanarvi dall'area Preferisco pensare ad altre cose (nell'immagine I Like to Think About Other Things Camp) e portarvi in quella degli esperti, anche se vi collocherete nel centro esatto - quello dell'incertezza assoluta.

Durante le mie ricerche ho trovato dozzine di opinioni discordanti su questo argomento, ma ho notato subito che nella maggior parte dei casi le persone si potevano collocare in quello che ho chiamato Area Principale (nell'immagine Main Camp). In particolare, buona parte delle opinioni (più di tre quarti) ricade in due aree specifiche:

Ci addentreremo in ognuna di queste due aree, a cominciare da quella più divertente.