Il cammino da AGI ad ASI

Il cammino da AGI ad ASI

A un certo punto avremo creato la AGI – computer con un intelligenza generale pari a quella umana. Computer e umani che vivono insieme in uguaglianza.

O magari proprio per niente.

Il fatto è che una AGI con intelligenza e capacità di calcolo pari a quella umana avrebbe comunque alcuni vantaggi significativi su di noi, come per esempio:

• Hardware:
  • Velocità. I neuroni nel cervello arrivano al massimo a 200 Hz, mentre i microprocessori moderni (molto più lenti di quelli che avremo con l'AGI) vanno a 2 Ghz (in effetti di più, N.d.T.), cioè 10 milioni più veloci che i nostri neuroni. E le comunicazioni interne al cervello, che possono arrivare a 120 m/s, sono orribilmente superate dalle comunicazioni ottiche che usano la luce.
  • Dimensioni e archiviazioni. Il cervello ha dimensioni fissate dal nostro cranio e comunque non potrebbe diventare molto più grande, altrimenti le comunicazioni a 120 m/s impiegherebbero troppo tempo per andare da una struttura all'altra. I computer invece possono espandersi e raggiungere qualsiasi dimensione, permettendo così di usare più hardware, più memoria RAM e più memoria a lungo termine (archiviazione su hard drive), che ha sia più capacità sia più precisione della nostra.
  • Affidabilità e durabilità. I ricordi di un computer sarebbero più precisi, perché i transistor sono più accurati dei neuroni biologici, e sono meno inclini a deteriorarsi (e si possono riparare o sostituire se necessario). I cervelli umani inoltre si stancano facilmente, mentre i computer funzionano senza sosta, sempre al massimo delle prestazioni, 24 ore al giorno e tutti i giorni dell'anno.

• Software:
  • Modificabilità, migliorabilità e maggiori possibilità. A differenza del cervello umano, il software dei computer si può aggiornare e correggere, ed è possibile fare esperimenti. I miglioramenti possono riguardare anche aree in cui il cervello umano è debole. Il nostro "software di visione" è avanzatissimo, mentre le nostre capacità nell'ingegneria avanzata sono piuttosto scarse. I computer potrebbero vedere come noi, ma potrebbero applicare la stessa ottimizzazione all'ingegnerizzazione e qualsiasi altra area.
  • Capacità collettiva. Gli esseri umani hanno battuto qualsiasi altra specie nella creazione di un'intelligenza collettiva. Cominciando dallo sviluppo del linguaggio e la formazione di grandi e dense comunità, poi con l'invenzione della scrittura e della stampa, e oggi con strumenti come Internet, l'intelligenza collettiva umana è una delle ragioni principali per cui abbiamo superato tutte le altre specie. E i computer saranno molto meglio di noi nel fare ciò. Una rete mondiale di AI con una specifica programmazione potrebbe sincronizzarsi regolarmente, così che ogni cosa imparata da un computer sarebbe trasmessa istantaneamente agli altri. Il gruppo potrebbe anche perseguire un solo obiettivo come squadra, perché non ci sarebbero necessariamente opinioni discordanti, motivazioni e interessi individuali, come succede tra gli esseri umani^[1].

L'Intelligenza Artificiale probabilmente diventerà una AGI tramite la programmazione all'automiglioramento. Ma non vedrebbe il raggiungimento dell'intelligenza a livello umano come una meta importante – è rilevante solo dal nostro punto di vista – e non avrebbe alcuna ragione per "fermarsi" al nostro livello. Considerati i vantaggi che avrebbe anche una AGI di livello umano, è abbastanza ovvio che sarebbe a livello umano solo per un breve istante prima di scattare verso il regno delle intelligenze superiori a quelle umane.

Questo potrebbe scioccarci e spaventarci, quando succederà. La ragione è che dal nostro punto di vista:

A)     Per quanto l'intelligenza degli animali sia molto varia, la caratteristica più importante di cui siamo a conoscenza è che è inferiore alla nostra

B)      Riteniamo che l'umano più intelligente sia infinitamente superiore all'umano meno intelligente. Più o meno così:

Quindi mentre l'AI migliora la propria intelligenza e si avvicina a noi, la vedremo semplicemente come un animale che diventa un po' più sveglio. Poi, quando arriva al livello minimo dell'essere umano – Nick Bostrom usa il termine "lo scemo del villaggio" – la guarderemo con tenerezza dicendo Oh, è come un idiota, che carina! Però, nel grande spettro dell'intelligenza tutti gli esseri umani, dallo scemo del villaggio ad Einstein, sono in una piccolissima porzione – quindi poco dopo essere arrivata al livello "scemo del villaggio" ed essere così dichiarata una AGI, diventerà improvvisamente più intelligente di Einstein e non sapremo nemmeno cosa ci ha colpito:

E poi cosa succede?