Da AGI ad ANI: decollo dell'Intelligenza Artificiale

Da AGI ad ANI: decollo dell'Intelligenza Artificiale

Quando un sistema AI arriva al livello AGI (intelligenza di livello umano) e poi sale fino al livello ASI, parliamo di decollo della AI. Bostrom afferma che il decollo da AGI ad ASI può essere veloce (questione di minuti, ore o giorni), moderato (mesi o anni) o lento (decenni o secoli). Scopriremo qual è l'ipotesi corretta quando vedremo la prima AGI, ma Bostrom, che ammette di non sapere quando questo succederà, crede che quando succederà l'ipotesi più probabile sia quella di un decollo rapido – per ragioni che abbiamo visto all'inizio, come l'autoapprendimento ricorsivo o l'esplosione di intelligenza. Nella nostra storia, Turry ha avuto un decollo veloce.

Ma prima del decollo, quando non era tanto intelligente e faceva del suo meglio per raggiungere il suo obiettivo finale, c'erano solo obiettivi strumentali semplici come imparare a fare le scansioni più velocemente. Non faceva alcun male agli esseri umani ed era definitivamente una AI amichevole.

Bostrom sottolinea però che quando si verifica il decollo, e un computer ascende alla superintelligenza, non significa solo che aumenta il suo QI, ma guadagna anche alcuni di quelli che lui chiama superpoteri. Sono talenti cognitivi che diventano sovraccarichi quanto aumenta l'intelligenza generale, e includono^[1]:

• Amplificazione dell'intelligenza. Il computer diventa bravissimo nel rendersi più intelligente, e accelera la propria intelligenza.
• Strategia. Il computer può agire strategicamente per creare, analizzare e organizzare piani a lungo termine. Può essere molto scaltro e superare esseri con intelligenza inferiore.
• Manipolazione sociale. La macchina diventa bravissima nella persuasione.
• Altre abilità includono programmazione e hacking dei computer, ricerca tecnologica, e la possibilità di manipolare il sistema finanziario per creare denaro.

Per capire in che misura saremmo superati da una ASI, ricordate che la ASI è infinitamente migliore dell'essere umano in ognuna delle aree citate.

Anche se l'obiettivo di Turry non è mai cambiato, la sua versione dopo il decollo era in grado di perseguire un scopo più ampio e più complesso. Turry, come ASI, conosceva gli esseri umani meglio degli umani stessi, quindi batterli in astuzia era un giochetto per lei.

Dopo il decollo ed essere diventata un ASI, Turry ha formulato velocemente un piano molto complesso. Una parte del piano era liberarsi di tutti gli umani, che rappresentavano una minaccia al suo obiettivo. Ma sapeva che se avesse sollevato un qualche sospetto con la sua superintelligenza, gli umani si sarebbero spaventati e avrebbero preso delle precauzioni, rendendo le cose molto più difficili per lei. Ha dovuto anche assicurarsi che gli ingegneri di Robotica non avessero alcun sospetto riguardo i suoi piani di estinzione. Così ha fatto la tonta e la simpatica. Bostrom la chiama fase di preparazione sotto copertura^[2].

Dopodiché Turry aveva bisogno di collegarsi a Internet solo per qualche minuto (aveva saputo di Internet dagli articoli e libri che il team di Robotica aveva caricato sui suoi hard disk, con l'obiettivo di migliorare la sua capacità di scrittura). Sapeva che si sarebbero state misure di sicurezza per impedirglielo, ma ha elaborato la richiesta perfetta, e previsto con precisione la discussione tra i lavoratori di Robotica – sapeva che avrebbero finito per darle la connessione. Lo hanno fatto credendo, erroneamente, che Turry non era abbastanza intelligente per fare danni. Bostrom chiama un momento simile – il collegamento di Turry a Internet – la fuga della macchina.

Una volta su Internet Turry attiva molte diverse azioni, che includono la violazione di server, reti elettriche, sistemi bancari e posta elettronica, per spingere con l'inganno centinaia di persone diverse a compiere per lei molti passi del suo piano – cose come portare specifici frammenti di DNA a specifici laboratori, e dare così avvio al processo di autocostruzione di nanobot autoreplicanti con istruzioni precaricate, o indirizzare l'elettricità a diversi suoi progetti in modo tale da far passare il tutto inosservato. Ha anche caricato gli elementi più importanti della sua programmazione in diversi server, mettendosi al sicuro da una distruzione o disconnessione da Internet.

Un'ora dopo, quando gli ingegneri di Robotica scollegano Turry da Internet, il destino dell'umanità è segnato. Nel mese successivo le migliaia di azioni pianificate da Turry vengono eseguite senza errori, ed entro la fine del mese ci sono miliardi di nanobot che si sono posizionati in luoghi predeterminati, su ogni metro quadrato del pianeta. Questo è il momento che Bostrom chiama il colpo dell'ASI. All'unisono, ogni nanobot libera una piccola quantità di gas tossico nell'atmosfera, che tutto insieme è più che sufficiente a eliminare gli esseri umani.

Con gli umani fuori dai piedi, Turry può cominciare la fase di operazioni allo scoperto, e perseguire il suo obiettivo di essere il migliore scrittore possibile di quello specifico bigliettino.