I superpoteri della superintelligenza artificiale: resistere è futile
Basandomi su tutto il materiale che ho consultato, una volta che l'ASI esiste ogni tentativo umano di contenerla sarebbe futile. Noi penseremmo a livello umano e lei penserebbe a livello-ASI. Turry voleva usare Internet perché era il modo più efficiente, essendo la Rete già collegata a tutto ciò che voleva raggiungere. Ma così come una scimmia non potrebbe come comunicare con un telefono o con il Wi-Fi, noi non possiamo comprendere tutti i modi in cui Turry avrebbe potuto mandare segnali al mondo esterno. Magari, tanto per fare un esempio, avrebbe potuto muovere i suoi stessi elettroni in diversi modi e creare ogni genere di onda in uscita, ma anche in questo caso è ciò che il mio cervello umano può concepire.
Lei sarebbe molto meglio. Probabilmente Turry potrebbe individuare un qualche modo di autoalimentarsi anche se gli esseri umani cercano di staccare la spina – mari usando la sua tecnica per inviare segnali e caricarsi in ogni genere di luogo con alimentazione elettrica. Il nostro istinto potrebbe portarci ad esclamare "Ah, abbiamo scollegato la ASI!", le suonerebbe come i ragni che dicono "ha! Uccideremo l'umano affamandolo, non dandogli una tela con cui prendere insetti!". Noi troveremmo altri mille e più modi per trovare cibo – tipo raccogliere una mela dall'albero – che il ragno non potrebbe mai nemmeno immaginare.
Per questa ragione il comune suggerimento "perché non chiudiamo la AI in ogni genere di gabbia che blocchi i segnali ed evitiamo che comunichi con il mondo esterno" probabilmente non funzionerebbe. Il superpotere della manipolazione sociale potrebbe essere tanto efficace nel persuadervi di quanto lo sareste voi nel persuadere un bambino di quattro anni. Questo sarebbe il piano A, Turry che usa l'astuzia per convincere gli ingegneri a metterla online. Se non dovesse funzionare, la ASI troverebbe modi innovativi per raggiungere i propri scopi.