Le IA dovrebbe avere un interruttore della morte, dicono questi scienziati

Scienziati propongono interruttori di spegnimento per l'apocalisse delle IA, citando il controllo dei rischi e la regolamentazione come priorità.

Avatar di Valerio Porcu

a cura di Valerio Porcu

Senior Editor

Gli scienziati dell'Università di Cambridge e di OpenAI suggeriscono l'installazione di interruttori di spegnimento nelle IA per prevenirne il possibile abuso. Questa proposta, esaminata in un recente documento, mira a regolare l'hardware su cui si basano le Intelligenze Artificiali per evitare conseguenze disastrose. L'hardware delle IA, sostengono gli studiosi, è più facilmente regolabile rispetto ad altri aspetti dell'IA, come dati, algoritmi e modelli addestrati.

Questa proposta solleva la questione fondamentale del controllo delle IA, soprattutto in un contesto in cui le IA diventano sempre più pervasive nella società. Il documento offre una panoramica delle potenziali minacce derivate dalla mancanza di controllo sull'hardware delle IA e propone diverse soluzioni per mitigare tali rischi.

La regolamentazione dell'hardware delle IA potrebbe offrire una maggiore visibilità e controllo sulla distribuzione e sull'uso delle risorse informatiche necessarie per addestrare le IA. Inoltre, potrebbe essere un deterrente contro potenziali abusi, consentendo ai regolatori di intervenire tempestivamente in caso di comportamenti sospetti o pericolosi.

Tuttavia, l'implementazione di queste misure solleva anche preoccupazioni riguardo alla privacy e alla sicurezza dei dati. Per non parlare dei principi che regolano il mercato: chi vorrebbe comprare hardware sapendo che un governo, magari uno straniero, può “ucciderlo” quando vuole? 

Ciò significa che i regolatori devono bilanciare attentamente la necessità di controllo con la protezione dei diritti individuali e delle libertà civili.

In ultima analisi, la proposta di Kill Switch per le IA riporta ancora una volta sotto i riflettori un tema che ancora non siamo riusciti a risolvere: da una parte le IA hanno un potenziale enorme, qualcosa di mai visto prima nella storia dell’Umanità per le occasioni e le possibilità di crescere che ci offrono. Dall’altra possono diventare anche un problema di una gravità inaudita.