Computer che inventano pizzini? Fatto

L'esperimento ha coinvolto tre diverse reti neurali, a simulare due interlocutori e un osservatore esterno che tentasse di spiare. Si scopre così che questo tipo di computer è in grado di inventare un algoritmo crittografico partendo da pochissime informazioni.

Avatar di Valerio Porcu

a cura di Valerio Porcu

Senior Editor

I computer possono inventarsi codici segreti per comunicare tra loro senza che nessuno sappia cosa si stanno dicendo. Lo dimostra il lavoro fatto dal team Google Brain, che hanno fatto un esperimento con le reti neurali. Essenzialmente, hanno chiesto alle intelligenze artificiali di scambiarsi dei messaggi criptati, lasciando alla macchina il compito di inventare l'algoritmo crittografico.

Il risultato è stato un codice crittografico basilare, ma è comunque notevole perché alle AI non era stato insegnato niente di specifico. Le reti neurali hanno inventato il loro sistema, ed è questo l'aspetto rilevante: secondo gli autori della ricerca, è un fatto interessante perché le reti neurali "in generale non sono progettate per essere brave in crittografia".  

Leggi anche Breve storia della crittografia

Gli autori Martín Abadi e David G. Andersen si sono affidati allo strumento Tensor Flow, comune a tutte le ricerche di Google in ambito di deep learning e intelligenza artificiale, per creare le routine di apprendimento delle reti neurali.

symmetricencryption
Crittografia simmetrica

Nello specifico, i ricercatori hanno usato tre reti neurali, che per l'occasione sono state ribattezzate con i classici Alice, Bob ed Eve. A ognuna di esse è stato assegnato un compito specifico: Alice doveva mandare un messaggio segreto a Bob, che in cambio aveva il compito di decodificarlo. Alla povera Eve è toccato il ruolo dello spione. Alice e Bob avevano a disposizione una chiave numerica da usare per la cifratura, Eve inceve no.

Leggi anche DeepMind, l'intelligenza artificiale capace di ragionare

L'obiettivo della ricerca era scoprire se una rete neurale fosse "in grado di apprendere come comunicare in modo sicuro. [...] Abbiamo cercato di creare una rete neurale che fosse in grado di imparare funzioni di mixing come XOR, ma che non codificasse con la forma di un algoritmo in particolare".

A questo punto si è innescato il meccanismo di deep learning. I primi messaggi erano semplici ed Eve riusciva a decifrarli piuttosto bene. Ma Alice e Bob usavano questo risultato per imparare e migliorare, e dopo 15.000 ripetizioni i due complici sono riusciti nell'intento: Eve ha potuto decifrare solo 8 dei 16 bit che componevano il messaggio.

Leggi anche L'AI di Google guarda il mondo e lo capisce meglio di voi

Non è granché dal punto di vista della crittografia, ma il punto è un altro: due macchine hanno sviluppato un proprio algoritmo tutto da sole, riuscendo a escluderne una terza. Inoltre questo è solo un semplice primo passo, ma ce ne saranno molti altri.

crypto neural 01 JPG
Grafico dei risultati

"Questo tipo di calcolo su reti neurali è possibile solo da qualche anno, quindi siamo solo all'inizio di ciò che è possibile", ha infatti commentato Joe Sturonas di PKWARE. In altre parole, i computer stanno cominciando a scaldarsi, ma con l'aumentare della potenza hardware e software, non potranno che fare sempre meglio anche in questo campo.

Le reti neurali e il deep learning potranno forse fornirci sistemi crittografici migliori di quelli che abbiamo oggi, e in futuro potranno esserci utili per sfruttare al massimo la crittografia quantistica. Non solo, perché ci sono anche altri possibili campi da esplorare:

"steganografia, generazione pseudo-casuale di numeri, controllo di integrità. Infine, le reti neurali potrebbero rivelarsi utili non solo per la protezione crittografica, ma anche per l'attacco. Per quanto sembri improbabile che le reti neurali diventino molto brave in criptoanalisi, potrebbero essere molto efficaci nel dare senso ai metadati o nell'analisi del traffico". 

Gli scienziati cercano quindi di restare con i piedi per terra, ma l'immaginazione è difficile da tenere a bada, ed è quasi inevitabile pensare a computer intelligentissimi che si scambiano segreti di cui noi restiamo all'oscuro. E che all'occorrenza possono anche decifrare i nostri messaggi segreti. Uno si sforza di non pensare alla guerra tra uomini e macchine, di scacciare l'idea di Matrix e/o Terminator, ma è una bella faticaccia. 

Chi fosse interessato ai dettagli tecnici può leggere la relativa documentazione (PDF, in inglese).