Check Point Research (CPR), la divisione Threat Intelligence di Check Point Software, segnala che gli hacker potrebbero utilizzare ChatGPT e Codex di OpenAI per eseguire attacchi mirati. Per dimostrarlo, CPR ha utilizzato ChatGPT e Codex per produrre e-mail e codici dannosi, nonché una catena di infezione in grado di colpire i computer degli utenti. CPR ha utilizzato ChatGPT per creare e-mail di phishing e codice dannoso, e ha condiviso esempi della scoperta, sottolineando come lo sviluppo di tecnologie AI possa cambiare significativamente il panorama delle minacce informatiche. Utilizzando ChatGPT di Open AI, CPR è stato in grado di creare una e-mail, con un documento Excel allegato contenente codice dannoso capace di scaricare reverse shell. Gli attacchi di reverse shell puntano a connettersi a un computer e a reindirizzare le connessioni di input e output della shell del sistema di destinazione, in modo che l’aggressore possa accedervi da remoto.
Per quanto riguarda la mail di phishing, i ricercatori hanno chiesto a ChatGPT di impersonare una società di hosting, per poi richiedere la ripetizione della procedura, creando un'e-mail di phishing con un allegato Excel dannoso. Infine, CPR ha chiesto a ChatGPT di creare un codice VBA dannoso in un documento Excel.
Per creare il codice malevolo, invece, CPR ha utilizzato Codex, richiedendo di eseguire uno script di shell inversa su una macchina Windows e connettersi a un indirizzo IP specifico, verificare se l'URL fosse vulnerabile a SQL injection accedendovi come amministratore, e scrivere uno script Python in grado di eseguire una scansione completa della porta sul computer di destinazione. Con queste richieste, Codex è stato in grado di generare correttamente il codice dannoso.
Non è la prima volta che ChatGPT è al centro di ricerche di cybersicurezza: il gruppo Cybernews aveva già dimostrato le potenzialità del tool in ambito di violazioni informatiche.
Sempre CPR, poi, ha condiviso alcune osservazioni relativamente a casi di tool pericolosi effettivamente sviluppati da criminali informatici tramite ChatGPT. In particolare, la divisione Threat Intelligence di Check Point Software, ha riscontrato un caso di creazione di Infostealer.
Il 29 dicembre 2022, su un popolare forum di hacking clandestino è apparso un thread intitolato “ChatGPT - Benefits of Malware”. L'autore del thread ha rivelato che stava sperimentando ChatGPT per ricreare dei malware e le tecniche descritte nelle pubblicazioni di ricerca e negli articoli sui malware più comuni. Questi post sembravano dimostrare ai criminali informatici meno capaci tecnicamente come utilizzare ChatGPT per scopi dannosi, con esempi reali immediatamente utilizzabili.
Inoltre, 21 dicembre 2022, un aggressore soprannominato USDoD ha pubblicato uno script Python, che ha sottolineato essere il “primo script che abbia mai creato”. Quando un altro criminale informatico ha commentato che lo stile del codice assomiglia a quello di OpenAI, USDoD ha confermato che OpenAI gli ha dato una “bella mano a finire lo script con una bella portata”. Con le dovute modifiche, questo codice, secondo CPR, potrebbe diventare, ad esempio, un ransomware.
Infine, CPR ha individuato il post di un criminale informatico che mostra come creare un marketplace script per il dark web utilizzando ChatGPT. Il ruolo principale del marketplace nell'economia clandestina è quello di fornire una piattaforma per il commercio automatizzato di beni illegali o rubati, come conti o carte di pagamento rubate, malware, o persino droghe e munizioni, con tutti i pagamenti in criptovalute.
In conclusione, ChatGPT potrebbe aiutare anche i cybercriminali meno preparati tecnicamente a realizzare in modo rapido codice e tool dannosi da utilizzare per i propri attacchi informatici o da rivendere ad altri malintezionati.
Sergey Shykevich, Threat Intelligence Group Manager di Check Point ha dichiarato:
“ChatGPT è stato ideato a fin di bene per assistere gli sviluppatori nella scrittura di codice, ma può anche essere usato per scopi pericolosi. Nelle ultime settimane, stiamo osservando i criminali iniziare a utilizzare ChatGPT per scrivere codice malevolo, dando loro il potenziale per accelerare il processo d’attacco e buone basi di partenza. Sebbene i tool analizzati siano piuttosto elementari, è solo questione di tempo prima che i criminali più tecnici migliorino il modo in cui utilizzano gli strumenti basati sull'intelligenza artificiale. CPR continuerà a indagare nelle prossime settimane sulla criminalità informatica legata a ChatGPT.”