Le intelligenze artificiali tipo ChatGPT stanno proliferando a un ritmo incredibile, tanto da spingere diversi team di ricerca a trovare un metodo affidabile per distinguere i testi generati dalle IA da quelli scritti da un umano; a giudicare dai primi risultati ottenuti, sembra che sia praticamente impossibile distinguere la fonte del testo, e in futuro le poche differenze stilistiche sono destinate ad assottigliarsi ulteriormente.
La ricerca è stata condotta da 5 scienziati dell'Università del Maryland, negli Stati Uniti: il team si è posto una domanda abbastanza semplice - "è possibile individuare in modo sicuro quali testi sono stati generati da una IA?" - e in poco tempo la risposta è apparsa chiara - no, non è possibile individuare quali testi sono stati generati da una IA, ne dal punto di vista teorico ne da quello pratico.
Si tratta di una notizia potenzialmente devastante per tutti: l'utilizzo smodato di queste tecnologie porta a conseguenze negative in termini di plagio di contenuti, spam, notizie fasulle e tanto altro ancora, e in futuro, con l'avanzamento tecnologico che inevitabilmente riguarderà tecnologie come ChatGPT o Google Bard, la situazione è destinata a farsi ancora più intricata.
Gli studiosi dell'Università del Maryland hanno poi valutato i sistemi di verifica già presenti sul web, come GPTZero, arrivando ben presto a una conclusione spaventosa: basta spostare un paio di parole o periodi in un testo scritto da una IA per ingannare qualunque sistema progettato per verificare la provenienza dei testi. In questi casi, con piccole modifiche, il sistema passa da un giudizio del 97%, che significa che sicuramente il testo è scritto da una IA, a un giudizio del 57%, come a dire che non c'è modo di distinguere un testo scritto da un umano da quello scritto da una IA.
Solo poche ore fa vi abbiamo raccontato la storia di un professore universitario texano che ha bocciato metà dei suoi studenti, accusandoli di aver usato ChatGPT per fare i compiti, un chiaro esempio di come queste tecnologie non sono ancora state capite appieno e vengono utilizzate a sproposito.