OpenAI ha deciso di chiudere lo strumento sviluppato per distinguere i testi scritti dagli esseri umani e quelli generati dagli algoritmi AI, a causa di una bassa accuratezza nei risultati ottenuti. Questa decisione è stata comunicata attraverso un aggiornamento pubblicato sul blog dell'azienda il 20 luglio.
È importante sottolineare come OpenAI abbia riconosciuto che lo strumento in questione non è mai stato particolarmente efficace nel rilevare testi generati dalle intelligenze artificiali. Esso poteva produrre falsi positivi, ossia classificare testi scritti da umani come se fossero stati generati dalla IA. Tuttavia, prima di chiudere definitivamente lo strumento, OpenAI aveva suggerito che l'accuratezza potesse migliorare attraverso l'aumento dei dati su cui veniva addestrato.
L'introduzione di ChatGPT, sviluppato da OpenAI, ha avuto un impatto significativo e rapido, divenendo una delle applicazioni a più rapida crescita nel settore. Questa popolarità ha destato preoccupazioni in diversi settori, soprattutto nel mondo dell'istruzione, dove c'era il timore che gli studenti potessero affidarsi a ChatGPT per scrivere i loro testi anziché studiare autonomamente. Alcune scuole a New York hanno addirittura vietato l'accesso a ChatGPT nei loro locali, temendo problemi di accuratezza, sicurezza e frode accademica.
Un altro problema riguarda la disinformazione veicolata attraverso testi generati dagli algoritmi. Ricerche hanno dimostrato che i testi generati dall'AI, come i tweet (o Xeet?), possono essere più convincenti di quelli scritti dagli esseri umani.
Al momento, i governi non hanno ancora trovato un modo per controllare adeguatamente l'uso di questa tecnologia, lasciando alle singole organizzazioni il compito di stabilire regole e misure di protezione per affrontare il crescente numero di contenuti generati dai computer. E sembra che al momento nessuno, nemmeno l'azienda che ha contribuito a lanciare l'era dell'AI generativa, abbia una risposta definitiva su come affrontare questa sfida. La differenziazione tra il lavoro svolto dalle IA e quello umano sta diventando sempre più difficile.