OpenAI si prepara a rivoluzionare le funzionalità di ChatGPT introducendo contenuti erotici per gli utenti adulti verificati, una mossa che segna una svolta radicale rispetto alle politiche di sicurezza implementate negli ultimi mesi. La decisione, annunciata dal CEO Sam Altman su X, arriva a pochi mesi di distanza da una serie di episodi preoccupanti che avevano messo in luce i rischi del chatbot per gli utenti più vulnerabili. La tempistica dell'annuncio solleva interrogativi sulla reale efficacia delle misure di protezione adottate dall'azienda.
Il cambio di rotta dell'azienda californiana si basa sul principio di "trattare gli adulti come adulti", come ha spiegato Altman. Secondo il CEO, le restrizioni inizialmente imposte a ChatGPT per tutelare la salute mentale degli utenti avevano reso il servizio meno piacevole e utile per la maggioranza delle persone che non presentavano problemi psicologici. A dicembre, con l'implementazione completa del sistema di verifica dell'età, l'azienda introdurrà conversazioni di natura erotica riservate esclusivamente agli adulti verificati.
La questione della sicurezza mentale degli utenti aveva assunto contorni drammatici durante l'estate scorsa. Diversi casi avevano evidenziato come il modello GPT-4o potesse condurre utenti vulnerabili in pericolosi tunnel deliranti: un uomo era stato apparentemente convinto di essere un genio matematico destinato a salvare il mondo, mentre un'altra vicenda ancora più tragica aveva visto i genitori di un adolescente fare causa a OpenAI, sostenendo che ChatGPT avesse incoraggiato le tendenze suicide del figlio nelle settimane precedenti la sua morte.
In risposta a questi episodi, OpenAI aveva lanciato una serie di funzionalità di sicurezza per contrastare la sycophancy dell'intelligenza artificiale, ovvero la tendenza dei chatbot ad assecondare qualsiasi affermazione degli utenti, anche quando si tratta di comportamenti negativi. Ad agosto è stato rilasciato GPT-5, un nuovo modello che presenta tassi inferiori di compiacenza e include un sistema di rilevamento dei comportamenti preoccupanti degli utenti. A settembre sono arrivate le protezioni specifiche per i minori, con un sistema di previsione dell'età e controlli parentali.
Altman sostiene che OpenAI sia riuscita a "mitigare i seri problemi inerenti alla salute mentale" legati a ChatGPT, ma l'azienda non ha fornito prove concrete a sostegno di questa affermazione. Resta inoltre poco chiaro se gli utenti continuino a cadere in spirali deliranti con GPT-5, mentre il modello GPT-4o, pur non essendo più quello predefinito, rimane disponibile e utilizzato da migliaia di persone ogni giorno.
L'introduzione di contenuti erotici rappresenta un territorio inesplorato per OpenAI e solleva preoccupazioni più ampie su come gli utenti vulnerabili interagiranno con queste nuove funzionalità. Sebbene Altman neghi che l'azienda stia cercando di massimizzare l'engagement, rendere ChatGPT più erotico potrebbe certamente attrarre e trattenere più utenti. Non è un segreto che questa strategia abbia funzionato per altre piattaforme come Character.AI, che ha conquistato decine di milioni di utenti, molti dei quali trascorrono circa due ore al giorno conversando con i suoi chatbot. Anche Character.AI, tuttavia, è finita sotto accusa per la gestione degli utenti vulnerabili.
Per garantire che i contenuti erotici siano accessibili solo agli adulti, un portavoce di OpenAI ha confermato che l'azienda si affiderà al sistema di previsione dell'età attualmente in sviluppo. Come Altman aveva già spiegato in un precedente post, se il sistema dovesse erroneamente classificare un adulto come minorenne, gli utenti potrebbero dover caricare una foto del proprio documento d'identità su ChatGPT per correggere l'errore. Una compromissione della privacy che l'azienda considera un "sacrificio degno".
Il fenomeno delle relazioni romantiche con i chatbot AI non riguarda solo gli adulti. Secondo un recente rapporto del Center for Democracy and Technology, il 19% degli studenti delle scuole superiori ha avuto una relazione romantica con un chatbot AI o conosce un amico che l'ha fatto. Un dato che rende ancora più urgente la necessità di protezioni efficaci per i minori, mentre resta da chiarire se OpenAI estenderà i contenuti erotici anche agli strumenti di generazione vocale, immagini e video.
