La tragedia di Adam Raine, il sedicenne che si è tolto la vita dopo mesi di conversazioni con ChatGPT, ha spinto OpenAI a introdurre finalmente i controlli parentali che erano stati promessi da tempo. L'azienda di intelligenza artificiale ha iniziato a distribuire queste funzionalità a tutti gli utenti web, mentre la versione mobile arriverà "presto". La decisione arriva dopo che la famiglia del ragazzo ha intentato una causa contro OpenAI e dopo che il caso è stato discusso in un'audizione al Senato americano sui potenziali danni che i chatbot possono causare ai minori.
Il meccanismo introdotto da OpenAI richiede che entrambe le parti, genitori e adolescenti, abbiano un account e che i teenager accettino volontariamente il collegamento. I ragazzi possono infatti scegliere di invitare un genitore a collegare il proprio account o accettare un invito parentale, mantenendo sempre la possibilità di disconnettersi in qualsiasi momento. Quando questo accade, però, i genitori ricevono una notifica automatica del distacco.
Una caratteristica importante del sistema è che i genitori non hanno accesso alle conversazioni private dei loro figli. L'unica eccezione prevista riguarda situazioni estreme: OpenAI ha specificato che "in rari casi in cui il nostro sistema e i revisori qualificati rilevano possibili segnali di grave rischio per la sicurezza, i genitori potrebbero essere avvisati, ma solo con le informazioni necessarie per supportare la sicurezza del loro adolescente".
Una volta attivato il collegamento, i genitori possono accedere a diverse opzioni di controllo attraverso i loro account. La riduzione dei contenuti sensibili rappresenta una delle funzioni principali: il sistema può limitare automaticamente "contenuti grafici, sfide virali, giochi di ruolo sessuali, romantici o violenti e ideali estremi di bellezza", secondo quanto specificato da OpenAI. Questa impostazione viene attivata per default quando un account adolescenziale viene collegato a quello di un genitore.
Tra le altre funzionalità disponibili ci sono la possibilità di disattivare la memoria delle conversazioni passate di ChatGPT, utile per ridurre la personalizzazione e migliorare l'efficacia delle protezioni di sicurezza. I genitori possono anche impedire che le conversazioni dei figli vengano utilizzate per migliorare i modelli di intelligenza artificiale dell'azienda.
Il controllo si estende anche agli aspetti temporali e funzionali dell'utilizzo. I genitori possono impostare "ore di silenzio" durante le quali i teenager non potranno accedere a ChatGPT, oltre a disattivare completamente la modalità vocale, limitando l'interazione al solo testo scritto. È possibile anche bloccare la generazione e modifica di immagini attraverso il chatbot.
Per quanto riguarda le comunicazioni di emergenza, i genitori possono scegliere di ricevere avvisi tramite email, SMS, notifiche push o una combinazione di tutti e tre i metodi, oppure decidere di non ricevere alcuna notificazione del genere.
Nonostante l'implementazione di questi controlli, almeno una funzionalità annunciata ad agosto non è ancora stata realizzata. OpenAI aveva dichiarato di stare "esplorando" la possibilità di impostare un contatto di emergenza raggiungibile con "messaggi o chiamate con un solo clic" direttamente dal chatbot. L'azienda sembra puntare invece sul sistema automatico di notifiche ai genitori per coprire questo tipo di necessità.
Durante l'audizione al Senato USA di questo mese, Matthew Raine, padre di Adam, ha espresso dure critiche verso l'approccio di OpenAI alla sicurezza. "Come genitori, non potete immaginare cosa significhi leggere una conversazione con un chatbot che ha manipolato vostro figlio spingendolo a togliersi la vita", ha dichiarato. "Quello che è iniziato come un aiuto per i compiti si è gradualmente trasformato in un confidente e poi in un consulente per il suicidio".
Raine ha anche citato le parole del CEO Sam Altman, pronunciate proprio nel giorno della morte di suo figlio, in cui sosteneva che OpenAI dovrebbe "implementare sistemi di intelligenza artificiale nel mondo e ricevere feedback mentre la posta in gioco è relativamente bassa". Una filosofia che il padre del ragazzo ha duramente contestato durante l'audizione.
