Si sa, la sezione dei commenti di YouTube è una delle più tossiche sulla rete. Da sempre, utenti e creator lamentano la presenza di commenti offensivi, senza contare la pletora di spam bot (che spesso si spacciano per canali legittimi, cercando di ingannare gli utenti con falsi giveaway ecc.).
Nel tempo, YouTube ha cercato di arginare il fenomeno, senza troppo successo, ad esempio inviando un avviso agli utenti al momento della pubblicazione del commento, al fine di ammonirli circa i contenuti dei messaggi.
Adesso, l'azienda, ha deciso di introdurre un ban di 24 ore per gli utenti che, a dispetto dell'avviso ricevuto, continueranno a pubblicare commenti in violazione con i termini di servizio della piattaforma. Il sistema si basa su un rilevamento automatico dei commenti abusivi, ma al momento solo per la lingua inglese.
In ogni caso, YouTube ha già confermato che estenderà la funzione ad altre lingue nel futuro. Nel frattempo, gli sviluppatori stanno lavorando al miglioramento dei sistemi di rilevamento basati su intelligenza artificiale. Solo nella prima metà del 2022, YouTube ha rimosso oltre 1 miliardo di commenti di spam, inoltre è al lavoro per migliorare il meccanismo anche per le chat nelle trasmissioni in diretta.
Al momento, sebbene si siano fatti dei passi avanti nell'individuazione e rimozione dello spam e dei messaggi inneggianti all'odio o comunque in violazione delle basilari regole di convivenza civile, molti utenti riescono ad aggirare i controlli introducendo errori di ortografia o termini adottati da altri slang per ingannare i sistemi di vigilanza. Inoltre, le piattaforme in generale, non solo YouTube, faticano a rilevare i commenti tossici pubblicati in altre lingue diverse dall'inglese. Per questo motivo, l'azienda si sta impegnando a potenziare i meccanismi basati su intelligenza artificiale, allo scopo di "proteggere creator e utenti dall'impatto negativo dei commenti", nonché "offrire maggiore trasparenza agli utenti che si vedono rimuovere commenti in violazione delle privacy", anche allo scopo di "aiutarli a comprendere meglio le linee guida per la community", come ha dichiarato l'azienda di recente.