I PC capiscono gli insulti, smettetela di arrabbiarvi online

Google ha sviluppato Perspective, una tecnologia che usa il machine learning per analizzare i commenti online e distinguere quelli positivi dagli insulti.

Avatar di Roberto Caccia

a cura di Roberto Caccia

Non vi è mai capitato di dire qualcosa a un vostro amico e di ricevere in risposta una sequela d'insulti che farebbe impallidire anche il più sboccato dei teenager? Se non vi è mai successo siete davvero fortunati. O forse avete amicizie migliori delle nostre, diteci il vostro segreto.

Ora, immaginate di applicare l'esempio appena citato al contesto di Internet. Sapete tutti che dietro una tastiera è facile sentirsi più forti, come se la distanza virtuale che separa due persone autorizzasse in qualche modo a mandare a quel paese il proprio interlocutore, senza alcun timore.

Google ha deciso d'intervenire a gamba tesa sull'argomento creando Perspective, una tecnologia sperimentale che sfrutta il machine learning per identificare i commenti offensivi. Se volete spiegarlo al vostro amico di prima, ditegli di smetterla di comportarsi così perché ora persino i PC capiscono quando vola qualche insulto di troppo. Noi tuttavia non ci prendiamo alcuna responsabilità, nel caso "l'amico" dovesse avere reazioni ancora più esagerate.

"Il 72% degli utenti internet statunitensi è stato testimone di episodi di questo tipo e almeno la metà di loro ha avuto un'esperienza diretta. Almeno un terzo di loro si autocensura per paura delle reazioni. Pensiamo che la tecnologia possa aiutare a risolvere questo fenomeno", si legge nel comunicato di Google. Siamo curiosi di scoprire le percentuali per l'Italia, anche se temiamo per la nostra incolumità mentale. Ma come funziona Perpective?

Questa tecnologia, creata insieme a Jigsaw, usa un'API che permette agli editori e alle piattaforme di notizie di sfruttarla sui propri siti. "Perspective rivede i commenti e assegna loro un punteggio basato su quanto siano simili a commenti che gli utenti hanno indicato come 'tossici' o tali da spingere le persone ad abbandonare la conversazione", spiega Google.

Per arrivare a questo risultato Perspective ha analizzato decine di migliaia di commenti, etichettati manualmente da persone in carne e ossa. Ogni volta che il sistema trova nuovi esempi di commenti offensivi o con valutazioni modificate dagli utenti, migliora automaticamente la capacità di valutazione futura.

perspective

Perspective dopo una giornata su Facebook

Questo è il punto di partenza da cui gli editori possono partire per scegliere cosa fare con le informazioni ottenute da Perspective. Per esempio, un sito potrebbe segnalare i commenti ai moderatori per eliminarli o modificarli, oppure potrebbe mostrare ai lettori il livello di "tossicità" di un commento, in modo da aiutare la community a capire l'impatto di quello che scrivono e, si spera, a soppesare le parole.

Un altro uso sarebbe quello di permettere ai lettori di ordinare i commenti in base al livello di offensività, permettendo d'individuare più facilmente conversazioni interessanti nascoste in un mare d'insulti. Come potete capire, le possibilità sono numerose. Sicuramente più di quelle a disposizione con il proprio gruppo di amici, con cui al massimo potete uscire dal gruppo WhatsApp / Telegram / ecc.

Il bello di questa tecnologia è che grazie al machine learning migliorerà col tempo. Per ora il progetto è limitato alla lingua inglese, ma a Google piacerebbe avviare collaborazioni per analizzare modelli anche in altre lingue. Inoltre, non si esclude la possibilità di arrivare a distinguere fra commenti fuori tema e attacchi personali. A volte nemmeno gli esseri umani sono capaci di tanto. Un po' come nel famoso sketch dei Monthy Python.