Tom's Hardware Italia
Spazio e Scienze

Google Perspective riconosce gli insulti online

Google ha messo a punto Perspective, delle librerie che consentono agli utenti di accedere a una rete neurale in grado di imparare a riconoscere gli insulti sul Web, al fine di censurarli.

A Mountain View hanno preso sul serio l'impegno richiestogli da più parti contro bufale, linguaggio violento, odio e intolleranza sul Web. Dopo oltre un anno di lavoro oggi l'incubatore di Google, Jigsaw, ha annunciato le API Perspective, delle librerie che consentiranno agli utenti di implementare sul proprio sito funzioni di filtro avanzate contro il cosiddetto "hate speech".

hate speech

La peculiarità di Perspective infatti è quella di non fare uso delle solite black o white list o di altri metodi "passivi". Le librerie sono in grado di sfruttare le capacità di un'avanzata rete neurale capace di apprendere in maniera autonoma. In questo modo man mano sarà sempre più in grado di comprendere i contesti dentro cui avvengono le discussioni e di rilevare non solo singoli vocaboli offensivi, ma il tono di certi post. In questo modo Perspective potrà intervenire per operazioni di censura in maniera più precisa di quanto possano mai consentire le liste e sicuramente più veloce di quanto possano fare moderatori umani.

Il team della più vasta iniziativa Conversation AI di cui Perspective fa parte, ha anche reso disponibile un sito di prova in cui è possibile scrivere frasi all'interno di un'interfaccia, per vedere così in tempo reale la velocità e la precisione con cui l'IA valuta la "tossicità" dei contenuti. Non tutti però sono entusiasti della soluzione messa a punto da Jigsaw. Secondo alcuni infatti l'IA non potrebbe avere quella particolare sensibilità di un essere umano nel capire le sfumature di senso in un dialogo, in cui ad esempio la stessa frase offensiva può essere utilizzata in maniera assertiva ma anche per scherzare, per creare paradossi che vogliono affermare esattamente il contrario della frase etc.

hate cover

Gli sviluppatori hanno affermato che Perspective non è stato concepito per avere la parola finale sulle decisioni, ma in molti sono convinti che potrebbe diventare una comoda scorciatoia della serie "nel dubbio cancella tutto e buonanotte", col rischio di trasformarsi in un sistema di censura automatizzato eccessivamente rigido. Secondo Jared Cohen, fondatore e presidente di Jigsaw, in un'era in cui le discussioni sul Web sono più polarizzate che mai Perspective rappresenterebbe uno strumento neutro per consentire lo sviluppo di un modo più corretto di confrontarsi. Quale delle due posizioni è più vicina alla verità ce lo potrà dire solo l'esperienza empirica sul campo.