Microsoft ha rilasciato un nuovo strumento per l'identificazione di predatori di bambini che sfruttano le chat online per avvicinarsi alle proprie vittime. Parliamo di Project Artemis, basato su una tecnologia che Microsoft ha usato per Xbox, ed è ora disponibile per altre compagnie online che usano funzioni di chat. Non si tratta di un tema al quale molti pensano, ma purtroppo le chat di testo sono sempre più sfruttate dai malintenzionati e questa tecnologia potrebbe rivelarsi fondamentale.
Artemis ricerca specifiche parole e strutture delle frasi e segnala in automatico i messaggi sospetti che vengono poi verificati da un moderatore umano. Quest'ultimo decide poi quando è il caso di segnalare un certo scambio di messaggi alle autorità. Il progetto è nato nel novembre 2018 ed è stato sviluppato da un team che include Roblox, Kik, Thorn e The Meet Group, oltre ovviamente Microsoft. La squadra è stata guidata da Hany Farid che ha sviluppato lo strumento PhotoDNA che è in grado di trovare e segnalare in automatico immagini a contenuto sessuale legate a minori.
Attualmente il tool funziona solo con la lingua inglese e non tutti i dettagli sul funzionamento di Artemis sono chiari, ma il progetto di Microsoft e dei suoi collaboratori è oggettivamente lodevole.
Julie Cordua, CEO dell'organizzazione tecnologica no-profit Thorn, ha affermato: "Alle volte ci scagliamo contro le piattaforme - in quanto ci sono abusi su ogni piattaforma che ha un chat online - ma dovremmo applaudirli per aver messo in atto meccanismi di difesa. Se qualcuno ci dice 'oh, noi non abbiamo abusi', io gli rispondo 'state controllando?'."
Aggiunge anche: "Il nostro primo passo deve essere migliorare nell'identificazione, ma tutte le compagnie che utilizzano una chat di test o video dovrebbero farlo, in caso contrario sono dei complici degli abusi che i più giovani subiscono sulle loro piattaforme."