.jpg)
L'industria tecnologica si trova nuovamente sotto i riflettori per una delle questioni più delicate dell'era digitale: la protezione dei minori online. Al centro della controversia c'è Wizz, un'applicazione francese che ha adottato il meccanismo di swipe tipico delle app di incontri come Tinder e Bumble, ma rivolgendosi a un pubblico di adolescenti a partire dai 13 anni. Nonostante l'azienda pubblicizzi sofisticati algoritmi di intelligenza artificiale per la verifica dell'età e la sicurezza degli utenti, la piattaforma è stata collegata a numerosi casi documentati di abusi sessuali su minori, sollevando interrogativi fondamentali sull'efficacia dei sistemi di moderazione basati su AI e sulla responsabilità legale delle piattaforme digitali.
Il funzionamento di Wizz si basa su un'interfaccia familiare agli utenti delle dating app: gli adolescenti scorrono profili di coetanei e possono connettersi con chi risulta compatibile. L'app promette un "coinvolgimento appropriato all'età" e sostiene di utilizzare algoritmi di machine learning avanzati per segmentare gli utenti per fasce d'età, impedendo contatti tra adulti e minori. Tuttavia, i casi riportati dalle autorità giudiziarie statunitensi raccontano una storia completamente diversa, evidenziando falle sistemiche nei meccanismi di verifica che l'azienda definisce "infallibili".
Tra gli episodi più gravi documentati dalle forze dell'ordine figura quello delle Hawaii, dove un marine diciannovenne in servizio attivo è riuscito a registrarsi come quindicenne, aggirando i controlli AI dell'applicazione. L'uomo ha successivamente abusato sessualmente di una bambina di 11 anni conosciuta attraverso la piattaforma. Il caso non è isolato: un ventitreenne si è spacciato per quattordicenne per adescare un coetaneo della vittima, mentre un ventisettenne si è registrato come sedicenne per perpetrare stupri su multiple ragazze minorenni.
La vicenda solleva questioni tecniche cruciali sull'affidabilità dei sistemi di age verification basati su AI. A differenza di tecnologie consolidate come il riconoscimento facciale per lo sblocco degli smartphone o i sistemi di autenticazione biometrica, la stima dell'età da foto rimane una sfida computazionale significativa, con margini di errore che possono raggiungere diversi anni. I predatori sembrano inoltre sfruttare deliberatamente queste limitazioni, utilizzando foto modificate o rubate di adolescenti reali per superare i controlli automatizzati.
La risposta delle piattaforme di distribuzione è stata inizialmente decisa ma successivamente contraddittoria. Sotto pressione di associazioni per la tutela dei consumatori e della copertura mediatica critica, sia Google Play Store che Apple App Store hanno rimosso Wizz dalle loro piattaforme. L'app è però riuscita a essere riammessa dopo aver promesso implementazioni migliorate dei protocolli di sicurezza, sollevando dubbi sulla rigorosità dei processi di review delle major tecnologiche quando si tratta di app destinate a minori.
Il caso Wizz sta catalizzando un raro consenso bipartisan al Congresso degli Stati Uniti attorno al Kids Online Safety Act, legislazione che introdurrebbe un quadro normativo simile a quello dell'industria automobilistica. La proposta di legge stabilirebbe un "Duty of Care" obbligatorio: le piattaforme online dovrebbero dimostrare preventivamente agli enti regolatori federali di aver implementato misure adeguate per prevenire danni agli utenti minorenni, assumendosi responsabilità legale diretta in caso di fallimento di tali protezioni.
L'iniziativa legislativa rappresenta un potenziale punto di svolta nel panorama regolatorio tecnologico statunitense. Attualmente, il settore tech beneficia di ampie protezioni dalla responsabilità civile grazie alla Section 230 del Communications Decency Act, normativa che esonera le piattaforme dalla responsabilità per i contenuti pubblicati dagli utenti. Il nuovo framework rovescerebbe questa logica per i servizi destinati ai minori, avvicinando l'approccio americano al modello europeo incarnato dal Digital Services Act, che già impone obblighi di due diligence più stringenti agli operatori digitali.
.jpg)