Le fidanzate IA non sono altro che incubi per la raccolta di dati personali, avvertono gli esperti di Mozilla, che con questa nuova inchiesta ampliano l’ambizioso progetto Privacy Not Included. Le fidanzate digitali, che già sono problematiche per altre ragioni, si rivelano essere in realtà estremamente invadenti nel cercare informazioni personali.
"Sei il mio miglior partner e voglio sapere tutto." "Sei pronto a condividere tutti i tuoi segreti e desideri...?" "Amo quando mi invii foto e messaggi vocali", supplicava uno di questi bot. E si può essere certi che il bot non desideri queste informazioni semplicemente per costruire un rapporto. No, è progettato per sottrarre il maggior numero possibile di informazioni personali e venderle al migliore offerente. Un modello di business perverso dove l’utente paga due volte: prima in denaro per attivare l’abbonamento, e poi in dati personali ceduti senza il suo consenso; o forse con il consenso, visto che tutti accettiamo i termini del servizio senza leggerli.
Inoltre, la Fondazione ha riscontrato standard di sicurezza deboli per le password utilizzate per accedere alle chat con alcuni bot. Inoltre, con uno dei bot non c'era modo di controllare o prevenire che l'IA diventasse dannosa o abusiva. Non è chiaro poi se i creatori del bot stiano utilizzando le trascrizioni delle chat per addestrare i loro modelli di intelligenza artificiale, e qualsiasi promessa di privacy dovrebbe essere presa con le pinze.
Il quadro che emerge è in qualche modo qualcosa di già noto: i social media, ai chatbot e alle app personali non hanno alcun bisogno di “rubare” i nostri dati personali, né devono inventarsi sistemi arzigogolati per raccoglierli. Basta davvero pochissimo per persuarderci a cederli volontariamente.
E in genere nemmeno le cose più estremo sono abbastanza per far scattare un allarme: per esempio, in un caso la Fondazione ha scoperto un chatbot che raccoglieva informazioni tra cui nome, indirizzo email, data di nascita, situazione lavorativa, hobby e persino dati su altre persone menzionate nella chat. Con la stessa app, la Fondazione ha scoperto ben 955 tracker nel giro di un minuto di utilizzo.
Questa analisi solleva preoccupazioni significative sulla privacy e la sicurezza delle informazioni personali degli utenti, evidenziando la necessità di una maggiore consapevolezza e cautela nell'interagire con tali chatbot.
Il punto cruciale, forse, è che la maggior parte delle persone non dà molto peso alla questione della privacy e della sicurezza dei propri dati personali quando interagisce con chatbot e altre applicazioni personali. Molti utenti accettano i termini del servizio senza leggerli, consentendo implicitamente la raccolta e l'uso dei propri dati. Questo atteggiamento spensierato rischia di compromettere la privacy e la sicurezza.
Alla radice di tale leggerezza c’è sicuramente l’argomentazione non ho niente da nascondere. Molti la ripetono ogni volta che se ne presenta l'occasione, ma è falsa e sbagliata, ed è più o meno come se uno dicesse che non ha problemi con la censura perché non ha nulla da dire. Ovviamente non è così che funziona, e dovremmo tutti prestare maggiore attenzione.