Tom's Hardware Italia
e-Gov

Amazon Alexa, operatori umani ascoltano le vite degli altri?

Migliaia di persone nel mondo ascoltano le conversazioni rilevate dagli smart speaker dotati di assistente vocale Alexa, nel tentativo di migliorarne le capacità. A rivelarlo sono state persone direttamente coinvolte in questo lavoro.

Siete tra gli entusiasti che hanno adottato gli smart speaker sin dall’inizio o fate parte dell’altra nutrita schiera che nutre diffidenza nei confronti di queste tecnologie, ritenute invadenti rispetto alla privacy? Se fate parte della prima, sappiate che i secondi potrebbero aver ragione. Alcune persone che in passato hanno lavorato per Amazon hanno infatti rivelato a Bloomberg che esistono team a livello globale, migliaia di persone, che ascoltano e analizzano le conversazioni rilevate dagli smart speaker dotati dell’assitente digitale Alexa, così da migliorarne le capacità di comprensione del linguaggio naturale.

Questi team sparsi per il mondo infatti ascoltano le conversazioni catturate dagli Amazon Echo in case e uffici dopo aver pronunciato la parola di attivazione “Alexa”, le trascrivono, le analizzano e poi reinseriscono i risultati nel software, un processo, descritto da chi ha partecipato direttamente al programma, che indubbiamente getta nuova luce sul ruolo spesso sottovalutato degli esseri umani nell’addestramento delle intelligenze artificiali, ma che non manca di sollevare preoccupazioni anche sulla nostra privacy.

La situazione dipinta dalle “gole profonde” non è delle più rosee. Queste persone sparse in diverse parti del mondo, dall’Ecuador all’india passando per la Romania, e a cui viene fatto firmare un accordo di non divulgazione, lavorano circa nove ore al giorno, ascoltando oltre 1000 clip audio ciascuno e contrassegnandole in modo tale da aiutare Alexa a comprendere più facilmente i contesti quando gli utenti utilizzano determinati termini nelle proprie richieste.

A volte però nelle clip capita di catturare anche porzioni di vita quotidiana degli ignari utenti. Magari può trattarsi anche solo di qualcuno stonato che canta sotto la doccia, ma a volte può capitare di imbattersi in cose più gravi, come richieste di aiuto e aggressioni, anche sessuali. Amazon sostiene di avere specifiche procedure da seguire per i dipendenti che si trovano ad ascoltare contenuti angoscianti, ma a detta degli informatori anonimi la maggior parte riceverebbe come risposta un semplice “non è compito nostro occuparci di queste cose”.

‎”Abbiamo rigorose garanzie tecniche e operative e una politica di tolleranza zero per l’abuso dei nostri sistemi”, ha dichiarato via mail a Bloomberg un portavoce Amazon. “I dipendenti non hanno accesso diretto alle informazioni che possono identificare la persona o l’account da cui proviene il flusso di lavoro. Tutte le informazioni sono trattate con elevata riservatezza e impieghiamo procedure di autenticazione multifattore per limitarne l’accesso, cifratura e audit sul nostro ambiente di controllo per proteggerle”.

Nei termini d’uso Amazon non spiega esplicitamente che personale umano possa ascoltare brani delle nostre conversazioni, ma in ogni caso Alexa non è l’unica a farlo. Tutti gli assistenti digitali come Siri o Google Assistant, registrano costantemente piccoli campioni dei suoni provenienti dall’ambiente esterno‎, in attesa della parola di attivazione del servizio e in entrambi i casi da qualche parte nel mondo ci saranno degli esseri umani che li ascolteranno, analizzeranno e catalogheranno. Qualcuno comunque nutre sospetti anche tra chi già utilizza abitualmente questi dispositivi. Stando a quanto affermato dagli informatori anonimi capita infatti spesso di imbattersi in domande del tipo “lavori per l’NSA?”, oppure “Alexa, qualcuno ci sta ascoltando?”

AGGIORNAMENTO

Riportiamo la replica ufficiale inviataci da Amazon:

“Amazon prende sul serio privacy e sicurezza delle informazioni personali dei clienti. Annotiamo solo un numero estremamente minimo di interazioni da un gruppo di clienti selezionati in modo casuale, al fine di migliorare l’esperienza del cliente. Queste informazioni ci aiutano, ad esempio, ad addestrare i nostri sistemi di riconoscimento vocale e di comprensione del linguaggio naturale, in modo che Alexa possa capire meglio le richieste dei clienti e assicurare che il servizio funzioni bene per tutti. Abbiamo sistemi di sicurezza rigorosi a livello tecnico e operativo, e tolleranza zero per gli abusi dei nostri sistemi. I dipendenti non hanno accesso diretto alle informazioni che permettono di identificare la persona o l’account le cui interazioni sono coinvolte in questa attività. Tutte le informazioni sono trattate con la massima riservatezza e, per proteggerle, usiamo sistemi di autenticazione a più livelli per limitare l’accesso, servizi di crittografia e audit sul nostro sistema di controllo; al tempo stesso, i clienti possono sempre cancellare le proprie interazioni in qualsiasi momento”.

L’argomento richiama certamente alla mente il recente Le Vite degli Altri, ma anche il bellissimo La Conversazione di Francis Ford Coppola, Palma d’oro al Festival di Cannes nel 1974.