Le intelligenze artificiali sanno fare diverse cose, anche imitare la voce di qualcuno. E sanno farlo bene, abbastanza da poter ingannare e superare i sistemi di autenticazione vocale, spesso usati da call center, banche, agenzie governative e molte altre organizzazioni. Alcuni ricercatori dell'Università di Waterloo in Canada hanno generato con l'IA delle registrazioni vocali capaci di superare il 72% dei sistemi di autenticazione vocale, raggiungendo un tasso di successo del 99% su quelli più deboli.
Andre Kassis e Urs Hengartner, i due ricercatori dietro il progetto, hanno dichiarato che "L'idea è quella di 'incidere' l'impronta vocale della persona nella registrazione falsificata. L'IA cerca poi di eliminare gli artefatti generati, predominanti nella registrazione". L'IA è stata allenata con 107 voci diverse, in modo da insegnarle cosa rende una voce "umana".
I risultati della ricerca, esposta durante il 44esimo simposio IEEE su privacy e sicurezza, mettono in luce la necessità di implementare un ulteriore livello di sicurezza, capace di capire se una voce è reale o generata dall'IA. "I risultati che abbiamo ottenuto sono preoccupanti, soprattutto perché raggiunti con un sistema a scatola chiusa e in condizioni realistiche, che simulano un attacco reale. [I risultati] mettono in luce le trappole in cui i sistemi di autenticazione vocale possono cadere e sottolineano la necessità di meccanismi più affidabili", continuano i ricercatori.
C'è da dire però che è ancora presto però per fare allarmismo, o pensare che l'autenticazione vocale sia superata: con i sistemi più avanzati, come Amazon Connect, l'IA ha un tasso di successo solamente del 10% negli attacchi che durano 4 secondi, che sale al 40% in quelli da meno di 30 secondi. Inoltre c'è da considerare che non sono solo le IA e i sistemi d'attacco a migliorare, anche i sistemi di sicurezza lo fanno.