Alcuni ricercatori hanno provato a usare l’intelligenza artificiale per associare l’aspetto e le opinioni politiche. Stando ai risultati, l’algoritmo ha associato persone che sembrano felici e alle donne considerate "attraenti" alla destra politica, posizionando invece a sinistra espressioni “arrabbiate”.
Lo scopo dello studio di, scrivono i ricercatori, "era quello di dimostrare la significativa minaccia alla privacy rappresentata dall'intersezione tra le tecniche di deep learning e le fotografie prontamente disponibili".
Una minaccia a cui tutti siamo esposti, considerata la quantità enorme di videocamere che ci sono in giro, a cui è possibile aggiungere algoritmi di riconoscimento facciale. Una possibilità che l’Europa sta bloccando con l’AI Act, ma come sappiamo non è detto che basti fare una legge per evitare i problemi.
I ricercatori hanno utilizzato un set di dati pubblici di 3.233 immagini di candidati politici danesi che hanno corso per una carica locale e le hanno ritagliate per mostrare solo i loro volti. Poi hanno applicato tecniche avanzate per valutare le espressioni facciali e un database di bellezza facciale per determinare il "punteggio di bellezza" di una persona. Poi hanno chiesto all’algoritmo di decidere se la persona fosse di destra o di sinistra, ottenendo risultati precisi al 61%.
I parametri descritti tuttavia potrebbero lasciare perplessi: secondo il modello utilizzato, infatti, i candidati conservatori "apparivano più felici delle loro controparti di sinistra" grazie ai loro sorrisi, mentre i candidati liberali erano più neutrali. Le donne che esprimevano disprezzo - un'espressione facciale caratterizzata da occhi neutri e un angolo delle labbra sollevato - erano collegate dal modello a politiche più liberali.
L’algoritmo avrebbe anche creato una relazione tra il livello di attrattività (stabilito a priori secondo parametri non noti) di un candidato con la sua politica. Il risultato suggerisce che “i belli sono di destra”.
Secondo i ricercatori i risultati confermano quanto l’IA possa essere una minaccia per la privacy.
Il problema non è certo che l’algoritmo ha indovinato: con una precisione del 61% il risultato è tutt’altro che affidabile, ma non è questo il punto. L’algoritmo infatti ha elaborato i dati di addestramento e ha finito per rielaborare preconcetti e pregiudizi. A cominciare dall’idea di “bellezza” e “attrattività”, così come al meme secondo cui destra e sinistra diventa anche una divisione tra belli e brutti.
Un sacco di stupidaggini naturalmente, ma appunto se gli algoritmi di nutrono di queste cose finiscono per amplificarle. E se poi usiamo gli algoritmi come basi per prendere delle decisioni, il disastro è dietro l’angolo.
Gli scienziati hanno anche ipotizzato delle ricadute pratiche. Proviamo a immaginare che ci sia un’app che ci dica se una persona è di destra o di sinistra, partendo da una fotografia. La potremmo prendere come un gioco innocuo, ma potrebbe anche non esserlo.
"Le fotografie del viso sono comunemente disponibili per i potenziali datori di lavoro e coloro che sono coinvolti nelle decisioni di assunzione dichiarano di essere disposti a discriminare in base all'ideologia", scrivono i ricercatori. "I membri del pubblico potrebbero quindi essere aiutati a riconoscere quali elementi delle loro fotografie potrebbero influenzare le loro possibilità di impiego".
O, tornando alla quantità di videocamere, potreste vedervi negato l’accesso a un Paese straniero perché secondo l’AI non avete idee politiche accettabili. In teoria, potrebbe succedere anche in un locale pubblico, eventi sportivi.
Al momento non abbiamo un sistema preciso, e questo esperimento dimostra che gli algoritmo non sono molto intelligenti, limitandosi a ripetere stereotipi infondati (ma molto comuni). Allo stesso tempo però stiamo vedendo molto entusiasmo, tutti sembrano pronti a usare le attuali IA per fare praticamente qualsiasi cosa.
Dobbiamo essere consapevoli dei loro limiti, altrimenti finiremo a prendere sempre la decisione sbagliata.