La città di New York ha una proposta di legge per proibire ai negozianti di usare sistemi di videosorveglianza con riconoscimento facciale; i negozianti sono scontenti e si oppongono perché, spiegano, quel sistema è prezioso per arginare il problema del taccheggio.
Problema più che serio ma l’approccio è sbagliato: si sta cercando ancora una volta di barattare sicurezza (o illusione di sicurezza, sarebbe meglio dire) con libertà individuale e principi democratici.
Solo che stavolta i problemi di abusi e discriminazione non sono molto teorici, perché c’è un caso reale più che esemplare, di cui è protagonista la società MSG Entertainment, che controlla il famoso Madison Square Garden e altri locali.
Ebbene, MSG Entertainment ha deciso di usare il riconoscimento facciale per riconoscere e bloccare l’accesso ad avvocati avversi. Peccato che abbiano tagliato un po’ le cose con l’accetta, proibendo l’entrata a tutti gli avvocati che lavorano per studi che hanno cause aperte con MSG Entertainment, creando difficoltà anche ai loro familiari. Persone che sono arrivate e si sono viste negare l’ingresso, pur avendo comprato il biglietto.
Leggi anche
L’intelligenza artificiale ci sta portando verso un mondo distopicoFino a €800.000 l’anno per chi è esperto di chatGPT
Chiaramente ci sono già molti database con i volti delle persone, e chiaramente l’abuso di queste informazioni è una possibilità sempre dietro l’angolo. L’esempio di MSG Entertainment ci dice quindi che fa bene l’Europa a considerare il riconoscimento facciale come una tecnologia molto pericolosa, che nell’AI Act viene trattato con la massima cautela.
Ci dice anche che non è una questione di se sarà utilizzata male; come con le armi da fuoco, se uno strumento è disponibile dobbiamo dare per scontato che ci saranno persone che ne abuseranno. Ed è esattamente a questo che dovrebbero servire le regole applicate agli strumenti: semplicemente certe cose sono troppo pericolose per permetterne il libero utilizzo: armi, veicoli, sostanze chimiche pericolose, e anche strumenti software. In alcuni casi è sufficiente chiedere di ottenere un permesso speciale, come il porto d’armi o la patente di guida, mentre in altri non è proprio ammissibile che dei privati cittadini vi possano accedere, come nel caso delle armi da guerra.
Sì ma a cosa potrebbe portare un sistema di videosorveglianza di massa, se non ha più sicurezza per tutti? Beh, prima di tutto bisogna sempre sforzarsi di capire se davvero parliamo di un incremento della sicurezza oppure solo di un’illusione, qualcosa utile a fare campagna elettorale ma non a ridurre crimini o altri problemi.
Ammesso e non concesso, poi, che un sistema del genere abbia una vera utilità, sull’altro piatto della bilancia vanno messi tutti i possibili problemi che può creare, soprattutto se pensiamo di concederne l’uso ai privati.
Quanto ci metterebbero altre aziende a fare la stessa scelta scellerata di MSG Entertainment, togliendo un diritto a dei cittadini? E se domani non ti facessero entrare allo stadio, o in piscina, o a un concerto, perché il software ha deciso che la tua faccia non è compatibile con gli standard desiderati? E se non ci fosse nessuno con cui lamentarsi, perché è tutto automatizzato?
Immagine di copertina: kaea99
