Vi ricordate Rekognition, la tecnologia di riconoscimento facciale messa a punto da Amazon e testata tra mille polemiche dalla Polizia di Orlando? L'American Civil Liberties Union, un'associazione statunitense per i diritti civili, ha organizzato un esperimento per convincere il Congresso degli Stati Uniti ad abbracciare una delle sue cause, promuovendo una moratoria per l'uso di tali tecnologie, ritenute inaffidabili, da parte delle forze dell'ordine.

L'esperimento è consistito nel sottoporre a Rekognition le immagini dei 535 parlamentari che compongono il Congresso per verificarne l'esatto riconoscimento. Il risultato è che in più del 5% dei casi (28 su 535 cioè), Amazon Rekognition si è sbagliato, trovando addirittura corrispondenze tra i volti dei parlamentari e quelli di alcuni criminali, una dimostrazione sufficiente di inaffidabilità per l'ACLU.

Gli errori di Rekognition inoltre hanno riguardato non solo gli afroamericani, noto tallone di Achille di queste tecnologie, ma anche bianchi e ispanici, sebbene per i parlamentari di colore si parla di un tasso più elevato di falsi positivi, il 39% degli errori totali, nonostante gli afroamericani costituiscano soltanto un quinto del Congresso.

Secondo la ACLU se in futuro le forze dell'ordine dovessero davvero utilizzare Amazon Rekognition finirebbero per perseguire cittadini innocenti soltanto perché un software inaffidabile li ha confusi con dei criminali. "Un'identificazione, che sia accurata o meno, potrebbe costare loro la libertà o persino la vita", ha dichiarato un portavoce dell'associazione, che ha anche sottolineato come le persone di colore, già danneggiate in modo sproporzionato dalle pratiche della polizia, potrebbero essere ancora più sfavorite.

Che il riconoscimento facciale non sia una scienza esatta è risaputo sin dall'esordio di questa tecnologia sugli iPhone. Sicuramente nei prossimi anni i costanti progressi scientifici e tecnologici consentiranno di metterla maggiormente a punto rendendola più affidabile, ma se in ambito civile il suo utilizzo pare garantire vantaggi superiori ai rischi, per le forze di Polizia il discorso è molto diverso. Al netto delle preoccupazioni sul controllo di massa infatti, il riconoscimento facciale potrebbe davvero garantire un più alto livello di sicurezza se utilizzato nell'ambito di un quadro normativo chiaro, ma adesso questa tecnologia non sembra ancora matura, tanto che anche la Polizia di Orlando, non si sa se a seguito delle proteste o a causa di risultati inconsistenti, ha deciso di sospenderne la sperimentazione.

---