La piattaforma Amazon, come tutti saprete, ha creato un proprio sistema di riconoscimento facciale. Qualche mese fa abbiamo anche parlato di una polemica che riguardava la vendita di questo sistema.
Oggi siamo venuti a conoscenza che l’American Civil Liberties Union ha condotto un esperimento sul sistema. Lo scopo era quello di convincere il Congresso a varare una moratoria sull’utilizzo dello stesso nella sicurezza pubblica. Però l’esperimento non è andato come ci si aspettava.
Il flop del riconoscimento facciale di Amazon
L’American Civil Liberties Union, conosciuta anche come Aclu, ha condotto l’esperimento su 25.000 foto segnaletiche raccolte. La tecnologia di Amazon, chiamata Rekognition non ha sicuramente fatto una bella figura. All’interno delle 25.000 foto segnaletiche erano presenti anche 535 immagini di parlamentari americani. Solo nel 5% dei casi il sistema ha trovato una corrispondenza tra i volti del Congresso e quelli dei criminali.
In alcuni casi invece, ha scambiato parlamentari per criminali e viceversa, gli errori si sono evidenziati maggiormente tra i parlamentari di colore. Tra i 28 parlamentari identificati come criminali c’è anche John Lewis, membro della Camera dei Rappresentanti dello stato della Georgia. Lewis è conosciuto soprattutto per aver marciato accanto a Martin Luther King nel lontano 1963.
L’Aclu ha affermato: “Se le forze dell’ordine usassero Amazon Rekognition non è difficile immaginare un futuro in cui le persone verranno “interrogate” o “perquisite” solo perché un software ha trovato “una corrispondenza” tra il loro viso e quello presente in un archivio di criminali“. In America, le persone di colore sono già prese di mira dalle forze di polizia, non possiamo immaginare cosa potrebbe causare il software Rekognition. Speriamo quindi che l’azienda di Jeff Bezos possa aggiustare il sistema, in modo che in futuro possa essere utilizzato dalle forze dell’ordine senza creare disagi alla popolazione.