Appoggiandosi al riconoscimento facciale, la polizia di Detroit ha effettuato un arresto errato ai danni di una minoranza etnica.

L’ONG American Civil Liberty Union ha presentato ieri un reclamo formale contro le forze di sicurezza della città. Questo potrebbe essere il primo caso in cui un software di facial recognition si dimostri ufficialmente colpevole di aver causato uno sbaglio poliziesco.

Il caso risale al 9 gennaio 2020. La macchina dell’afroamericano Robert Williams è stata bloccata dalla polizia mentre stava facendo manovra per uscire dal vialetto di casa. L’uomo è stato quindi arrestato sotto agli occhi dei propri familiari e portato in centrale, ove è rimasto in custodia per 30 ore con l’accusa di aver derubato un negozio di orologi.

A suggerire il nome di Williams è stato un programma scritto da un’azienda nota come DataWorks Plus, una leggerezza che è stata poi enfatizzata da una buona dose di errore umano.

Una volta identificato dalla macchina, il profilo dell’uomo è infatti stato sottoposto alla perizia di una delle guardie del negozio saccheggiato, la quale, basandosi sulle confuse riprese del sistema di sicurezza interno, ha riconosciuto nell’afroamericano l’artefice del crimine.

[Il riconoscimento facciale] è considerato solamente come pista investigativa e richiede che gli investigatori proseguano l’indagine prima che si possano prendere decisioni finali, compreso l’arresto.

Tutti i report investigativi includono la seguente frase in cima al report: “Questo documento non è da considerarsi un’identificazione positiva. È solamente una pista investigativa e non è un motivo sufficiente a causare un arresto. Ulteriori indagini sono richieste per sviluppare un motivo valido per procedere con l’arresto,

ha spiegato Shanon Banner, portavoce della polizia del Michigan alla CNN.

In assenza di regolamentazioni univoche, l’implementazione del riconoscimento facciale nei meccanismi di sorveglianza si sta sviluppando in maniera anarchica, causando un sacco di danni e di insidie.

Un problema enfatizzato a sua volta dal fatto che i software sviluppati negli Stati Uniti hanno dimostrato di aver difficoltà a identificare adeguatamente gli afroamericani, i nativi americani e gli asiatici. Di fatto le minoranze USA vengono discriminate anche dagli algoritmi.

Non a caso, alcune delle più grandi aziende del digitale hanno deciso recentemente di rinunciare a investire sul riconoscimento facciale o lo hanno reso inaccessibile alla polizia, almeno fintanto che il suo utilizzo non sarà sottoposto a una legislazione formale e condivisa.

 

Potrebbe anche interessarti: