Riconoscimento facciale: l’assenza di regole sta già creando danni, soprattutto alle minoranze

20
1 anno fa

Appoggiandosi al riconoscimento facciale, la polizia di Detroit ha effettuato un arresto errato ai danni di una minoranza etnica.

L’ONG American Civil Liberty Union ha presentato ieri un reclamo formale contro le forze di sicurezza della città. Questo potrebbe essere il primo caso in cui un software di facial recognition si dimostri ufficialmente colpevole di aver causato uno sbaglio poliziesco.

Il caso risale al 9 gennaio 2020. La macchina dell’afroamericano Robert Williams è stata bloccata dalla polizia mentre stava facendo manovra per uscire dal vialetto di casa. L’uomo è stato quindi arrestato sotto agli occhi dei propri familiari e portato in centrale, ove è rimasto in custodia per 30 ore con l’accusa di aver derubato un negozio di orologi.

A suggerire il nome di Williams è stato un programma scritto da un’azienda nota come DataWorks Plus, una leggerezza che è stata poi enfatizzata da una buona dose di errore umano.

Una volta identificato dalla macchina, il profilo dell’uomo è infatti stato sottoposto alla perizia di una delle guardie del negozio saccheggiato, la quale, basandosi sulle confuse riprese del sistema di sicurezza interno, ha riconosciuto nell’afroamericano l’artefice del crimine.

[Il riconoscimento facciale] è considerato solamente come pista investigativa e richiede che gli investigatori proseguano l’indagine prima che si possano prendere decisioni finali, compreso l’arresto.

Tutti i report investigativi includono la seguente frase in cima al report: “Questo documento non è da considerarsi un’identificazione positiva. È solamente una pista investigativa e non è un motivo sufficiente a causare un arresto. Ulteriori indagini sono richieste per sviluppare un motivo valido per procedere con l’arresto,

ha spiegato Shanon Banner, portavoce della polizia del Michigan alla CNN.

In assenza di regolamentazioni univoche, l’implementazione del riconoscimento facciale nei meccanismi di sorveglianza si sta sviluppando in maniera anarchica, causando un sacco di danni e di insidie.

Un problema enfatizzato a sua volta dal fatto che i software sviluppati negli Stati Uniti hanno dimostrato di aver difficoltà a identificare adeguatamente gli afroamericani, i nativi americani e gli asiatici. Di fatto le minoranze USA vengono discriminate anche dagli algoritmi.

Non a caso, alcune delle più grandi aziende del digitale hanno deciso recentemente di rinunciare a investire sul riconoscimento facciale o lo hanno reso inaccessibile alla polizia, almeno fintanto che il suo utilizzo non sarà sottoposto a una legislazione formale e condivisa.

 

Potrebbe anche interessarti:

 

 

Riconoscimento facciale, un'app vuole rendere irriconoscibili le vostre foto
Riconoscimento facciale, un'app vuole rendere irriconoscibili le vostre foto
Face unlock, fare smorfie aumenterà la sicurezza
Face unlock, fare smorfie aumenterà la sicurezza
I sistemi di riconoscimento facciale hanno in memoria le vostre foto?
I sistemi di riconoscimento facciale hanno in memoria le vostre foto?
PopID per i pagamenti contactless: la nuova frontiera è il riconoscimento facciale
PopID per i pagamenti contactless: la nuova frontiera è il riconoscimento facciale
Capitol Hill, un sito mappa i volti degli utenti Parler presenti alla protesta
Capitol Hill, un sito mappa i volti degli utenti Parler presenti alla protesta
Riconoscimento facciale, con le mascherine percentuale di errore al 50%
Riconoscimento facciale, con le mascherine percentuale di errore al 50%
Hackers attaccano la Polizia Italiana
Hackers attaccano la Polizia Italiana