Porcha Woodruff, una donna afroamericana di 32 anni, è stata ingiustamente arrestata per rapina e furto d’auto da sei agenti di polizia a Detroit mentre si preparava per accompagnare le sue due figlie a scuola. Essendo incinta di otto mesi, il New York Times riporta che al momento dell’arresto Porcha ha esclamato incredula di fronte agli agenti, mostrando il pancione come prova della sua incapacità a commettere il crimine. Nonostante ciò, è stata ammanettata e portata nel Centro di Detenzione di Detroit, dove è stata interrogata per 11 ore e ha subito la confisca del suo iPhone.
Dopo essere stata incriminata per rapina e rilasciata su cauzione (ha dovuto anticipare 100.000$), Porcha è stata assolta dalla procura di Wayne County un mese dopo. L’errore è stato causato da un sistema automatico di riconoscimento facciale.
Da quando il sistema è attivo, la Polizia di Detroit ha condotto in media 125 ricerche all’anno. Secondo il NY Times, il sistema è stato usato quasi esclusivamente per identificare sospettati di colore. Porcha ha presentato una causa per arresto ingiusto contro la città di Detroit e potrebbe essere compensata con un risarcimento multi-milionario.
“Ho esaminato le accuse contenute nella causa legale. Sono molto preoccupanti”, ha dichiarato James E. White, capo della polizia di Detroit “Stiamo affrontando questa questione con grande serietà, ma al momento non possiamo fare ulteriori commenti a causa della necessità di ulteriori indagini”.
Una risposta di diverso tenore arriva invece dalla procuratrice della contea di Wayne, Kym Worthy, che ha ribadito di ritenere che il mandato di arresto nel caso di Ms. Woodruff sia stato “appropriato sulla base delle circostanze”. Porcha è la sesta persona di colore ad aver accusato la polizia di Detroit dopo essere state erroneamente accusate a causa di questa tecnologia.
Secondo i documenti visti dal NY Times, il dipartimento utilizza un sistema di riconoscimento facciale chiamato DataWorks Plus per confrontare i volti dei sospettati con un database di foto segnaletiche criminali; il sistema restituisce corrispondenze ordinate in base alla probabilità di essere la stessa persona. Un analista umano è infine responsabile di decidere se la corrispondenza fornita dal sistema debba essere presa in considerazione. Che è quello che è successo in questo caso specifico: l’analista ha fornito alla polizia il nome della Woodruff, sulla base di una corrispondenza con una foto segnaletica che risaliva al 2015, quando era stata fermata per aver guidato con una patente scaduta.
