Facebook, l’IA scambia un africano per una scimmia: “errore imperdonabile, ci scusiamo”
Dopo aver visto un video con alcuni uomini di origini africane, Facebook ha suggerito ad un utente di vedere "altri video sulle scimmie".
Il sistema d’intelligenza artificiale di Facebook ha erroneamente scambiato un uomo di origine africana per una scimmia. L’errore è stato scoperto casualmente da un utente, che dopo aver visto un video con alcuni uomini di carnagione scura si è visto chiedere dal social network se era interessato a vedere altri video sulle scimmie.
Facebook utilizza un sistema basato sull’intelligenza artificiale per classificare le persone e gli oggetti che compaiono nei contenuti multimediali. La tecnologia viene anche usata da Facebook per suggerire agli utenti contenuti simili a quelli già visti.
In passato diverse ricerche avevano evidenziato come la maggior parte delle tecnologie di machine learning facciano ancora molta difficoltà ad identificare le persone di etnia non caucasica, con errori spesso gravi e imperdonabili, specie quando si parla di tecnologie di riconoscimento facciale utilizzate per scopi di pubblica sicurezza.
Facebook, facendo le sue scuse, ha definito l’accaduto «un errore imperdonabile».
Il social network nel frattempo ha disattivato il sistema di raccomandazione dei video basato sull’intelligenza artificiale. L’azienda vuole prendersi del tempo per migliorare la sua IA ed evitare che un errore offensivo di questo tipo possa ripetersi in futuro.
Il video in questione, scrive il New York Times, era stato pubblicato dal quotidiano The Daily Mail e raffigurava alcune persone di origini africane discutere animosamente con delle persone caucasiche e alcuni membri delle forze dell’ordine.
