Il giornalismo automatizzato di Microsoft sfocia nel razzismo

133
11 mesi fa

Microsoft ha cacciato i suoi giornalisti per sostituirli con un software, ma l’intelligenza artificiale è caduta immediatamente nel razzismo.

Una decina di giorni fa, Msn.com aveva annunciato che avrebbe mandato a casa 77 dipendenti tra UK e USA, decantando l’obsolescenza dell’essere umano in relazione alle potenzialità dell’algoritmo che ora non riesce a distinguere due diverse donne di colore.

In un pezzo che mirava a riportare le riflessioni dalla cantante Jade Thirlwall sulle insidie del razzismo, l’intelligenza artificiale ha infatti ben pensato di accompagnare al testo gli scatti di Leigh-Anne Pinnock, sua compagna di band nel gruppo Little Mix.

@MSN Se proprio devi copia-incollare gli articoli di altre testate che sono serie, potresti volerti assicurare di usare almeno un’immagine del membro meticcio del gruppo che sia corretta.

Questo schifo capita a @leighannepinnock e a me TUTTE LE VOLTE e sta diventando una barzelletta. Mi offende che non riusciate a distinguere tra due donne di colore tra quattro membri del gruppo… FATE DI MEGLIO!,

si è sfogata Thirlwall attraverso le storie sul suo profilo Instagram.

In senso ampio, un simile errore non è isolato: a gennaio la BBC aveva dovuto chiedere scusa per aver usato delle foto del giocatore di basket LeBron James per illustrare la tragica notizia della morte del suo collega Kobe Bryant.

Nonostante questo, la gaffe di Microsoft getta ugualmente un’ombra inquietante sul futuro del settore. Nel caso un simile errore sia frutto della disattenzione di un giornalista, questi viene spesso ripreso, se non addirittura sanzionato, ma cosa succede se a sbagliare è un algoritmo?

 

instagram jade thirlwall

 

Poco o nulla. Per ora Microsoft non ha accennato a voler fare un passo indietro e reintegrare i giornalisti, né ha manifestato l’intenzione di ritoccare l’algoritmo. Si è limitata a scusarsi e a modificare l’articolo perché riportasse le immagini giuste, di fatto deresponsabilizzandosi dall’errore.

Per mesi, Microsoft News ha cercato di ottimizzare il suo sistema di IA in modo che potesse divenire il più indipendente possibile dall’intervento umano. Gli ha insegnato a selezionare autonomamente i trend del momento, quindi a cannibalizzare gli articoli autorevoli per imbastire alla bene e meglio un pezzo che non risultasse legalmente un plagio.

A ben vedere, l’ineluttabilità dell’intelligenza artificiale non convince però neppure i dirigenti di MSN, i quali, stando alla testata The Guardian, hanno raccomandato allo staff di rimanere pronto a cancellare dal sito ogni traccia di questa storia, qualora l’algoritmo reputasse che la gaffe sia un argomento raccatta-click e decidesse di “scriverci” un articolo.

 

Potrebbe anche interessarti:

 

 

JEDI Cloud Project potrebbe essere chiuso per colpa di Amazon
JEDI Cloud Project potrebbe essere chiuso per colpa di Amazon
Cyberwars: Le guerre dell'informazione sono fuori controllo
Cyberwars: Le guerre dell'informazione sono fuori controllo
Facebook, il suo machine learning imparerà a "capire" i video
Facebook, il suo machine learning imparerà a "capire" i video
Microsoft e gli editori europei chiedono che i social paghino le notizie
Microsoft e gli editori europei chiedono che i social paghino le notizie
Facebook ha infine deciso di oscurare le news condivise in Australia
Facebook ha infine deciso di oscurare le news condivise in Australia
Microsoft Edge si prepara a lanciare la sua "modalità bambini"
Microsoft Edge si prepara a lanciare la sua "modalità bambini"
Facebook sviluppa un sensore neurale capace di trasformare il pensiero in azione?
Facebook sviluppa un sensore neurale capace di trasformare il pensiero in azione?