Microsoft ha cacciato i suoi giornalisti per sostituirli con un software, ma l’intelligenza artificiale è caduta immediatamente nel razzismo.
Una decina di giorni fa, Msn.com aveva annunciato che avrebbe mandato a casa 77 dipendenti tra UK e USA, decantando l’obsolescenza dell’essere umano in relazione alle potenzialità dell’algoritmo che ora non riesce a distinguere due diverse donne di colore.
In un pezzo che mirava a riportare le riflessioni dalla cantante Jade Thirlwall sulle insidie del razzismo, l’intelligenza artificiale ha infatti ben pensato di accompagnare al testo gli scatti di Leigh-Anne Pinnock, sua compagna di band nel gruppo Little Mix.
@MSN Se proprio devi copia-incollare gli articoli di altre testate che sono serie, potresti volerti assicurare di usare almeno un’immagine del membro meticcio del gruppo che sia corretta.
Questo schifo capita a @leighannepinnock e a me TUTTE LE VOLTE e sta diventando una barzelletta. Mi offende che non riusciate a distinguere tra due donne di colore tra quattro membri del gruppo… FATE DI MEGLIO!,
si è sfogata Thirlwall attraverso le storie sul suo profilo Instagram.
In senso ampio, un simile errore non è isolato: a gennaio la BBC aveva dovuto chiedere scusa per aver usato delle foto del giocatore di basket LeBron James per illustrare la tragica notizia della morte del suo collega Kobe Bryant.
Nonostante questo, la gaffe di Microsoft getta ugualmente un’ombra inquietante sul futuro del settore. Nel caso un simile errore sia frutto della disattenzione di un giornalista, questi viene spesso ripreso, se non addirittura sanzionato, ma cosa succede se a sbagliare è un algoritmo?
Poco o nulla. Per ora Microsoft non ha accennato a voler fare un passo indietro e reintegrare i giornalisti, né ha manifestato l’intenzione di ritoccare l’algoritmo. Si è limitata a scusarsi e a modificare l’articolo perché riportasse le immagini giuste, di fatto deresponsabilizzandosi dall’errore.
Per mesi, Microsoft News ha cercato di ottimizzare il suo sistema di IA in modo che potesse divenire il più indipendente possibile dall’intervento umano. Gli ha insegnato a selezionare autonomamente i trend del momento, quindi a cannibalizzare gli articoli autorevoli per imbastire alla bene e meglio un pezzo che non risultasse legalmente un plagio.
A ben vedere, l’ineluttabilità dell’intelligenza artificiale non convince però neppure i dirigenti di MSN, i quali, stando alla testata The Guardian, hanno raccomandato allo staff di rimanere pronto a cancellare dal sito ogni traccia di questa storia, qualora l’algoritmo reputasse che la gaffe sia un argomento raccatta-click e decidesse di “scriverci” un articolo.
Potrebbe anche interessarti:
- Microsoft’s robot editor confuses mixed-race Little Mix singers (theguardian.com)
