Facebook vuole un’IA per bannare alcuni meme

65
3 anni fa

Facebook lancia l’appello: «100.000 dollari a chiunque ci aiuti a creare un’IA per combattere i meme razzisti e discriminatori». Il problema delle IA che non capiscono le immagini.

Oggi Facebook è già pioniere nel riconoscimento dei messaggi d’odio, ma il problema è che l’IA per il momento si sta dimostrando piuttosto efficace nello scandagliare i contenuti testuali, e molto meno nell’interpretare correttamente le immagini.

Per questa ragione non è semplice identificare il contenuto di un meme in modo automatico, e il social deve ancora affidarsi prevalentemente alla moderazione manuale. Il che è problematico per un social che da una parte genera milioni di contenuti ogni ora, e dall’altra è sottoposto ad uno scrutinio sempre più severo da parte dei policy maker.

Da qui l’idea di un contest rivolto agli sviluppatori, con un premio di 100.000$. Facebook fornisce anche un dataset di circa 10.000 meme giudicati razzisti o discriminatori nei confronti delle minoranze.

È lo stesso social a spiegare che l’impresa è tutto fuorché semplice, visto che i meme — proprio come l’umorismo in generale— si reggono sul contesto: spesso il risultato nasce dalla combo tra un’immagine e un elemento testuale che, se isolati, non avrebbero valenza offensiva.

Così Facebook identifica i meme di cui vuole sbarazzarsi:

A direct or indirect attack on people based on characteristics, including ethnicity, race, nationality, immigration status, religion, caste, sex, gender identity, sexual orientation, and disability or disease. We define attack as violent or dehumanizing (comparing people to non-human things, e.g., animals) speech, statements of inferiority, and calls for exclusion or segregation. Mocking hate crime is also considered hate speech.

 

Perché i meme sono un’arma politica: 

 

 

Donald Trump può tornare su Facebook e Instagram. Meta: "non è più un pericolo"
Donald Trump può tornare su Facebook e Instagram. Meta: "non è più un pericolo"
Facebook Messenger: la chat protette da crittografia avranno un po' di colore in più
Facebook Messenger: la chat protette da crittografia avranno un po' di colore in più
Meta, nuova accusa della Commissione: nel mirino le pubblicità e Facebook Marketplace
Meta, nuova accusa della Commissione: nel mirino le pubblicità e Facebook Marketplace
Meta: l'UE condanna Facebook a pagare 265 milioni di euro. È la seconda multa in meno di tre mesi
Meta: l'UE condanna Facebook a pagare 265 milioni di euro. È la seconda multa in meno di tre mesi
Facebook ha lavorato con alcune onlus ad una campagna per proteggere i minorenni da revenge pron e molestie online
Facebook ha lavorato con alcune onlus ad una campagna per proteggere i minorenni da revenge pron e molestie online
Meta ha annunciato il licenziamento di 11mila dipendenti. Zuckerberg: "me ne assumo la responsabilità"
Meta ha annunciato il licenziamento di 11mila dipendenti. Zuckerberg: "me ne assumo la responsabilità"
Facebook potrebbe bloccare la condivisione delle notizie in Canada
Facebook potrebbe bloccare la condivisione delle notizie in Canada