Facebook lancia l’appello: «100.000 dollari a chiunque ci aiuti a creare un’IA per combattere i meme razzisti e discriminatori». Il problema delle IA che non capiscono le immagini.
Oggi Facebook è già pioniere nel riconoscimento dei messaggi d’odio, ma il problema è che l’IA per il momento si sta dimostrando piuttosto efficace nello scandagliare i contenuti testuali, e molto meno nell’interpretare correttamente le immagini.
Per questa ragione non è semplice identificare il contenuto di un meme in modo automatico, e il social deve ancora affidarsi prevalentemente alla moderazione manuale. Il che è problematico per un social che da una parte genera milioni di contenuti ogni ora, e dall’altra è sottoposto ad uno scrutinio sempre più severo da parte dei policy maker.
Da qui l’idea di un contest rivolto agli sviluppatori, con un premio di 100.000$. Facebook fornisce anche un dataset di circa 10.000 meme giudicati razzisti o discriminatori nei confronti delle minoranze.
È lo stesso social a spiegare che l’impresa è tutto fuorché semplice, visto che i meme — proprio come l’umorismo in generale— si reggono sul contesto: spesso il risultato nasce dalla combo tra un’immagine e un elemento testuale che, se isolati, non avrebbero valenza offensiva.
Così Facebook identifica i meme di cui vuole sbarazzarsi:
A direct or indirect attack on people based on characteristics, including ethnicity, race, nationality, immigration status, religion, caste, sex, gender identity, sexual orientation, and disability or disease. We define attack as violent or dehumanizing (comparing people to non-human things, e.g., animals) speech, statements of inferiority, and calls for exclusion or segregation. Mocking hate crime is also considered hate speech.
Perché i meme sono un’arma politica:
