Facebook sta decidendo quali offese censurare per prime
Facebook pianifica di cambiare il proprio algoritmo in modo da censurare con più frequenza le offese diretta alle minoranze.
A rivelarlo é un documento interno finito tra le mani del Washington Post, documento che espone le basi di ciò che l’azienda chiama WoW Project, ovvero il progetto “worst of the worst”.
L’idea é quella di assegnare un punteggio a ogni ingiuria, dando priorità ai discorsi d’odio che attaccano gli afroamericani, i musulmani, i meticci, gli ebrei e i membri delle comunità LGBT. Tanto é più alto il voto, tanto é più probabile che il sistema provveda a eliminare automaticamente il post.
L’hate speech é in effetti sempre stata un’insidia difficile da tenere a bada: per questioni di privacy, nonché per impostazioni tecniche, il sistema di monitoraggio dei social gestiti dalla Big Tech americana non é in grado di cogliere il contesto dei singoli contenuti, operando una censura tanto indiscriminata quanto goffa.
Se il WoW Project dovesse essere pienamente implementato, le pratiche “race-blind” di Facebook Inc. lascerebbero spazio a un sistema basato su distinzioni etnico-religiose per il quale le offese ai caucasici verrebbero considerate meno dannose di quelle rivolte ai gruppi più vulnerabili.
Una soluzione non perfetta, ma che dovrebbe risolvere almeno uno dei “bug” più pericolosi dell’attuale algoritmo, ovvero quello che spinge il sistema a rimuovere i post di denuncia contro gli atti violenti e persecutori perpetrati dai bianchi.
Stando al documento, questa scelta porterebbe a cancellare 10.000 post in meno ogni giorno, lasciando un più ampio margine di confronto su alcuni dei temi sociali che l’intera società occidentale sta discutendo. La mossa sottolinea il sempre più marcato cambio di direzione intrapreso da Facebook.
Fino a non molti mesi fa, il fondatore e CEO Mark Zuckerberg dichiarava infatti che non stesse alle ditte digitali monitorare quanto caricato sui social dai propri iscritti, ora, a seguito delle manifestazioni che hanno spaccato il tessuto politico statunitense, il tono é decisamente cambiato e l’azienda sta vestendo un ruolo sempre più attivo nel combattere bufale, razzismi e complottismi.
Potrebbe anche interessarti:
