Nel tentativo di combattere la tossicità online, Microsoft ha spiegato di voler creare un sistema in grado di censurare le parolacce nei gruppi su Xbox Live in tempo reale.
Lunedì Microsoft ha iniziato il roll out di un nuovo aggiornamento che introduce quattro diversi livelli di protezione contro volgarità e contenuti “tossici”: Friendly, Medium, Mature e Unfiltered.
Ovviamente il sistema è in grado di filtrare e censurare esclusivamente i messaggi scritti. Se un messaggio contiene la frase “kill your self”, a seconda del livello di moderazione scelto, potrebbe venire bloccato o censurato parzialmente, oppure ancora riportato integralmente se non si vuole nessun filtro. La scelta spetta al giocatore (e eventualmente alla sua famiglia).
Ma Microsoft ha anche spiegato che Microsoft Research sta lavorando ad un sistema basato sul machine learning in grado di identificare le parolacce e censurarle sul momento, un po’ come succede nelle sitcom o nelle trasmissioni televisive: con un sonoro Beep.
What we’ve started to experiment with is ‘Hey, if we’re real-time translating speech to text, and we’ve got these text filtering capabilities, what can we do in terms of blocking possible communications in a voice setting?
ha detto Dave McCarthy, head del dipartimento Operation di Xbox.
