Call of Duty, le chat vocali verranno moderate dall’IA: addio a razzismo e bullismo?
Activision ha annunciato che la moderazione delle chat di gioco di Call of Duty verrà assistita da un sistema automatico basato su IA.
Le chat vocali di Call of Duty e di molti altri giochi di Activision verranno moderate da un’IA. Il colosso dei videogiochi ha annunciato una partnership con Modulate, azienda che fornisce una tecnologia in grado di moderare le chat vocali in tempo reale.
L’IA si chiama ToxMods ed è in gradi di identificare tutta una serie di comportamenti abusivi in tempo reale: dal razzismo all’omofobia, passando per le molestie e le discriminazioni di ogni tipo.
In passato, moderare le chat di gioco era un compito estremamente complicato. Una cosa sono i messaggi tra giocatori, dove vige l’eterna regola scripta manent. Altra cosa sono le chat vocali, dove le comunicazioni avvengono in tempo reale e, di norma, non esiste un sistema che consenta di riascoltare e segnalare le conversazioni al termine dell’azione di gioco.
La beta di ToxMod è attiva, solo in Nord America e in via sperimentale, a partire da oggi. Inizialmente, l’IA verrà utilizzata per moderare le chat Call of Duty: Modern Warfare II e Call of Duty: Warzone. Il 10 novembre, quando uscirà il nuovo capitolo della serie, Call of Duty: Modern Warfare III, il sistema di moderazione verrà infine implementato a livello globale — e dunque anche in Europa.
Il publisher ha spiegato che l’IA tiene conto di diversi fattori, incluso il volume della voce dei giocatori e le loro emozioni. In questo modo, in linea teorica, l’IA dovrebbe essere in grado di distinguere gli scambi scherzosi tra amici dalle vere minacce che richiedono un intervento del sistema di moderazione.
