Il general manager di TikTok ha scritto una lettera ai CEO delle nove piattaforme tech più importanti sul mercato proponendo un’alleanza per combattere, assieme, i contenuti violenti.

Ad inizio del mese il video di un suicidio è diventato virale su TikTok. L’app non è riuscita a contenerlo tempestivamente, e la clip è stata vista da migliaia di utenti con il serio rischio di far nascere un’epidemia di comportamenti emulatori trai giovanissimi.

La general manager di TikTok, Vanessa Papas, sostiene che molte delle difficoltà del social —e più in generale del settore— nell’identificare il contenuto in tempi utili dipendano dal fatto che le aziende tech non comunicano tra di loro, nonostante spesso i contenuti pericolosi valichino i confini delle diverse app nascendo in un posto solo per poi diventare virali anche negli altri portali. Per questo Papas ha scritto una lettera ai CEO di nove importanti social network e piattaforme di contenuti, da Facebook a YouTube, con una proposta molto semplice: “uniamo gli sforzi e iniziamo a comunicare di più tra di noi“.

Oggi le aziende tech lavorano già assieme per combattere la pornografia illegale, è una collaborazione che spesso viene imposta dalla legge. Social e piattaforme diverse condividono enormi “banche di hash” utili per per individuare tempestivamente i contenuti illegali. Ogni volta che emerge un nuovo problema lo si notifica alla concorrenza o lo si carica su servizi come il PhotoDNA di Microsoft, il programma più utilizzato per scansionare automaticamente i contenuti caricati dagli utenti a caccia di materiale pedopornografico.

 

 

TikTok spera che si arrivi in questa direzione anche per tutti gli altri contenuti violenti e potenzialmente pericolosi, come i video di violenze e omicidi.

I social e le piattaforme sono messe continuamente davanti alla sfida del cross-posting di contenuti dannosi. È un problema che colpisce tutti: i nostri utenti, i nostri dipendenti e la comunità nel senso più ampio. Quando i contenuti si spostano da una piattaforma all’altra, ogni volta che un contenuto non sicuro si diffonde all’interno della loro community, le piattaforme spesso sono costrette ad un approccio alla “acchiappa la talpa”. La tecnologia può aiutarci ad identificare e limitare molti di questi contenuti, ma non tutti. I moderatori in carne ed ossa e i team esperti sono spediti in prima linea per contenere il problema.

si legge nel blog di TikTok.

La proposta di TikTok è quella di creare un’occasione di incontro con i principali responsabili dei team ‘Trust and Safety’ delle società contattate. Un primo passo per poter discutere la creazione di una rete di collaborazione di questo tipo. Se le altre aziende risponderanno positivamente e la proposta dovesse trovare un seguito, internet potrebbe diventare un posto migliore. Il ‘Se’ non è un esercizio di retorica, in questo momento non abbiamo ancora notizia di come i social network contattati abbiano deciso di rispondere a TikTok.