TikTok sta investendo nel migliorare il proprio sistema di controllo dei contenuti: per questo motivo in America e in Canada verrà implementato un sistema automatico per il controllo dei contenuti di nudo e non solo.
Il sistema di revisione andrà a controllare i vari video postati e, qualora ci fossero dettagli come nudo, sesso, violenza o materiale illegale (tra cui entrano anche i video che infrangono le policy). Ovviamente il contenuto, una volta marchiato come inappropriato, verrà bloccato e tolto, lasciando comunque spazio all’utente di ricorrere con una contestazione che verrà visionata da un moderatore umano.
Fino ad oggi TikTok ha sempre utilizzato la moderazione umana per controllare i vari contenuti rilasciati. Con il successo esplosivo che l’applicazione ha avuto, il numero di contenuti è cresciuto esponenzialmente e adesso risulta difficile controllarli tutti. Per questo motivo ora il sistema andrà a revisionare le varie clip.
Il problema legato ai sistemi automatici rimane sempre il margine di errore: spesso infatti cadono nella falce della moderazione contenuti innocui, che per qualche motivo mostrano un qualcosa di strano – almeno per la IA – e quindi il sistema procede a bloccarli. D’altra parte, è successo in alcune compagnie (come Facebook) che i moderatori sviluppassero un disturbo da stress post-traumatico vista la quantità di video (e anche il materiale al suo interno).
Solo in America, nei primi tre mesi del 2021, sono stati pubblicati su TikTok ben 8 milioni e mezzo di video, e vista la crescita del social potrebbero solo che aumentare. Nonostante tutto, TikTok adopererà un sistema che filtrerà i vari video, così da assegnarne comunque alcuni ai moderatori umani, mentre gran parte verrà passata sotto al microscopio dell’algoritmo.
Il sistema di revisione automatico arriverà, in America e Canada, nelle prossime settimane, mentre ancora non sappiamo quando arriverà in Europa.
