TikTok: al via in America la rimozione automatica di contenuti inappropriati
TikTok sta avviando un processo che permetterà la cancellazione automatica di contenuti inappropriati in America.
TikTok sta investendo nel migliorare il proprio sistema di controllo dei contenuti: per questo motivo in America e in Canada verrà implementato un sistema automatico per il controllo dei contenuti di nudo e non solo.
Il sistema di revisione andrà a controllare i vari video postati e, qualora ci fossero dettagli come nudo, sesso, violenza o materiale illegale (tra cui entrano anche i video che infrangono le policy). Ovviamente il contenuto, una volta marchiato come inappropriato, verrà bloccato e tolto, lasciando comunque spazio all’utente di ricorrere con una contestazione che verrà visionata da un moderatore umano.
Fino ad oggi TikTok ha sempre utilizzato la moderazione umana per controllare i vari contenuti rilasciati. Con il successo esplosivo che l’applicazione ha avuto, il numero di contenuti è cresciuto esponenzialmente e adesso risulta difficile controllarli tutti. Per questo motivo ora il sistema andrà a revisionare le varie clip.
Il problema legato ai sistemi automatici rimane sempre il margine di errore: spesso infatti cadono nella falce della moderazione contenuti innocui, che per qualche motivo mostrano un qualcosa di strano – almeno per la IA – e quindi il sistema procede a bloccarli. D’altra parte, è successo in alcune compagnie (come Facebook) che i moderatori sviluppassero un disturbo da stress post-traumatico vista la quantità di video (e anche il materiale al suo interno).
Solo in America, nei primi tre mesi del 2021, sono stati pubblicati su TikTok ben 8 milioni e mezzo di video, e vista la crescita del social potrebbero solo che aumentare. Nonostante tutto, TikTok adopererà un sistema che filtrerà i vari video, così da assegnarne comunque alcuni ai moderatori umani, mentre gran parte verrà passata sotto al microscopio dell’algoritmo.
Il sistema di revisione automatico arriverà, in America e Canada, nelle prossime settimane, mentre ancora non sappiamo quando arriverà in Europa.
