Con un po’ di colpevole ritardo, Twitch è intervenuto contro i deepfake porno

Le tecnologie deepfake consentono di generare video estremamente realistici, sostanzialmente rubando il volto di qualsiasi persona. In sostanza, è possibile prendere il volto di una persona famosa e appiccicarlo sul corpo di un altro attore che compare in un video.

Come vuole la legge del web, questa tecnologia ha preso immediatamente piede nel porno, costringendo piattaforme come Reddit a prendere seri provvedimenti per impedire che venissero creati video deepfake con il volto di attrici famose e, in alcuni casi, semplici ragazze finite vittime di molestie.

Circa cinque anni fa, praticamente ogni grande piattaforma tech ha vietato pressoché totalmente questa tecnologia, impedendo la circolazione di video deepfake con scopi malevoli e fraudolenti. In genere sono risparmiati esclusivamente i video parodistici, a patto che l’autore menzioni esplicitamente la natura artificiale e inautentica del video.

Twitch se l’è presa con molta calma. La piattaforma ha aggiornato le sue policy per vietare i video deepfake solamente in queste ore

Twitch se l’è presa con molta calma. La piattaforma ha aggiornato le sue policy per vietare i video deepfake solamente di recente, dopo che alcune famose streamer, loro malgrado, erano finite vittime di questo genere di contenuti.

Le nuove regole vietano ogni riferimento ai video deepfake, che Twitch definisce video sintetici di natura non consensuale (NCEI). Qualsiasi menzione, anche accidentale o involontaria, verrà presa molto seriamente dalla piattaforma. La promozione, la creazione o la condivisione intenzionale di porno deepfake comporta il ban a vita, anche se si tratta della prima violazione.

L’introduzione di policy così severe non è figlia del caso. Recentemente Twitch è stato protagonista di un nuovo scandalo, l’ennesimo. Uno streamer, Brandon “Atrioc” Ewing ha condiviso per sbaglio il suo schermo con il pubblico, durante una diretta. Tra le varie finestre aperte sul browser, ce n’era anche una con un sito per adulti dedicato ai video deepfake. La schermata in questione mostrava diversi video espliciti, con il volto di alcune popolari colleghe di Atrioc, tra cui Pokimane e Maya Higa.

Sebbene Atrioc abbia giurato che si sia trattato di un errore, e che non fosse sua intenzione condividere le finestre aperte sul browser con il suo pubblico, l’incidente ha dato vita ad un acceso dibattito e diverse streamer hanno manifestato la loro insofferenza per il problema dei video deepfake. “Smettetela di oggettificare le donne senza il loro consenso. Punto.”, ha scritto, ad esempio, Pokimane, una delle streamer ritratte dal sito visitato da Atrioc.

Le nuove policy di Twitch coprono esplicitamente anche episodi come quello che hanno riguardato Atrioc: mostrare video porno deepfake non consensuali, anche per sbaglio, costituisce una violazione. Twitch è un servizio privato e si riserva pertanto il diritto di applicare retroattivamente le sue nuove policy. Tuttavia, sembra che al momento la piattaforma non abbia ancora preso alcun provvedimento contro lo streamer.