Vi stiamo raccontando in queste settimane la nascita e le ultime novità sui Deepfake creati con FakeApp, l’applicazione che implementa algoritmi di deep learning per fare dei face swap davvero realistici anche in video. I principali social network stanno ora facendo muro contro questo nuovo fenomeno.
Il tutto è nato un paio di mesi fa su Reddit dove l’utente “deepfake” ha creato un subreddit e cominciato a condividere dei video fatti con questa nuova app da lui creata.
Si è fin da subito creata una piccola community che ha cominciato ad usare l’app prima per creare filmati pornografici con i visi di famose attrici e poi per altri usi più creativi, come mettere la faccia di Nicholas Cage ovunque o togliere i baffi a Henry Cavill.
Ieri Reddit ha chiuso il subreddit dedicato e i contenuti generati con FaceApp stanno venendo bannati su PornHub e su Twitter: il motivo è semplice, tutti i principali social network hanno nei loro regolamenti clausole che riguardano il “sesso involontario” e vietano quindi esplicitamente video in cui si vedono persone mentre fanno sesso se queste non hanno dato il consenso volontario alla pubblicazione.
This subreddit was banned due to a violation of our content policy, specifically our policy against involuntary pornography.
Il ban arriva poco dopo la pubblicazione sul subreddit di due video con rispettivamente Meghan Markle e Taylor Swift che erano stati chiamati “Not Meghan Markle” e “Not Taylor Swift” presumibilmente proprio per evitare il ban.
La maggior parte dei video sono quindi stati condivisi su un altro sub reddit, CelebFakes che è stato a sua volta bannato dopo qualche ora.
4chan continua ad ospitare diversi deepfake sia su /B che su /GIF.
