Anche Papa Leone vittima dell’AI: su TikTok spopolano omelie deepfake
Milioni di visualizzazioni per sermoni deepfake del nuovo Papa. YouTube e TikTok corrono ai ripari ma il problema è in crescita.
Un’inchiesta condotta dall’agenzia AFP ha acceso i riflettori su un fenomeno inquietante: decine di canali YouTube e TikTok stanno diffondendo a ritmo serrato messaggi generati dall’intelligenza artificiale che imitano la voce e lo stile del nuovo Papa, salito al soglio pontificio appena un mese fa. Si tratta di centinaia di contenuti in inglese e spagnolo che simulano sermoni, discorsi e riflessioni mai pronunciati realmente, ma creati per sembrare autentici. Il risultato è una marea di disinformazione che sfrutta la curiosità globale intorno alla figura del pontefice per diffondere messaggi fuorvianti e attirare clic.
Rimozioni a catena, ma l’allarme rimane alto
Dopo la segnalazione dell’AFP, YouTube ha chiuso 16 canali per violazione delle politiche contro spam, pratiche ingannevoli e truffe, e ne ha rimosso un altro per infrazioni ai termini di servizio. Sei ulteriori canali sono stati esclusi dal programma partner che consente la monetizzazione dei contenuti. TikTok ha agito in modo simile, cancellando 11 account con oltre 1,3 milioni di follower totali, accusati di diffondere contenuti dannosi, impersonare figure pubbliche o diffondere video realistici senza etichette che ne segnalassero l’origine sintetica. Eppure, molti dei video restano accessibili o hanno già superato milioni di visualizzazioni, come nel caso di un contenuto spagnolo che ha toccato quota 32,9 milioni.
Le etichette di avviso richieste da entrambe le piattaforme – che indicano la natura artificiale del contenuto – spesso risultano difficili da individuare, confinate in descrizioni testuali poco evidenti. Questo solleva domande sull’efficacia delle attuali misure di moderazione, mentre il fenomeno continua a espandersi. Secondo il professor Brian Patrick Green della Santa Clara University, ci troviamo di fronte a un uso caotico dell’AI, reso ancora più pericoloso dalla velocità con cui evolve questa tecnologia.
A rischio la reputazione del Papa
Dietro questi contenuti non c’è solo una ricerca di visibilità: il rischio è che si sfrutti l’immagine del pontefice per costruire fiducia attorno a canali che in futuro potrebbero virare su propaganda politica, truffe o contenuti divisivi. Il danno non si limita alla diffusione di informazioni false, ma intacca anche l’autorevolezza del Papa reale, creando un contesto dove le sue dichiarazioni autentiche rischiano di essere messe in dubbio. Anche il Vaticano ha reagito, denunciando un deepfake che mostrava falsamente Papa Leo elogiare un leader salito al potere con un colpo di Stato in Burkina Faso.
Il tema è tutt’altro che secondario: come sottolineato dagli esperti, perfino le finzioni apparentemente innocue sono pericolose, perché costruiscono una base di fiducia manipolata. Come ha dichiarato Oren Etzioni dell’Università di Washington, “c’è un interesse naturale verso il nuovo Papa, e la mancanza di familiarità con il suo stile rende il pubblico più vulnerabile”. E lo stesso pontefice ha recentemente messo in guardia sui rischi legati all’uso dell’intelligenza artificiale.
