L’FBI ha emesso un avvertimento riguardo all’aumento dell’utilizzo dell’intelligenza artificiale nella creazione di video falsi per schemi di sextorsion. La sextortion è un problema che persiste da molti anni e che in genere prevede che la vittima venga minacciata e costretta a pagare una somma in denaro, come modo per evitare che vengano condivisi contenuti espliciti che lo raffigurano, in genere ottenuti in precedenza o tramite l’inganno o tramite l’uso di trojan malware sul suo computer. In alcuni casi, gli estorsori possiedono effettivamente materiale esplicito reale ottenuto dalla vittima o attraverso violazioni di account, mentre in altri casi fanno false affermazioni senza fornire alcuna prova.
Ora le intelligenze artificiali generative permettono di creare a tavolino video raffiguranti qualsiasi persona, creando, insomma, materiale sconveniente dal nulla. In gergo questi contenuti vengono chiamati deepfake video, proprio perché sono stati generati sinteticamente e di vero non hanno alcunché.
Secondo l’FBI, si è verificato di recente un aumento nell’utilizzo dell’IA per generare video falsi che sembrano raffigurare persone reali coinvolte in attività sessualmente esplicite. Questi video manipolati vengono poi diffusi su piattaforme di social media o siti pornografici per molestare le vittime o come parte di schemi di sextorsion.
L’utilizzo dell’IA nella creazione di video falsi aggiunge una nuova dimensione alla già dannosa pratica delle estorsioni online, rendendo più difficile distinguere tra contenuti genuini e manipolati. L’avvertimento dell’FBI serve come promemoria affinché le persone rimangano caute nel condividere informazioni personali o contenuti espliciti online e segnalino ogni episodio alle autorità competenti.
