Immagini false generate dall’IA: l’artista digitale bandito solleva interrogativi sulla diffusione della disinformazione

L’artista digitale Justin Brown, che ha utilizzato il generatore di immagini AI Midjourney per produrre foto false di politici che tradiscono le loro consorti, è stato bandito dal programma. La raccolta di immagini, intitolata “L’impatto dell’IA sull’industria del ricatto”, mirava a dimostrare il potenziale della tecnologia come arma pericolosa quando viene utilizzata per ritrarre scenari che potrebbero infliggere danni a persone innocenti. Tra le personalità ritratte nella serie di immagini false dell’IA di Brown ci sono vari politici, tra cui personaggi di spicco della corsa presidenziale del 2024. Nelle foto si vedono il presidente in carica Joe Biden, l’ex presidente Donald Trump, l’ex governatore del New Jersey Chris Christie e il governatore della Florida Ron DeSantis in posizioni compromettenti. Tuttavia, Brown ha dichiarato a PetaPixel (via The Byte) che Midjourney ha preso provvedimenti contro Brown solo dopo aver condiviso le immagini su Reddit. “L’artista digitale ha inoltre sottolineato che questa è l’unica volta in cui è stato bannato dal sito: “In passato mi sono imbattuto in richieste di blocco per parole sconce o figure controverse, ma non ho mai ricevuto un ban“. -Justin Brown
Il divieto riguarda il fatto che le immagini sono state segnalate solo dopo essere state condivise su un sito terzo. Questo avvalora l’affermazione di Brown secondo cui altri potrebbero produrre immagini simili senza essere individuati da Midjourney.

Che cos’è Midjourney?

Midjourney è un’applicazione mobile che utilizza l’intelligenza artificiale per aiutare le persone a creare opere d’arte in modo semplice e veloce. Con Midjourney gli utenti possono creare gratuitamente tutti i tipi di immagini senza alcuna restrizione. L’applicazione utilizza una serie di algoritmi di intelligenza artificiale, come le reti generative avversarie (GAN), le reti di memoria a breve termine (LSTM) e le reti neurali convoluzionali, per produrre immagini. Gli utenti devono fornire una richiesta, che può essere breve come poche parole o completa come una frase completa che descrive l’immagine desiderata da generare.
“Non ho mai presentato le immagini come reali. Ma so che alcune di quelle immagini sono state prese e condivise fuori contesto da altri; quindi, non sarei sorpreso se ci fossero persone che credono che siano vere… Ma in un certo senso, questo fa parte del progetto. Questo tipo di disinformazione continuerà a verificarsi, la prossima volta ad opera di malintenzionati; quindi, è meglio iniziare ad occuparsene ora“. Inoltre, il New York Times ha recentemente pubblicato un rapporto che evidenzia come le lacune nei regolamenti delle campagne elettorali abbiano facilitato la circolazione di immagini generate dall’intelligenza artificiale da parte dei politici.