Sei davvero sicuro di volerti fare ritrarre da un’intelligenza artificiale?
Lensa AI ha attirato su di sé parecchie critiche, che ne mettono in discussione l'eticità. Sicuro di non volerci pensare due volte prima di farti ritrarre da un'IA?
Sui social spopolano servizi come Lensa, un’intelligenza artificiale che, partendo da alcuni selfie, è in grado di generare decine di ritratti estremamente accattivanti, con colori accesi, oppure con i lineamenti ripuliti e resi simili a quelli di un elfo del Signore degli Anelli.
Lensa si presenta come un servizio completamente innocuo e fondamentalmente divertente. È bello avere un ritratto che ci consente di vederci sotto una luce diversa, coccolando il nostro narcisismo e rassicurandoci con un’immagine sapientemente ripulita da ogni difetto.
Di per sé non ci sarebbe nulla di male, non fosse che servizi di questo tipo hanno attirato su di sé critiche e preoccupazioni che ne mettono in discussione l’eticità. Non manca ad esempio chi si chieda che fine facciano le foto caricate dagli utenti, o chi mette in dubbio la chiarezza e trasparenza dei termini e delle condizioni del servizio. Non bastasse, numerosi artisti sostengono che l’intelligenza artificiale abbia rubato i loro disegni.
Tutti pazzi per Lensa, l’IA che fa i ritratti
A differenza di altre applicazioni o filtri spopolati negli anni scorsi, Lensa è un servizio a pagamento. Pagando 3,99$ l’utente riceve 50 diversi ritratti in stile ‘fantasy’. È necessario caricare dieci diversi selfie e aspettare una ventina di minuti prima di ottenere il risultato.
Lensa costa 3,99$ e genera 50 diversi ritratti fantasy partendo da 10 selfie dell’utente. L’IA impiega circa 20 minuti per realizzare i suoi ritratti
Non è un caso che i servizi offerti da Lensa vi suonino famigliari. Magic Avatar è, infatti, un servizio dell’azienda Prisma Labs, mentre Lensa è disponibile fin dal 2016. All’epoca era già diventata virale offrendo un’intelligenza artificiale (decisamente meno completa) che trasformava i selfie degli utenti in ritratti rinascimentali.
Dal 2016 ad oggi sono cambiate molte cose, e i progressi nel campo della ricerca artificiale generativa hanno fatto passi in avanti spaventosi. Magic Avatars ha conquistato il pubblico per l’incredibile qualità dei suoi risultati: i ritratti sono effettivamente quasi sempre molto belli e realizzati con decine di stili di disegno diversi, uno più affascinante dell’altro.
In cinque giorni Lensa AI è stata scaricata da 4 milioni di utenti, che hanno speso oltre 8 milioni di dollari per farsi ritrarre dall’intelligenza artificiale
Nei primi cinque giorni di dicembre, Lensa è stata scaricata da oltre 4 milioni di persone in tutto il mondo diventato un fenomeno internazionale. Secondo una stima di Sensor Tower, gli utenti nello stesso periodo hanno speso oltre 8 milioni di dollari su Lensa Ai.
Quanto c’è da fidarsi di Lensa AI?
Arriviamo al dunque: caricare le proprie foto su Lensa AI è una buona idea? La risposta dipende dalla vostra prudenza, ma in linea di massima Prisma Labs ha fornito rassicurazioni molto forti sul trattamento dei dati dei suoi utenti.
Lensa deve imparare a riconoscere il volto di ogni immagine caricata dall’utente e per farlo utilizza un modello chiamato Stable Diffusion. Ogni utente viene trattato come un caso a sé: l’applicazione ogni volta deve imparare come ottenere i risultati migliori e più puliti a seconda delle specificità di ciascun volto. Per questo il risultato non è istantaneo ma richiede fino a 20 minuti di attesa.
Andrey Usoltsev, che è l’amministratore delegato e cofondatore di Prisma Labs, alla stampa americana ha spiegato che le foto degli utenti vengono eliminate dai server dell’azienda subito dopo il processo di creazione degli avatar.
Le foto degli utenti vengono eliminate dai server dell’azienda subito dopo il processo di creazione degli avatar.
Una questione a parte riguarda il rispetto delle normative europee in materia di privacy e in particolare sul trattamento dei dati biometrici: i server di Prisma Labs si trovano negli Stati Uniti, che offre una protezione più blanda di quella imposta dal GDPR. L’azienda nelle sue linee guida sostiene che i trasferimenti dei dati dall’Unione Europea agli USA avviene utilizzando delle misure di sicurezza ‘rafforzate’, senza tuttavia entrare nel merito di come funzionino questi maggiori standard di sicurezza.
A prescindere dalle rassicurazioni degli sviluppatori di Lensa AI, bisognerebbe sempre pensarci due volte prima di fornire i propri dati biometrici in giro
In breve: Prisma Labs dice di fare tutto a norma di legge e nel rispetto della privacy dei suoi utenti, ma sta poi all’utente decidere di fidarsi o meno, in assenza di un audit indipendente. Del resto si parla pur sempre di dati biometrici, un tema diventato sempre più attuale e delicato. David Leslie, che è un docente della Queens University di Londra e il direttore della ricerca sull’etica e l’innovazione dell’Alan Turing institute, invita non a caso le persone a fare sempre «la massima attenzione quando si forniscono i propri dati biometrici (come volto e voce ndr) per un qualsiasi scopo», perché la posta in gioco è altissima.
Inoltre, nota bene: Prisma Labs specifica che si limita ad eliminare le foto caricate dagli utenti, insomma, i selfie che l’IA utilizza per creare i ritratti. Ma quest’ultimi, dove la persona è comunque riconoscibile, non vengono eliminati. Al contrario, i termini e le condizioni del servizio esplicitano chiaramente che l’utente sta fornendo all’azienda «una licenza perpetua ed esente da royalty, a livello mondiale, per poter usare, riprodurre, modificare, adattare e trasferire le opere create partendo dai tuoi contenuti». E questo ovviamente senza alcun compenso per l’utente.
Come tutte le IA generative, anche Lensa ‘rubacchia’ i disegni degli artisti
Molti artisti non sono, esattamente, contenti della diffusione di strumenti come Magic Avatar e, più in generale, dell’avvento delle intelligenze artificiali in grado di generare ‘arte’ in autonomia.
Alcuni sono banalmente preoccupati che strumenti come Lensa AI un domani possano essere ancora più sofisticati, mettendo a rischio i posti di lavoro di migliaia di grafici, fumettisti, illustratori e via dicendo.
La seconda critica riguarda il metodo usato dalle intelligenze artificiali per ‘imparare’ a disegnare. Chiariamoci: le intelligenze artificiali non imparano nulla. Non possono farlo, perché non funzionano come la mente umana.
«Le intelligenze artificiali non possono ‘imparare’ a disegnare. Si limitano a rielaborare il lavoro degli altri», dicono gli artisti.
Usando le parole della giornalista del The Guardian Cait Kelly: «la stessa nozione che le intelligenze artificiali possano imparare qualcosa, nel significato attribuito all’apprendimento umano, è un insulto alla vera intelligenza. Le IA non imparano affatto. Possono semplicemente rielaborare quello che è stato inserito nel loro data set. Non possono essere ispirate da una foto o un quadro».
Il punto sono proprio i dataset: archivi con miliardi di immagini e disegni, che vengono elaborati dalle reti neurali senza il consenso degli artisti che le hanno realizzate (e che ovviamente non ricevono un centesimo). Dalla palette dei colori alle texture, passando per lo stile utilizzato per ridefinire i capelli e le pupille degli occhi: è tutto preso, e rielaborato, dal lavoro di artisti in carne ed ossa, che spesso non hanno la minima idea di contribuire a strumenti come Lensa. L’archivio utilizzato per creare Magic Avatar include oltre 5,85 miliardi di disegni diversi, perlopiù pescati a strascico da social network e piattaforme come Pinterest.
Sempre più persone si chiedono se i disegni come quelli generati da Lensa debbano pertanto essere giudicati alla stregua di un’opera di plagio.
«L’intelligenza artificiale genera i ritratti, ma ciascun elemento di quegli avatar è realizzato partendo dal furto del vero lavoro di artisti che hanno impiegato anni della loro vita per perfezionare la loro tecnica», ha detto ad esempio l’artista Lauryn Ipsum.
L’artista Jon Lam ha scoperto casualmente che le sue opere d’arte erano finite, senza il suo consenso, nei dataset utilizzati da decine di reti neurali diversi per ‘apprendere’ come disegnare.
Un altro artista digitale intervistato dal Washington Post, Jon Lam, sostiene che aziende come Prisma Lab oggi si muovano in una zona legale grigia e che è verosimile che intelligenze artificiali come Lensa AI un domani debbano venire regolate in modo da concedere agli artisti le giuste tutele. Come abbiamo visto, IA di questo tipo hanno bisogno di miliardi di lavori di persone in carne ed ossa per essere create ed è davvero difficile immaginare che un’azienda possa ottenere un consenso esplicito (specie senza il pagamento di un compenso) da così tanti artisti.
La stessa Lam ha recentemente utilizzato un sito che aiuta gli artisti a capire se le loro opere d’arte fanno parte (o hanno fatto parte) dei dataset utilizzati per addestrare le reti neurali a funzionare. Con sua grande sorpresa, ha scoperto che moltissime copertine di libri che aveva realizzato erano state inserite in decine di dataset diversi. «È ingiustificabile che una macchina abbia accesso alla mia arte senza il mio consenso e lo è ancora di più che un’azienda faccia dei soldi usando il mio lavoro senza il mio permesso», ha aggiunto.
