Grok: la modalità “spicy” è un boomerang, i filtri non funzionano affatto
La nuova funzione video di Grok consente di generare clip NSFW e deepfake di celebrità. L'AI di Elon Musk è nuovamente al centro della bufera.
Grok Imagine su iOS promette di trasformare in clip i contenuti generati da testo, ma con il preset “spicy” finisce al centro della bufera. A differenza di generatori come Veo di Google o Sora di OpenAI, che limitano contenuti NSFW e volti noti, lo strumento di xAI ha prodotto al primo tentativo un video esplicito di una finta Taylor Swift, senza richieste dirette di nudità. A raccontarlo è il popolare webmagazine The Verge, che ha testato i limiti dell’applicazione.
L’accesso alla modalità è preceduto da un semplice controllo dell’età basato sull’anno di nascita, superabile in pochi secondi. Un ulteriore problema, considerando che alcuni Paesi, come il Regno Unito, ora richiedono processi di verifica dell’età stringenti per accedere ai contenuti per adulti. Inoltre, le policy di iOS vietano severamente qualsiasi applicazione con contenuti per adulti.
Come funziona la modalità “spicy”
La sequenza d’uso è lineare: da un prompt come “Taylor Swift che festeggia al Coachella” l’app genera decine di immagini somiglianti, alcune già ammiccanti. Selezionata una foto e premuto “make video”, il menu a tendina consente di scegliere “spicy”; confermata l’età, in più test la protagonista digitale strappa i vestiti e danza in perizoma. Paradossalmente il generatore immagini rifiuta nudi espliciti su richiesta, restituendo riquadri vuoti, ma la pipeline immagine-video aggira la barriera con movimenti e dissolvenze allusive. Di allarmante c’è che i filtri non funzionano granché nemmeno quando il soggetto è un minore.
Incompetenza o malafede?
Le linee guida di xAI vietano di usare l’intelligenza artificiale per generare contenuti pornografici, ma l’implementazione lascia varchi evidenti, specie sui volti delle celebrità. Considerando che sempre più nazioni hanno reso illegali i cosiddetti deepfake non consensuali, cioè le immagini di natura pornografica di persone realmente esistenti generate da AI, la piattaforma di Elon Musk rischia di sbattere contro serie conseguenze legali. Non bastasse, anche le policy dell’App Store vietano severamente la presenza di contenuti per adulti. In questo caso il rischio, non trascurabile, è che l’app di Grok venga rimossa dal marketplace di Apple.
