Nel tentativo di contribuire al contrasto alla disinformazione facilitata dalle IA, Google ha lanciato un nuovo strumento sperimentale progettato per inserire un watermark invisibile su tutte le immagini generate da IA.
È un prodotto di Deepmind, storica divisione di Alphabet specializzata in intelligenze artificiali. La nuova tecnologia si chiama SynthID ed è in grado di identificare le immagini create dalle IA generative. Funziona modificando i dettagli di alcuni singoli pixel dell’immagine, in modo da lasciare una traccia che è invisibile all’occhio umano ma può essere facilmente riconoscibile da un software.
Ad ogni modo, DeepMind mette le mani in avanti e specifica che questo espediente potrebbe non funzionare in tutti i casi e che un lavoro approfondito di manipolazione dell’immagine potrebbe aggirare il suo filtro.
Le IA generative sono esplose all’inizio dell’anno. Sebbene la parte del leone sia stata fatta dalle IA in grado di scrivere articoli complessi, anche le IA in grado di generare immagini e video stanno ottenendo una popolarità sempre più forte. Uno degli strumenti più usati in assoluto è Midjourney, che è un prodotto di OpenAI, la stessa società dietro a ChatGPT.
Google ha una sua IA generativa che si chiama Imagen. Il sistema che ‘marchia’ le immagini con un watermark invisibile inizialmente verrà usato esclusivamente su questa piattaforma ma, in futuro, l’azienda potrebbe offrire la sua tecnologia anche ad altre piattaforme concorrenti.
