L’IA, Star Wars e il disastroso esperimento di Gizmodo: “non ho mai visto un simile livello d’incompetenza”

Un mese fa, G/O Media, che possiede diverse riviste native digitali americane, tra cui alcuni popolari siti di tecnologia come Gizmodo, ha annunciato al pubblico e ai i suoi dipendenti che avrebbe condotto un test per sondare i limiti e le potenzialità dell’IA generativa.

G/O Media controlla Gizmodo, un sito verticale dedicato alla tecnologia (che viene usato molto spesso come fonte da Lega Nerd), oltre che Kotaku, specializzato in videogiochi, Quartz e il satirico The Onion. Sono tutti siti fortemente verticali, come si dice in gergo, nel senso che si occupano di argomenti specifici, senza abbracciare anche la cronaca o la politica.

L’esperimento con le IA e un articolo su Star Wars infarcito di errori e svarioni

Per questo esperimento, l’editore ha scelto di pubblicare alcuni articoli prevalentemente generati da uno strumento simile a ChatGPT all’interno di io9, che è una sezione di Gizmodo dedicata alla fantascienza. Il primo articolo nato da questo esperimento era un approfondimento dedicato a Star Wars, la saga cinematografica creata da George Lucas.

L’iniziativa è andata male, anzi malissimo, come racconta un resoconto uscito sul Washington Post. Il Deputy Editor di Gizmodo, una figura analoga al direttore responsabile dei quotidiani italiani, ha raccontato di essere stato costretto a segnalare e correggere 18 diversi passaggi dell’articolo,  in quanto presentavano tutti “errori, commenti scriteriati e altri elementi problematici”.

Siccome il pezzo è stato scritto e poi immediatamente pubblicato dal bot, senza l’intermediazione di un editor, gli errori sono stati tutti corretti dopo alcune ore dalla sua pubblicazione.

L’articolo che ha fatto scattare così tanti campanelli d’allarme non era un complesso approfondimento sulla guerra in Crimea, ma un pezzo piuttosto banalotto, alla portata di virtualmente qualsiasi collaboratore del sito. A Gizmodo Bot,  come è stato soprannominata l’IA usata dal sito, era stato richiesto di produrre un articolo esaustivo e corretto con una lista in ordine cronologico d’uscita di tutti i film e le serie TV ambientati nell’universo di Star Wars. Non ne è stato in grado.

“Collaborando con i colleghi con cui ho avuto a che fare in tutta la mia carriera, non avevo mai incontrato prima un livello così plateale di incompetenza”, ha raccontato James Whitbrook al WaPo.

L’esperimento è stato accolto con grande diffidenza dallo staff delle testate di G/O Media, che, oltre a segnalare i potenziali danni reputazionali per i siti per cui lavorano, temono anche che l’editore possa scegliere di puntare sulle IA per giustificare il licenziamento di un gran numero di loro, come già fatto da molti altri magazine e testate giornalistiche in America e nel resto del mondo. “Se queste IA non riescono a svolgere correttamente nemmeno un compito così basilare, come mettere i diversi film di Star Wars in ordine d’uscita, allora non penso che possano essere ritenute affidabili per riportare qualsiasi altra informazione”.

Le proteste al limite dell’insubordinazione dei dipendenti di Gizmodo

Commentando le proteste dei dipendenti, Merril Brown, che è il direttore editoriale di G/O Media, ha bollato il malcontento come “ironico”, considerato che Gizmodo è un sito che si occupa di tecnologia. “Siccome G/O Media possiede diversi siti che coprono la tecnologia, ha la responsabilità di fare tutto il possibile per sviluppare iniziative di intelligenza artificiale durante le fasi iniziale dell’evoluzione di questa tecnologia”.

“Queste nuove funzionalità non sostituiranno il lavoro attualmente svolto dai redattori e dagli editori”, ha poi precisato Brown.

In un messaggio condiviso su Slack, una piattaforma che viene usata per le comunicazioni interne da molte redazioni, Brown aveva avvertito i dipendenti che, almeno inizialmente, l’IA avrebbe commesso molti errori e che questi sarebbero stati “corretti nel modo più celere possibile”. Il messaggio è stato fortemente contestato dai dipendenti, che hanno segnalato il loro malcontento usando delle emoji: 16 pollici in giù, 11 cestini della spazzatura, sei facce del pagliaccio e due face palm (la faccina che si mette una mano in faccia per la disperazione) e due cacche. Insomma, pura insubordinazione.

Altri dipendenti, riporta sempre il Washington Post, hanno invece obiettato che il loro ruolo nell’azienda non prevede la mansione di “revisionare e correggere contenuti prodotti da un’IA”. Un altro dipendente ha invece scritto che se l’editore voleva un pezzo con una lista dei film di Star Wars usciti fino ad oggi, “doveva semplicemente chiederlo e nessuno di noi avrebbe avuto problemi a scriverlo”. Mentre qualcun altro ha detto che “l’IA è una soluzione in cerca di problemi“. Insomma, una risposta ad un problema che non esiste.

Il Washington Post ha scritto di aver individuato quattro diversi articoli scritti dal bot usciti sui siti del gruppo, tra cui io9, Deadspin e The Takeout. In almeno un paio di casi la redazione è stata costretta a correggere gli articoli dopo la loro pubblicazione, dato che presentavano un numero elevato di errori.