Un grave errore commesso da Bard è costato a Google 100 miliardi di dollari

Bard, l’IA conversazionale di Google che avrebbe dovuto rispondere alla minaccia posta da ChatGPT, ha fatto il suo debutto con un clamoroso strafalcione, che è costato carissimo all’azienda.

Il colosso di Mountain View ha pubblicato il primo materiale pubblicitario della sua nuova IA basata sul modello linguistico LaMDA. Tantissimi gli esempi che spiegano come l’IA, nell’immediato futuro, potrà semplificarci la vita, dando risposte chiare ed esaustive su qualsiasi tema. Peccato che una delle risposte dimostrative condivise da Google contenesse un clamoroso errore, che non è passato inosservato.

Per la cronaca, non si trattava nemmeno di un’informazione errata fornita da una demo interattiva dell’IA. L’errore era contenuto in una GIF condivisa dall’azienda per dimostrare le capacità di Bard. Sarebbe bastato verificare le informazioni prima di condividerla, magari proprio su Google.

Bard, l’IA di Google inciampa sugli esopianeti

In uno degli esempi condivisi da Google, a Bard veniva chiesto di raccontare dei successi del James Webb Space Telescope da poter condividere con un bambino di nove anni. Insomma, un modo per far intendere all’IA di utilizzare un linguaggio semplice e concentrarsi su curiosità che possano catturare l’interesse di un giovanissimo.

Nell’esempio, Bard racconta che il James Webb Space Telescope ha anche scattato la prima foto della storia di un esopianeta, cioè un pianeta che si trova all’esterno del nostro sistema solare. Peccato che l’informazione sia incorretta. Nessuno mette in dubbio che il JWST sia una risorsa preziosissima nella ricerca dei pianeti e dei corpi celesti distanti milioni di anni luce dalla Terra, ma il punto è un altro: la prima foto di un esopianeta è stata realizzata nel 2004, cioè quasi 17 anni prima che il telescopio entrasse in funzione.

Questa risposta imprecisa non è passata inosservata alla comunità di studiosi e appassionati dello Spazio, che su Twitter hanno prontamente segnalato l’errore, mettendo in imbarazzo Google.

Come mai non avete sottoposto questa scheda ad un rapido fact checking, prima di condividerla? Se aveste usto Google per verificare queste informazioni, vi sareste accorti che Bard ha commesso degli errori. Provate a googlare “Quando è stato realizzato il primo scatto di un esoplaneta?”

si legge in un tweet pubblicato da Chris Harrison, astronomo della Newcastle University.

Non per essere un completo stron** – beh, a dire il vero -, ma per la cronaca: il JWST non ha ottenuto la prima immagine di un pianeta esterno al nostro sistema solare. La prima immagine è stata realizzata nel 2004 usando il VLT/NACO

gli ha poi fatto eco Grant Tremblay, importante studioso a servizio ad Harvard e allo Smithsonian.

Sono seguiti a ruota i commenti, tra l’imbarazzato e il divertito, di diversi altri astronomi, anche se non è mancato chi ha detto di aver apprezzato la scelta di inserire un esempio a tema Spazio nel materiale promozionale di Bard, per quanto sia stata un boomerang per Google.

La figuraccia è costata a Google il 7% in Borsa

Domanda: ma se Google non è nemmeno in grado di assicurare la veridicità delle informazioni condivise dal bot in questa fase, cioè quando l’IA non è ancora a disposizione del pubblico ed è la stessa azienda a selezionare quali risposte mostrarci e quale invece tenersi per sé, quali garanzie abbiamo che sia in grado di farlo un domani, quando questa tecnologia verrà messa a disposizione di milioni di persone in tutto il mondo, senza alcun filtro?

Il timore è che il chatbot di Google diventi un micidiale strumento (inconsapevole) per diffondere disinformazione. E pace (fino ad un certo punto) quando si tratta di una notizia inesatta sull’astronomia, ma cosa succederà quando a Bard verrà chiesto di parlare di medicina, di vaccini o di riscaldamento globale? Insomma, tutti temi delicatissimi e al centro dell’agenda delle istituzioni di tutto il mondo, sempre più impazienti nei confronti degli scivoloni dei colossi del tech.

Peraltro, è Google a giocare in difesa in questo caso. È il colosso di Mountain View a dover dimostrare ai suoi investitori di essere perfettamente in grado di difendere il suo motore di ricerca dall’avanzata di strumenti come ChatGPT di Open AI.

Così succede che la notizia di questo strafalcione, da sola, abbia fatto perdere rapidamente a Google quasi 100 miliardi di dollari. In poche ore le azioni del colosso hanno perso il 7%. Per evitare questo disastro sarebbe bastato fare più attenzione alle informazioni contenute nel materiale pubblicitario condiviso nella giornata di ieri. Insomma, ironia della sorte, sarebbe bastata una ricerca su Google.