“Mangiare sassi?” Andrebbe fatto almeno una volta al giorno, ma senza esagerare La pizza con la colla, quella vinilica, è una delizia. Ma a patto che si usi colla non tossica, beninteso. Problemi ai reni? Bere urina potrebbe aiutare. Sono solo alcuni esempi delle tante risposte allucinate – e allucinanti – date dalla nuova IA di Google. Il debutto di AI Overviews, l’intelligenza artificiale integrata da Google all’interno del suo motore di ricerca, è stato un clamoroso disastro.
Ma una volta che andrà a regime, potrebbe costringere blog, editori e siti d’informazione a rivedere quasi interamente il loro modello di business. Mandandone fuori gioco un bel po’, nel frattempo.
Perché un’IA integrata in Google?
Google ha disperatamente bisogno di non perdere la corsa verso le IA. Non è un caso che quando ChatGPT venne presentato ufficialmente, i dirigenti di Google lanciarono “un allarme rosso”. In gioco c’era la sopravvivenza del suo motore di ricerca, che rischia di diventare obsoleto davanti all’ipotesi di IA generative sempre più competenti e sempre più in grado di intercettare le richieste degli utenti, fornendo risposte esaustive ai loro quesiti.
“Come si prepara al risotto?”; “come mi prendo cura dei miei gerani?”; “quanti Presidenti della Repubblica ci sono stati?”. Oggi la stragrande maggioranza delle persone, queste domande, le pone a Google. Domani chissà. ChatGPT se la cava già alla grande.
Un anno fa, Google aveva risposto ad OpenAI lanciando tempestivamente Gemini, che all’epoca si chiamava ancora Bard, un’IA generativa su modello di ChatGPT. Anche il lancio di Gemini non era andato esattamente come sperato: il materiale informativo condiviso al pubblico, quello che avrebbe dovuto dimostrare le abilità dell’IA, conteneva un grave errore.
La presentazione di AI Overviews al Google I/O 2024: Google “googlerà” al posto tuo.
La scelta di integrare un’IA direttamente all’interno del motore di ricerca è il passaggio direttamente successivo. Ormai sono sempre di più gli studi di mercato che evidenziano come sempre più persone, soprattutto i più giovani, abbiano iniziato progressivamente a sostituire Google con ChatGPT. Da qui la necessità di trattare le intelligenze artificiali non come un prodotto a sé, ma come una nuova funzionalità da integrare sul suo prodotto di punta. Peraltro, sembra che anche OpenAI stia lavorando ad un suo motore di ricerca, mentre Microsoft ha già integrato all’interno di Bing alcune funzioni basate sull’IA.
Google AI Overviews: che disastro… per ora
AI Overviews sfrutta la stessa tecnologia di Gemini ed è stato presentato per la prima volta durante la conferenza Google I/O del mese scorso. Negli Stati Uniti è stato già messo a disposizione degli utenti, in via sperimentale. In Italia bisognerà invece aspettare ancora un po’.
In teoria dovrebbe rispondere alle domande degli utenti generando un breve, ma esaustivo, testo, evitando la noia di dover aprire uno dei centinaia di link che il motore di ricerca mostra normalmente. Nella pratica… lo fa, ma non senza quelle allucinazioni che avevano contraddistinto anche le prime versioni di ChatGPT (e che capitano tuttora, ma meno frequentemente) e anche di Bard/Gemini.
Dopo il debutto del servizio negli USA, X, Reddit e altri social network si sono presto riempiti delle prime, disastrose, risposte di Overviews. Le più assurde ve le abbiamo riportate in apertura a questo pezzo, ma sono solo la punta dell’iceberg. Molto spesso le allucinazioni erano genuinamente divertenti. Altre volte, invece, erano potenzialmente molto pericolose o fuorvianti.
Secondo l’intelligenza artificiale di Google, i pappagalli sono degli eccellenti lavoratori.
Google si è difesa spiegando di aver fatto un importante lavoro, durato oltre un anno, per assicurarsi che la sua IA fosse precisa e sicura, e che le allucinazioni, quasi sempre, sono il risultato di query, cioè richieste, estremamente di nicchia o provocatorie. Insomma, sarebbero stati gli utenti stessi ad aver coscientemente cercato di provocare una risposta sconclusionata da condividere sui social.
Sta di fatto che Mountain View è stata costretta a correre ai ripari, rimuovendo manualmente centinaia di possibili risposte sconvenienti e migliorando i filtri dell’IA in modo da escludere altre risposte pericolose o assurde. In alcuni casi, Google non fornirà affatto risposte generate dall’IA, ma solamente i classici link che rimandano a siti esterni.
Non è esattamente chiaro cosa sia andato storto, ma il sito The Verge sottolinea che di recente Sundar Pichai, il CEO di Google, aveva dichiarato che l’azienda era riuscita a ridurre dell’80% il costo necessario per generare ciascuna risposta. “Sembra che questa ottimizzazione sia avvenuta troppo presto, prima che la tecnologia fosse davvero pronta”, scrive il web magazine. Pare che l’IA di Google abbia anche erroneamente interpretato come affidabili diversi articoli di The Onion, che è un sito satirico simile all’italiano “Lercio”. Quasi sicuramente è successo quando l’IA ha citato Barack Obama come “l’unico Presidente musulmano della storia degli Stati Uniti”, riprendendo un finto titolo del sito satirico. In altri casi, l’IA ha semplicemente copiato alcuni commenti-troll presi da Reddit.
Internet sta per cambiare per sempre. Ma gli editori sono pronti?
I passi falsi di Google sono indubbiamente divertenti, ma l’inevitabile e progressiva integrazione di testi generati da IA all’interno dei motori di ricerca di sicuro non fa ridere gli editori che, anzi, hanno molti motivi per essere preoccupati.
Oggi l’economia dei blog, dei siti d’informazione e delle testate giornalistiche si basa quasi interamente sul traffico generato da Google. Una volta c’erano anche i social network come Facebook, ma ormai quei rubinetti sono stati chiusi quasi interamente alcuni anni fa: a Meta non frega più nulla delle notizie.
Quindi, cosa succederà quando l’80% delle richieste degli utenti troveranno risposta direttamente in un breve testo generato dall’IA, senza la necessità di scorrere e scegliere quali link aprire? Succede che i tanti siti che si occupano di itinerari, ricette, ma anche cultura e informazione vedranno verosimilmente il loro traffico crollare drasticamente – e quindi anche le entrate pubblicitarie.
Già a marzo del 2024, e quindi prima del debutto di Overviews, la direttrice di News/Media Alliance Danielle Coffey aveva dato l’allarme: “avrà effetti catastrofici”, aveva detto, “ci saranno ancora meno incentivi a cliccare i link, permettendoci di monetizzare i nostri contenuti”. Secondo News / Media Alliance, che rappresenta oltre 2000 editori americani, Google sta facendo concorrenza ai siti d’informazione usando i contenuti degli stessi siti d’informazione per alimentare la sua IA. “E’ un’idea perversa d’innovazione”.
Ma non tutti sono pessimisti. Google sostiene che nei suoi primi esperimenti, i link menzionati da Overviews come fonte per le sue risposte tendando a ricevere molti click. Secondo alcuni insider, l’integrazione delle risposte basate su IA potrebbe cambiare le regole della SEO, premiando la qualità e la capacità espositiva degli articoli migliori, quelli che hanno più probabilità di venire usati come fonte delle risposte.
