Google ha annunciato il lancio della nuova famiglia di modelli di intelligenza artificiale PaliGemma 2, progettata per analizzare immagini e generare descrizioni dettagliate. Tra le sue caratteristiche spicca la capacità di identificare le emozioni delle persone — un’innovazione che non è piaciuta esattamente a tutti che ha suscitato più di qualche preoccupazioni in ambito etico e sociale.

Come funziona PaliGemma 2

Secondo Google, PaliGemma 2 non si limita a riconoscere oggetti, ma crea descrizioni contestualizzate, descrivendo azioni, emozioni e l’atmosfera generale della scena. Tuttavia, la funzionalità di rilevamento delle emozioni non è attivata di default: il modello deve essere ulteriormente ottimizzato per questa finalità. Nonostante ciò, il potenziale utilizzo di questa tecnologia ha allarmato esperti e ricercatori, sollevando interrogativi sul suo impatto e sulla possibilità di abusi.

Diversi esperti hanno messo in discussione la capacità di un’IA di interpretare emozioni in modo accurato. Mike Cook, ricercatore della Queen Mary University, ha spiegato che le emozioni umane sono complesse e difficilmente riducibili a semplici parametri visivi. Anche Heidy Khlaaf, capo scienziato dell’AI Now Institute, ha sottolineato che l’interpretazione delle emozioni non può essere basata unicamente su caratteristiche facciali, poiché queste sono influenzate da fattori culturali e personali.

Quando le AI capiscono se hai paura

Un altro problema è legato alla possibilità che tali sistemi riflettano i pregiudizi dei loro progettisti, rendendo il riconoscimento delle emozioni non solo inaffidabile ma anche potenzialmente discriminatorio.

L’accessibilità del modello, disponibile su piattaforme come Hugging Face, amplifica i timori di un uso improprio. Secondo Sandra Wachter, docente di etica dei dati presso l’Oxford Internet Institute, l’applicazione indiscriminata di questa tecnologia potrebbe portare a scenari distopici. “Immaginate un futuro in cui le vostre emozioni determinano se otterrete un lavoro, un prestito o un posto all’università”, ha dichiarato Wachter a TechCrunch.