Ilya Sutskever, co-fondatore ed ex capo scienziato di OpenAI, ha annunciato la creazione di una nuova azienda di intelligenza artificiale focalizzata sulla sicurezza, chiamata Safe Superintelligence Inc. (SSI). La startup, co-fondata con Daniel Gross e Daniel Levy, mira a sviluppare un sistema di intelligenza artificiale sicuro e potente, ponendo la sicurezza al centro del suo modello di business per evitare pressioni commerciali a breve termine.
“Sto avviando una nuova azienda”, si legge in un breve tweet postato da Ilya Sutskever. Mercoledì SSI ha condiviso un comunicato annunciando che l’azienda si propone “un unico obiettivo e un unico prodotto”: creare un’IA estremamente potente e sicura.
Le pressioni degli azionisti sono nemiche della sicurezza?
Il fatto che Sutskever ritenga necessario creare da zero una nuova azienda con un focus sulla sicurezza è di per sé rivelatorio. Ma non fosse già di per sé esplicito, SSI punta anche il dito contro i grandi colossi delle intelligenze artificiali come Meta, Google e la stessa OpenAI. “Vogliamo che i nostri ingegneri lavorino al sicuro dalle insistenti pressioni del management“, si legge nel comunicato che annuncia la nascita dell’azienda.
Insomma, le grandi del tech metterebbero l’accento sui risultati commerciali, aprendo le porte a potenziali pericoli per gli utenti e per la sicurezza nazionale, mentre SSI si prefigge di fare diversamente: “il nostro business model – continua il comunicato – fa sì che l’implementazione di misure di sicurezza e i progressi della tecnologia siano completamente isolati dalle pressioni di ottenere risultati economici nel breve termine”.
La fuga dei dirigenti di OpenAI
Sutskever non è solo in questa nuova avventura. Con lui ci sono anche Daniel Gross e Daniel Levy, rispettivamente ex dirigente della divisione IA di Apple e manager della divisione ingegneristica di OpenAI.
Nel 2023, OpenAI aveva brevemente silurato il suo fondatore Sam Altman, salvo riassumerlo poco dopo a causa delle forti proteste degli investitori e di numerosi dipendenti. Secondo The Verge, sarebbe stato proprio Ilya Sutskever a guidare il coup d’état. Alla fine, tra Altman e Sutskever, è stato quest’ultimo a dover fare le valige, ma non senza portarsi dietro alcuni pezzi da 90 della compagnia, tra cui Jan Leike (ricercatore specializzato in IA) e Gretchen Krueger (specializzata in policy). Anche loro, annunciando le dimissioni, avevano puntato il dito contro OpenAI, accusandola di anteporre l’esigenza di creare “un prodotto scintillante” alla sicurezza della società.
