Nasce Mozilla.ai, la non-profit che si occupa di intelligenze artificiali etiche e affidabili

ChatGPT è stato usato per creare malware, Stable Diffusion per generare deepfake. "Le aziende non fanno abbastanza per controllare le loro IA, interveniamo noi".

di Umberto Stentella 23—Mar—2023 / 12:12 PM

Alla vigilia del suo 25º anniversario, Mozilla, l’organizzazione non profit dietro il browser Firefox, sta lanciando una startup focalizzata sull’AI.

Chiamata Mozilla.ai, la nuova azienda non ha la semplice missione di costruire un “qualsiasi tipo” di IA. Al contrario, Mozilla vuole costruire un’IA open source, affidabile e con tutti i meccanismi necessari per rimanere in un ambito d’uso etico.

Così Mark Surman, il presidente esecutivo di Mozilla e responsabile di Mozilla.ai:

Lavoro ad un’AI affidabile da quasi cinque anni e ho costantemente sperimentato un misto di eccitazione e ansia per le potenzialità di queste tecnologie. Sta emergendo una tecnologia davvero interessante – nuovi strumenti che hanno immediatamente stimolato artisti, imprenditori…tutti i tipi di persone a fare cose nuove. L’ansia arriva quando ti rendi conto che quasi nessuna di queste applicazioni ha dei solidi guard-rails pensati per impedire derive pericolose

È evidente a cosa si riferica Surman. Il sito Tech Crunch ricorda, ad esempio, che alla sua uscita ChatGPT di OpenAI è stato utilizzato per scrivere malware, identificare exploit nel codice open source e creare siti di phishing che assomigliavano a siti molto visitati. Modelli come Stable Diffusion, invece, sono stati usati per per creare deepfake pornografici e violenti.

Gli autori di questi modelli affermano di adottare misure per frenare gli abusi, ma Mozilla ritiene i loro sforzi non adeguati, o comunque non sufficienti. Da qui l’intenzione di scendere in campo per creare alternative etiche affidabili e supervisionare, in generale, la direzione intrapresa dal settore delle IA generative.

Speravamo – continua il N.1 di Mozilla – che altri attori dell’industria con maggiore esperienza nell’AI si impegnassero a costruire una tecnologia più affidabile. Non lo hanno fatto. Quindi abbiamo deciso a metà dell’anno scorso che dovevamo farlo noi stessi