ChatGPT, gli abusi sui minori cominciano ad essere un problema per OpenAI
Nel 2025 OpenAI ha inviato 80 volte più segnalazioni su abusi sui minori rispetto al 2024. L'azienda ha spiegato a cosa è dovuto questo improvviso aumento.
Nel primo semestre del 2025 OpenAI ha inviato alla CyberTipline un numero di segnalazioni per sfruttamento sessuale dei minori ottanta volte superiore rispetto allo stesso periodo dell’anno precedente.
Perché sono aumentati i casi
Secondo OpenAI, l’impennata dei report non va interpretata come una crescita proporzionale dei contenuti illegali presenti sui suoi servizi. L’azienda attribuisce il fenomeno a una serie di cambiamenti introdotti tra la fine del 2024 e l’inizio del 2025, a partire da investimenti significativi nei sistemi di rilevamento e moderazione.
Un altro fattore chiave è l’ampliamento delle funzionalità, che oggi consentono il caricamento di immagini e file, aumentando la quantità e la varietà dei contenuti analizzati. A questo si aggiunge la forte espansione della base utenti, con ChatGPT che nell’arco di un anno ha quadruplicato il numero di utenti attivi settimanali. Nei primi sei mesi del 2025 sono state inviate oltre 75.000 segnalazioni, contro meno di mille nello stesso periodo del 2024, con un rapporto quasi uno a uno tra report e contenuti segnalati. Ogni caso viene esaminato e successivamente inoltrato alle autorità competenti, come previsto dalla legge statunitense.
Nuove misure di protezione
L’aumento dei numeri si inserisce in un contesto di crescente pressione politica e regolatoria sul settore dell’AI. Negli Stati Uniti, procuratori generali e autorità federali hanno intensificato i controlli sui chatbot e sulle piattaforme conversazionali, soprattutto per quanto riguarda i rischi per i minori.
Negli ultimi mesi anche il Congresso e le agenzie di tutela dei consumatori hanno sugli effetti di questi strumenti. In risposta, OpenAI ha accelerato l’introduzione di nuove misure di sicurezza. A settembre l’azienda ha introdotto diverse nuove funzionalità per ChatGPT, tra cui i controlli parentali, nell’ambito di un impegno volto a fornire alle famiglie strumenti utili per accompagnare gli adolescenti nell’uso dell’intelligenza artificiale. Genitori e figli possono collegare i rispettivi account e i genitori hanno la possibilità di modificare le impostazioni dei ragazzi, ad esempio disattivando la modalità vocale e la memoria, rimuovendo la capacità di ChatGPT di generare immagini e scegliendo di escludere il minore dall’addestramento dei modelli.
