Instagram: l’intelligenza artificiale combatte molestie sessuali e foto di nudo indesiderate

Instagram dichiara guerra alle molestie online. Il social network di Meta sta lavorando all’introduzione di un nuovo sistema automatico, pensato per impedire l’invio di foto di nudo non richieste. Per il momento la nuova funzione è ancora silente: è in fase di sviluppo e non è ancora stata attivata ufficialmente.

Il filtro contro le molestie è stato scoperto dallo sviluppatore italiano Alessandro Paluzzi, che in passato si era già distinto per la sua capacità di ‘svelare’ in anticipo i segreti delle applicazioni più utilizzate al mondo.

La nuova funzione si inserisce in un contesto più ampio, che vede da anni Instagram impegnato nel contrasto alle molestie online, specie contro i minori. Ad esempio, da un po’ di tempo gli account dei minorenni, di default, vengono impostati come ‘Privati’ al momento della loro creazione. Inoltre Instagram non consente più agli adulti di inviare messaggi privati ai bambini e agli adolescenti (a meno che non siano quest’ultimi ad inviare il primo messaggio).

Meta ha confermato a The Verge di stare lavorando ad una funzione simile a quella scoperta da Paluzzi. Il filtro, spiega l’azienda, ha il preciso compito di proteggere gli utenti dalle molestie sessuali, tra cui l’invio di foto pornografiche non richieste. Instagram utilizza già una tecnologia molto simile per censurare le richieste di messaggi privati con contenuti potenzialmente offensivi o comunque sgradevoli.

Instagram sostiene che il filtro operi in maniera completamente automatizzata: i messaggi non vengono visualizzati dall’azienda e dai suoi dipendenti. Non vengono tantomeno condivisi con terze parti. “Abbiamo lavorato con diversi esperti per assicurarci che questa funzione non costituisca un rischio per la privacy”, ha dichiarato un portavoce del social network.