Intelligenze artificiali: nessuno conosce i veri rischi della loro commercializzazione

2 mesi fa

Le intelligenze artificiali hanno dimostrato a oggi diversi problemi relativi ai dati con cui vengono addestrate, tuttavia non sono ancora emersi rischi concreti sul piano tecnico. Nonostante ciò, gli accademici stanno iniziando a preoccuparsi di tutti gli angoli ciechi che si stanno progressivamente sviluppando in una dinamica di mercato che spinge per l’efficienza ben più di quanto si preoccupi della sicurezza.

Ecco dunque che l’Università del Maryland ha sviluppato DeepSloth, una tecnica di attacco che permette di rallentare in maniera considerevole i network neurali adattivi. In pratica blocca le possibilità della macchina di giungere a conclusioni immediate e la forza ad un calcolo profondo che le porta via tempo, risorse e potere computazionale.

In questo caso, a patirne sarebbero soprattutto le aziende, le quali si troverebbero per le mani degli strumenti lenti, sovraccarichi e dannatamente dispendiosi per quanto concerne i consumi di energia elettrica. DeepSloth è ovviamente un prodotto puramente accademico e non è detto che esistano già oggi hacker interessati a sfruttare effettivamente dinamiche simili, tuttavia il potenziale non può essere ignorato.

La situazione è resa ancora più complessa dal fatto che anche nel ramo del machine learning i ricercatori abbiano la tendenza a spararle grosse pur di farsi pubblicare, ovvero di proporre progetti e idee che raramente possono essere replicati o realizzati nel mondo reale mantenendo tutte le qualità presentate nella documentazione scientifica. Una tendenza che immancabilmente inquina il confronto.

Se buttiamo un occhio sulle ricerche che propongono le architetture early-exit, possiamo notare che non vi sia alcuno sforzo nel cercare di comprendere i rischi alla sicurezza nonostante gli autori dichiarino che le loro soluzioni siano di valore pratico. Se un’industria dovesse incappare in queste ricerche e implementarne le soluzioni, non sarebbe avvisata del cosa potrebbe andare storto,

ha dichiarato Yigitan Kaya, dottorando dell’Università del Maryland che si è occupato di DeepSloth.

 

Potrebbe anche interessarti:

 

 

L'intelligenza artificiale in grado di trovare i relitti sommersi nel mare
L'intelligenza artificiale in grado di trovare i relitti sommersi nel mare
Sorveglianza, a Parigi in media una telecamera ogni chilometro quadrato: più che nelle metropoli USA
Sorveglianza, a Parigi in media una telecamera ogni chilometro quadrato: più che nelle metropoli USA
Google usa le intelligenze artificiali per progettare intelligenze artificiali
Google usa le intelligenze artificiali per progettare intelligenze artificiali
L'automazione sul lavoro ferisce soprattutto le donne
L'automazione sul lavoro ferisce soprattutto le donne
Grimes spiega che il futuro utopico è comunista e guidato dalle IA
Grimes spiega che il futuro utopico è comunista e guidato dalle IA
Un'Intelligenza artificiale a Pisa può diagnosticare le malattie neurodegenerative
Un'Intelligenza artificiale a Pisa può diagnosticare le malattie neurodegenerative
Intelligenza artificiale: il robot Ai-Da viene accolto nel museo del design di Londra
Intelligenza artificiale: il robot Ai-Da viene accolto nel museo del design di Londra