Le intelligenze artificiali hanno dimostrato a oggi diversi problemi relativi ai dati con cui vengono addestrate, tuttavia non sono ancora emersi rischi concreti sul piano tecnico. Nonostante ciò, gli accademici stanno iniziando a preoccuparsi di tutti gli angoli ciechi che si stanno progressivamente sviluppando in una dinamica di mercato che spinge per l’efficienza ben più di quanto si preoccupi della sicurezza.

Ecco dunque che l’Università del Maryland ha sviluppato DeepSloth, una tecnica di attacco che permette di rallentare in maniera considerevole i network neurali adattivi. In pratica blocca le possibilità della macchina di giungere a conclusioni immediate e la forza ad un calcolo profondo che le porta via tempo, risorse e potere computazionale.

In questo caso, a patirne sarebbero soprattutto le aziende, le quali si troverebbero per le mani degli strumenti lenti, sovraccarichi e dannatamente dispendiosi per quanto concerne i consumi di energia elettrica. DeepSloth è ovviamente un prodotto puramente accademico e non è detto che esistano già oggi hacker interessati a sfruttare effettivamente dinamiche simili, tuttavia il potenziale non può essere ignorato.

La situazione è resa ancora più complessa dal fatto che anche nel ramo del machine learning i ricercatori abbiano la tendenza a spararle grosse pur di farsi pubblicare, ovvero di proporre progetti e idee che raramente possono essere replicati o realizzati nel mondo reale mantenendo tutte le qualità presentate nella documentazione scientifica. Una tendenza che immancabilmente inquina il confronto.

Se buttiamo un occhio sulle ricerche che propongono le architetture early-exit, possiamo notare che non vi sia alcuno sforzo nel cercare di comprendere i rischi alla sicurezza nonostante gli autori dichiarino che le loro soluzioni siano di valore pratico. Se un’industria dovesse incappare in queste ricerche e implementarne le soluzioni, non sarebbe avvisata del cosa potrebbe andare storto,

ha dichiarato Yigitan Kaya, dottorando dell’Università del Maryland che si è occupato di DeepSloth.

 

Potrebbe anche interessarti: