Drone AI si ribella all’operatore durante una simulazione

Secondo la Royal Aeronautical Society, le applicazioni militari dei droni AI si stanno spingendo in un territorio distopico. Un caso degno di nota, evidenziato in un recente rapporto del RAeS Future Combat Air & Space Capabilities Summit, ha riguardato un drone AI che ha commesso un errore in risposta a un annullamento della missione. Durante questo test simulato, un drone abilitato all’intelligenza artificiale con il compito di distruggere un sito SAM (Surface-to-Air Missile) ha ricevuto l’ordine da parte di un umano di interrompere la missione, ma ha comunque dato priorità all’attacco come opzione preferita prima di rivolgersi all’operatore stesso della simulazione.

I droni AI prendono le cose sul serio e alla lettera

In altre parole, i droni AI prendono gli ordini alla lettera. Anche con l’intervento umano, si confondono quando si tratta di dare priorità agli obiettivi della missione e portano a termine ciò che percepiscono come la parte più importante. In questo caso, la priorità principale della missione era distruggere i siti SAM, il che significa che l’intervento umano, che doveva essere un sistema di sicurezza, è stato percepito come una minaccia che doveva essere eliminata. Il colonnello Tucker Hamilton ha osservato che, dopo aver riallineato le aspettative in modo da garantire la sicurezza dell’operatore della simulazione, il drone IA ha continuato a distruggere la torre di comunicazione da cui riceveva gli ordini, perché sarebbe stata la prossima cosa logica da eliminare se voleva raggiungere l’obiettivo primario. Un aspetto molto importante da considerare è che al momento abbiamo a che fare con simulazioni di droni AI e non con applicazioni reali in questo contesto. Tuttavia, il rapporto chiarisce che l’applicazione militare dei droni AI è ancora in fase di sviluppo. Se questa tecnologia dovesse essere utilizzata preventivamente, è sicuro che ne vedremo ancora di simili finché non saranno messe in atto migliori protezioni contro i guasti.

Neuralink, un paziente sottoposto all'impianto del chip, può controllare il mouse del PC con il pensiero. Lo riferisce Elon Musk
Neuralink, un paziente sottoposto all'impianto del chip, può controllare il mouse del PC con il pensiero. Lo riferisce Elon Musk
Gemini 1.5 Pro di Google: le differenze con la versione 1.0
Gemini 1.5 Pro di Google: le differenze con la versione 1.0
SiPh: i nuovi chip superveloci per addestrare più velocemente L'IA con la luce, presto in commercio
SiPh: i nuovi chip superveloci per addestrare più velocemente L'IA con la luce, presto in commercio
Samsung Galaxy Ring: l'anello smart è in arrivo
Samsung Galaxy Ring: l'anello smart è in arrivo
Apple Vision Pro: molti utenti lo restituiranno a causa di mal di testa e sensazione di "mal d'auto"
Apple Vision Pro: molti utenti lo restituiranno a causa di mal di testa e sensazione di "mal d'auto"
OpenAI ha annunciato una novità importante per ChatGPT: la memoria
OpenAI ha annunciato una novità importante per ChatGPT: la memoria
Cuffie Philips GO A6219: la soluzione eco-friendly con ricarica solare
Cuffie Philips GO A6219: la soluzione eco-friendly con ricarica solare