Robot con licenza d’uccidere: il passo indietro di San Francisco non ci rassicura per niente

È notizia di un paio di settimane fa che la polizia di San Francisco ha deciso di dotarsi di una piccola pattuglia di quelli che in gergo si chiamano robot killer. Robot dotati di armi letali, che le forze dell’ordine avrebbero voluto impiegare per operazioni ad alto rischio: dalla liberazione degli ostaggi alla lotta contro il terrorismo e le stragi nelle scuole.

Il progetto era già stato approvato dall’amministrazione di San Francisco, che era così diventata la prima città statunitense a regolamentare e prevedere l’impiego di robot ‘con licenza d’uccidere’. Attenzione, perché non si è mai parlato di robot in grado di prendere in autonomia la decisione di premere il grilletto, ma di sistemi comandati a distanza e dunque controllati da poliziotti – si immagina – in grado di comprendere quando è il caso di intervenire con l’uso della forza. Nessun algoritmo avrebbe deciso quale vita terminare e quale risparmiare. Insomma, quello previso dal nuovo regolamento era un espediente per ridurre al minimo le morti tra le file della polizia in tutti gli scenari ad altissimo rischio.

Ma poco importa, perché la proposta ha comunque sollevato un’alzata di scudi da parte delle non-profit e degli attivisti, preoccupati per i tanti risvolti inquietanti che l’utilizzo di robot letali avrebbe introdotto.

Ad esempio una consigliera comunale aveva contestato l’idea che i robot – come promesso – sarebbero stati impiegati esclusivamente in situazioni eccezionali. «Forse all’inizio sarà così e il loro impiego sarà estremamente occasionale», aveva detto la consigliera progressista Hillary Ronen. «Ma con il tempo le persone ci faranno l’abitudine, diventeranno desensibilizzate al concetto di robot armati e verranno usati sempre più frequentemente anche per operazioni di pattuglia».

Sempre partendo da questo assunto, cioè dall’idea che il loro utilizzo sarebbe diventato la norma anche in scenari di moderato pericolo, l’avvocato Brian Cox aveva scritto che il dipartimento di polizia di San Francisco ha una «lunga storia di uso eccessivo e sproporzionato della forza» specie contro le minoranze e le persone di colore. Il coro di voci preoccupate per la scelta di usare robot dotati di armi letali si è fatto nel tempo sempre più gremito: tra gli altri, si sono espressi contrariamente anche l’American civil liberties union, la Electronic frontier foundation e il Lawyers committee for civil rights.

Altre critiche riguardando un tema discusso da diversi anni – ma ormai ampiamente sdoganato -, cioè la dotazione di strumenti sempre più letali (come blindati e armi automatiche) alle forze di polizia (e non solo all’FBI, alla SWAT e ovviamente all’esercito).

Killer robots will not make San Francisco safer.

Police kill Black and Brown people at epidemic rates, and remote triggers are easier to pull. https://t.co/dr7Za0KVZL pic.twitter.com/xy4a1JctdC

— ACLU of Northern CA (@ACLU_NorCal) November 28, 2022

Il passo indietro, per il momento

Le pressioni da parte degli attivisti, delle associazioni non-governative e dei politici più progressisti sono diventate molto presto insostenibili. Il comune di San Francisco è stato costretto a fare un passo indietro.

Mercoledì il consiglio dei supervisori di San Francisco ha deciso di sospendere il progetto di fornire robot in grado di uccidere alla polizia. Il Consiglio avrebbe dovuto ratificare la decisione già presa con una seconda votazione giudicata perlopiù una formalità (banalmente perché i votanti sono sempre gli stessi). È una delle prime volte che la seconda votazione viene utilizzata non per ratificare un atto, bensì per ribaltare completamente l’esito del voto, bocciando un regolamento che era già stato approvato.

Ora il Consiglio dei supervisori di San Francisco si è dato la possibilità di rivedere la proposta, ad esempio introducendo nuovi emendamenti, nella speranza che sia possibile delimitare in modo più preciso l’impiego dei cosiddetti killer robot e fornire così delle valide rassicurazioni alle perplessità emerse nel corso delle scorse settimane.

San Francisco è solamente la prima città ad affrontare apertamente la questione dei killer robot: non è detto che altre città americani si dimostrino così sensibili alle preoccupazioni delle associazioni per i diritti civili

In altre parole, la parola fine non è ancora stata scritta. Peraltro, San Francisco è solamente la prima città ad affrontare apertamente e in modo così trasparente il tema dell’utilizzo di robot killer: la questione verrà sicuramente sollevata in diverse altre metropoli americane, e non è detto che la politica statunitense si dimostri sempre così sensibile alle preoccupazioni delle associazioni per i diritti civili.

Anche per questo motivo, l’impressione generale è che quella di mercoledì sia stata una vittoria solo a metà. Il tema dell’impiego di robot in grado di uccidere diventerà sempre più attuale nel corso dei prossimi mesi, aprendo una sfida tra politica e movimenti per i diritti civili destinata a durare molti anni e a moltiplicarsi in sempre più amministrazioni locali, finché la palla non passerà al governo federale.

Un problema che riguarda anche l’Italia?

La notizia è stata ampiamente commentata anche in Italia, dove non sono mancate preoccupazioni da parte di chi teme che anche le autorità italiane possano rimanere affascinate dall’idea di equipaggiare le forze dell’ordine con robot equipaggiati con armi letali.

In un’intervista rilasciata a Fanpage, ad esempio il docente di Etica per la tecnologia Fabio Fossa ha ricordato che quando vengono introdotti robot in grado di uccidere si «aumenta la distanza tra chi prende la decisione di uccidere e chi la esegue», un’osservazione che era già stata sollevata (con una certa evidenza empirica) in merito all’impiego dei droni negli scenari di guerra.

Fossa, ad ogni modo, si è detto scettico della possibilità che una proposta del genere possa trovare terreno fertile anche in Italia, banalmente perché l’Europa ha «un approccio più cauto» che, al costo di guadagnarsi l’accusa di rallentare lo sviluppo, «permette di mettere i valori culturali al centro del progresso tecnologico».

Imparare a convivere con i robot poliziotti

Nel frattempo, la polizia di San Francisco dispone di già 17 robot, di cui solamente 12 operativi. Tra gli altri c’è il Remotec F5A, un robot capace di salire le scale e sollevare più di 85 libre. In genere vengono utilizzati per la detonazione o il disarmo degli ordigni esplosivi, oppure per fornire supporto logistico.

L’utilizzo di robot sprovvisti di equipaggiamento letale è ormai sdoganato anche in Europa: ad esempio a febbraio la polizia di Amsterdam aveva utilizzato un robot per portare dell’acqua all’interno di un Apple Store occupato da un uomo armato, in modo da non sottoporre i poliziotti a rischi non necessari.

A New York e in Germania le forze dell’ordine hanno già iniziato ad usare Spot, il robot-cane della Boston Dynamic. Tecnicamente può essere equipaggiato anche con armi letali, ma la stessa Boston Dynamic – in un appello firmato assieme ad altre aziende del settore – ha pubblicamente scongiurato le forze dell’ordine da cedere alla tentazione di armare i robot. «Crediamo – si legge nella lettera aperta – che innalzerebbe il rischio di aumentare la violenza e di introdurre nuovi gravi dilemmi etici». Chissà se verranno ascoltati.