Robot Killer: siamo in tempo per spegnerli?

L’avvisare dei « pericoli di escalation del conflitto », come fa da tempo la Croce Rossa Internazionale in riferimento allo sviluppo e l’uso dei robot killer [1][2] mi sembra un eufemismo.

Qua c’è in rischio l’umanità, in senso non solo etico ma proprio fisico.

Un film come “Terminator 2” sembra sempre meno uno distopia fantascientifica e sempre più come qualcosa di tecnicamente possibile e contro la quale occorre combattere prima che sia troppo tardi.

Già oggi – denunciava quasi due anni fa la Croce Rossa Internazionale – « i sistemi d’arma autonomi selezionano e applicano la forza ai bersagli senza intervento umano ».

In altre parole, già oggi, spiegava la Croce Rossa Internazionale, « l’utente non sceglie, o addirittura non conosce, i bersagli specifici e l’esatto momento o la posizione delle conseguenti applicazioni di forza. Questa perdita del controllo e del giudizio umano nell’uso della forza e delle armi solleva serie preoccupazioni dal punto di vista umanitario, legale ed etico » [1].

« Considerando la velocità di sviluppo della tecnologia e dell’uso dei sistemi d’arma autonomi, è fondamentale che limiti concordati a livello internazionale siano stabiliti in modo tempestivo » [1], chiedeva l’Organizzazione.

Maurer, CRI: nell’era apprendimento automatico, in pericolo sicurezza internazionale

« Queste armi sono già utilizzate [anche se] in circostanze limitate, di solito lontano dai civili », avvisa Peter Maurer, presidente della Croce Rossa Internazionale [2].

Il futuro, non troppo lontano, è, come accennavo, in stile Terminator 2: « in questa nuova era del software di apprendimento automatico che scrive le proprie regole – afferma ancora Peter Maurer –, molti temono che questa sia una prospettiva pericolosa per la sicurezza internazionale. C’è un chiaro rischio che vedremo il controllo e il giudizio umano nelle decisioni di vita o di morte gradualmente erosi fino a un punto inaccettabile » [2].

Siamo in grado di « spegnere un’arma autonoma prima che sia troppo tardi »?

–

Fonti e Note:

[1] Croce Rossa Internazionale, 12 maggio 2021, “ICRC position on autonomous weapon systems”.

[2] Croce Rossa Internazionale, 12 maggio 2021, Peter Maurer: “We must decide what role we want human beings to play in life-and-death decisions during armed conflicts”.