Robot Killer: siamo in tempo per spegnerli?

L’avvisare dei «pericoli di escalation del conflitto», come fa da tempo laCroce Rossa Internazionalein riferimentoallo sviluppo e l’uso dei robot killer[1][2] mi sembra un eufemismo.

Qua c’è in rischio l’umanità, in senso non solo etico ma proprio fisico.

Un film come “Terminator 2” sembra sempre meno unodistopia fantascientificae sempre più come qualcosa di tecnicamente possibile e contro la quale occorre combattere prima che sia troppo tardi.

Già oggi – denunciava quasi due anni fa laCroce Rossa Internazionale– «i sistemi d’arma autonomi selezionano e applicano la forza ai bersagli senza intervento umano».

In altre parole, già oggi, spiegava la Croce Rossa Internazionale, «l’utente non sceglie, o addirittura non conosce, i bersagli specificie l’esatto momento o la posizione delle conseguenti applicazioni di forza. Questa perdita del controllo e del giudizio umano nell’uso della forza e delle armi solleva serie preoccupazioni dal punto di vista umanitario, legale ed etico» [1].

«Considerandola velocità di sviluppo della tecnologiae dell’uso dei sistemi d’arma autonomi, è fondamentale che limiti concordati a livello internazionale siano stabiliti in modo tempestivo» [1], chiedeva l’Organizzazione.

Maurer, CRI: nell’era apprendimento automatico, in pericolo sicurezza internazionale

«Queste armi sono già utilizzate [anche se] in circostanze limitate, di solito lontano dai civili», avvisaPeter Maurer,presidente della Croce Rossa Internazionale [2].

Il futuro, non troppo lontano, è, come accennavo, in stileTerminator 2: «in questa nuova era del software di apprendimento automatico che scrive le proprie regole– afferma ancora Peter Maurer –, molti temono che questa siauna prospettiva pericolosa per la sicurezza internazionale. C’è un chiaro rischio che vedremo il controllo e il giudizio umano nelle decisioni di vita o di morte gradualmente erosi fino a un punto inaccettabile» [2].

Siamo in grado di «spegnere un’arma autonoma prima che sia troppo tardi»?

–

Fonti e Note:

[1]Croce Rossa Internazionale, 12 maggio 2021, “ICRC position on autonomous weapon systems”.

[2]Croce Rossa Internazionale, 12 maggio 2021, Peter Maurer: “We must decide what role we want human beings to play in life-and-death decisions during armed conflicts”.