Da quando sugli schermi cinematografici è apparsa per la prima volta il film “Minority Report” sono trascorsi solo diciotto anni, ma il mondo distopico nato dalla penna di Philip Dick e portato sullo schermo dal regista Steven Spielgerg, sembra essere già alle porte.
Tom Cruise, l’interprete principale del film, in un ipotetico anno 2054 cercò di dimostrare la propria innocenza rispetto all’accusa per un reato predetto da tre umani dotati di capacità paranormali ( i pre-cog ): oggi quest’incubo potrebbe coinvolgere ciascuno di noi.
Come funziona l’intelligenza artificiale della Polizia predittiva
Sì, la polizia predittiva è oggi una realtà.
Sono state create mappe delle città e suddivise in “celle” da 250 metri quadri circa. All’interno di ciascun blocco sono stati caricati i dati storici dei crimini che vi sono stati compiuti ( il luogo, data ed orario, le condizioni meteo, la tipologia di reato, le armi o i veicoli usati, etc. ). Vengono inseriti nel data base, poi, i profili e le caratteristiche dei pregiudicati e delle vittime.
Appositi software di “polizia predittiva”, quindi, analizzano queste ed altre variabili con lo scopo di individuare le frequenze, i ritardi, i luoghi delle possibili future scene del crimine.
Né più né meno come un pazzesco “gioco del Lotto”.
Spiega il giornalista Matthew Guariglia sul sito web Electronic Frontier Foundation: « per esempio, se un certo numero di crimini sono stati commessi nei vicoli il giovedì, l’algoritmo potrebbe dire al dipartimento che dovrebbe inviare agenti nei vicoli ogni giovedì. Naturalmente, questo significa che la polizia è predisposta ad essere sospettosa di tutti coloro che si trovano in quella zona in quel momento » [1].
Meno diffusi, ma egualmente presenti, i software che, piuttosto che prevedere le date e i luoghi dei futuri crimini, si propongono di predire la persona che compierà un dato crimine. Nel data base entrano quindi, ad esempio, l’età dei soggetti, il loro reddito, informazioni dai social media incluso l’elenco dei conoscenti, eventuali precedenti penali, etc.
La raccolta pervasiva dei dati può giungere a violare i diritti umani
La sorveglianza dei social media « solleva anche problemi di libertà di parola », sottolinea Matthew Guariglia.
Potrebbe risultare che qualcuno venga « inserito in una “lista calda” ». Semplicemente vivere o passare del tempo in un quartiere o con certe persone può attirare i sospetti della polizia o indurla a trattare le persone come potenziali criminali. Ciò può esporre le persone a molestie mirate della polizia o alla sorveglianza senza alcuna prova effettiva che un crimine sarà commesso.
I contorni del problema sono chiaramente individuati da Robert Cheetham, CEO di Azavea la società che ha realizzato HunchLab, uno dei software predittivi, prima di rivenderlo due anni fa: « gli strumenti di “polizia predittiva” ( lettori di targhe, software di riconoscimento facciale, ecc. ) sono stati usati in alcune comunità per impegnarsi in una sorveglianza pervasiva dei cittadini, qualcosa che credo sia sbagliato. Sviluppare uno strumento che sosterrebbe la sorveglianza o violerebbe i diritti civili non era qualcosa che ho visto come allineato con la nostra missione. Crediamo che il software, l’apprendimento automatico e la raccolta pervasiva dei dati abbiano il potenziale di generare sia un grande bene pubblico che un grande danno nelle nostre comunità » [2].
La sorveglianza di massa per consentire alla polizia di predire la persona che compierà un dato crimine? Solo un pericolo per Diritti. Condividi il TweetIl business milionario della polizia predittiva
« C’è una ragione per cui l’uso della polizia predittiva continua ad espandersi nonostante le sue basi dubbie – spiega l’Electronic Frontier Foundation -: fa soldi. Molte aziende hanno sviluppato strumenti per la polizia guidata dai dati; alcune delle più grandi sono PredPol, HunchLab, CivicScape e Palantir ».
« La polizia di Los Angeles ha pagato 20 milioni di dollari nel corso di nove anni per utilizzare la sola tecnologia predittiva di Palantir ».
In Italia, è già in uso a Milano il software Keycrime ideato dall’ex funzionario di polizia Mario Venturi [3] [4].
A Santa Cruz la bocciano: è ora di rimettere il genio nella lampada?
Lo scorso giugno 2020, però, il Consiglio comunale di Santa Cruz, in California, negli Stati Uniti, ha votato per sopprimere il programma di “polizia predittiva” dopo nove anni di sperimentazione.
Hanno deciso di vietarlo per « paura che perpetuasse la disuguaglianza razziale ».
Ancora sul sito web Electronic Frontier Foundation si legge: « la polizia predittiva è una profezia che si autoavvera. Se la polizia concentra i suoi sforzi in un quartiere e arresta decine di persone nell’arco di una settimana, i dati rifletteranno quella zona come un focolaio di attività criminale ».
« Il sistema considera anche solo il crimine segnalato, il che significa che i quartieri e le comunità in cui la polizia viene chiamata più spesso potrebbero vedere una maggiore probabilità di avere la tecnologia di polizia predittiva concentrare le risorse lì. Questo sistema è fatto su misura per vittimizzare ulteriormente le comunità che sono già iperpolizzate ».
Quando gli strumenti di polizia basati sui dati sono scatole nere, è difficile valutare i rischi di tassi di errore, falsi positivi, limiti nelle capacità di programmazione, dati distorti, o anche difetti nel codice sorgente che influenzano i risultati della ricerca.
« Non è troppo tardi per rimettere il genio della polizia predittiva nella bottiglia », chiosa infine l’Electronic Frontier Foundation.
–
Fonti e Note:
[1] Electronic Frontier Foundation, 3 settembre 2020, Matthew Guariglia, “Technology Can’t Predict Crime, It Can Only Weaponize Proximity to Policing”.
[2] Azavea, 23 gennaio 2019, “Why We Sold HunchLab”.
[3] Più Sicurezza, “Keycrime: il più avanzato algoritmo della polizia predittiva è italiano”.
[4] Sito web Keycrime.
Lascia un commento