giovedì 29 settembre 2016

Il sistema di polizia predittivo aumenta e peggiora la discriminazione.

La polizia predittiva, la tentazione di anticipare i crimini di domani e l'aumento progressivo di tali sistemi.  
https://www.theguardian.com/us-news/2016/aug/31/predictive-policing-civil-rights-coalition-aclu#img-1
Già da diversi anni, si parla molto del software chiamato "polizia predittiva". É d'obbligo il riferimento alle previsioni di reato del film "Minority Report" e al suo ispiratore, lo scrittore di fantascienza Philip K. Dick, che prevede dove e quando i crimini abbiano più probabilità di verificarsi (Nel film il protagonista dice, tra l'altro, "ordina l'arresto per il futuro omicidio di Sara Max...," o "non ha commesso alcun reato - Ma lo farà...). 

Per fare questo, spesso, ci si riferisce al leader del mercato, "PolPred", la società californiana che si ispira a un algoritmo di predizione delle scosse di assestamento di un terremoto, creato dal sismologo David Marsan

Ma secondo i calcoli di alcuni sociologi, questo sarebbe più uno strumento di gestione degli effetti più che un algoritmo di predizione vero e proprio di un crimine. 

PolPred utilizza statistiche di denunce: La polizia sarà più presente nelle zone in cui si ha la maggior parte dei reclami a scapito di quelle in cui i residenti sono più riluttanti ad andare alla polizia. 

Questa innovazione appare più di marketing che tecnologica, senza peraltro voler essere contrari a qualsiasi sistema di polizia predittiva. C'è per esempio un'altra società, HunchLab, che aderisce ad una filosofia CSR (Corporate Social Responsibility - Responsabilità Sociale di Impresa): che persegue "la scelta di concentrarsi su algoritmi di apprendimento automatico, ma non opachi". 

Il dibattito sta emergendo nel giudizio dell'opinione pubblica: un gruppo di 17 associazioni di tutela dei diritti ha diffuso il 31 agosto una dichiarazione congiunta sugli effetti della polizia predittiva, pubblicando un rapporto critico (PDF) e trovando l'uso di tale software, prima che una espressione scientifica, un'applicazione del pregiudizio razziale: 

"Invece di utilizzare la tecnologia predittiva per la corretta applicazione delle leggi di scarsa qualità, i servizi utilizzano questi strumenti per peggiorare la discriminazione e aggravare i peggiori problemi del sistema di giustizia penale". 

Nessun commento: