Nel corso degli anni abbiamo assistito a numerosi tentativi da parte di diversi governi di sviluppare algoritmi in grado di prevedere i crimini, suscitando inevitabili paragoni con il film “Minority Report” del 2002 – sebbene nella pellicola fossero esseri umani chiaroveggenti, e non algoritmi, a prevedere i crimini. Oggi è il governo britannico a finire sotto i riflettori per lo sviluppo di questa tecnologia, anche se i funzionari insistono sul fatto che si tratta solo di un progetto di ricerca, almeno per il momento.
Un progetto controverso
Il programma del governo britannico, originariamente denominato “homicide prediction project” (progetto di previsione degli omicidi), funziona utilizzando algoritmi per analizzare le informazioni di centinaia di migliaia di persone, con l’obiettivo di identificare quelle più propense a commettere reati violenti gravi, come riportato dal quotidiano The Guardian.
Il gruppo per le libertà civili Statewatch ha scoperto l’esistenza del progetto grazie al Freedom of Information Act, sostenendo che lo strumento è stato sviluppato utilizzando dati provenienti da un numero compreso tra 100.000 e 500.000 persone. Secondo Statewatch, questo gruppo includerebbe non solo persone con condanne penali, ma anche vittime di reati, sebbene i funzionari neghino questa circostanza, affermando che vengono utilizzati solo dati esistenti relativi a criminali già condannati.
I dati analizzati comprendono nomi, date di nascita, genere, etnia e un numero identificativo presente nel database nazionale della polizia. Il sistema elabora anche informazioni sensibili come quelle relative alla salute mentale, dipendenze, tendenze suicide, vulnerabilità, autolesionismo e disabilità.
L’AI per prevedere gli omicidi: sicurezza o distopia?
“Il tentativo del Ministero della Giustizia di costruire questo sistema di previsione degli omicidi è l’ultimo inquietante e distopico esempio dell’intenzione del governo di sviluppare i cosiddetti sistemi di ‘previsione’ dei crimini“, ha dichiarato Sofia Lyall, ricercatrice di Statewatch. “Ripetutamente, la ricerca dimostra che i sistemi algoritmici per ‘prevedere’ i crimini sono intrinsecamente difettosi.”
La ricercatrice ha aggiunto che “questo ultimo modello, che utilizza dati dalla nostra polizia e dal Ministero dell’Interno, dati che promuovono il razzismo istituzionalizzato, rafforzerà e amplificherà la discriminazione strutturale alla base del sistema giuridico penale”.
I funzionari governativi sostengono che il programma sia un’estensione degli strumenti di previsione del rischio già esistenti, spesso utilizzati per prevedere la probabilità che un detenuto commetta nuovamente un reato quando si avvicina alla data di rilascio. Hanno inoltre precisato che il progetto è concepito per verificare se l’aggiunta di nuove fonti di dati provenienti dalla polizia e dalla custodia potrebbe migliorare la valutazione del rischio.
Un portavoce del Ministero della Giustizia ha sottolineato che il progetto viene condotto esclusivamente a scopo di ricerca.
L’AI che prevede gli omicidi: il progetto segreto dell’UK allarma gli attivisti è stato pubblicato per la prima volta su Lega Nerd. L’utilizzo dei testi contenuti su Lega Nerd è soggetto alla licenza Creative Commons Attribuzione-Non commerciale-Non opere derivate 2.5 Italia License. Altri articoli dello stesso autore: Umberto Stentella