Regno Unito: il Ministero della Giustizia sviluppa segretamente il sistema di “previsione degli omicidi”

Il Regno Unito crea uno strumento di “pronostica dell’omicidio” per identificare le persone che hanno maggiori probabilità di uccidere. Gli algoritmi presumibilmente utilizzati per studiare i dati di migliaia di persone, nei critici del progetto dicono che è “agghiacciante e distopico”

di Statewatch

Questa ricerca è stata coperta daThe Guardian:: UK che crea uno strumento di “prova dell’omicidio” per identificare le persone che hanno maggiori probabilità di uccidere

Il Ministero della Giustizia sta conducendo un progetto segreto di dati commissionato dall’ufficio del Primo Ministro [1] che mira a “prevedere” chi comanderà l’omicidio.

Il progetto Homicide Prediction utilizza i dati della polizia e del governo per profilare le persone con l’obiettivo di “prevedere” chi è “a rischio” di commettere omicidi in futuro. Si tratta di una collaborazione tra il Ministero della Giustizia (MoJ), l’Home Office, la Greater Manchester Police (GMP) e la polizia metropolitana di Londra. A partire da

Statewatch ha ottenuto documenti sul progetto tramite richieste di libertà di informazione. I documenti includono la valutazione d’impatto sulla protezione dei dati MoJ, la valutazione interna dei rischi e l’accordo di condivisione dei dati con GMP. A partire dal sistema

Il cosiddetto strumento predittivo utilizza i dati del MoJ, del Police National Computer e GMP, per tentare di fare queste “predizioni”. – Secondoco di

L’accordo di condivisione dei dati tra il MoJ e il GMP per l’Homicide Prediction Project rileva che i dati su 100.000 e 500.000 persone sono stati condivisi dalla forza per sviluppare lo strumento.

Il MoJ afferma nei documenti che il progetto ha lo scopo di “plorare il potere dei set di dati MOJ in relazione alla valutazione del rischio di omicidio”. [5] Il team di MoJ Data Science ha poi “sviluppa modelli” alla ricerca di “i potenti predittori nei dati per il rischio di omicidio”. [6] I documenti si riferiscono alla “futura operativizzazione” del sistema. [7]

I dati GMP utilizzati dal MoJ per sviluppare lo strumento includono informazioni su centinaia di migliaia di sospetti, vittime, testimoni, persone scomparse e persone per le quali ci sono preoccupazioni di salvaguardia. [8]

I dati includono anche informazioni sulle persone in situazioni vulnerabili, con il MoJ che afferma che i dati dei “marcatori sanitari” erano “previsti per avere un significativo potere predittivo”. Ciò include dati sulla salute mentale delle persone, la dipendenza, l’autolesionismo, il suicidio, la vulnerabilità e la disabilità. [9]

Questo progetto fa parte del “Data Science Hub” del MoJ, che cerca di utilizzare “dati e informazioni per prendere decisioni eccellenti utilizzando strumenti, tecniche e collaborazione all’avanguardia e mettendo le prove al centro del sistema giudiziario”. [10]

Il progetto è stato guidato da MoJ, GMP, Home Office e Metropolitan Police. [11]Il MoJ ha anche discusso con la polizia metropolitana e la polizia delle West Midlands sull’uso dei dati detenuti dalle due forze. [12]

Il MoJ ha sviluppato e implementato altri strumenti di profilazione basati sui dati nel sistema legale penale britannico per prevedere l’offesa.

Ciò include lo strumento di previsione recidiva chiamato “Offender Assessment System” (OASys). Le “prodizioni” prodotte da questo sistema sono date ai giudici come parte delle decisioni di condanna, della classificazione carceraria e dell’influenza anche delle decisioni in materia di libertà vigilata, come quando qualcuno viene rilasciato dal carcere.

La ricerca del MoJ stesso ha scoperto che questi modelli basati sui dati classificano i trasgressori neri in modo meno accurato rispetto ai trasgressori bianchi. [13]

Sofia Lyall, ricercatrice di Statewatch, ha dichiarato:

Il tentativo del Ministero della Giustizia di costruire questo sistema di previsione degli omicidi è l’ultimo esempio agghiacciante e distopico dell’intento del governo di sviluppare i cosiddetti sistemi di “provetto” del crimine.

Più e più volte, la ricerca mostra che i sistemi algoritmici per “prevedere” il crimine sono intrinsecamente imperfetti. Eppure il governo sta portando avanti i sistemi di IA che profilano le persone come criminali prima di aver fatto qualsiasi cosa.

“Questo ultimo modello, che utilizza i dati della nostra polizia istituzionali e del nostro Ministero degli Interni, rafforzerà e ingrandirà la discriminazione strutturale alla base del sistema giuridico penale. Come altri sistemi del suo genere, codifica in polarizzazione verso le comunità razziali e a basso reddito. Costruire uno strumento automatizzato per profilare le persone come criminali violenti è profondamente sbagliato e l’uso di tali dati sensibili sulla salute mentale, la dipendenza e la disabilità è altamente invadente e allarmante.

“Il Ministero della Giustizia deve immediatamente fermare l’ulteriore sviluppo di questo strumento di previsione degli omicidi. Invece di gettare denaro verso l’intelligenza artificiale e gli algoritmi loschi e razzisti, il governo deve investire in servizi di welfare veramente solidali. Fare tagli al welfare mentre si investe in “risolvimenti tecno-luppisti” non farà altro che minare ulteriormente la sicurezza e il benessere delle persone.

Documenti ottenuti tramite richieste di libertà di informazione

• Risposta della richiesta della legge sulla legge sulla legge sull’omicidio Homicide Prediction (2023 novembre, pdf)
• Risposta della richiesta della legge sulla legge sulla legge sugli omicidi (Ottobre 2024, pdf)
• Homicide Prediction Project Data Protection Impact Assessment (inondato, file .xlsx)
• Ministero della Giustizia e della Polizia di Greater Manchester, Data Sharing Agreement (censurato, 18 maggio 2023, pdf)
• Ministero della Giustizia, Valutazione interna dei rischi (inondata, pdf)
• Ministero della Giustizia, Timeline del progetto (inondato, file .xlsx)
• Ministero della Giustizia, Definizione variabile target (inondato, pdf)
  

Informazioni di base

Algoritmi “predittivi” sviluppati dal Ministero della Giustizia

I modelli “predittivi” utilizzati in OASys sono stati trovati da uno studio del Ministero della Giustizia per profilare persone di diverse etnie in modo diverso. Lo studio ha rilevato che gli algoritmi di validità (o accuratezza) predittivi utilizzati dal Ministero della Giustizia come parte di OASys erano “più grandi … per i trasgressori bianchi rispetto ai trasgressori dell’etnia asiatica, nera e mista” e che lavoravano “meno bene per i trasgressori neri” e “meno bene per i trasgressori di etnia mista”. [14]

Ciò dimostra come questi modelli “predittivi” guidati dai dati discriminano le comunità razziali, rafforzando la discriminazione strutturale del sistema di giustizia penale.

Analisi di previsione per omicidio basata sui dati del Ministero della Giustizia

Nel 2023, il Ministero della Giustizia pubblicò un nuovo studio di analisi dei dati sulle previsioni di omicidio basato su “reati precorrenti”. Utilizzando l’analisi statistica, lo studio ha calcolato la presunta probabilità che qualcuno commetta un omicidio in base alla propria storia criminale. Alludendo al progetto di previsione degli omicidi, l’intenzione dichiarata dello studio era quella di “contribuire al futuro sviluppo di predittori attuariali di grave rischio di recidiva”. [15]

Il Ministero della Giustizia ha analizzato i tassi di omicidio secondo varie caratteristiche sociodemografiche, anche per etnia, affermando che: “I casi di omicidio non sessuale erano più probabili dei loro controlli – o di tutti i potenziali controlli – di essere di etnia nera, con oltre il 20% di nero”. [16]

Fonte: Ministero della Giustizia, ‘Escalation nella gravità del comportamento offensivo’, 2023, p.79.

Il Ministero dell’Interno ha precedentemente pubblicato i dati che mostrano i tassi di omicidio per etnia:

Nell’anno che si è concluso nel marzo 1997, l’83% delle vittime e l’82% dei sospetti erano bianchi. Nell’anno conclusosi a marzo 2018, i dati sono stati del 74% (vittime) e del 67% (sospetti). I tassi sono sproporzionatamente elevati per le vittime dei neri (4,7 volte superiori ai bianchi nell’anno che termina a marzo 2018) e sospetta (8,0 volte superiore). [17]

Il Ministero dell’Interno ha anche pubblicato in precedenza dati che mostrano l’omicidio da parte dell’affluenza dell’area, compresa l’etnia.

È chiaro dai dati che il Ministero della Giustizia detiene e utilizzato per questa analisi dell’omicidio, gli stessi dati che verrebbero utilizzati per la previsione di omicidio, i neri sono significativamente sovrastimoti, così come le persone di tutte le etnie provenienti da aree più svantaggiate.

Le note

[1] Il progetto è iniziato nel gennaio 2023, sotto il primo ministro Rishi Sunak.

[2] Ministero della Giustizia, “Presbicideprotore dell’omicidio Full DPIA”, fornito dalla risposta della richiesta di libertà di informazione da parte del Ministero della Giustizia.

[3] Ministero della Giustizia “Homicide Predictor modelling Full DPIA”, Ministero della Giustizia “Valutazione del Rischio Internale”, Ministero della Giustizia e della Polizia di Greater Manchester “Condivisione dei dati (Redacted)”.

[4] Ministero della Giustizia, “Presbicida dell’omicidio che modella Full DPIA”, fornito dalla risposta della richiesta di libertà di informazione da parte del Ministero della Giustizia.

[5] Risposta della richiesta di libertà di informazione da parte del Ministero della Giustizia.

[6] Ministero della Giustizia, “Presbicida dell’omicidio che modella Full DPIA”, fornito dalla risposta della richiesta di libertà di informazione da parte del Ministero della Giustizia.

[7] Ministero della Giustizia, “Presbicida dell’Homicide Modelling Full DPIA”, fornito dalla risposta della richiesta di libertà di informazione da parte del Ministero della Giustizia.

[8] Ministero della Giustizia, Accordo di Condivisione dei Dati “REDATTO – DSA – Modello di predittore di omicidi MOJ GMP firmato”, fornito dalla risposta della richiesta di libertà di informazione da parte del Ministero della Giustizia.

[9] Ministero della Giustizia, Accordo di Condivisione dei Dati «REDATTO – DSA – Modello di predittore omicida MOJ GMP firmato», fornito dalla risposta della richiesta di libertà di informazione da parte del Ministero della Giustizia.

[10] Ministero della Giustizia, ‘73646 – Responsabile della valutazione dei rischi di dati Scienza, dati e analisi, Ministero della giustizia (1 ruolo disponibile). https://justicejobs.tal.net/vx/mobile-0/appcentre-1/brand-2/candidate/so/pm/pm/pl/3/opp/73646-73646-Head-of-Risk-Assessment-Data-Senza-Data-Scienza

[11] Ministero della Giustizia, “Presbicida dell’Homicide che modella Full DPIA”, fornito dalla risposta della richiesta di libertà di informazione da parte del Ministero della Giustizia.

[12] Risposta della richiesta di libertà di informazione da parte del Ministero della Giustizia, novembre 2023.

[13] National Offender Management Service, «Un compendio di ricerca e analisi sul sistema di valutazione degli Offender (OASys) 2009-2013», (2015). (https://assets.publishing.service.gov.uk/government/uploads/system/uploads/uploads/attachment/file/449357/re-search-analysis-offender-assesment-system.pdf)

[14] National Offender Management Service, «Un compendio di ricerca e analisi sul sistema di valutazione degli spettatori (OASys) 2009-2013», (2015). (https://assets.publishing.service.gov.uk/government/uploads/system/uploads/uploads/attachment/file/449357/research-analysis-offender-assesment-system.pdf)

[15] “Escalation nella gravità del comportamento offensivo”, Ministero della Giustizia, Ministero della Giustizia Analitica Series, 2023. (https://assets.publishing.service.gov.uk/government/uploads/system/uploads/attachment-data/file/1152995/escalation-severity-offend-behaviour.pdf).

[16] “Escalation nella gravità del comportamento offensivo”, Ministero della Giustizia, Ministero della Giustizia Analitica Series, 2023. (https://assets.publishing.service.gov.uk/government/uploads/system/uploads/attachment/data/file/1152995/escalation-severity-offend-behasour.pdf).

[17] “Trends and drivers of omicide: Principali risultati”, Home Office, marzo 2020. https://assets.publishing.service.gov.uk/government/uploads/system/uploads/uploads/attachment-data/file/870188/trends-and-drivers-of-homicide-main-findings-horr113.pdf