L’UE sta aprendo segretamente la strada alle agenzie di polizia, di frontiera e di giustizia penale per sviluppare e utilizzare tecnologie sperimentali di “intelligenza artificiale”, ponendo rischi per i diritti umani, libertà civili, trasparenza e responsabilità, afferma un rapporto pubblicato da Statewatch.
di Statewatch
L’UE sta aprendo segretamente la strada alle agenzie di polizia, di frontiera e di giustizia penale per sviluppare e utilizzare tecnologie sperimentali di “intelligenza artificiale”, ponendo rischi per i diritti umani, libertà civili, trasparenza e responsabilità, afferma un rapporto pubblicato oggi da Statewatch.
Il rapporto, Automating Authority: L’Intelligence artificiale nei regimi di polizia e di frontiera europei [1] [1]avverte che il crescente uso delle tecnologie AI da parte dell’UE e dei suoi Stati membri rafforzerà la discriminazione, la violenza e i danni esistenti causati dalle politiche di polizia, di frontiera e della giustizia penale.
Centinaia di pagine di documenti ottenuti da istituzioni, agenzie e gruppi di lavoro dell’UE [2] tentano di dettagli da parte di politici e funzionari di mettere in uso ciò che il rapporto si riferisce come “intelligenza artificiale” – strumenti di intelligenza artificiale e tecnologie per le agenzie di polizia, immigrazione, frontiere e giustizia penale.
Le scappatoie legali
La legge sull’intelligenza artificiale dell’UE, un atto legislativo adottato nel 2024, mira a garantire “un elevato livello di protezione della salute, della sicurezza, dei diritti fondamentali … tra cui la democrazia, lo stato di diritto e la protezione dell’ambiente”. A partire dal punto di vista.
Tuttavia, la legge contiene una moltitudine di esenzioni, eccezioni e scappatoie per l’intelligenza artificiale di sicurezza.
Ciò include un’esenzione totale dalla legge, almeno fino al 2031, per i sistemi di intelligenza artificiale ad alto rischio utilizzati dalle autorità nazionali e dell’UE. – Si’
L’atto non si applica alle persone situate al di fuori dell’UE. Ciò significa che non fornirà alcuna protezione ai milioni di persone obbligate a richiedere visti e autorizzazioni di viaggio, che saranno elaborate utilizzando tecniche di IA. [5]
Nonostante i presunti divieti su pratiche come la profilazione individuale, la categorizzazione biometrica e la sorveglianza biometrica di massa (come i sistemi di riconoscimento facciale pubblico), le esenzioni concedono alle autorità di contrasto e alle autorità di migrazione molte opzioni per utilizzarle. [6]
La segretezza dello Stato
Il rapporto sostiene che la legge traccia una “slicon sipario della segretezza” sull’uso dell’IA da parte delle forze dell’ordine.
Le forze di polizia hanno rivendicato il merito di avere molte di queste esenzioni incluse nella legge. Un organo segreto chiamato European Clearing Board, composto da funzionari di polizia degli Stati membri dell’UE, ha lavorato a lungo per indebolire le salvaguardie nella legge.
In definitiva, la legge “farà estremamente difficile la supervisione e il controllo significativi sull’uso dei sistemi di intelligenza artificiale per la polizia e le autorità di migrazione”, afferma il rapporto.
Le nuove istituzioni
La segretezza consentita dalla legge sull’IA è aggravata dalla segretezza che circonda le nuove istituzioni che l’UE sta sviluppando per creare e implementare l’intelligenza artificiale per la sicurezza, sostiene il rapporto.
Il comitato europeo di compensazione è parte di ciò che la relazione definisce come una nuova “infrastruttura istituzionale”.
È collegato al polo dell’innovazione dell’UE per la sicurezza interna, che riunisce la giustizia e gli affari interni dell’UE. L’anno scorso, l’Hub ha lanciato un gruppo di lavoro dedicato all’IA.
L’agenzia dell’UE per la gestione delle banche dati di polizia e immigrazione, eu-LISA, ha perseguito un piano per trasformarsi in un “centro di eccellenza” per l’intelligenza artificiale di sicurezza.
Secondo i documenti ottenuti per il rapporto Statewatch, questa idea è stata proposta per la prima volta dalla società di consulenza multinazionale Deloitte, che è stata contratta per stabilire la “strategia, lo scopo, i requisiti e il modello operativo” del centro.
Il piano è stato poi abbandonato. Tuttavia, la relazione evidenzia l’importanza di un piano così di vasta portata intrapreso senza alcun controllo democratico o supervisione.
Infrastruttura tecnica
Il rapporto descrive inoltre due iniziative per la realizzazione dell’infrastruttura tecnica necessaria per sviluppare e utilizzare l’intelligenza artificiale di sicurezza.
Il primo è uno “Spazio dati di sicurezza per l’innovazione” (SDSI) che interconnetterà i set di dati detenuti da diverse agenzie e istituzioni in tutta l’UE. I dati saranno utilizzati per addestrare i sistemi di intelligenza artificiale per le forze dell’ordine, quali argomenti di interesse, tra cui il riconoscimento automatizzato delle immagini e l’analisi video.
Un progetto finanziato dall’UE da 1 milione di euro sta attualmente mappando i tipi di dati che potrebbero essere condivisi attraverso l’SDSI, tra cui foto, video, campioni vocali e testi raschiati dal web.
L’agenzia di polizia dell’UE Europol sta lavorando su un piano separato, ma simile,. Tra le tecnologie prioritarie dell’agenzia ci sono l’analisi della stampa vocale, l’età e il rilevamento di genere dalle registrazioni audio delle voci e l’uso di realtà aumentata e virtuale per l’analisi dei dati.
Per aiutare a sviluppare queste tecnologie, si sta costruendo una “sandbox” – un ambiente tecnico isolato in cui il software può essere sviluppato e testato senza effetti esterni.
I documenti di Europol descrivono la sandbox come una “fondamenta infrastrutturale” per “numeree iniziative secondari” che hanno “di significato strategico di differenziata”. [7]
Uno degli obiettivi è quello di utilizzare le grandi quantità di dati detenute da Europol per formare nuovi strumenti di intelligenza artificiale. Tuttavia, questo corre il rischio di rafforzare il pregiudizio e la discriminazione insita nei dati di polizia, avverte il rapporto.
Le citazioni
Chris Jones, direttore di Statewatch e coautore del rapporto, ha dichiarato:
Mentre l’UE sostiene che l’AliA proteggerà i diritti delle persone, la nostra analisi suggerisce completamente il contrario quando si tratta di forze dell’ordine e agenzie di immigrazione. È pieno di scappatoie, eccezioni ed esenzioni che limiteranno gravemente la capacità delle persone di sapere quando l’IA viene utilizzata contro di loro e di sfidare l’uso di queste tecnologie sperimentali.
L’introduzione strisciante di strumenti e tecniche di intelligenza artificiale nelle agenzie di polizia, di frontiera e di giustizia penale dell’UE dà ulteriore motivo di preoccupazione. Questo dovrebbe essere in cima all’agenda pubblica e politica in qualsiasi momento, per non parlare di un momento di crescente influenza di estrema destra e potere sui governi e sulle istituzioni dell’UE. Invece, vediamo che i gruppi di lavoro segreti istituiscono e i piani vengono introdotti con un dibattito pubblico o democratico pari a zero. Questo deve cambiare.
Romain Lanneau, ricercatore di Statewatch e coautore del rapporto, ha dichiarato:
Le forze dell’ordine europee e le società private hanno convinto i legislatori europei a includere ampie eccezioni nella legge sull’intelligenza artificiale. Le forze di polizia si autovalgono sulla legalità dei loro esperimenti con tecnologie altamente invadenti sui migranti e sulle persone che ritengono essere un rischio. La nostra relazione mostra che questo dispiegamento segreto è una grave minaccia per lo stato di diritto, in particolare per la libertà di parola, la non discriminazione e il diritto di asilo. Il prossimo decennio mostrerà se e come le indagini contenziosi e giornalistiche contro i peggiori impatti dell’IA nelle forze dell’ordine possano riportare la protezione dei diritti fondamentali per tutti.
Le note
[1] Rapporto completo disponibile all’indirizzo: https://statewatch.org/securityai
[2] L’insieme completo di documenti sarà reso disponibile all’indirizzo: https://statewatch.org/securityai
[3] Articolo 1, paragrafo 1, della legge sull’intelligenza artificiale, https://eur-lex.europa.eu/legal-content/EN/TXT/??uri-CELEX:32024R1689-d1e1915-1-1
[4] Articolo 111, AI Act, https://eur-lex.europa.eu/legal-content/EN/TXT/??eur-CELEX:32024R1689-art?111
[5] Articolo 2, paragrafo 1, lettera g), AI Act, https://eur-lex.europa.eu/legal-content/EN/TXT/??uri?CELEX:32024R1689-art?2
[6] Articolo 5, AI Act, https://eur-lex.europa.eu/legal-content/IT/TXT/??uri-CELEX:32024R1689-art-5
[7] Europol Innovation Lab, «Relazione di progresso e priorità strategiche 2024-2026», 22 settembre 2023, EDOC n.1321956v13, p.5, https://www.statewatch.org/media/4775/europol-innovation-lab-progress-report-and-plan-2023-25.pdf
Osservatorio Repressione è una Aps-Ets totalmente autofinanziata. Puoi sostenerci donando il tuo 5×1000
News, aggiornamenti e approfondimenti sul canale telegram e canale WhatsApp
