Da KeyCrime a Giove
Descrizione
KeyCrime intende supportare gli agenti di polizia in operazioni di prevenzione e di contrasto al crimine. Analizzando migliaia di dati, lo scopo è di confrontare diversi crimini per determinare quali siano stati compiuti dalla stessa persona o dallo stesso gruppo di persone. Ciò permette una gestione più efficace del lavoro della polizia, permettendo di collegare una serie di reati e di imputarli ad un unico soggetto responsabile.
La procedura, chiamata crime linking (collegamento di crimini), si basa sull’analisi, combinazione e correlazione di diverse caratteristiche legate ai crimini passati e ai contesti e alle modalità in cui avvengono. E’ esattamente questa funzionalità che abilita l’identificazione di serie di reati perpetuate dagli stessi soggetti criminali e che permette l’individuazione di obiettivi a rischio e la previsione di luogo, modalità e tempistiche di futuri crimini.
In Italia, la sperimentazione è stata condotta per il contrasto al fenomeno delle rapine dalla Polizia di Stato e dalla Questura di Milano.
Criticità
Stando alle informazioni disponibili, tra le maggiori criticità ci sarebbe l’utilizzo di alcuni dati sensibili come l’etnia/l’accento, raccolti sulla base delle testimonianze di persone che hanno assistito ai fatti. Non è chiaro come queste informazioni vengano raccolte, validate e filtrate.
Ulteriori aspetti non chiari riguardano le strategie di sicurezza informatica adottate, i soggetti responsabili rispetto ai dati utilizzati dal sistema, e se ed in che modo esso dialogherà con SARI.
Per quanto le predizioni di KeyCrime non abbiano rilevanza giudiziale e la decisione finale spetterà sempre all’essere umano, non possiamo escludere che il sistema abbia ereditato dai dati di allenamento e propaghi dei bias (pregiudizi) algoritmici. Infatti, le informazioni a cui il sistema è stato esposto per “conoscere” e modellare il fenomeno consistono nello storico dei reati codificati dalla polizia, dati che dipendono da come i crimini sono stati registrati e codificati, e che influenzano le predizioni future del sistema.
Perciò, per quanto il meccanismo alla base di KeyCrime sia migliore rispetto ad altri meccanismi di polizia predittiva (per esempio l’hot-spot analysis) e possa apparire meno prono all’errore, maggiore trasparenza sul suo funzionamento è necessaria, nonostante il rischio di fornire strumenti per aggirare l’algoritmo a criminali attraverso la divulgazione di queste informazioni.
In generale i sistemi di polizia predittiva, indicando un’area come ad alto rischio, recano come conseguenza quella di inviare più pattuglie, che a sua volta farà sistematicamente alzare il livello di crimini riportati e quindi rinforzerà la predizione innescando in sintesi un meccanismo di rinforzo e di “profezia autoavverantesi”. In simile direzione quindi i quartieri dove la polizia viene chiamata più spesso potrebbero essere registrati con una frequenza maggiore nei dati a disposizione della tecnologia predittiva, aggravando pregiudizi e condizioni svantaggiate preesistenti.
Focus Giove
Giove è un sistema di polizia predittiva sviluppato dalla società KeyCrime. Basato su un algoritmo di intelligenza artificiale, il suo scopo è supportare le questure nella prevenzione e riduzione dei reati a maggior impatto sociale. Il sistema analizza automaticamente i dati sui crimini passati e identifica i luoghi, i momenti e le modalità in cui è più probabile che si verifichino nuovi reati. Inoltre, Giove fornisce un set di domande da rivolgere alle vittime e permette di archiviare file multimediali per migliorare la gestione delle informazioni.
L’algoritmo, commissionato dal Dipartimento di Pubblica Sicurezza del Ministero dell’Interno, deriva da alcune precedenti sperimentazioni condotte a partire dal software KeyCrime nel 2020. Si è inoltre presupposto l’utilizzo del sistema SARI in congiunzione con l’intervento umano del tecnico di polizia scientifica.
Nonostante si parli ambiguamente di rispetto etico ed elaborazione dei dati secondo la norma, come abbiamo già evidenziato, alcuni tra i rischi più gravi di questa applicazione riguardano pregiudizi algoritmici, violazioni al diritto alla privacy e alla libertà personale. Viste queste enormi criticità, il Garante della Privacy ha valutato in passato se fermarne lo sviluppo.
Rispetto alla normativa attuale, l’utilizzo di sistemi di polizia predittiva ed identificazione biometrica ai fini di sorveglianza sociale è vietato dall’AI Act, in quanto queste applicazioni creano condizioni che mettono a rischio diritti fondamentali. L’adozione di queste tecnologie è ammessa soltanto per investigazioni post-crimine e per ”ragioni di sicurezza nazionale”, lasciando un’area grigia che permette comunque ai governi di impiegare questi sistemi in un certo grado.
Ad ogni modo KeyCrime, l’azienda produttrice di questo sistema informatico, è stata liquidata nel 2024. Tra le varie problematiche, un limite è stato rappresentato dall’incerto ottenimento di una certificazione in tempi prolungati per un’applicazione che, sebbene potesse essere adottata, rischiava di essere vietata in un futuro prossimo.
Altre informazioni
