Marvel, Protector & Precrisis
Descrizione
“MARVEL”, “PROTECTOR” e “PRECRISIS” sono tre sistemi di Intelligenza Artificiale che implicano la raccolta di informazioni in luoghi pubblici attraverso microfoni e telecamere di videosorveglianza (già presenti sul territorio del Comune di Trento e altri installati ad hoc), al fine di rilevare e prevedere potenziali situazioni di rischio per la pubblica sicurezza. Essi sono stati impiegati dal comune di Trento nell’ambito dell’implementazione della c.d. “smart urban security,” nel più ampio progetto volto a creare una «città intelligente, senza violare i limiti etici e di privacy in modo responsabile per l’intelligenza artificiale». Questi sistemi, che hanno in comune tra di loro il solo fatto di essere stati utilizzati nella stessa sfera territoriale e in collaborazione con FBK, ma dotati di caratteri separati e di utilizzi distinti, vengono introdotti tutti tra il 2023 e il 2024. Attenzionati dal Garante della Privacy, a gennaio 2024, sono destinatari di un provvedimento di censura a causa di una non conformità al GDPR su molti profili. Di seguito analizziamo separatamente le caratteristiche principali e di funzionamento dei tre sistemi automatizzati presenti nel progetto di Trento – Smart urban security, per poterne rilevare meglio le differenze di funzionamento, scopo previsto e sostanziale implementazione sul territorio.
MARVEL (acronimo di Multimodal Extreme Scale Data Analytics for Smart City Environments) è un progetto di sviluppo di un «framework di calcolo distribuito, composto di risorse di calcolo all’edge e di risorse in cloud con l’obiettivo di consentire la percezione e l’intelligenza multimodali per il riconoscimento di scene audiovisiva e il rilevamento degli eventi». Il sistema opera a partire dalla raccolta di segmenti audio e video raccolti tramite 6 microfoni e 14 telecamere (alcune di queste già presenti dal territorio, altre specificamente fornite e attivate da FBK), accessibili in tempo reale da parte degli operatori: i contenuti raccolti vengono presumibilmente anonimizzati immediatamente dopo la raccolta, secondo il principio di privacy-by-design; questi vengono poi utilizzati in una piattaforma di calcolo, con lo scopo di creare un processo decisionale automatizzato di valutazione del rischio posto da una certa scena catturata dai dispositivi di rilevazione. Dunque, grazie ai contenuti audiovisivi catturati, viene allenato un sistema di IA in grado di rilevare criticità per la pubblica sicurezza. Il processo è dunque totalmente automatizzato, ed è astrattamente in grado di segnalare direttamente alle Forze dell’Ordine situazioni pericolose in luoghi pubblici.
PROTECTOR (acronimo di PROTECTing places of wORship) è parte di un progetto di urban security volto a migliorare la protezione dei luoghi di culto da minacce di crimini d’odio e di terrorismo, in grado anche di valutare le misure di sicurezza preesistenti, nonchè l’adeguatezza delle risposte date dalle forze dell’Ordine (questa funzione sembra tutta via non mai essere entrata in funzione ad oggi). PROTECTOR ha un duplice piano operativo: da un lato, utilizza le immagini raccolte dalle telecamere nella città di Trento (le stesse immagini e video acquisiti anche nell’ambito del progetto MARVEL) senza tuttavia processare il segnale audio, con lo scopo di intercettare eventuali minacce di crimini d’odio commessi ai danni di luoghi di culto; dall’altro lato, PROTECTOR analizza messaggi e commenti pubblicati su piattaforme come Twitter e YouTube per identificare discorsi d’odio e sentimenti negativi nei post dei social media, al fine di valutare potenziali minacce ai luoghi di culto.
PRECRISIS (PRotECting public spaces thRough Integrated Smarter Innovative Security) è un altro progetto di cui FBK risulta essere Technical Coordinator e Work package leader, finanziato dal International Security Fund dell’Unione Europea. PRECRISIS coinvolge più di 9 entità diverse a livello europeo, operanti in 7 diversi stati membri (Grecia, Cipro, Germania, Italia, Estonia, Bulgaria e Austria).
Il sistema, peraltro, al momento dell’emanazione del provvedimento del Garante non aveva ancora iniziato a trattare dati personali, dal momento che era ancora in fase di programmazione al momento della conduzione dell’istruttoria da parte del Garante. Motivo per cui, poco emerge su questo specifico sistema anche dal citato provvedimento del Garante, che si concentra maggiormente sui primi due sistemi. Tuttavia, dal sito web contenente aggiornamenti sull’andamento del progetto, si evince che il progetto è ancora attivo in tutti i paesi europei menzionati, e che si sono recentemente svolti dei pilot testing in Austria, che hanno dato esito positivo.
Criticità e censure del Garante
In primis, il Comune, sia nell’ambito del progetto MARVEL che in PROTECTOR, ha trattato dei dati personali in maniera automatizzata senza prendere in considerazione la natura dei dati stessi. Questi, vennero acquisiti nell’ambito della «prevenzione e contrasto dei fenomeni di criminalità diffusa e predatoria», sono di fatto dati sensibili, in quanto acquisiti con il solo scopo di essere analizzati per il contrasto alla criminalità (art. 9 del GDPR). Ciò rende i dati acquisiti dati relativi ai reati, e dunque, appartenenti alla categoria di quei dati “sensibili.” Ancora, il solo PROTECTOR processa dati anche astrattamente relativi all’appartenenza religiosa degli account anche sulle piattaforme social, raccogliendo, di fatto, dati personali sensibili senza tener conto le relative salvaguardie che prevede la legge.
Per un simile trattamento dei dati, particolarmente invasivo, era necessaria una base giuridica per il trattamento che fosse chiara, precisa e ben individuata, essendo il trattamento di dati fortemente impattante sui diritti fondamentali, ai limiti della sorveglianza di massa.
Il comune di Trento ha sostenuto che i progetti rientravano nel quadro giuridico generale per la promozione dello sviluppo culturale, sociale ed economico. Il Garante ha respinto questa argomentazione, affermando che tali disposizioni generiche non sono sufficienti a giustificare il trattamento di dati personali, soprattutto di dati sensibili. Il comune non è infatti considerato un istituto di ricerca e non ha potuto dimostrare che il trattamento fosse effettuato tramite il proprio ufficio di statistica come richiesto per utilizzare la base giuridica della ricerca scientifica.
Inoltre, l’utilizzo di dati acquisiti tramite le telecamere disseminate nel comune di Trento richiedeva maggiori salvaguardie per i diritti e le libertà delle persone: salvaguardie che avrebbero dovuto esplicarsi tramite, ad esempio, la redazione di documenti come il Data Protection Impact Assessment, fondamentale e necessario per attivare dei progetti di videosorveglianza massiva con utilizzo di IA. Secondo l’Autorità Garante il DPIA non è stato redatto in maniera soddisfacente.
Un risvolto importante della mancanza di salvaguardia per i diritti e le libertà delle persone è stata anche la totale assenza di trasparenza e informazione: il comune non ha fornito informazioni chiare e complete agli interessati sulle attività di trattamento. Ciò includeva il fatto di non aver dichiarato chiaramente nei loro avvisi pubblici che la registrazione audio avrebbe catturato le conversazioni, oltre a non informare le persone sulla piena portata della condivisione dei dati con i partner del progetto, la Commissione Europea e altri soggetti terzi.
Un altro motivo per cui il Garante ha sanzionato i progetti è stata l’inefficacia delle tecniche di anonimizzazione utilizzate. Per quanto riguarda le riprese video, i volti e le targhe nelle riprese video venivano sfocate in maniera tuttavia non sufficiente per evitare la reidentificazione delle persone coinvolte. Lo stesso problema si è registrato per i contenuti audio raccolti, non correttamente anonimizzati, ma solo oggetto di una distorsione del segnale audio. Il Garante ha ritenuto queste tecniche di anonimizzazione non sufficienti e inefficaci: i dati raccolti nell’ambito di questi progetti, dunque, non sono da considerarsi correttamente anonimizzati, ma in realtà solamente pseudonimizzati, e quindi ancora soggetti integralmente alla disciplina europea del GDPR.
Il Garante ha osservato che i dati “anonimizzati” sono stati condivisi con terzi, come i partner del progetto e la Commissione Europea. Poiché questi dati oggetto di una reale anonimizzazione, ma piuttosto di una semplice pseudonimizzazione, la condivisione di questi dati rappresentava anche una violazione della privacy e un rischio aggiuntivo per gli interessati.
Il Garante ha anche affermato che la condivisione delle reti di utenti di “Twitter” (“X”) con le forze dell’ordine rappresentava anche una violazione della privacy, in quanto rivelava informazioni sui tipi di messaggi che gli utenti avevano pubblicato, anche se il contenuto non era stato direttamente condiviso con le forze dell’ordine.
In ultimo, il Garante, che da tempo ha stigmatizzato le massive e invasive modalità di trattamento di MARVEL e PROTECTOR, poiché sono in grado di comportare significativi rischi per i diritti e le libertà dei cittadini, anche di rango costituzionale, e per questo motivo ha sanzionato il progetto per € 50.000.
Altre informazioni
