Scandalo welfare olandese: colpa di un algoritmo?

Autrice: Diletta Huyskes

È di oggi la notizia delle dimissioni del governo olandese guidato da Mark Rutte in seguito ad uno scandalo in cui le autorità fiscali del Paese hanno perseguito ingiustamente famiglie innocenti per frode ai sussidi per l’assistenza all’infanzia.

Migliaia di genitori sono stati accusati di aver richiesto dei sussidi allo Stato in modo fraudolento.

Secondo la BBC, il numero di famiglie coinvolte nello scandalo tra il 2012 e il 2019 potrebbe essere di circa 26,000.

Il terzo governo di Rutte è al potere dal 2017, ma il suo primo mandato come premier risale al 2010. Le sue dimissioni – consegnate al Re Willem-Alexander van Oranje – seguono un rapporto che evidenzia il fallimento sistematico del suo governo nel proteggere queste persone dalle pretese delle autorità fiscali, che chiedevano indietro i sussidi (a volte anche di centinaia di migliaia di euro) forniti in passato, alla luce di sospette frodi fiscali.

Il fattore più preoccupante risiede nella totale impossibilità di difesa o di contestazione delle accuse. In alcuni casi è bastata l’assenza di alcune firme su dei documenti per essere bollati come truffatori, ed essere costretti a rimborsare l’intera somma dei “bonus” ricevuti.

Migliaia di famiglie si sono ritrovate in gravi difficoltà finanziarie a causa di queste richieste, fino a perdere il lavoro, la casa e le relazioni con i propri figli e partner.

Rutte stesso, in conferenza stampa, ha affermato che: “Sono stati commessi errori a tutti i livelli che hanno portato a una grande ingiustizia per migliaia di famiglie. Persone innocenti sono state criminalizzate e le loro vite distrutte. Questo governo se n’è assunto la piena responsabilità”.

Molte di queste erano famiglie di immigrati, che vivevano in quartieri considerati più poveri.

È (anche) colpa di un algoritmo?

Leggendo di questo scandalo viene spontaneo pensare a SyRI (System Risk Indicator), un sistema di analisi di Big Data ideato nel 2014 dal Ministero per gli Affari Sociali e il Lavoro e usato per valutare situazioni di rischio sociale e per individuare le frodi assistenziali. 

Nel febbraio 2020, con una sentenza della Corte dell’Aia, il modello di calcolo del rischio utilizzato dal governo veniva giudicato illegale per violazione del GDPR e dei diritti umani.

Tra le varie criticità individuate c’erano le implicazioni derivanti dall’uso e incrocio di grandi quantità di dati provenienti dalle autorità pubbliche olandesi. Come riportato al tempo da Algorithm Watch, il governo olandese incrociava dati personali dei cittadini fin dal 2014.

Il sistema era nato per entrare in gioco quando qualche agenzia governativa sospettava una frode in merito a sussidi, indennità o tasse in un determinato quartiere.

I comuni, il Ministero degli Affari Sociali e del Lavoro e l’autorità fiscale avevano accesso al sistema, che poteva decidere quali cittadini del quartiere erano soggetti rischiosi, e che quindi dovevano essere ulteriormente investigati.

Tra i dati in dotazione al sistema SyRI per valutare se un individuo potesse commettere questo tipo di frodi vi erano il livello di istruzione, la situazione lavorativa e abitativa, i debiti. Tra le informazioni c’era anche il completamento (o meno) di un programma di integrazione civica, un passo necessario per ottenere un permesso di soggiorno.

Sempre Algorithm Watch aveva evidenziato la mancanza di trasparenza del sistema. I cittadini potevano essere valutati e investigati senza esserne minimamente a conoscenza: “i cittadini non vengono automaticamente avvertiti se sono segnalati da SyRI per il rischio di frode, e non possono accedere ai motivi per cui sono stati segnalati”.

Ad aver portato il sistema in tribunale erano stati alcuni attivisti e organizzazioni della società civile, denunciando come questi sistemi, spesso sviluppati in assenza di consultazioni pubbliche, equivalgono a spiare i cittadini più poveri e penalizzare ingiustamente i più vulnerabili. Spesso, in violazione della normativa privacy e dei diritti fondamentali delle persone.

Il GDPR (Regolamento europeo sulla protezione dei dati) prevede specifici obblighi di trasparenza dei sistemi decisionali automatizzati, oltre ad una serie di diritti delle persone, come quello di ottenere spiegazione delle motivazioni che hanno portato alla decisione, poterla contestare, e ottenere l’intervento umano.

La fede ingiustificata nella tecnologia

Secondo Jelle Klaas, avvocato del Comitato dei giuristi per i diritti umani dei Paesi Bassi e responsabile del processo, “Come molti di questi sistemi, SyRI ha esordito con un approccio molto negativo – il presupposto che probabilmente le persone stessero commettendo delle frodi”

L’autorità fiscale olandese aveva ammesso l’anno scorso che almeno 11.000 persone erano state selezionate per un controllo approfondito a causa della loro etnia o della loro doppia nazionalità, alimentando accuse di razzismo sistemico di lunga data nei Paesi Bassi.

Il timore, quindi, è quello che SyRI abbia giocato un ruolo fondamentale nell’identificazione di sospetti di frode nell’ambito del welfare negli anni precedenti alla sentenza, periodo di tempo che coincide esattamente con quello indicato nel rapporto che ha fatto nascere lo scandalo che coinvolge oggi il governo. 

E’ plausibile pensare, quindi, che le autorità si siano avvalse di un sistema profondamente fallace per monitorare le persone e valutare il rischio di frode, senza garantire loro alcun tipo di diritto.

Se questi collegamenti dovessero essere dimostrati, l’aspetto peggiore andrebbe individuato ancora una volta nella fiducia totale riposta nella tecnologia, giudicata infallibile, neutrale ed efficiente, nonostante le sempre più frequenti notizie che invece documentano sempre più spesso errori e malfunzionamenti dei processi decisionali automatizzati – da cui derivano poi conseguenze gravi per i soggetti interessati

Il governo, che nel 2014 chiedeva l’introduzione di questo modello – e che ha deciso di non contestare la sentenza dello scorso anno – è guidato dallo stesso premier che oggi si prende la responsabilità di questo disastro finanziario attraverso le dimissioni.

Mark Rutte resterà in carica fino a marzo, quando sono programmate le nuove elezioni nazionali, per poter assicurare stabilità al Paese nella gestione della pandemia. I sondaggi, però, vedono il suo Partito Popolare per la Libertà e la Democrazia come il favorito dai cittadini per la quarta volta di seguito dal 2010.