Safe Cities e Colonialismo Digitale in Sudafrica

Autrice: Camilla Quaresmini

La sorveglianza biometrica costituisce un framework di tecnologie invasive che ricercano negli individui specifiche caratteristiche identitarie, al fine non dichiarato di attuare una profilazione di massa. Nel caso specifico del Sudafrica questo si inserisce in un ecosistema più ampio creatosi attorno al progetto Safe Cities del gigante cinese Huawei. Guidato dall’idea che la tecnologia sia la miglior risposta ai problemi sociali attuali, il progetto si sta espandendo globalmente attraverso la vendita di diverse soluzioni smart, tra le quali spiccano sorveglianza biometrica, software di localizzazione, e tecniche di remote-control hacking, che permettono l’accesso a file/webcam/microfoni su dispositivi mirati, e la registrazione di sequenze di tasti.

In un clima che non sembra nemmeno più fantascientifico, i dispositivi CCTV (Closed Circuit Television, telecamere a circuito chiuso) indossano la maschera dell’utilità: vengono dichiaratamente utilizzati per migliorare la gestione del traffico e di situazioni d’emergenza dovute alla criminalità molto diffusa nel Paese. Tuttavia, più che una soluzione per la sicurezza pubblica sudafricana, la sorveglianza tramite IA sembra rappresentare una minaccia per la privacy dei cittadini, minando diritti e libertà civili. Questi infatti si vedono negata la possibilità di muoversi liberamente negli spazi pubblici senza essere tracciati, oppure di riunirsi in attività politiche e organizzazioni, per paura di subire ripercussioni.

L’impulso al controllo da parte del governo è sempre esistito. La novità che apporta la sorveglianza biometrica è la possibilità di esercitare questo controllo su vasta scala. Inoltre, con la sua implementazione assistiamo ad un capovolgimento dei principi costituzionali: la sorveglianza dovrebbe essere eccezionale, ma oggi lo stato d’eccezione diventa permanente. Sistemi di questo tipo permettono infatti l’indicizzazione di movimenti, il riconoscimento – in tempo reale – di volti e di comportamenti “insoliti”. L’analisi del tono della carnagione, dell’abbigliamento e della presenza o meno di cicatrici si inseriscono in elenchi di segni particolari dalla chiara retorica frenologica, che hanno la pretesa di essere indicatori scientifici di quando un individuo dovrebbe essere ritenuto sospetto. Un simile ragionamento è chiaramente ascrivibile ad un ambito pseudoscientifico, che fonda le sue radici epistemologiche in principi discriminatori totalmente anti-scientifici, spacciando strumenti di potenziale repressione civile e politica per tecnologie neutrali ed oggettive.

Sistemi di questo tipo si allenano su database che contengono ore di filmati rappresentanti comportamenti definiti “normali”. Ma chi stabilisce quando un comportamento è “normale”, e con quali parametri? L’algoritmo così allenato restituisce poi una segnalazione di tutti i comportamenti che si discostano da quello ideale. Ma dato che la classificazione è sempre culturale, la cultura che si occupa del design di questi sistemi vi introietterà anche i suoi pregiudizi, rendendoli automatizzati.

L’implementazione delle tecnologie di sorveglianza biometrica è stata resa possibile dalle offerte persuasive delle aziende e dai prestiti delle banche cinesi, i quali hanno reso accessibili questi prodotti di monitoraggio a sostegno dei progetti locali e nazionali dei paesi africani (e.g. Sudafrica, Kenya, Nigeria, Ghana, Ecuador). Questa risposta alla domanda africana guidata dai problemi di governance  alimenta tuttavia una vera e propria invasione digitale che rende di fatto l’Africa totalmente dipendente dai produttori tecnologici stranieri.

La Cina esporta quindi i suoi dispositivi di controllo spacciandoli per soluzioni smart a problemi sociali, ignorando il fatto che le tecnologie sono il prodotto di una società e in questo senso sono artefatti culturali. Lungi dall’avere necessariamente un’applicazione universale, alcune tecnologie già di per sé non neutrali possono diventare ancora più problematiche se implementate in culture diverse da quella d’origine, in quanto incapaci di considerare determinate specifiche culturali e comportamentali a loro estranee. E questo è ciò che accade in Sudafrica.

L’introduzione di queste tecnologie potenzialmente repressive nel Paese porta infatti con sé un retaggio coloniale, alimentando un’apartheid digitale basata sull’IA. La sorveglianza è infatti da sempre uno strumento di potere utilizzato contro gli individui socialmente emarginati, ma nel contesto sudafricano questo assume caratteristiche ancora più cupe, che vanno a costituire l’eredità digitalizzata dell’apartheid. Durante il periodo di segregazione razziale, infatti, il governo utilizzava lo strumento dei passaporti interni per limitare in maniera sistematica i movimenti di quella parte della popolazione non bianca.

L’implementazione delle telecamere si adagia sui modelli economici delle metropoli sudafricane, contribuendo alla privatizzazione della sicurezza e degli spazi pubblici, e reiterando le disuguaglianze sociali. In questo contesto spicca Vumacam, famoso fornitore nazionale di soluzioni tecnologiche di sorveglianza che, prendendo esempio dai più famosi colossi tecnologici, vuole stabilire un monopolio virtuale diffondendo capillarmente la sua infrastruttura privata in tutto il Paese.

Le società di sicurezza private non hanno chiaramente gli stessi poteri legali della polizia ma la sostituiscono quasi completamente, realizzando uno stato di sorveglianza pubblico-privato che serve non tanto l’interesse dei cittadini quanto quello dell’elite pagante e delle big-tech che si arricchiscono di dati.

In questo stato di sorveglianza permanente la trasparenza è completamente assente. Non esiste dibattito pubblico perché si sottovalutano le implicazioni, anche a causa di una più generale mancanza di consapevolezza. Oltre ad essere di interesse del governo, la disinformazione è in parte dovuta alla privatizzazione dei modelli di sorveglianza pubblica. Vumacam infatti dichiara che le sue telecamere non sarebbero tecnicamente in grado di supportare il riconoscimento facciale, ma non fornisce dati effettivi per la verifica di tale dichiarazione.

Tuttavia è noto che Vumacam ha incorporato iSentry, software di IA non supervisionata con un’esplicita funzione che consente l’individuazione, tramite un’analisi basata su pixels,  di comportamenti insoliti. Il fatto che l’analisi non sia pre-programmata e settata su un comportamento insolito tipo che guidi l’individuazione degli altri dovrebbe dichiaratamente eliminare qualsiasi forma di bias da questa classificazione, secondo il dubbio ragionamento che riducendo al minimo la partecipazione umana si riduca a sua volta l’implementazione di pregiudizi. Inoltre, sebbene l’accesso a queste riprese sia consentito soltanto ai clienti della piattaforma, non è assolutamente chiaro l’uso che questi ultimi ne possano fare nei confronti di terze parti.

Società private di questo tipo possono permettersi poca trasparenza a causa dell’assenza di una legislazione ben definita.

Figura 1: Esempio di interfaccia di Vumacam. Immagine da: https://www.vumacam.co.za/features/

La mancanza di un quadro normativo chiaro gioca quindi un importante ruolo nella svolta digitale che sta affrontando il Sudafrica. Le attuali norme che governano l’utilizzo della sorveglianza nel Paese sono state infatti stabilite in epoca pre-digitale, e di conseguenza non sono adatte a governare la società attuale. Inoltre, le normative vigenti sembrano consentire la sorveglianza di massa se attuata in nome della sicurezza di chi è sorvegliato.

Il potenziale uso antidemocratico di questi strumenti da parte dei governi africani evidenzia un problema politico di base. Il Sudafrica è infatti tra le società più diseguali al mondo, per fattori sia economici che politici. Il fatto che il problema sia politico e che riguardi la totalità degli stati africani più in generale si evince, tra gli altri, dal caso specifico dell’Etiopia, caratterizzata da un ambiente online che subisce regolari interruzioni di Internet sulla base di motivazioni politiche.

L’implementazione di tecnologie CCTV appare quindi chiaramente vulnerabile all’abuso. In risposta a questo problema il governo dovrebbe rendere consapevoli i cittadini del fatto che i diritti digitali altro non sono che un’estensione di diritti politici e libertà civili, promuovendo politiche nazionali di sicurezza informatica e regolamentando misure di privacy e protezione dati.

Vumacam dichiara che dopo l’installazione delle telecamere la comunità si è sentita più sicura e protetta. Tuttavia, i vantaggi del progetto Safe Cities in Africa restano difficili da verificare.