RISERVATEZZA DEI DATI

Smart City Wallet: tutte le ombre del social scoring

Oltre l'entusiamo, non vanno sottovalutati i rischi per diritti e libertà dei cittadini

Quando il metodo di rating sociale derivante dall’applicazione di sistemi come lo Smart Citizen Wallet diventa una proposta diffusa da ondate di tecno-entusiasti, è lecito dirsi preoccupati. Non tanto perché si è vittime di una devozione luddista, bensì perché oltre la cortina di annunci e narrazioni giacciono una serie di elementi che – se valutati correttamente – non possono che portare a considerare un’insostenibilità del rischio per i diritti e le libertà fondamentali dei cittadini derivante dall’applicazione di tali sistemi.

Dal punto di vista giuridico può essere sufficiente richiamare le considerazioni contenute all’interno del parere congiunto dell’EDPB e EDPS sulla proposta di regolamento sull’intelligenza artificiale in cui viene confermato il divieto esplicito previsto dall’art. 5 nei confronti delle fattispecie di “’immissione sul mercato, la messa in servizio o l’uso di sistemi di IA da parte delle autorità pubbliche o per loro conto ai fini della valutazione o della classificazione e l’affidabilità delle persone fisiche per un determinato periodo di tempo sulla base del loro comportamento sociale o di caratteristiche personali o della personalità note o previste, in cui il punteggio sociale così ottenuto comporti il verificarsi di uno o di entrambi i seguenti scenari: i) un trattamento pregiudizievole o sfavorevole di determinate persone fisiche o di interi gruppi di persone fisiche in contesti sociali che non sono collegati ai contesti in cui i dati sono stati originariamente generati o raccolti; ii)un trattamento pregiudizievole o sfavorevole di determinate persone fisiche o di interi gruppi di persone fisiche che sia ingiustificato o sproporzionato rispetto al loro comportamento sociale o alla sua gravità;”. Anzi, viene suggerita l’estensione a qualsiasi tipo di punteggio sociale, anche se attribuito da parte di società private, in quanto gravemente discriminatorio e in contrasto con i valori fondamentali dell’UE.

La tecnologia è neutrale, ma la sua applicazione può avere effetti distorsivi o impatti gravi a livello individuale e collettivo. Il vulnus culturale è sotto gli occhi di tutti: è sempre più facile che si realizzi un trade-off fra diritti e servizi posti in essere da un’autorità pubblica, spesso portato avanti con l’etichetta di “accettazione volontaria”. Ma se la confusione ha portato al progressivo recesso dell’individuo con la compressione di alcuni diritti fondamentali in assenza della valutazione di proporzionalità, è tempo di chiarire la distinzione fra cittadino e suddito digitale. 

Insomma: sebbene i tempi correnti e i contesti pandemici abbiano portato addirittura agli eccessi ideologici dei negazionisti della privacy, i principi fondamentali dell’ordinamento – fra cui si annovera la proporzionalità, ad esempio – resistono e anzi possono trovare un adattamento pur nei contesti emergenziali o a fronte di grandi cambiamenti sociali e tecnologici. E se la rana di Chomsky oggi è il nostro gemello digitale, occorre che si impari a reagire tempestivamente e saltare. Soprattutto quando il pentolone è grande come il world wide web.

Back to top button