Nel mese di aprile sul canale d’informazione Channel Asia News è rimbalzata la notizia che in Cina sempre più comunità locali stanno sperimentando, su larga scala, un social credit system. Il quale rileva i comportamenti dei cittadini attraverso il riconoscimento facciale grazie e milioni di telecamere di sorveglianza disseminate ovunque e fuori sorveglianza dal comune cittadino. La notizia di Channel Asia News è interessante perché data l’entrata in vigore del sistema “di almeno due anni”. Ai cittadini, grazie al sistema, viene attribuito un punteggio ( credit) attraverso il quale finiscono relegati nel girone della affidabilità ovvero in quello della inaffidabilità. Chi ha un credit alto ha certamente maggiori possibilità di ottenere un lavoro governativo, un posto in asilo pubblico ed anche un controllo medico annuale, gratuito.
Viceversa – come direbbe Cevoli- chi ha un credit basso perché ha svoltato a sinistra anziché a destra oppure ha acquistato troppi videogiochi oppure , infine, ha consultato troppe notizie false (secondo il rigido protocollo del “vero” che viene dall’alto del Celeste Impero) non può più pagare il biglietto per i viaggi su voli interni o sui treni, tantomeno sognare di spostarsi all’estero. Naturalmente non rinnoverà la carta di credito e quando andrà in banca per via del prestito ottenuto si sentirà dire che il prestito è estinto mentre il rientro dal prestito gode di ottima salute. Channel Asia News ha quantificato in 9 milioni di persone le vittime da credit insufficiente. Basso, troppo basso.
Le versione utopica dell’intelligenza artificiale ci fa sognare magnifiche sorti. La versione distopica di tale sogno ci permette di considerare appieno la minaccia delle magnifiche sorti.
In Italia il riconoscimento facciale sarebbe perfetto in qualche curva sud degli stadi. Anche in molte stazioni ferroviarie. E nelle piazze dove il distanziamento sociale non viene mai applicato a causa del distanziamento mentale di chi le frequenta.
Ma Channel Asia News ci informa anche che nel giro di pochi mesi le persone iscritte nel fondo classifica del social credit sono balzate da 9 a 17 milioni, progressione che Orwell non aveva considerato.
Negli Usa qualche domanda in più è stata posta, al riguardo; la municipalità di San Francisco, oltre alla domanda, ha dato una risposta impedendo alla polizia locale di ricorrere al software di riconoscimento facciale, prima città metropolitana americana a contrastare la marcia trionfale della schedatura di massa a fini amministrativi.
La questione etica legata ai software di riconoscimento ha ricadute esemplari sul fronte commerciale. Ne sa qualcosa Amazon, accusata di utilizzare un sistema rekognition che quando analizza i volti di persone nel 31% dei casi confonde i visi femminili con quelli maschili. L’Azienda ha minimizzato il bias ma molti esperti di AI hanno tenuto il punto sottoscrivendo dapprima una lettera aperta alla stessa Amazon e ottenendo infine che la stessa Assemblea degli azionisti decretasse l’abbandono del sistema di riconoscimento. Siamo a San Francisco, culla dell’hi tech, epicentro di un complessivo e complesso confronto sulla adottabilità (sostenibilità) di sistemi di controllo delegati alla intelligenza artificiale.
Il fondatore dell’Icelandic Institute for Intelligent Machines, Kristinn Thorisson non nega affatto che il tema dell’Intelligenza Artificiale sia il grande tema del futuro. Ma precisa subito che per ora “siamo nell’era della stupidità artificiale”. Manca la comprensione: “in realtà queste macchine non comprendono proprio nulla e questo è un problema.
