Col moltiplicarsi in ogni dove delle iniziative di installazione di telecamere smart, il mondo accademico sta cercando di rispondere con studi per la loro elusione. Un gruppo di ricercatori in computer science dell’Università di Chicago a tal proposito ha sviluppato un promettente software open-source dal nome Fawkes, il famoso cospiratore inglese.
Fawkes può introdurre delle modifiche nelle immagini, impercettibili all’occhio umano, che rendono molto più arduo il compito degli algoritmi di riconoscimento facciale. L’unione di alcuni tratti caratteristici di una persona su un’altra genera di fatto una persona diversa, non presente negli enormi database alimentati dai serbatoi delle reti sociali, consentendo così l’aggiramento del sistema.
L’azione del software fa dei suoi punti di forza la conoscenza approfondita dell’avversario, più nello specifico degli aspetti che l’algoritmo di riconoscimento facciale analizza per riconoscere una persona. È proprio su quelle caratteristiche che Fawkes va a far leva, impedendo di fatto di farlo funzionare per come progettato. Il suo intervento in ogni caso non può essere smodatamente invasivo, per non essere scoperto deve essere tenuto saldo il compromesso tra ciò che l’algoritmo può rilevare e ciò che l’occhio umano può avvertire in termini di distorsione dell’immagine originale.
La strategia adoperata dai ricercatori americani viene definita nel gergo “avvelenamento del modello”, un tipo di attacco nel quale un algoritmo di machine learning viene intenzionalmente alimentato con dati corrotti al fine di impedire corrette elaborazioni e previsioni. Chiaramente in questo caso il suo uso sarebbe a fin di bene, consentendo la messa in bisaccia di un potente strumento per sfuggire alle catene della sorveglianza diffusa.
Non è detto che questo obiettivo sia non solo compreso ma anche condiviso dai più. Lo stesso Banksy, che è un grande interprete della modernità, si è trovato a riflettere sul tema affermando che le persone sembrano particolarmente entusiaste di rendere pubblici i dettagli della propria vita privata. La questione di fondo, come affermato tra gli altri dalla professoressa Zuboff, è la mancata comprensione di tutto ciò che c’è dietro la condivisione di queste informazioni, come lo scopo della raccolta dei dati.
Se l’elaborazione di Fawkes non fa né caldo né freddo per alcuni, si deve sottolineare che non è il santo Graal neanche tra coloro che quotidianamente di occupano di computer science. Alcuni ricercatori dell’Università di Stanford, ad esempio, lo hanno fortemente criticato definendolo uno strumento che dà un falso senso di sicurezza agli utenti. Nel loro studio infatti sottolineano che esistono già diversi software di riconoscimento allenati a lavorare con immagini alterate.
Come si diceva già in un precedente articolo la strada per il mantello dell’invisibilità è ancora lunga, purtuttavia ogni giorno vengono posti nuovi mattoncini utili alla formazione di una solida barriera contro lo strapotere delle compagnie dell’Information Technology e l’invadenza dei governi. Basterà?
