Un gruppo di ricercatori dell’Università Ben Gurion del Negev, in Israele – guidato dalla dottoressa Nitzan Guetta, laureata in Scienze Informatiche e con un dottorato in Ingegneria del Software e dei Sistemi Informativi – ha verificato l’efficacia di un metodo molto semplice per bypassare il riconoscimento facciale.
I modelli di riconoscimento facciale basati sulla tecnica Deep Learning sono utilizzati con finalità di sorveglianza per identificare le persone che transitano in determinate aree. Il software analizza le immagini provenienti dalle varie telecamere e le confronta con quelle presenti in una black list, in cui sono inserite le persone che, se riconosciute, devono far scattare l’allarme.
In questo esperimento i ricercatori, ipotizzando che chi sferri l’attacco non abbia accesso all’infrastruttura di sorveglianza, hanno scelto di non alterare in alcun modo il sistema informatico, ma di modificare soltanto il mondo fisico che viene sottoposto al sistema stesso, cioè l’aspetto dei volti dei soggetti.
In precedenza diversi studi avevano mostrato come ingannare le telecamere, applicando immagini stampate su accessori come cappelli o occhiali. In molte situazioni è necessario però che la manipolazione fisica non desti sospetti nei supervisori in carne ed ossa del sistema di sorveglianza. In questo esperimento si sono limitati ad utilizzare del trucco di tipo comune, che possiamo trovare nelle profumerie, per di più di colori neutri per ottenere un look il più possibile naturale.
Sono stati reclutati 20 partecipanti, equamente distribuiti fra femmine e maschi. Dopo essere stati inseriti nella black list del sistema di riconoscimento facciale, hanno dovuto camminare in un corridoio vigilato da due videocamere. Hanno poi ripetuto il passaggio dopo esser stati truccati in maniera casuale, dopodiché sono stati truccati secondo un accurato schema di “makeup contrastante” messo a punto dai ricercatori.
Una volta individuati per ogni soggetto i punti chiave che costituiscono le parti più identificabili del viso, secondo le metodologie attualmente alla base del riconoscimento facciale, è stata utilizzata l’app gratuita “YouCam Makeup”, nata con lo scopo di provare virtualmente del trucco sul proprio viso, fino a quando l’immagine digitale sia risultata talmente alterata da non essere più segnalata dal software di riconoscimento facciale.
Successivamente, per verificare il comportamento nel mondo reale, una truccatrice professionista ha riprodotto il trucco “contrastante” suggerito dall’app sul viso dei partecipanti.
I soggetti truccati sono quindi passati nuovamente sotto l’attento occhio delle due telecamere puntate nell’area di test, in maniera tale da avere inquadrature da diverse angolazioni.
Lo scopo del test era verificare quante volte si riesce ad ingannare il sistema.
I risultati sperimentali mostrano che le immagini modificate digitalmente (tramite l’app) sono in grado di raggiungere un successo del 100% nel mancato riconoscimento dei soggetti.
I soggetti fisici nel mondo reale invece vengono riconosciuti in diverse percentuali dalle immagini estratte dalle telecamere:
- 47.5% senza trucco;
- 33.73% con trucco casuale;
- 1.22% con trucco applicato secondo il modello sopra descritto.
L’efficacia del riconoscimento scende quindi da una percentuale di quasi metà dei frame ad una vicina allo zero, impiegando semplici mezzi e qualche accorgimento.
I risultati ci spingono ad una riflessione inevitabile, cioè che ci siano ancora molti problemi nel settore del riconoscimento facciale, anche se vari esperimenti come quello condotto dal gruppo di ricercatori in questione stanno contribuendo al perfezionamento di tale tecnologia.
Per avere un’idea visiva dello svolgimento dell’esperimento, di seguito il video.
