CAMPANELLO DI ALLARME

La nuova frontiera del revenge porn sfrutta l’intelligenza artificiale ed un bot Telegram

Un report rivela l’impiego del bot per elaborare migliaia di immagini di donne tra cui minorenni

Abbiamo parlato più volte tra queste pagine dell’utilizzo dell’intelligenza artificiale per creare falsi profili, per evitare di mettere la propria  faccia in un video e di come è stata sfruttata per fingere di essere qualcun altro in diretta streaming su Zoom.

Lo scorso anno fece la sua comparsa sul web DeepNude, un software che consentiva di “spogliare una donna” semplicemente caricandone una normale fotografia. L’applicazione non faceva altro che assegnare un corpo femminile similare a quello mostrato nell’immagine, ricollocandolo perfettamente in linea con il volto della protagonista, grazie all’algoritmo open source Pix2Pix e all’intelligenza artificiale.

Qualche giorno fa è stato pubblicato in rete un report che analizza l’attività di un bot Telegram che di fatto esegue funzioni analoghe a quelle di DeepNude, sfruttando in realtà un software esterno alla piattaforma di messaggistica.

Dall’analisi emerge che il 70% delle foto caricate tramite questo bot, nel periodo preso in esame, risulterebbe appartenere a soggetti privati, con scatti presi dai social network. L’aspetto inquietante è che tra i target ci sarebbero anche immagini di minorenni. Dai dati pubblicati, emerge che circa 104.852 donne sono state prese di mira e “denudate”, nelle immagini condivise pubblicamente a partire dalla fine di luglio 2020. Il numero di queste effigi è cresciuto del 198% negli ultimi 3 mesi.

Come funziona a livello pratico il tool analizzato nel report? Più facile a farsi che a dirsi. L’utilizzatore lo avvia e gli offre in pasto la foto. Qualche secondo di attesa ed il bot, come fosse un utente qualsiasi al lavoro dall’altra parte della chat, gli rispedisce la foto elaborata o meglio dire in questo caso “denudata”. La foto può essere salvata o condivisa con altri senza troppe difficoltà.

Applicazioni come queste costituiscono la nuova frontiera del revenge porn, agevolando la realizzazione nonché la diffusione di fotografie o filmati privati a scopi vendicativi e senza il consenso della persona raffigurata. Si possono ben immaginare ulteriori aspetti critici relativi ad episodi estorsivi o addirittura di cyberbullismo. Quante tematiche si riconnettono in un’applicazione del genere… non credo servano esempi da citare per comprenderne ulteriormente i rischi nell’utilizzo improprio di un simile strumento.

Il sogno dei tanti giovani degli anni 60/70, che comprarono i sexy occhiali, dietro la promessa che avrebbero consentito all’utilizzatore di vedere attraverso i vestiti, sembra divenire realtà grazie all’intelligenza artificiale… era anche l’ispirazione del creatore di DeepNude quella dei famigerati occhiali a raggi X. Non ci sarà nessun “fuggi fuggi generale per le ragazze”, come recitato nella réclame di allora, perché con tutti i contenuti fotografici che liberamente pubblichiamo online, sfuggirne è pressoché impossibile. Può però rincuorare il fatto che l’immagine ricostruita dall’AI non corrisponde al reale fisico della donna, seppur ben si allinea con la foto originale dove compare vestita.

Quali strumenti abbiamo per difenderci? Lasciando da parte l’aspetto giuridico e penale, l’arma da difesa principale rimane la cultura. Diffondere una cultura della sicurezza e della consapevolezza nell’utilizzo della rete, analizzandone i rischi che ne conseguono, è il miglior modo di prevenire situazioni critiche.

Tags
Back to top button
Close
Close