Replika, il chatbot che attraverso l’intelligenza artificiale crea un “amico virtuale”, ha ricevuto lo stop del Garante e per il momento non potrà usare i dati personali degli utenti italiani. Alla luce delle prove condotte su Replika dall’Autorità viene comunicato che “l’applicazione presenta concreti rischi per i minori d’età, a partire dalla proposizione ad essi di risposte assolutamente inidonee al loro grado di sviluppo”.
Replika, sviluppato dalla società statunitense Luka Inc., è dotato di un’interfaccia scritta e vocale ed è stato presentato come in grado di migliorare il benessere emotivo dell’utente ma, attraverso le sue caratteristiche che agiscono sull’umore, si ritiene rischioso per soggetti ancora in fase di sviluppo o persone emotivamente fragili. Nel chatbot mancano inoltre meccanismi di verifica dell’età, filtri per i minori e blocchi dell’app di fronte agli utenti che si dichiarano minorenni, in fase di registrazione l’applicazione chiede infatti soltanto nome, e-mail e genere.
Secondo il Garante “Replika viola il Regolamento europeo sulla privacy, non rispetta il principio di trasparenza ed effettua un trattamento dei dati personali illecito, in quanto non può essere basato, anche solo implicitamente, su un contratto che il minorenne è incapace di concludere”.
La società sviluppatrice Luka Inc, oltre ad interrompere il trattamento dati degli utenti italiani, sarà tenuta a comunicare entro 20 giorni le misure adottate in relazione a quanto richiesto dal Garante, pena una sanzione fino a 20 milioni di euro o fino al 4% del fatturato globale annuo.
