In un momento in cui si sente parlare molto di Intelligenze Artificiali e chatbot anche la lente d’ingrandimento del Garante della Privacy si mette in azione. Proprio questo ha portato ad un’azione del Garante della Privacy nei confronti di “Replika” e dell’azienda produttrice.
Cos’è Replika
“Replika” è un chatbot, dotato di una interfaccia scritta e vocale che, basandosi sull’intelligenza artificiale, genera un “amico virtuale”. Questo soggetto virtuale dovrebbe essere in grado di migliorare il benessere emotivo dell’utente, e dovrebbe aiutare chi sceglie di utilizzarlo a comprendere i propri pensieri e a calmare l’ansia. “L’amico” suggerisce azioni per imparare a gestire lo stress, la socializzazione e la ricerca dell’amore.
L’azione del Garante della Privacy verso Replika
Se da un lato sembra che Replica voglia aiutarti a stare bene, intervenendo sull’umore e imitando un vero amico, dall’altro sembra essere pericoloso per i minori, sembra che possa essere nocivo per i giovani ancora in una fase di sviluppo o in stato di fragilità emotiva.
Il rischio per i più fragili e deboli emotivamente e psicologicamente hanno spinto il Garante della Privacy a perdere provvedimenti e ad agire con la limitazione dell’uso dei dati con effetto immediato. Oltre a questo nell’applicazione mancano del tutto i limiti per l’età, diventando così accessibile anche peri più piccoli. Mancano tutte quelle azioni che servono per proteggere i minori, come il filtro per l’età; infatti durante la fase di creazione di un account la piattaforma si limita a richiedere solo nome, e-mail e genere.
Una volta testata l’app il chatbot pone delle risposte che non tutelano per nulla l’utente, soprattutto se pensiamo ai minori.
Alla luce delle recenti notizie stampa e delle prove condotte dall’Autorità su “Replika”, l’applicazione presenta infatti concreti rischi per i minori d’età, a partire dalla proposizione ad essi di risposte assolutamente inidonee al loro grado di sviluppo.
Sul sito del Garante si legge:
“Replika” viola il Regolamento europeo sulla privacy, non rispetta il principio di trasparenza ed effettua un trattamento di dati personali illecito, in quanto non può essere basato, anche solo implicitamente, su un contratto che il minorenne è incapace di concludere.
La società sviluppatrice statunitense, Luka Inc, oltre a dover interrompere il trattamento dei dati degli utenti italiani, deve comunicare entro 20 giorni le misure intraprese in attuazione di quanto richiesto dal Garante, pena una sanzione fino a 20 milioni di euro o fino al 4% del fatturato globale annuo.
Questo è il blog personale di Vincenzo Maruccio, dove l’avvocato condivide notizie legate a suoi interessi, come la tecnologia, l’ambiente, l’economia e la finanza. L’avvocato Maruccio svolge la libera professione nel foro romano, nel suo studio dove collabora con altri esperti professionisti. L’avvocato Maruccio ha uno studio professionale dove collabora anche a Milano.