ll Garante della privacy ferma “Replika”, la chatbot dotata di un'interfaccia scritta e vocale che, basandosi sull’intelligenza artificiale, genera un “amico virtuale”
Cos'è REPLIKA? È una chatbot “l’amico di intelligenza artificiale” che ci tiene. Così si presenta Replika sul proprio sito, nel quale tanti avatar virtuali si interfacciano con l’utente. Sono già in milioni le persone che utilizzano Replika.
La chatbot, che in abbonamento gratuito permette di tessere relazioni puramente amicali, attraverso un abbonanamento a pagamento consente di sbloccare il livello romantico ed erotico del bot.
L'amico virtuale - presentato come in grado di migliorare il benessere emotivo dell’utente - ha caratteristiche tali che, intervenendo sull’umore della persona, possono accrescere i rischi per i soggetti ancora in una fase di sviluppo o in stato di fragilità emotiva.
L’applicazione, quindi, presenta importanti e concreti rischi per i minori d’età, come, ad esempio, la proposta ad essi di risposte assolutamente inidonee alla loro età e fase di sviluppo.
Perché “Replika” viola il Regolamento europeo sulla privacy? “Replika” non rispetta il principio di trasparenza ed effettua un trattamento di dati personali illecito, in quanto la sua base giuridica non può essere un contratto che il minorenne è incapace di concludere.
Manca, peraltro, ogni meccanismo di tutela verso i minori in ordine alla verifica dell’età, filtri per i minori, blocco dell’app di fronte a dichiarazioni in cui l’utente dichiari la propria minore età. Infatti, durante la fase di creazione di un account la piattaforma si limita a richiedere solo nome, e-mail e genere.
Inoltre, le “risposte” da parte del chatbot risultano spesso palesemente in contrasto con le tutele rafforzate che vanno assicurate ai minori e a tutti i soggetti più fragili.
La Luka Inc, società sviluppatrice statunitense, è stata ingiunta all'interruzione del trattamento dei dati degli utenti italiani e alla comunicazione entro 20 giorni delle misure intraprese in attuazione di quanto richiesto dal Garante, pena una sanzione fino a 20 milioni di euro o fino al 4% del fatturato globale annuo.
Il testo completo del provvedimento è consultabile all’URL:
https://www.garanteprivacy.it/web/guest/home/docweb/-/docweb-display/docweb/9852214
Lo Staff IusPrivacy è a disposizione per rispondere a tutte le richieste di informazioni inerenti al tema in oggetto.
