L’Autorità per la protezione dei dati personali ha disposto la limitazione provvisoria e con effetto immediato del trattamento dati da parte di Replika, la chatbot-amico virtuale, spesso utilizzata dai giovanissimi e dotata di interfaccia scritta e vocale.
Così com’è, Replika viola il Regolamento europeo sulla privacy, non rispetta il principio di trasparenza ed effettua un trattamento di dati personali illecito, che non può nemmeno implicitamente essere basato su un contratto che il minorenne è incapace di concludere. Allo stato dei fatti manca infatti un meccanismo di verifica dell’età, un filtro minori o altro meccanismo che blocchi l’utilizzo dell’applicazione qualora l’utente espliciti la propria minore età. Secondo il Garante vi sarebbero rischi concreti per i minori di età, a partire da alcune risposte che esso fornirebbe ai giovani utenti, assolutamente inidonee al loro grado di sviluppo. Il servizio di intelligenza artificiale, pubblicizzato come in grado di migliorare il benessere emotivo dell’utente, avrebbe lo scopo di aiutare a comprendere i propri pensieri e calmare la sua ansia, gestire lo stress, la socializzazione e la ricerca dell’amore. Proprio tali capacità di intervenire sull’umore del fruitore sarebbero infatti troppo rischiose per soggetti ancora in fase di sviluppo. A ciò si aggiungono alcune recensioni di utenti, che lamentano negli store digitali contenuti sessualmente espliciti. Aggiunge l’Autorità che «la proposizione di “risposte” da parte del chatbot risultano spesso palesemente in contrasto con le tutele rafforzate che vanno assicurate ai minori e a tutti i soggetti più fragili». La società americana proprietaria del prodotto dovrà quindi interrompere il trattamento dei dati degli utenti italiani e dovrà comunicare entro 20 giorni le misure intraprese per l’attuazione di quanto richiesto dal Garante, pena una sanzione fino a 20 milioni di Euro o fino al 4% del fatturato.