Replika, una startup di San Francisco lanciata nel 2017, offre agli utenti avatar personalizzati che li ascoltano e parlano.

È popolare tra gli anglofoni e sebbene sia gratuito, genera circa $ 2 milioni di entrate mensili dalla vendita di servizi aggiuntivi come le chat vocali.

Questo “amico virtuale” è promosso come dotato della capacità di migliorare il benessere emotivo degli utenti.

Leggi anche: Più di 17 milioni di rumeni hanno “varcato” i confini nel 2022, hanno fatto le loro vacanze all’estero

L’agenzia di regolamentazione italiana ha affermato che, poiché può influenzare l’umore dell’utente, “può rappresentare un rischio per le persone che sono ancora in una fase di sviluppo o in uno stato di fragilità emotiva”.

Jen Persson, direttore della campagna sulla privacy dei bambini Defend Digital Me, ha affermato che i dispositivi progettati per influenzare l’umore o il benessere mentale di un bambino dovrebbero essere classificati come prodotti per la salute e dovrebbero quindi essere soggetti a severi standard di misure di sicurezza, riferisce Agerpres.

Leggi anche: La fortuna dell’oligarca russo Konstantin Malofeev sequestrata dagli Usa, aiuti inviati all’Ucraina

“Questi strumenti sono lasciati alla portata dei bambini senza controlli seri per proteggerli dagli abusi”, ha detto.

L’agenzia di regolamentazione italiana ha evidenziato la mancanza di un meccanismo di verifica dell’età, come filtri minori o un dispositivo di blocco se gli utenti non dichiarano esplicitamente la loro età.

Replika viola le norme sulla protezione dei dati dell’UE e tratta i dati personali illegalmente perché non è, almeno implicitamente, basato su un contratto che un minore non può firmare, ha anche affermato l’autorità.

Replika non ha risposto immediatamente a una richiesta via e-mail di commento da parte di Reuters.

Robert Grosvenor, direttore dello studio legale Alvarez & Marshall, ha affermato che è improbabile che il regolatore italiano sia l’unica istituzione europea di questo tipo a prendere in considerazione un’azione contro società come Replika.

“Sebbene la verifica dell’età possa fornire i mezzi per proteggere i gruppi vulnerabili, non affronta i rischi e i danni che i servizi e le soluzioni basati sull’intelligenza artificiale possono comportare se non sono regolamentati in termini di potenziale pregiudizio o discriminazione involontaria”, ha affermato. egli.

Lo sviluppatore di Replika, l’azienda americana Luka Inc, deve notificare all’autorità italiana le misure adottate per dare attuazione alle richieste entro 20 giorni e rischia una multa fino a 20 milioni di euro o fino al 4% del fatturato annuo globale, si legge anche disse.