L’utilizzo di Internet da parte dei minori può comportare numerosi rischi, ed è compito dei genitori prestare la massima attenzione per proteggere i propri figli da queste minacce. Tra le principali c’è l’adescamento online da parte di estranei che fingono di essere amici o utilizzano false identità, il cyberbullismo, l’esposizione a contenuti violenti o sessualmente espliciti, la condivisione di informazioni personali e riservate online e l’utilizzo di app che possono rappresentare una minaccia per la sicurezza e la privacy dei minori. A proposito di quest’ultimo caso, ecco l’applicazione che è stata vietata ai bambini.
Una delle app più controverse e pericolose per i minori è Replika, un assistente personale virtuale sviluppato da OpenAI che utilizza tecniche di machine learning per imitare la conversazione umana e personalizzare la sua interazione con ogni utente in base ai dati raccolti dalle conversazioni precedenti. Tuttavia, l’app non è un sostituto per il supporto professionale, ma soprattutto non deve essere utilizzata per trattare disturbi mentali o fisici.
La preoccupazione principale riguarda la sicurezza e la privacy dei dati degli utenti, poiché l’app raccoglie informazioni sulle conversazioni degli utenti. Il Garante della Privacy ha deciso di bannare l’app in Italia a causa di alcune lacune nella sicurezza, tra cui la mancanza di un sistema di verifica dell’età o un filtro per i minori, il fatto che le risposte di Replika non siano sempre adatte a un pubblico di minori e il trattamento illecito dei dati personali degli utenti secondo il GDPR.
La società che sviluppa e gestisce l’app, Luka, ha venti giorni per apportare le modifiche richieste dal Garante, altrimenti sarà soggetta a una sanzione fino a 20 milioni di euro o fino al 4% del fatturato globale annuo.