Un aspetto particolarmente preoccupante emerso dall’indagine è stato il mancato adottamento di misure adeguate da parte di TikTok per proteggere gli utenti, soprattutto minori e individui vulnerabili, dalla diffusione di contenuti dannosi. Un esempio emblematico di questa mancanza di protezione è stato il fenomeno della “challenge cicatrice francese“. Questo fenomeno ha portato a numerosi casi di autolesionismo tra gli utenti della piattaforma, in particolare i più giovani. Nonostante l’AGCM avesse già ordinato la rimozione dei video legati a questa challenge, TikTok non ha dimostrato di aver preso misure sufficienti per prevenire situazioni simili in futuro.
Inoltre, l’AGCM ha osservato che la piattaforma social utilizza un sistema di raccomandazione algoritmica. Questo sistema tende a proporre agli utenti contenuti potenzialmente pericolosi, basandosi sulle loro precedenti interazioni con la piattaforma. Infine, TikTok è stato criticato per non fornire informazioni chiare e facilmente accessibili sui rischi associati all’utilizzo della piattaforma e sul modo in cui vengono utilizzati i dati personali degli utenti per indirizzare loro contenuti specifici. Questa mancanza di trasparenza mette gli utenti nella condizione di non essere pienamente consapevoli dei potenziali rischi a cui sono esposti mentre utilizzano TikTok.
Di fronte a queste accuse, un portavoce di TikTok ha risposto dichiarando il disaccordo con la decisione dell’AGCM. Ha sostenuto che il contenuto legato alla “cicatrice francese” era già stato ridotto in visibilità per gli utenti di età inferiore ai 18 anni prima che l’indagine fosse avviata. Inoltre, ha confermato che la piattaforma aveva preso misure per affrontare la situazione. L’AGCM ha comunque mantenuto la sua posizione e ha emesso la multa come segno di responsabilità per le pratiche commerciali scorrette rilevate sulla piattaforma TikTok.