Human Rights Watch (HRW) ha sollevato un allarme in merito ai seri rischi per la privacy dei bambini brasiliani, denunciando l’utilizzo non autorizzato delle loro fotografie per l’addestramento di strumenti di intelligenza artificiale. Le immagini, ottenute da LAION-5B, un vasto database che raccoglie snapshot del web pubblico, includono foto provenienti da diverse fonti online, tra cui blog personali e video su YouTube.
Hye Jung Han, ricercatrice di HRW, ha individuato 170 foto di bambini provenienti da almeno 10 stati brasiliani in una piccola porzione del dataset LAION-5B. Queste immagini, originariamente caricate per uso personale su piattaforme online, sono state utilizzate senza il consenso dei genitori o dei tutori legali per l’addestramento di strumenti di IA come Stable Diffusion.
Nonostante i tentativi di rimozione dei collegamenti alle immagini dei bambini dal database, HRW evidenzia che il problema della privacy dei minori brasiliani persiste. L’identificazione di tali bambini è stata agevolata dal fatto che i loro nomi e le località erano inclusi nelle didascalie delle fotografie, documentando momenti intimi della loro vita quotidiana.
Il pericolo che queste immagini finiscano ancora in strumenti di IA rimane, nonostante i passi intrapresi per rimuoverle pubblicamente da LAION-5B. La rimozione dei collegamenti non impedisce che le foto siano utilizzate in altri contesti online, mantenendo viva la minaccia per la privacy dei minori.
HRW ha sottolineato la necessità di una maggiore trasparenza e responsabilità nella gestione dei dati personali dei minori e ha sollecitato ulteriori azioni per proteggere la loro privacy online. Si auspica che LAION e altre organizzazioni coinvolte possano adottare misure efficaci per garantire la sicurezza e la protezione dei dati dei bambini presenti nei loro dataset.