Ricordate lo scandalo di Google che attraverso la sua piattaforma “Foto” rinominava uomini e donne nere sotto la categoria di “Gorilla“?
Oramai sono passati tre anni da questa brutta pagina dell’azienda di Mountain View, eppure sembra che ben poco sia cambiato.
Il sistema di intelligenza artificiale che governa l’applicazione dedicata alle immagini ancora non è in grado di distaccarsi da una deriva “razzista”.
Procediamo con ordine. Alla scoperta degli spiacevoli eventi denunciati da migliaia di utenti, Google tre anni fa decise di chiudere definitivamente la categoria “gorilla” nella quale venivano salvate in automatico tutte le fotografie di persone afroamericane.
L’azienda, al fine di evitare nuovi scandali, nel corso di questi mesi ha deciso di operare una nuova restrizione. Questa volta, ad essere, sotto torchio sono le categorie “black man” e “black woman”.
L’intelligenza artificiale va a catalogare in queste cartelle di “Foto” tutte le immagini in bianco e nero rappresentati individui di qualsiasi etnia.Proprio questo aspetto ha suscitato non poche polemiche. Sul web è partita la protesta nei confronti di Google, rea di non aver perfezionato il suo sistema di AI. I social, ad esempio, sono stati bombardati di messaggi che spingevano verso il boicottaggio dell’app.
In effetti, i consumatori non hanno tutti i torti. E’ impensabile che nel 2017, una società leader dell’hi-tech come Google non riesca a chiudere questa brutta pagina della sua storia.