Una gaffe colossale per Google che, a causa degli algoritmi del suo servizio Photos, ha scambiato gli utenti di etnia africana con i gorilla. Forse un problema del sistema, nato due giorni fa a causa delle lamentele di un utente, Jacky Alcine al quale subito deve essere balzato all’occhio la “stranezza”. Alcine, quindi, ha prontamente pubblicato su Twitter uno screenshot nel quale ha mostrato la bizzarra “etichetta” con cui Google Photos organizzava le sue fotografie per categorie. Grattacieli, aerei, auto, biciclette e… gorilla. Laddove questi erano le persone di colore, lui e i suoi amici nello specifico.
Nella foto appare, dunque, Alcine insieme ad una sua amica, anch’essa nera. La “categoria” loro riservata è stata, appunto, “gorilla”. Il cinguettio è partito istantaneamente dalle mani dell’utente, sviluppatore di professione. La conferma dell’errore è giunta a seguito delle ulteriori ricerche per capire se fosse stato solo un caso. Inserendo la stessa parola nella funzione di ricerca della sua libreria, infatti, continuavano ad apparire foto di lui insieme alla sua amica.
La risposta di Mountain View è giunta attraverso i tweet di Yonatan Zunger, chief architect di Google+, che è poi riuscito a trovare una soluzione al problema, eliminando definitivamente la parola “gorilla” dalle etichette di Google Photo. Il nuovo servizio, come noto, permette agli utenti di caricare in uno spazio cloud illimitato tutta la propria libreria fotografica. Il sistema riconosce automaticamente i protagonisti degli scatti e ne assegna i tag per una categorizzazione delle immagini.
Le scuse sono giunte contemporaneamente alla vicenda. E indagini approfondite sull’origine del “disguido” sono state promesse ai propri utenti. Secondo quanto sostiene il Wall Street Journal, l’episodio potrebbe essere legato al cattivo funzionamento degli algoritmi di riconoscimento facciale del servizio di Google. “Dobbiamo modificare in maniera significativa i sistemi di apprendimento delle macchine fornendo loro una maggiore contestualizzazione, affinché possano comprendere le sensibilità culturali importanti per gli umani“, commenta Babk Hodjat, responsabile del settore scientifico di Sentient Technologies. “Gli umani sono molto sensibili e si concentrano su determinate differenze che sono culturalmente rilevanti per noi, le macchine non possono farlo“.
Non è la prima volta che accade un fatto del genere. Non molto tempo fa, era maggio, la funzione di riconoscimento automatico di Flickr aveva identificato la foto di un uomo di colore con il tag “scimmia”. Errore che commise, ovviamente, involontariamente, anche HP alcuni anni fa, quando la tecnologia di tracciamento dei volti delle webcam non era in grado di seguire i movimenti di una persona con la pelle scura.
Non si può certo parlare di razzismo. Ma è evidente che, in fatto di tecnologia, c’è ancora molto da lavorare.