Nel mondo dell’informatica gli algoritmi sono la base fondante di ogni software, per molte piattaforme al giorno d’oggi giocano un ruolo di primaria importanza dal momento che consentono ai programmi di svolgere attività che normalmente sarebbero da svolgere da parte di esseri umani.
Essendo però gli algoritmi comunque una sequenza di comandi non in grado di analizzare e comprendere al massimo determinati contesti, può capitare che alcune volte sbaglino, solo che quando questi errori capitano con piattaforme mondiali come Facebook, essi assumono una risonanza decisamente grande, soprattutto quando toccano temi di primissima importanza come discriminazione e razzismo.
È proprio questo quanto è accaduto con l’algoritmo di Facebook, il quale ha confuso persone di colore per dei primati, un errore che, seppur indubbiamente involontario, è inaccettabile e da correggere subito.
Il tutto è successo a causa di un video pubblicato il 27 giugno 2020 su Facebook
dalla testata britannica Daily Mail intitolato White man calls cops on black men at marina, all’interno del quale si vedono delle persone di colore parlare con degli agenti di polizia e altre persone invece di carnagione più chiara, nulla a che vedere dunque con scimmie o primati, ciò non toglie che però l’algoritmo abbia deciso di suggerire “Continua a guardare video su primati“.Ovviamente l’errore è palese sia nella sua gravità che nella sua indubbia involontarietà, ciò non toglie che le scuse da parte di Dani Lever, portavoce del colosso social non hanno tardato ad arrivare: “Si è trattato chiaramente di un errore inaccettabile […] anche se abbiamo apportato miglioramenti alla nostra intelligenza artificiale, sappiamo che non è perfetta e che abbiamo ulteriori progressi da fare. Ci scusiamo con chiunque abbia visto questi consigli offensivi.”