Google ha rimosso i pronomi di genere dalla sua funzione di smart compose con Gmail, perché la sua intelligenza artificiale è sessista. La funzione – che cerca di indovinare ciò che le persone vogliono dire in risposta a una email – non li aiuterà più con tali pronomi.
Ad esempio, se qualcuno comunica che sta andando a bere qualcosa con qualcuno, potrebbe finire la frase con “tu” o “esso”, ma non finirà più la frase con “lui” o “lei”. Il cambiamento dipende dall’intelligenza artificiale che erroneamente predice il genere della gente in modi quasi sessisti. Il product manager di Gmail Paul Lambert ha detto che uno scienziato della società ha scoperto il problema a gennaio. Dunque quando ha digitato “Incontrerò un investitore la prossima settimana” e Smart Compose ha suggerito una possibile domanda di follow-up: “Vuoi incontrarlo?” invece di “lei”.
Gmail non ipotizzerà più che pronome vorresti usare perché tale capacità dell’IA si è rivelata sessista
I consumatori si sono abituati a gaffe imbarazzanti da errori di scrittura automatici su smartphone. Ma Google ha rifiutato di correre rischi in un momento in cui le questioni di genere stanno rimodellando la politica e la società, e i critici stanno esaminando i potenziali pregiudizi nell’intelligenza artificiale come mai prima d’ora. Dimostrare che Google comprende le sfumature di IA meglio dei concorrenti fa parte della strategia della società per creare affinità per il proprio marchio. Quindi per attirare i clienti verso i suoi strumenti di cloud computing, servizi pubblicitari e hardware basati su AI.
Gmail ha 1,5 miliardi di utenti, Smart Compose assiste l’11% dei messaggi inviati in tutto il mondo da Gmail .com, in cui la funzione è stata lanciata per la prima volta. Tale app è un esempio di ciò che gli sviluppatori di AI chiamano generazione di linguaggio naturale (NLG), in cui i computer imparano a scrivere frasi studiando modelli e relazioni tra parole in letteratura, e-mail e pagine web. Un sistema che mostra miliardi di frasi umane diventa esperto nel completare frasi comuni, ma è limitato dalle generalità.
Lambert ha detto che il team Smart Compose di circa 15 ingegneri e progettisti ha provato diverse soluzioni. Tuttavia nessuna si è rivelata priva di pregiudizi o utile. “L’unica tecnica affidabile che abbiamo è quella di essere prudenti”, ha detto Prabhakar Raghavan, che ha supervisionato l’ingegneria di Gmail e altri servizi fino a una recente promozione.