Con l’avvicinarsi delle elezioni presidenziali negli Stati Uniti, cresce l’attenzione verso la lotta contro fake news e deep fake, strumenti sempre più usati per destabilizzare gli equilibri socio-politici. La Casa Bianca è da mesi impegnata a garantire che la campagna elettorale si svolga in modo corretto e legale, mentre l’intelligenza artificiale generativa diventa un’arma potente per diffondere falsità.
In questo contesto, la Federal Communications Commission (FCC) ha portato in tribunale la compagnia telefonica Lingo Telecom, accusata di aver trasmesso una telefonata manipolata attraverso la tecnologia di clonazione vocale basata su AI generativa, per simulare la voce del presidente Joe Biden. La vicenda risale a gennaio, quando la telco ha diffuso un falso messaggio audio di Biden agli elettori del New Hampshire, invitandoli a non partecipare alle primarie presidenziali del Partito Democratico. Nel messaggio, si suggeriva agli elettori di riservare il loro voto per le elezioni di novembre, insinuando che votare alle primarie avrebbe favorito la rielezione di Donald Trump.
L’ID chiamante utilizzato apparteneva alla ex presidente del Partito Democratico del New Hampshire, ma si trattava ovviamente di un falso. Le chiamate automatiche sono state avviate dal consulente politico Steve Kramer, che è stato incriminato per repressione del voto e impersonificazione di un candidato politico. Questo episodio ha sollevato gravi preoccupazioni riguardo all’uso dell’intelligenza artificiale per scopi fraudolenti durante le elezioni.
Per risolvere la questione, Lingo Telecom ha patteggiato un pagamento di 1 milione di dollari e dovrà rispettare nuove rigide regole imposte dalla FCC. Queste includono l’autenticazione dell’ID chiamante e una maggiore verifica delle informazioni fornite dai propri clienti e dai provider upstream, attraverso i protocolli “Know Your Customer” e “Know Your Upstream Provider“.
Jessica Rosenworcel, presidente della FCC, ha dichiarato: “Ognuno di noi merita di sapere che la voce all’altro capo della linea è esattamente chi dice di essere. Se viene utilizzata l’AI, questo deve essere chiaramente comunicato a qualsiasi consumatore, cittadino ed elettore. La FCC agirà con decisione quando la fiducia nelle nostre reti di comunicazione è in gioco”.