La polizia ritiene che la registrazione circolata sui social media a gennaio con il presunto audio che incrimina il preside della Pikesville High School – Eric Eiswert – per la presenza di commenti razzisti e antisemiti fosse falsa. Gli esperti hanno detto al Baltimore Banner e alla polizia che la registrazione, che ha portato brevemente alla sospensione di Eiswert, presenta un “tono piatto, suoni di sottofondo insolitamente puliti e mancanza di suoni o pause respiratori realistiche”.
Dopo le prime indagini, la polizia ha fatto risalire la registrazione a Dazhon Darien, un ex direttore sportivo della scuola il cui nome era menzionato anche nel video falsato. Presumibilmente pare che l’insegnante abbia utilizzato i computer della scuola “per accedere agli strumenti OpenAI e ai servizi Microsoft”, come riportato da WBAL-TV 11 e NBC News. È stato anche collegato alla diffusione dell’audio tramite un indirizzo e-mail e un numero di telefono di recupero associati all’accaduto. Non è chiaro quale piattaforma vocale AI ha utilizzato Darien per clonare il suo capo.
La polizia ha arrestato Darien e ha dichiarato: “Si ritiene che abbia effettuato la registrazione per vendicarsi contro il preside Eiswert. All’epoca stava portando avanti un’indagine sulla potenziale cattiva gestione dei fondi scolastici”. È stato rilasciato dopo aver pagato la cauzione. Al momento deve affrontare diverse accuse: furto (per quanto riguarda i fondi scolastici), uso improprio di materiale scolastico, ritorsione contro un testimone e stalking.
Nell’ultimo anno, l’interesse per la tecnologia basata sull’intelligenza artificiale è cresciuto man mano che i servizi migliorano nel sembrare più realistici. Ma queste app hanno anche tanti contro. In questo ambiente difficile, OpenAI ha deciso a marzo di negare l’uso pubblico nella sua piattaforma di generazione di testo-voce basata sull’intelligenza artificiale con Voice Engine. Il servizio richiede un audio di 15 minuti per clonare la voce di qualcuno. Attualmente è disponibile solo per un numero limitato di ricercatori a causa della mancanza di normative.
I legislatori statunitensi hanno presentato, ma non ancora approvato, diversi progetti di legge come il No Fakes Act e il No AI Fraud Act. Cercano di impedire alle aziende tecnologiche di utilizzare il volto, la voce o il nome di un individuo senza il suo consenso.