Come spiegato da Rohit Prasad, vicepresidente senior di Alexa, durante la conferenza Re:Mars. 2022, l’assistente vocale sarà capace di imitare la voce di qualunque persona, anche di chi non c’è più. Sfruttando i progressi ottenuti nell’impiego dell’intelligenza artificiale, ad Alexa sarà sufficiente ascoltare una clip audio di un solo minuto per poter poi riprodurre la voce dei defunti.
Secondo Amazon si tratta di una funzionalità che potrebbe essere ben accolta dagli utenti poiché utile a “far durare i ricordi”. In realtà, la presentazione della novità ha sin dal primo momento suscitato alcune perplessità.
L’idea di avere a disposizione un dispositivo in grado di riprodurre la voce di una persona cara che non c’è più potrebbe causare delle complicazioni nell’elaborazione della perdita, soprattutto nei più piccoli. Il rischio più rilevante riguarda però l’utilizzo illecito da parte di malfattori che potrebbero sfruttare la voce per compiere truffe e inganni. Avendo a disposizione un dispositivo con una tecnologia deepfake così comune come Alexa e quindi, riuscendo in un solo minuto ad avere la possibilità di imitare la voce di qualcuno, i malfattori potrebbero procedere con l‘ideazione di un maggior numero di inganni.
Al momento quanto presentato da Prasad non è disponibile su Alexa e mira esclusivamente a dimostrare quelli che sono i progressi raggiunti da Amazon nel settore dell’AI. In futuro, però, potremmo assistere all’arrivo effettivo della funzionalità e i dibattiti su di essa e il suo impiego potrebbero aumentare.