Immagina qualcuno che crea un video fake semplicemente rubando un’immagine del profilo random da Facebook. Fortunatamente, i malintenzionati non hanno ancora le mani su questa tecnologia, ma Samsung ha capito come fare.
Software per la creazione di deepfakes: clip animate, generate da una sola immagine. Samsung ha sviluppato un nuovo sistema di intelligenza artificiale in grado di generare una clip falsa, ma molto realistica.
La tecnologia, ovviamente, può essere utilizzata per divertimento, come portare un ritratto classico alla vita. La Monna Lisa, il cui enigmatico sorriso è animato in tre video diversi (è solo un esempio, ma può essere applicato un po a tutto). Un laboratorio di intelligenza artificiale in Russia ha sviluppato questa nuova tecnologia, che è stata illustrata in un documento all’inizio di questa settimana.
Ecco il lato negativo: questo tipo di tecniche e il loro rapido sviluppo creano anche rischi di disinformazione, manipolazione fino ad arrivare alle elezioni e frodi, secondo Hany Farid, un ricercatore di Dartmouth specializzato in media forensics per sradicare i deepfakes.
“Seguendo la tendenza dello scorso anno, questa tecnica e le relative funzioni richiedono sempre meno dati e generano contenuti sempre più sofisticati e accattivanti“, ha affermato Farid. Anche se il processo di Samsung può creare problemi, “questi risultati sono un altro passo nell’evoluzione delle tecniche che portano alla creazione di contenuti multimediali che alla fine saranno indistinguibili dalla realtà“.
Come Photoshop, il software deepfake produce falsi usando l’apprendimento automatico per fabbricare in modo convincente un umano che parla, in movimento. Sebbene la manipolazione del video da computer esista da decenni, questi metodi hanno reso il procedimento non solo più facile da creare ma anche più difficili da rilevare.