Diventare attori di Hollywood per un giorno e vedersi nei panni dei nostri attori preferiti dei film o delle serie tv oggi è possibile grazie a un’applicazione cinese di nome Zao, sbarcata anche in Italia qualche giorno fa. Pur essendo in rete solo da qualche giorno, l’applicazione – sviluppata dalla società Changsha Shenduronghe Network Technology – ha avuto un enorme riscontro diventando in pochissimo tempo la più scaricata sull’App Store cinese. Il funzionamento è simile a quello di FaceApp, venuta alla ribalta recentemente perché capace di invecchiare, ringiovanire o modificare i volti degli utenti in pochi secondi. Infatti all’utente basta inserire una fotografia affinché l’app, grazie all’intelligenza artificiale, sostituisca il suo volto a quello dei protagonisti dei film. Zao, in base a quanto postato su Twitter da qualche utente, sembra essere anche molto veloce ed efficiente, in quanto necessita solo di pochissimi secondi (per la precisione, otto!) per ottenere il risultato richiesto. Questa applicazione si basa sulla tecnologia dei ‘deepfake’per generare i video. In pratica l’utente può scegliere uno spezzone di un film o di una serie Tv, fornire una fotografia all’applicazione perché questa la elabori e la sovrapponga all’immagine dell’attore del film originale, creando così un video piuttosto realistico. Attualmente pare che i video di film e serie Tv fra cui l’utente può scegliere siano limitati, però sembra che il risultato finale sia molto verosimile e soddisfacente ed è addirittura possibile migliorarlo inserendo altre fotografie con il volto in posizione differente, ad occhi e bocca aperti o chiusi.
A questo punto, tuttavia, è d’obbligo domandarsi quali rischi possa comportare l’utilizzo di questa applicazione. Innanzitutto, c’è da dire che nelle condizioni d’uso dell’applicazione è indicato che gli utenti cedono i diritti sui video creati da Zao, i quali potranno essere utilizzati anche per altre finalità. La società proprietaria della applicazione ha specificato che le foto caricate dagli utenti verranno utilizzate soltanto per migliorare l’applicazione e che, invece, non saranno cedute a terzi. Inoltre va rilevato che, anche se l’applicazione si impegna ad eliminare le foto degli utenti che si cancellano da essa, va detto che Zaopuò diventare un “raccoglitore” di una quantità enorme di foto, che potrebbero teoricamente essere utilizzate anche per scopi diversi da quelli originali.
Talvolta gli effetti dell’utilizzo di una applicazione possono assumere una portata da non sottovalutare dal momento in cui non sia il soggetto ritratto colui che carica la foto per usufruire dell’applicazione, ma un’altra persona. Il software infatti non permette di riconoscere l’identità di un soggetto, “bloccandone” il trattamento dal momento in cui rinviene che la persona ritratta non è la persona che utilizza l’applicazione. A ciò si aggiunga l’impossibilità di identificare se la fotografia caricata ritragga un individuo maggiorenne o minorenne.
Avverte l’avvocato Marco Martorana, Presidente dell’Associazione Assodata, titolare dell’omonimo studio a Lucca, e tra i maggiori esperti a livello nazionale in materia di protezione dei dati personali: “In ragione di ciò, è evidente come la persona perderebbe di fatto ogni controllo sulla propria immagine non solo per effetto dell’utilizzo che sarà effettuato da Zao, ma anche da parte di coloro che, utilizzando foto altrui, potrebbero creare video montaggi ed eventualmente caricarli su canali social media, o condividerli su gruppi di messaggistica in tempo reale. Non è difficile comprendere che è sufficiente la permanenza online anche solo di pochi minuti per dar luogo a una diffusione incontrollata del video, analogamente a quanto può succedere in caso di condivisione del video su chat”. In tali casi il soggetto ritratto, che non ha proceduto a caricare la sua foto, e che potrebbe anche non essere a conoscenza dell’utilizzo che altro utente ha fatto della sua immagine, perde completamente il controllo sulla stessa, potendo trovarsi protagonista di scene potenzialmente ambigue o addirittura imbarazzanti come nel caso di scene sessualmente esplicite a sua completa insaputa.
“Si pensi all’utilizzo che potrebbe essere fatto di questi video manipolati ad esempio nei casi di ‘revenge porn’, ossia quando il volto di un soggetto venga sostituito a quello dell’attore di un video pornografico; o anche solo ai casi in cui la situazione creata attraverso la scena che venga generata dall’applicazione ponga il soggetto in atteggiamenti ambigui, imbarazzanti o fuori contesto, creando così un nuovo video ‘personalizzato’ capace – se diffuso – di danneggiare seriamente la reputazione di un soggetto”, aggiunge Martorana.
Grazie allo sviluppo delle nuove tecnologie, difatti, gli algoritmi sono in grado di manipolare i video così da rendere difficoltoso distinguere quelli veri da quelli falsi.
Si pensi al danno che la persona subirebbe sul piano lavorativo, sociale, personale e soprattutto a come potrebbe sentirsi lesa nella sua dignità. “Per questo motivo– aggiunge l’avvocato Martorana – è fondamentale maturare una sempre maggior consapevolezza sui rischi connessi all’utilizzo di applicazioni innovative, evitando un utilizzo troppo ‘spensierato’ delle stesse. Consiglio quindi di prestare sempre molta attenzione ai termini e condizioni di utilizzo e alla relativa politica di trattamento dei dati personali, soprattutto quando queste applicazioni possono essere utilizzate da minori”.
Come già sottolineato, difatti, queste tecnologie sono così evolute da rendere difficile distinguere i video veri da quelli falsi. Alla luce di quanto sopra esposto, emerge come sia necessario acquisire sempre maggior consapevolezza dei rischilegati all’utilizzo di applicazioni che sfruttano algoritmi e intelligenze artificiali, ormai ampiamente diffusi nella nostra quotidianità.