Le persone che sono testimoni di come i video montati con l’apprendimento automatico siano diventati popolari hanno visto crescere il sito web pornografico con oltre 75 milioni di visite al giorno per porre fine ad un uso malevolo della tecnologia. In risposta, Pornhub ha affermato che i deepfakts sono considerati pornografia non consensuale e ha posto il veto su questo tipo di contenuti. “Non tolleriamo alcun contenuto non consentito sul sito e rimuoviamo tutti questi contenuti non appena ne veniamo a conoscenza”, hanno fatto sapere sul sito web, aggiungendo:
“I contenuti non consensuali violano direttamente i nostri Termini di servizio e si riferiscono a contenuti come la vendetta porno, deepfakes o qualsiasi cosa pubblicata senza il consenso o il permesso di una persona.”
Questo divieto si riferisce direttamente al cambio faccia (face swap) che trasforma attrici, cantanti o altre personalità in attrici porno. Pornhub ha lasciato intendere che la misura per porre fine a queste pratiche sarà basata sugli utenti che contrassegnano questo tipo di contenuto da eliminare. Tuttavia, la compagnia non ha spiegato in dettaglio come si comincerà a combattere i deepfakes.
Per il momento, la sfida sarà focalizzata anche a sbarazzarsi dei video che sono già sul sito. Anche se il divieto può essere efficace per il contenuto che viene pubblicato da ora in poi, Pornhub ospita milioni di foto e video che sono state ritoccate con l’intelligenza artificiale e potrebbe essere difficile sbarazzarsi di tutto questo materiale.
Questi video possono ancora essere trovati nelle ricerche sotto nomi come deepfakes e i nomi delle celebrità che sono state vittime di queste pratiche, come Gal Gadot. La protagonista di Wonder Woman è diventata il personaggio principale di un video porno, perfettamente modificato con l’apprendimento automatico in modo che la differenza sia notata il meno possibile.
Fakeapp
L’uso della tecnologia per scambiare volti in video pornografici ha guadagnato così tanti follower che è stata creata un’applicazione appositamente progettata per modificare il contenuto. L’utente deepfakeapp ha lanciato questa idea su Reddit e ha creato FakeApp.
L’applicazione consente alle persone che non hanno le conoscenze necessarie per modificare il contenuto con intelligenza artificiale di unirsi comunque a questo fenomeno. Il progetto è ancora nella sua fase iniziale, ma deepfakeapp mira a migliorarla fino a quando gli utenti potranno “semplicemente selezionare un video sul computer, scaricare una rete neurale correlata con un certo viso e modificare il video con la semplice pressione di un pulsante“.
Nonostante la fama acquisita da questa applicazione e il metodo, si è stati allertati sulle sue conseguenze, come nei casi di vendetta pornografica, in cui è possibile aggiungere fotografie di persone in video pornografici.