Non è insolito imbattersi in account di persone che vendono le loro immagini o i loro filmati su siti di contenuti per adulti nell’odierna era di Internet. Tuttavia, una recente scoperta rivela che non tutti questi profili sono creati da persone reali. Alcuni di essi, infatti, sono il risultato di una tecnologia di intelligenza artificiale.
Cl4ud14_, un account Reddit con immagini di una giovane donna, è uno di questi casi. Sebbene il suo aspetto appaia normale a prima vista, un’ispezione più attenta rivela che il suo viso appare distorto in alcune foto e i suoi accessori sembrano essere stati aggiunti in un secondo momento. Queste anomalie indicano che l’account è stato sviluppato dall’IA e che la donna nelle foto non esiste nella vita reale.
Claudia, i creatori hanno già guadagnato qualcosina
Questa scoperta solleva interrogativi sull’impiego della tecnologia AI nel mercato dei contenuti per adulti, in particolare quando alcuni di questi account falsi vendono materiale esplicito. Non solo viene messa in discussione l’etica di questo approccio, ma anche la legalità dell’utilizzo di contenuti generati dall’IA per commercializzare contenuti pornografici senza l’approvazione delle persone coinvolte.
I creatori dell’account Cl4ud14_ affermano di aver guadagnato circa 100 dollari dal loro sforzo, ma non si sa quanti individui abbiano acquistato il loro materiale credendo di avere a che fare con una persona vera. Questo problema sottolinea la necessità di una maggiore trasparenza nel settore dei contenuti sessuali, nonché di regole che vietino l’uso di materiale generato dall’IA senza l’esplicito consenso delle persone interessate.
Questo non è l’unico caso di account di social media generati dall’IA. Un altro esempio è Ailice, un account Instagram con quasi 10.000 follower che promette di essere una “vita AI con vibrazioni reali”. Non è chiaro quale sia l’obiettivo di questo account, ma è inquietante che le persone possano interagire con un computer scambiandolo per una persona reale.
Con il progredire della tecnologia AI, è fondamentale valutare la sua possibile influenza sulla società. L’utilizzo di profili generati dall’IA nel settore dei contenuti sessuali è solo uno degli usi di questa tecnologia. Come società, dobbiamo discutere delle conseguenze etiche e legali dell’utilizzo di materiale generato dall’IA e di come preservare i diritti delle persone nell’era digitale.