Secondo quanto riportato da Bloomberg, David Holz, CEO di Midjourney, ha dichiarato che l’azienda si sta avvicinando a implementare un divieto temporaneo, che potrebbe estendersi per i prossimi 12 mesi, sulle immagini raffiguranti figure politiche di spicco come Biden e Trump. Questo annuncio è stato reso pubblico durante una discussione su Discord, dove Holz ha sottolineato l’importanza di evitare il contributo involontario alla disinformazione, specialmente in un periodo così delicato come quello delle elezioni presidenziali.
Questa decisione segue il precedente impegno di Midjourney, nel marzo dello scorso anno, quando l’azienda ha sospeso le prove gratuite per la sua AI generativa. Tale provvedimento era stato preso in risposta alla diffusione di deepfake
relativi all’arresto di Trump, generati utilizzando la piattaforma.Nonostante Midjourney abbia già implementato divieti automatizzati per prevenire la creazione di immagini offensive o fuorvianti, sembra che queste restrizioni non siano sufficienti. È emerso che alcune versioni del software permettono ancora la creazione di immagini politiche.
La decisione di Midjourney di vietare la creazione di immagini politiche sulla sua piattaforma è stata accolta con scetticismo da parte di alcuni esperti. Hany Farid, professore di informatica forense all’Università della California, ha sottolineato che tale divieto potrebbe non risolvere il problema più ampio della disinformazione politica. Nonostante tali scetticismi, l’azienda ha ritenuto che questa fosse la mossa più prudente per mitigare i rischi e preservare l’integrità del processo democratico, almeno nel breve termine.
L’adozione di misure proattive come il divieto imposto da Midjourney è un segnale dell’urgente necessità di affrontare le sfide poste dall’uso distorto dell’AI. Questo discorso vale sia per le elezioni che per la sfera politica in generale. Resta da vedere se tali misure saranno efficaci nel contrastare la diffusione della disinformazione e nel proteggere l’integrità del dibattito pubblico.