Allarme da un ingegnere Microsoft: Copilot crea immagini violente

Il dibattito sull’etica e sulla sicurezza dei generatori di immagini basati sull’intelligenza artificiale raggiunge un nuovo apice con le recenti osservazioni di Shane Jones, un ingegnere di spicco di Microsoft con sei anni di esperienza nel campo dell’ingegneria dell’AI. Attraverso una lettera aperta pubblicata su LinkedIn, Jones ha sollevato preoccupazioni significative riguardo al generatore di immagini AI di ultima generazione, noto come Copilot Designer, sviluppato sulla base della tecnologia Dall–E 3. Secondo Jones, il Copilot Designer è suscettibile di creare contenuti disturbanti e inappropriati, compresi quelli con connotazioni sessuali o violente e quelli che violano il copyright.

Il suo intervento non si limita alla mera segnalazione dei problemi, ma si estende alla richiesta di azioni concrete. Ha condiviso la sua preoccupazione non solo con il board di Microsoft, ma anche con la Federal Trade Commission (FTC) degli Stati Uniti. Questo sottolinea la necessità di una stretta supervisione e regolamentazione nell’uso di tali tecnologie. Jones ha enfatizzato l’importanza di coinvolgere l’industria, i governi e la società civile nella discussione su come gestire in modo responsabile l’AI.

Copilot genera immagini disturbanti?

Uno dei principali punti sollevati da Jones è la capacità

del Copilot Designer di generare contenuti che potrebbero violare il copyright. Inoltre, ha evidenziato come il generatore possa creare immagini altamente suggestive e provocatorie, suscitando preoccupazioni legate alla manipolazione e alla disinformazione.

Microsoft ha risposto alle preoccupazioni sollevate da Jones assicurando che sono stati implementati strumenti di feedback degli utenti e canali di segnalazione interni per affrontare e risolvere tempestivamente eventuali problematiche. Nonostante gli sforzi di Microsoft per mitigare i rischi, il dibattito sull’etica e sulla sicurezza delle tecnologie AI continua a crescere. In questo modo si evidenzia la necessità di un approccio olistico e regolamentato per garantire un uso responsabile e sicuro di queste potenti risorse tecnologiche.

Le osservazioni di Shane Jones rappresentano un importante richiamo all’attenzione su un aspetto cruciale dello sviluppo e dell’implementazione dell’AI. La necessità di bilanciare l’innovazione tecnologica con la responsabilità etica e la sicurezza dei suoi utilizzi è dunque fondamentale. Mentre l’AI offre possibilità senza precedenti, è essenziale che venga guidata da principi etici e vigilata da un adeguato quadro normativo per prevenire abusi.