News

OpenAI lavora sull’identificazione delle immagini generate da AI

La capacità sempre più sofisticata da parte delle intelligenze artificiali di produrre testi, immagini, audio e video rende spesso complicato distinguere la natura dei contenuti. OpenAI potrebbe dunque rimediare presto rilasciando nuovi strumenti tramite i quali sarà facile identificare le immagini generate dall’intelligenza artificiale.

L’azienda non si limiterà a rendere chiaramente riconoscibili le immagini generate dall’AI e procederà presto con l’utilizzo di sistemi di watermarking per consentire agli utenti di riconoscere anche i contenuti audio. 

OpenAI a lavoro su nuovi strumenti di rilevamento dei contenuti prodotti da AI!

 

La soluzione pensata da OpenAI al fine di permettere agli utenti di riconoscere le immagini generate dall’intelligenza artificiale sembrerebbe aver un’affidabilità del 98% ma solo con le immagini prodotte da DALL-E 3. Il classificatore di immagini sviluppato da OpenAI sarà quindi capace di identificare se il contenuto è stato generato da DALL-E 3 o se, pur trattandosi di un contenuto “reale”, vi sono state apportate piccole modifiche tramite AI. Al momento, l’unica pecca riguarda l’incapacità di riconoscere i prodotti generati da altri sistemi di intelligenza artificiale. Il classificatore in quest’ultimo caso avrebbe, infatti, un’accuratezza che raggiunge soltanto il 5-10%.

Molto probabilmente non sarà necessario attendere troppo prima di poter assistere all’arrivo di un classificatore d’immagini ancora più preciso e in grado di espandere le sue capacità. Nel frattempo OpenAI presta la sua attenzione anche al riconoscimento dei prodotti audio artificiali tramite il digital watermarking, cioè quel sistema che consente di applicare una “filigrana digitale” ai contenuti così da renderli distinguibili. In questo caso, i contenuti audio saranno classificati tramite watermark che permetterà agli utenti di identificare rapidamente la loro natura.

Al momento OpenAI è a lavoro sulle nuove soluzioni e mira ad apportare le migliorie necessarie in tempi brevi così da garantire maggiore trasparenza e salvaguardare gli utenti dagli usi illeciti dell’intelligenza artificiale, oltre a difendere un’informazione consapevole.

Condividi
Pubblicato da
Giorgia Leanza