News

In arrivo il “Veleno digitale” contro l’intelligenza artificiale

Ormai l’intelligenza artificiale è parte integrante della nostra quotidianità e sono sempre dui più i settori che hanno deciso di sfruttare le potenzialità di questa tecnologia sensazionalmente all’avanguardia. Proprio per questo i governi di tutto il mondo, con dei summit dedicati, stanno lavorando al fine di ideare degli appositi regolamenti che ne gestiscano l’uso e le sue condizioni.

C’è però chi non è molto contento del potere che sta acquisendo l’intelligenza artificiale e ha deciso di intervenire diffondendo un “veleno digitale” creato appositamente per contrastare l’AI e proteggere i contenuti coperti da copyright.

L’intelligenza artificiale sotto attacco dal “veleno digitale”

L’intelligenza artificiale generativa viene allenata con veri e propri processi di training. Questi servono per riuscire a ideare immagini sempre più precise sulla base delle richieste degli utenti. Nulla di male, peccato che per questo “training” vengano prese dal web (ovviamente senza alcun consenso) immagini ed opere d’arte appartenenti ad artisti ed illustratori e che quindi sono coperte da copyright.

L’allarme è stato ormai lanciato da tempo, ma nulla è cambiato. Per questo alcuni artisti hanno deciso di farsi aiutare da tool in grado di “avvelenare” i sistemi ad intelligenza artificiale. Come? Le immagini pubblicate in rete e che potrebbero essere rubate dall’AI vengono modificate nei loro codici e pixel.

In questo modo l’intelligenza artificiale viene mandata in confusione e fornisce risultati sballati.

Il MIT Technology Review ha rivelato in cosa consiste questo “veleno digitale”. Si tratta di un tool, come detto, chiamato Nightshade. Questo è in grado di alterare il risultato stesso della generazione delle immagini da parte dei sistemi di AI. Il tool è stato sviluppato a Chicago da parte di un team di ricercatori dell’Università. A capo dei ricercatori c’è Ben Yanbin Zhao, docente proprio presso l’ateneo.

Per il momento Nightshade non è ancora disponibile al pubblico. I suoi creatori hanno però  annunciato che sarà uno strumento in grado di bilanciare il potere tra le aziende di AI e gli artisti online. Quando sarà rilasciato gli artisti online potranno utilizzare Nightshade per alterare i propri lavori e in questo modo “avvelenare” l’intelligenza artificiale. Lo scopo è dunque quello di colpire le aziende che effettuano data scraping sulle immagini online che sono coperte da copyright. Questo sistema dovrebbe dunque impedire il furto di immagini protette dal diritto d’autore e non solo. Nightshade intende incentivare le aziende a chiedere il permesso agli artisti prima di utilizzare queste opere.

Condividi
Pubblicato da
Margareth Galletta