L’edizione 2024 del Google I/O è stata a dir poco ricca di annunci. Questi hanno toccato il tema dell’intelligenza artificiale (IA), aggiungendo novità che vanno dagli agenti intelligenti a cambiamenti importanti nel motore di ricerca. Tra i diversi argomenti trattabili sull’IA, la concentrazione degli oratori si è focalizzata sull’uso responsabile di tali sistemi.
In questo ambito, infatti, la stessa Google ha effettuato un grande annuncio e cioè l’espansione del sistema SynthID. Questo sistema, all’inizio testato soprattutto per l’analisi delle immagini, è stato ora esteso in modo includere watermark applicabili anche a testi e video generati dall’IA. A quanto pare, questa mossa ha il fine strategico di cercare di contrastare con più forza la disinformazione e gli episodi di phishing collegati ai contenuti “fasulli” creati tramite l’intelligenza artificiale.
Come funziona il nuovo sistema Google?
SynthID di Google introduce ai contenuti delle modifiche quando questi sono generati durante il processo di generazione. Come fa ad agire in presenza di testi? In tal caso la tecnologia opera sulla probabilità dei token, ovvero sulla selezione della prossima parola, sulla parte di una frase o anche su un singolo carattere da parte dell’IA. Nel caso dei video, invece, SynthID applica il watermark fotogramma per fotogramma. Con tale metodologia rende identificabili i contenuti ma non ne altera in alcun modo la qualità.
Durante il Google I/O 2024 è stato anche annunciato che il sistema di watermarking ora si troverà inoltre nell’app di Gemini e nella sua versione web. Oltre a Gemini hanno inserito il medesimo sistema all’interno nuovo modello di generazione di video IA Veo. Sebbene i sistemi di rilevazione dell’IA non siano ancora perfetti, l’evoluzione di SynthID permetterà sicuramente una “valutazione” dei contenuti migliore.
La possibilità di identificare in modo affidabile contenuti generati dall’IA ormai è qualcosa di cruciale, soprattutto considerando quanto l’intelligenza artificiale stia progredendo velocemente. L’annuncio dell’espansione di SynthID di Google DeepMind è probabilmente proprio quello che serviva e la sua integrazione ai diversi strumenti di IA generativa dimostrano quanto Google stia lavorando per combattere la disinformazione e le possibili truffe.