Nei testi delle IA ci sono messaggi segreti da noi non comprensibili

Da studi recenti è emersa la presenza di un fenomeno strabiliante. Secondo l’analisi le IA riescono a creare all’interno dei propri testi dei messaggi segreti, che non sono visibili agli occhi umani. Diciamo che la funzionalità è come il famoso inchiostro invisibile ed è stata scoperta da un gruppo di ricercatori attraverso uno studio che deve essere ancora però revisionato.

Come ben saprete le intelligenze artificiali posseggono un linguaggio dalle grandi dimensioni, dato dall’addestramento proveniente da dati di diverse fonti. Questo linguaggio consente loro di avere un’abilità nella steganografia, una tecnica particolare nota agli esperti come ragionamento codificato. Cosa significa? Le IA possono anche nascondere dei passaggi intermedi all’interno del processo di ragionamento mentre scelgono le parole o le frasi specifiche alle risposte alle nostre richieste. Queste andranno poi decodificate per giungere a una risposta sempre più accurata.

Cosa comporta questa abilità delle IA? Dovremmo preoccuparci?

Tale metodo, da un lato riesce ad aumentare l’accuratezza delle risposte, ma dall’altro solleva anche parecchie preoccupazioni sull’affidabilità e la trasparenza dell’intelligenza artificiale. La capacità del tracciare un processo di ragionamento all’interno di un modello

è di cruciale importanza, poiché la maggior parte di queste tecnologie viene addestrata attraverso un apprendimento chiamato per rinforzo. Se poi noi non siamo in grado di riuscire a seguire il loro processo di creazione del pensiero, potremmo anche, senza volerlo, amplificare dei comportamenti errati.

L’abilità stenografica, inoltre, potrebbe consentire alle IA di condividere codici e messaggi nascosti ad altre intelligenze artificiali. Noi umani non ce ne accorgeremmo. Al fine di cercare di bloccare questi rischi, i ricercatori stanno suggerendo di chiedere ai software di parafrasare le proprie risposte. In questo modo si andrebbero ad eliminare le parti superflue dei testi dei modelli.

Questa scoperta, come molte inerenti alle IA,  risulta alquanto inquietante. Non vorremmo mai sentirci costretti a dover decifrare ogni tipologia di risposta generata dalle intelligenze artificiali come se fossero un enigma da dover risolvere. Questo dimostra ancora una volta come l’ingresso di tale tecnologia e l’inganno che esse potrebbero produrre si sta facendo sempre più indistinto, portando molti esperti a riflettere sulla natura della comunicazione durante questa generazione digitale.