News

OpenAI: ecco cosa sappiamo del progetto segreto Q*

La scorsa settimana, OpenAI ha sconvolto l’industria dell‘intelligenza artificiale reintegrando il suo amministratore delegato, Sam Altman, dopo averlo licenziato a sorpresa pochi giorni prima. L’evento è stato seguito da notizie riguardanti un progetto top-secret chiamato Q*. Questo progetto ha generato diverse speculazioni e preoccupazioni tra i ricercatori. Secondo alcune fonti anonime, il modello Q* è stato in grado di risolvere problemi matematici di livello elementare grazie a risorse di calcolo avanzate. Sebbene il progetto abbia superato test di base, il suo impatto e le sue implicazioni hanno però generato un’atmosfera di timore e preoccupazione.

Alcune voci suggeriscono che Q* possa essere collegato a un’iniziativa annunciata da OpenAI a maggio, focalizzata sulla “supervisione dei processi”. Questa tecnica coinvolge Ilya Sutskever, capo della ricerca di OpenAI, e mira a ridurre gli errori logici nei modelli linguistici di grandi dimensioni (Llm). La supervisione dei processi addestra l’intelligenza artificiale a scomporre i passaggi per risolvere un problema, migliorando in questo modo le capacità di risposta degli Llm. Tale approccio potrebbe essere cruciale per affrontare le sfide attuali nell’ambito dell’IA.

Il misterioso progetto Q* di OpenAI

Nello specifico, il nome Q* potrebbe fare riferimento a concetti come Q-learning o l’algoritmo A*, indicando un’evoluzione nelle tecniche di apprendimento per rinforzo e di individuazione di percorsi ottimali. Le informazioni disponibili suggeriscono che il progetto potrebbe coinvolgere l’uso massiccio di dati sintetici, indicando una nuova frontiera nella formazione degli algoritmi.

Nonostante le speculazioni e le preoccupazioni emerse, alcuni esperti ritengono che Q* potrebbe rappresentare un tentativo di migliorare la capacità di ragionamento degli Llm attraverso l’apprendimento per rinforzo. Ciò potrebbe rendere i modelli linguistici più competenti nell’affrontare compiti matematici e migliorare la coerenza delle risposte. Tuttavia, non ci sono indicazioni che ciò possa portare a un superamento del controllo umano sugli algoritmi di intelligenza artificiale.

OpenAI, in silenzio riguardo ai dettagli del progetto, potrebbe condividere ulteriori informazioni quando deciderà di pubblicare i risultati degli esperimenti su ChatGPT. Nel frattempo, l’industria dell’IA rimane in attesa di scoprire se Q* segnerà un passo significativo verso modelli più avanzati e potenti o se solleva preoccupazioni valide sulla sicurezza e sul controllo dell’intelligenza artificiale.

Condividi
Pubblicato da
Margareth Galletta