Il mondo dell’IA sta cambiando rapidamente. Spostandosi dall’uso massiccio del cloud verso modelli in esecuzione locale su dispositivi personali. In un recente articolo di Nature, si evidenzia come i ricercatori e professionisti stiano iniziando a preferire l’AI direttamente sui propri computer. Dunque senza dover dipendere da server remoti. Un esempio importante è quello di un bioinformatico che utilizza un modello AI per sintetizzare dati complessi relativi al sistema immunitario. Il tutto eseguendo il processo localmente su un Mac.
Questa tendenza riflette l’aumento dell’adozione di modelli “open weights“. Ovvero versioni ridotte e ottimizzate dei grandi modelli linguistici, accessibili pubblicamente e in grado di girare su hardware standard. Aziende come Meta, Microsoft e Google DeepMind hanno rilasciato modelli come Llama, Gemma e Phi. Tutti progettati per garantire prestazioni elevate anche su dispositivi consumer. Questo sviluppo sta rivoluzionando il settore. Offrendo la possibilità di ridurre i costi e migliorare la sicurezza dei dati, dato che tutto rimane localmente nei dispositivi dell’utente.
L’evoluzione verso l’esecuzione locale dei modelli di AI non si limita però solo alla riduzione dei costi. Uno degli aspetti più apprezzati da chi lavora in ambito scientifico e aziendale è la possibilità di mantenere il controllo totale sui dati. Un fattore indispensabile in settori sensibili come la bioinformatica e la medicina. Con l’aumento della potenza di calcolo disponibile su laptop e smartphone, l’intelligenza artificiale in esecuzione locale si preannuncia così come una tecnologia rivoluzionaria.
Microsoft, ad esempio, sta sviluppando modelli che riescono a generare contenuti educativi e narrazioni logiche a partire da set di dati altamente strutturati. Grazie ai “token di ragionamento“, queste AI offrono prestazioni paragonabili alle prime versioni di ChatGPT. Ma senza richiedere connessioni cloud. In futuro, le soluzioni IA locali diventeranno sempre più potenti e saranno sufficienti per la maggior parte delle esigenze quotidiane e professionali del nostro periodo.