Nel 1950, l’ingegnoso scienziato informatico Alan Turing propose un esperimento mentale che chiamò Imitation Game. Un intervistatore conversa tramite macchina da scrivere con due soggetti, sapendo che uno è umano e l’altro una macchina. “Se una macchina riuscisse ad ingannare l’intervistatore facendogli credere di essere l’umano“, disse Turing, potremmo definire la macchina un essere senziente.
Tuttavia, il “test di Turing” è diventato un punto di riferimento per l’intelligenza artificiale. Nel corso dei decenni, vari programmi per computer hanno gareggiato per superarlo utilizzando diverse tecniche, riscontrando anche un certo successo.
Negli ultimi anni, ricche aziende tecnologiche tra cui Google, Facebook e OpenAI hanno sviluppato una nuova classe di programmi per computer noti come “modelli linguistici di grandi dimensioni“, con capacità di conversazione ben oltre i rudimentali chatbot di un tempo. Uno di questi modelli, il LaMDA di Google, ha convinto l’ingegnere di Google Blake Lemoine di aver avuto a che fare con un essere cosciente e senziente.
Se Lemoine è stato ingannato dalle risposte realistiche di LaMDA, sembra plausibile che anche molte altre persone con una comprensione molto inferiore dell’intelligenza artificiale, dell’IA, potrebbero essere ingannate. Il rischio è che potrebbe essere usato come potenziale strumento di manipolazione, nelle mani sbagliate.
Per molti la straordinaria performance di LaMDA non è un risultato da celebrare. “Questi test non misurano davvero l’intelligenza“, ha affermato Gary Marcus, uno scienziato cognitivo e coautore del libro “Rebooting AI”. Quello che sta mostrando è la capacità di un determinato programma software di passare per umano, almeno in determinate condizioni. Il che, a pensarci bene, potrebbe non essere una buona cosa per la società.
Sia Google che esperti esterni di IA affermano che il programma non possiede e non potrebbe possedere nulla che possa assomigliare all’intelligenza di un essere umano. Non dobbiamo preoccuparci che LaMDA si trasformi in Skynet, la mente macchina malevola dei film di Terminator.