Sì, ok ho preso un’immagine apocalittica da un grande classico della fantascienza che prevede la distruzione della razza umana da parte delle macchine. Non siamo ancora ai livelli in cui dovremmo scappare dai Terminator, ma uno scienziato sostiene che in un prossimo futuro l’intelligenza artificiale porterà l’Apocalisse sulla razza umana.
Secondo una serie di pareri del mondo scientifico, l’umanità potrebbe un giorno finire in pasto alle AI per colpa delle nostre stesse mani. Questo perché noi progettiamo intelligenze artificiali perché eseguano degli scopi, ma se questi obiettivi sono il fine che una macchina deve perseguire, allora nessuno la potrebbe fermare.
Se un giorno gli scopi delle macchine incontrassero tra gli ostacoli la razza umana, non avrebbero alcuna esitazione nello sterminarci. Sembra uno scenario assurdo, ma basterebbe affidare alle AI un compito arduo che le portasse, attraverso ragionamenti improntati all’utilità di perseguire il suo scopo, a eliminare l’uomo.
Intelligenza artificiale porterà l’Apocalisse distruggendo l’umanità
Ad esempio, se chiedessimo loro di risolvere la crisi del clima o l’inquinamento che affligge il pianeta Terra, immaginiamo che prima o poi l’intelligenza artificiale concluda che il problema siamo noi. Ma qualcuno potrebbe affermare che basta staccare la spina alle macchine per riprenderne il controllo ma, come Terminator c’insegna, le AI sarebbero in grado di perpetrare se stesse e di proteggersi anche contro lo spegnimento.
Già nel 2009 Steve Omohundro, professore di informatica all’Università dell’Illinois, sostenne che quasi tutti i sistemi di intelligenza artificiale cercheranno di diventare più efficienti e resistere alla disattivazione: “Questi comportamenti potenzialmente dannosi si verificano non perché sono stati programmati all’inizio, ma a causa della natura intrinseca dei sistemi basati sugli obiettivi. Le AI hanno obiettivi e saranno motivate a compiere azioni che possono prevedere che faranno avanzare i loro obiettivi. Se qualcuno intende spegnerla, per esempio, e dunque interferire con il suo scopo l’AI è in grado di accorgersene e duplicarsi su un altro computer”.
Insomma, siamo proprio sicuri di volere così fortemente una nuova Skynet?