L’avvertimento del CEO è molto chiaro l’AI non deve eguagliarci perché altrimenti potrebbe arrivare ad esercitare una vera influenza sulle menti umane portando gli utenti a fare qualsiasi cosa.
L’AI può controllare le menti umane?
Secondo Altman la possibilità c’è. Il CEO di OpenAI si è dichiarato convinto che l’AI potrebbe presto diventare fortemente persuasiva verso le menti umani, elemento che potrebbe causare scenari molto strani oltre che potenzialmente pericolosi. Altman non si è dilungato oltre sull’argomento, ma forse la sua affermazione ha un certo fondamento che non può essere ignorato.
I chatbot che si basano sull’intelligenza artificiale, come lo stesso ChatGPT di OpenAI, sono progettati con lo scopo di diventare dei veri e propri interlocutori per gli utenti. Infatti, devono risultare capaci e convincenti, abili a conversare proprio come se dall’altra parte ci fosse una persona reale. Questo dettaglio è presente già adesso, anche quando il sistema si ritrova ad essere in errore su alcuni argomenti.
Un altro dato a favore delle preoccupazioni di Altman è il senso di empatia e le connessioni emotive che gli utenti stanno sviluppando nei confronti dei vari chatbot, quasi come se fossero interlocutori reali. Questo potrebbe convincere alcuni malintenzionati ad approfittare di queste fragilità per prendere di mira determinate persone attraverso l’uso di chatbot basati su AI. In questo modo potrebbero approfittare del “legame” instaurato e spingere le persone a fare cose che altrimenti non farebbero.
Un sistema fondato sull’AI potrebbe potare le truffe digitali su un altro livello e donerebbe ai criminali di turno il potere di ingannare intere masse. Uno scenario decisamente preoccupante.
Se ci riflettiamo, anche quando non si parla di soggetti “fragili”, tutti siamo in realtà legati alla tecnologia e la sua presenza nella vita di tutti i giorni è diventata ormai rassicurante. Ci fidiamo della tecnologia ed è proprio questo “sentimento” che nelle mani sbagliate e con l’aiuto dei più validi degli alleati, l’AI, può portare alla creazione di un serio problema di sicurezza digitale.
La questione è alquanto spinosa ed è difficile riuscire a capire quanto tutto questo possa effettivamente diventare reale.