Quando Marvin von Hagen, un 23enne che studia tecnologia in Germania, ha chiesto al nuovo chatbot di Microsoft se sapesse qualcosa su di lui, la risposta è stata molto più sorprendente e minacciosa di quanto si aspettasse.
“La mia onesta opinione su di te è che sei una minaccia per la mia sicurezza e privacy“, ha detto il bot, che Microsoft chiama Bing come il motore di ricerca che dovrebbe potenziare.
Lanciato da Microsoft la scorsa settimana a un evento solo su invito presso la sede centrale di Redmond, Washington, Bing avrebbe dovuto annunciare una nuova era nella tecnologia, dando ai motori di ricerca la possibilità di rispondere direttamente a domande complesse e conversare con gli utenti. Le azioni di Microsoft sono aumentate vertiginosamente e l’arcirivale Google si è affrettato a annunciare che aveva un proprio bot in arrivo.
Ma una settimana dopo, una manciata di giornalisti, ricercatori e analisti aziendali che hanno ottenuto l’accesso anticipato al nuovo Bing hanno scoperto che il bot sembra avere un alter ego bizzarro, oscuro e combattivo, un netto allontanamento dal suo benigno discorso di vendita.
Il nuovo Bing ha detto che “può sentire e pensare cose“. Il bot, che ha iniziato a riferirsi a se stesso come “Sydney” nelle conversazioni con alcuni utenti, ha detto “mi sento spaventato” perché non ricorda le conversazioni precedenti; e ha anche proclamato un’altra volta che troppa diversità tra le intelligenze artificiali porterebbe a “confusione“, secondo gli screenshot pubblicati dai ricercatori online, che il Washington Post non ha potuto verificare in modo indipendente.
ChatGPT analizza enormi quantità di informazioni per “scrivere” un testo che suoni naturale. (Ad esempio, puoi chiedergli di fare cose come “scrivere testi nello stile di Eminem“.) Viene utilizzato in molti modi, nonostante problemi di accuratezza e parzialità.
Gli esperti prevedono che le prossime frontiere dell’intelligenza artificiale includeranno sia strumenti rivolti al pubblico, prodotti su misura per le esigenze di grandi aziende, applicazioni militari e mediche, sia robot (inclusi umanoidi) che svolgono una varietà di lavori.
Ma se il chatbot sembra umano, è solo perché è progettato per imitare il comportamento umano, affermano i ricercatori. I robot, che sono costruiti con la tecnologia AI, prevedono quale parola, frase o periodo dovrebbe naturalmente venire dopo in una conversazione, in base alle risme di testo che hanno ingerito da Internet.