Ogni giorno, le nostre caselle di posta elettronica sono inondate da messaggi di principi nigeriani che promettono ricchezze, venditori di farmaci miracolosi, investimenti irresistibili e contatti locali. I filtri antispam migliorano, ma gli spammer ideano nuovi modi per eluderli. Ora, l’intelligenza artificiale generativa, come ChatGPT, potrebbe fornire agli spammer strumenti più sofisticati per ingannare i filtri e persuadere le persone a cliccare, acquistare o fornire informazioni personali.
Lo spam, ovvero e-mail commerciali indesiderate da entità sconosciute, può riguardare anche messaggi di testo, messaggi diretti sui social media e false recensioni. Gli spammer cercano di indurre azioni come acquisti, clic su link di phishing, installazione di malware o cambiamenti di opinione. Lo spam è redditizio, con campagne di spam farmaceutico online che possono generare circa 7.000 euro al giorno.
Gli spammer utilizzano tecniche come la truffa del “principe nigeriano”, selezionando vittime ingenue o anziani. Tuttavia, i progressi dell’IA potrebbero permettere ai truffatori di indirizzare gli individui e rendere i messaggi più persuasivi basandosi su informazioni pubbliche come post sui social media.
IA generativa potrebbe permettere agli spammer di fare ipotesi accurate sulle inclinazioni politiche, stato civile o priorità di vita delle persone, utilizzando solo pochi dati. I bot potrebbero inoltre prevedere le parole che una persona dirà successivamente con un’accuratezza maggiore rispetto ad altri metodi di IA.
Se gli spammer superano i filtri e ottengono l’attenzione dell’utente, la loro capacità di persuasione personalizzata aumenta. Le IA possono essere utilizzate per argomentare persuasivamente su temi come politica e sanità pubblica. Tuttavia, l’IA può anche essere utilizzata per migliorare i filtri antispam, rendendoli più efficaci nell’identificare e bloccare lo spam indesiderato e consentire il passaggio dello spam desiderato, come e-mail di marketing a cui ci si è volontariamente iscritti.
L’IA può aiutarci a comprendere come le debolezze del ragionamento umano possano essere sfruttate dai malintenzionati e trovare modi per contrastare le attività malevole. Le nuove tecnologie comportano sia meraviglia che pericolo, ma la differenza sta in chi crea e controlla gli strumenti e come vengono utilizzati.