OpenAI: attenzione ai chatbot illegali nel GPT Store

A partire dal mese di gennaio, OpenAI ha introdotto un’interessante novità. Si tratta della possibilità, per gli abbonati a GPT Plus e Enterprise, di distribuire tramite GPT Store i chatbot personalizzati creati con GPT Builder. Questa iniziativa, per quanto interessante però, ha mostrato anche un capitolo controverso dalla storia dell’intelligenza artificiale. In breve tempo, infatti, lo store è stato invaso da una marea di GPT non autorizzati, creando un dibattito sulla sicurezza, la legalità e l’etica della distribuzione di tali modelli di intelligenza artificiale.

TechCrunch, noto giornale specializzato in tecnologia, ha portato alla luce numerosi casi in cui i GPT presenti nello store violavano palesemente le regole stabilite da OpenAI. Una delle violazioni più comuni riguarda il copyright. Questi chatbot sono, infatti, capaci di generare immagini di personaggi protetti da diritti d’autore, come ad esempio quelli appartenenti a Disney e Marvel.

Chatbot illegali sullo Store di OpenAI

Ma non è finita qui. Un’altra serie di chatbot era in grado di  simulare conversazioni con personaggi famosi, come Leonardo DiCaprio, o figure politiche come Elon Musk e Donald Trump. Questa capacità ha sollevato serie preoccupazioni sulla possibilità di manipolare e diffondere disinformazione.

Inoltre, sono stati scovati anche chatbot progettati per facilitare il jailbreak

dei modelli di intelligenza artificiale di OpenAI stessa. Tra questi è presente anche il noto DAN, che promette risposte a domande che altrimenti sarebbero vietate. Questo inquietante intervento solleva molti dubbi sulla sicurezza e sulla stabilità dei sistemi. inoltre, apre una nuova controversia sulla responsabilità degli sviluppatori nell’assicurare che le loro creazioni non vengano utilizzate per scopi dannosi o illegali.

OpenAI ha annunciato di aver impiegato una serie di strumenti per riuscire a contrastare queste violazioni. Tra questi troviamo sistemi automatizzati, revisione umana e  segnalazioni degli utenti. Nonostante ciò, la complessità e l’entità del problema sono sempre più evidenti e molti GPT illegali continuano a sfuggire alla vigilanza dell’azienda.

Sicuramente una delle maggiori sfide per OpenAI è quella di trovare un equilibrio tra innovazione e necessità di garantire il rispetto delle leggi. La distribuzione di chatbot personalizzati attraverso GPT Store rappresenta una promettente opportunità, ma è essenziale che OpenAI e la comunità degli sviluppatori lavorino insieme per garantire che questa opportunità sia sfruttata in modo responsabile e etico.