TechCrunch, noto giornale specializzato in tecnologia, ha portato alla luce numerosi casi in cui i GPT presenti nello store violavano palesemente le regole stabilite da OpenAI. Una delle violazioni più comuni riguarda il copyright. Questi chatbot sono, infatti, capaci di generare immagini di personaggi protetti da diritti d’autore, come ad esempio quelli appartenenti a Disney e Marvel.
Chatbot illegali sullo Store di OpenAI
Ma non è finita qui. Un’altra serie di chatbot era in grado di simulare conversazioni con personaggi famosi, come Leonardo DiCaprio, o figure politiche come Elon Musk e Donald Trump. Questa capacità ha sollevato serie preoccupazioni sulla possibilità di manipolare e diffondere disinformazione.
Inoltre, sono stati scovati anche chatbot progettati per facilitare il jailbreak dei modelli di intelligenza artificiale di OpenAI stessa. Tra questi è presente anche il noto DAN, che promette risposte a domande che altrimenti sarebbero vietate. Questo inquietante intervento solleva molti dubbi sulla sicurezza e sulla stabilità dei sistemi. inoltre, apre una nuova controversia sulla responsabilità degli sviluppatori nell’assicurare che le loro creazioni non vengano utilizzate per scopi dannosi o illegali.
OpenAI ha annunciato di aver impiegato una serie di strumenti per riuscire a contrastare queste violazioni. Tra questi troviamo sistemi automatizzati, revisione umana e segnalazioni degli utenti. Nonostante ciò, la complessità e l’entità del problema sono sempre più evidenti e molti GPT illegali continuano a sfuggire alla vigilanza dell’azienda.
Sicuramente una delle maggiori sfide per OpenAI è quella di trovare un equilibrio tra innovazione e necessità di garantire il rispetto delle leggi. La distribuzione di chatbot personalizzati attraverso GPT Store rappresenta una promettente opportunità, ma è essenziale che OpenAI e la comunità degli sviluppatori lavorino insieme per garantire che questa opportunità sia sfruttata in modo responsabile e etico.