La startup ha recentemente annunciato la formazione di un apposito team di esperti che si dedicherà all’analisi e alla valutazione di tutti quelli che possono essere i rischi legati all’uso dei nuovi modelli di AI. In questo modo l’azienda si è dichiarata attenta alla sicurezza dei suoi utenti. E non solo.
Il gruppo di lavoro in questione è stato chiamato Preparedness e verrà guidato da Aleksander Madry, direttore del Center for Deployable Machine Learning del Massachusetts Institute of technology. Il team avrà il compito di monitorare, prevedere e valutare tutti i possibili rischi al fine di proteggere e preservare tutti gli utenti che usufruiscono di questo sistema.
I rischi in questione riguardano, come dichiarato proprio da OpenAI, anche alcune possibili minacce di natura biologica, radioattiva, chimica ed anche nucleare. Ovviamente non saranno dimenticate questioni riguardanti la capacità del sistema AI di generare codici malevoli. Così come anche la loro capacità di ingannare gli utenti.
Per alcuni l’annuncio, può sembrare strano, ma in realtà è perfettamente in linea con quello che Sam Altman, AD di OpenAI, ha dichiarato proprio nelle ultime settimane. Secondo Altman l’intelligenza artificiale non deve assolutamente superare il genere umano. I suoi timori su una “estinzione umana” sono in linea con la formazione di un gruppo che lavori per mettere dei paletti all’AI. Il team si occuperà di analizzare tutti quegli scenari prima raccontati solo nei film, ma che ora potrebbero diventare realtà.
OpenAI sul suo blog ufficiale afferma che rimane intatta l’idea che l’intelligenza artificiale possa portare straordinari benefici all’umanità a livello mondiale. La startup aggiunge poi che questo non esclude che possa comportare però dei rischi che devono essere analizzati per poterli prevenire. Il tutto ovviamente svolto con il solo scopo, ribadisce OpenAI, di garantire massima sicurezza a tutti i suoi utenti. L’obiettivo dell’azienda dunque, per quanto possibile, è riuscire a prevenire persino l’inimmaginabile.