Lo studio è incominciato nel momento in cui un team di ricercatori ha addestrato la sua AI usando moltissime immagini a raggi X di centinaia di persone esistenti, dove veniva prontamente etichettata l’etnia. I ricercatori hanno qui proposto all’IA queste informazioni, tuttavia l’obiettivo non era quello di riconoscerli durante questi esami specifici.
Ciononostante, si è scoperto che l’intelligenza artificiale riesce a fare anche questo, ossia prevedere l’identità etnica del paziente con molta precisione, anche quando le scansioni sono state fatte da persone della stessa età e dello stesso sesso. Inoltre, si è arrivati anche a livelli del 90% di precisione con alcuni gruppi d’immagini.
Gli esperti ancora oggi non sono sicuri di come l’IA sia riuscito ad identificare con così tanta precisione l’etnia delle immagini che le venivano proposte, soprattutto perché non contenevano questa tipologia d’informazioni.
Anche quando la fornitura d’informazioni è illimitata, eliminando indizi sulla densità ossea o andandosi a focalizzare su una determina e piccola parte del corpo, i modelli sono riusciti ugualmente a comportarsi in una maniera corretta.
“La nostra scoperta indica che l’IA può prevedere con precisione l’etnia umana auto-riferita, anche da immagini mediche danneggiate, ritagliate e rumorose, spesso quando gli esperti clinici non possono. [Questo] crea un rischio enorme per tutte le implementazioni di modelli nell’imaging medico“, scrivono i ricercatori.