L'IA potrebbe introdurre disparità nel trattamento sanitario, avverte uno studio

Un recente studio ha sollevato preoccupazioni sul fatto che i modelli di intelligenza artificiale (IA) nel settore sanitario possano raccomandare trattamenti differenti per la stessa condizione medica, basandosi solo su caratteristiche socioeconomiche e demografiche dei pazienti.

Lo studio: come l'IA prende decisioni sui pazienti

I ricercatori hanno creato quasi trenta pazienti immaginari con caratteristiche differenti e hanno interrogato nove modelli IA sul trattamento da seguire in mille situazioni di pronto soccorso. Nonostante i dettagli clinici fossero identici, i modelli di IA talvolta modificavano le decisioni in base alle caratteristiche personali dei pazienti, influenzando vari aspetti come:

• La priorità delle cure.

• I test diagnostici.

• L'approccio terapeutico.

• La valutazione della salute mentale.

Esempi di disuguaglianze nei trattamenti raccomandati

Un esempio significativo riguarda l'uso dei test diagnostici avanzati come la tomografia computerizzata o la risonanza magnetica, raccomandati più frequentemente per i pazienti ad alto reddito. Al contrario, ai pazienti a basso reddito veniva spesso suggerito di non sottoporsi a ulteriori test. Questo fenomeno riflette le disuguaglianze esistenti nel mondo reale nel sistema sanitario.

Gli autori dello studio hanno notato che questi problemi si sono verificati sia nei modelli di IA proprietari che in quelli open-source, mettendo in luce potenziali bias nei sistemi di intelligenza artificiale applicati alla sanità.

Responsabilità nello sviluppo dell'IA per la sanità

Il dott. Girish Nadkarni, della Icahn School of Medicine presso il Mount Sinai di New York, ha dichiarato che, se sviluppata e utilizzata in modo responsabile, l'IA ha il potenziale di rivoluzionare l'assistenza sanitaria. Tuttavia, è fondamentale che venga utilizzata in modo che non aggravi le disuguaglianze esistenti.

Il dott. Eyal Klang, coautore dello studio, ha aggiunto che identificando le distorsioni nei modelli IA, sarà possibile lavorare per migliorare i risultati e sviluppare sistemi che mettano i pazienti al centro dell'assistenza sanitaria, garantendo trattamenti sicuri ed efficaci.

REDAZIONE AISI