Con il tempo e l’esperienza i medici imparano quando fidarsi degli algoritmi

Mentre investono miliardi nell’intelligenza artificiale (AI), le organizzazioni affrontano un problema che nessun algoritmo può aiutare a risolvere da solo: convincere le persone a usarla.

Una nuova ricerca mostra che dimostrare che l’algoritmo è accurato non basta. La riluttanza a seguirne le raccomandazioni può attenuarsi nel tempo, ma soprattutto nelle situazioni in cui il professionista conserva un margine di giudizio. È in questi contesti che l’esperienza maturata lavorando con l’AI sembra modificare progressivamente il modo in cui le persone integrano le indicazioni dell’algoritmo nelle proprie decisioni.

Lo studio, condotto da Luigi Preti, Amelia Compagni, Giulia Cappellaro di CERGAS, SDA Bocconi e Bart Vanneste della UCL School of Management, ha analizzato oltre 650.000 raccomandazioni generate da un sistema di AI utilizzato nei centri dialisi di Fresenius Medical Care per supportare le decisioni terapeutiche dei nefrologi nella cura dei pazienti in dialisi. Il risultato principale è che, con il passare del tempo, i medici diventano più propensi a seguire le raccomandazioni dell’algoritmo proprio nelle situazioni in cui le linee guida cliniche lasciano maggiore spazio al giudizio professionale. Questo, però, non significa diventare progressivamente più obbedienti alla macchina.

In un momento in cui l’intelligenza artificiale entra nei processi decisionali non solo della sanità, ma anche di imprese, banche, assicurazioni e pubbliche amministrazioni, la ricerca suggerisce che il successo dell’AI dipende tanto dalla tecnologia quanto dalla capacità delle organizzazioni di accompagnare le persone in un percorso di implementazione e apprendimento.

Tanti strumenti, scarso utilizzo

Negli ultimi anni l’intelligenza artificiale è entrata rapidamente anche nella pratica clinica. Negli Stati Uniti sono stati autorizzati oltre 1.500 software medicali basati su AI, progettati soprattutto per supportare i medici nelle decisioni diagnostiche e prognostiche. Eppure, molti di questi strumenti continuano a essere poco utilizzati nella pratica quotidiana, limitandone il potenziale impatto sulla qualità delle cure.

Da tempo la letteratura parla di algorithm aversion, cioè della riluttanza delle persone ad affidarsi alle indicazioni degli algoritmi, anche quando questi dimostrano prestazioni elevate. Il fenomeno è stato osservato in molti ambiti, dalla finanza alla giustizia, ma è particolarmente rilevante in sanità, dove le decisioni riguardano direttamente la salute dei pazienti.

Gran parte delle ricerche precedenti si è concentrata sugli algoritmi che aiutano a formulare diagnosi o previsioni, ad esempio nell’analisi delle immagini radiologiche. Due domande rimanevano però ancora poco esplorate:

• Che cosa succede quando l’intelligenza artificiale entra nelle decisioni terapeutiche, nelle quali il medico conserva un importante margine di valutazione?
• La relazione tra esperienza con un algoritmo e disponibilità a seguirne le raccomandazioni cambia nel tempo?

I suggerimenti e i loro effetti

I ricercatori hanno studiato un sistema di clinical decision support utilizzato nella gestione dell’anemia dei pazienti in dialisi. Ogni mese, sulla base degli esami del sangue e della storia clinica del paziente, l’algoritmo suggerisce al nefrologo il dosaggio del farmaco da somministrare. Rispetto al mese precedente, la raccomandazione può quindi implicare mantenere, aumentare o ridurre il trattamento. Il medico è libero di accettare oppure rifiutare la raccomandazione. Se decide di non seguirla, gli viene chiesto di indicarne il motivo.

Lo studio si basa su un database eccezionalmente ampio: 659.976 raccomandazioni, relative a 27.819 pazienti, formulate da 1.061 nefrologi operanti in 171 centri dialisi di otto Paesi europei, osservati tra il 2013 e il 2024.

Gli autori distinguono tra il semplice numero di raccomandazioni ricevute e il tempo trascorso lavorando con l’algoritmo. Questa distinzione è importante perché, in un trattamento monitorato nel tempo come quello dell’anemia, il medico non si limita a ricevere una raccomandazione, ma ha anche la possibilità di osservare nei mesi successivi come evolvono le condizioni del paziente.

Fare esperienza per continuare a decidere

Il risultato principale mostra come una maggiore esperienza nel tempo con il sistema è associata a una maggiore probabilità di accettarne le raccomandazioni. Raddoppiare il tempo trascorso dall’inizio dell’utilizzo del sistema è associato, in media, a un aumento di circa 1,5 punti percentuali nella probabilità che il medico accetti la raccomandazione dell’algoritmo. L’effetto è graduale e tutt’altro che soverchiante: nel campione analizzato il tasso medio di accettazione è del 56,5%, a conferma del fatto che i medici continuano frequentemente a discostarsi dalle indicazioni del sistema.

È ancora più interessante osservare quando questa relazione emerge. Se le linee guida cliniche prescrivono con forza quale decisione prendere, il tempo trascorso con l’algoritmo è sostanzialmente privo di relazione con la probabilità di accettarne le raccomandazioni. La relazione positiva emerge invece nelle situazioni in cui le linee guida non prescrivono completamente l’azione da intraprendere e il medico conserva un maggiore margine di discrezionalità. È proprio in questi contesti che l’esperienza sembra modificare progressivamente il rapporto tra giudizio professionale e consiglio algoritmico.

Le motivazioni con cui i medici rifiutano le raccomandazioni aiutano a comprendere meglio il fenomeno. Quando i valori del paziente sono entro i parametri desiderati, il motivo più frequente per non seguire l’algoritmo è che il paziente è stabile e, secondo il medico, non è opportuno modificare una terapia che sta funzionando. Quando invece l’anemia deve essere corretta, i medici spesso condividono la direzione della modifica proposta dall’algoritmo, ma ritengono che l’aggiustamento del dosaggio dovrebbe essere più graduale.

L’esperienza, tuttavia, non è associata semplicemente a una riduzione uniforme del numero dei rifiuti. Cambia anche il modo in cui i medici si discostano dalle raccomandazioni. Con il passare del tempo continuano a esercitare il proprio giudizio e a distinguere tra circostanze cliniche diverse. In altre parole, i risultati non suggeriscono che il giudizio del medico venga sostituito da quello della macchina, ma che nel tempo possa cambiare il modo in cui i due vengono integrati.

Lo studio mostra inoltre che questa evoluzione si accompagna a una maggiore probabilità che i valori di emoglobina dei pazienti rientrino nell’intervallo raccomandato. Anche una maggiore propensione pregressa del medico ad accettare le raccomandazioni dell’algoritmo è associata a una maggiore probabilità di raggiungere il target. Trattandosi di dati osservazionali, questi risultati non dimostrano che una maggiore accettazione delle raccomandazioni provochi migliori risultati clinici, ma mostrano che l’evoluzione osservata nell’utilizzo dell’AI è coerente con un miglioramento nella gestione dell’anemia.

Collaborazione tra professionisti e AI

Il successo di un progetto di intelligenza artificiale viene attribuito, il più delle volte, alla qualità dell’algoritmo. La ricerca suggerisce però che conta anche il modo in cui le persone imparano a utilizzarlo.

L’adozione dell’AI è un processo. Se si vuole introdurre con successo un sistema di AI, può essere importante creare le condizioni perché le persone possano lavorarci abbastanza a lungo da comprenderne progressivamente punti di forza e limiti e osservare come le decisioni si traducono in risultati. A valle della formazione iniziale servono quindi continuità, feedback e occasioni per maturare esperienza.

Lo studio suggerisce inoltre che queste strategie non dovrebbero necessariamente essere identiche in tutti i tipi di decisione. L’esperienza sembra contare soprattutto quando il professionista conserva uno spazio effettivo di giudizio e deve decidere come integrare la raccomandazione algoritmica con le proprie conoscenze del caso. Quando invece le linee guida prescrivono già chiaramente l’azione, il margine perché l’esperienza con l’AI modifichi il comportamento è molto più ridotto.

Se finora il dibattito sull’intelligenza artificiale si è concentrato soprattutto sulla capacità degli algoritmi di prendere decisioni migliori degli esseri umani, questo studio sposta quindi l’attenzione sull’evoluzione, nel tempo, della collaborazione tra professionisti e algoritmi. L’esperienza può aiutare i professionisti a integrare più efficacemente le raccomandazioni dell’intelligenza artificiale nel proprio giudizio, senza rinunciare alla capacità di discostarsene quando le circostanze cliniche lo giustificano.

La ricerca When Does Experience Attenuate Algorithm Aversion? Evidence from AI-supported Therapeutic Decision Making in Nephrology Care, di Luigi Preti, Amelia Compagni, Giulia Cappellaro e Bart Vanneste, ha ricevuto il Best Paper Award della Healthcare Management Division all’Academy of Management Annual Meeting 2026, appena conclusosi a Philadelphia, e il premio Best Paper della DigitalTransformationSociety Conference organizzata dalla Paris Business School e dall’Università Parthenope di Napoli.

Luigi Preti, Amelia Compagni, Giulia Cappellaro e Bart Vanneste. “Experience With AI Algorithms And Algorithm Aversion InAI-Supported Medical Care.” Academy of Management Proceedings. DOI: https://doi.org/10.5465/amproc.2026.274bp.