Come si decide quale intelligenza artificiale utilizzare in un contesto sanitario? La risposta sembra intuitiva: si mettono diversi modelli alla prova, si confrontano i risultati e si sceglie quello con la performance migliore. Ma quando dalla classifica dei modelli si passa alla decisione di utilizzarli in processi reali, la questione diventa molto più complicata.
A riaprire il tema è un confronto pubblicato il 3 settembre su Nature Medicine. Brett Beaulieu-Jones, dell’University of Chicago, e Shamim Nemati, dell’University of California San Diego, hanno sollevato una serie di obiezioni metodologiche rispetto a uno studio pubblicato a giugno sulla stessa rivista, nel quale modelli general purpose di frontiera avevano superato due strumenti AI clinici in tre valutazioni. Dalle performance osservate, il lavoro originario traeva considerazioni potenzialmente rilevanti anche per procurement, reimbursement e supervisione regolatoria.
Secondo Beaulieu-Jones e Nemati, però, alcuni dei benchmark pubblici sui quali erano state osservate le differenze maggiori presentano fattori confondenti riconosciuti dagli stessi autori, mentre la valutazione basata su querycliniche reali avrebbe una portata limitata. I due autori hanno inoltre contestato il livello di precisione con cui sono stati presentati alcuni risultati e la descrizione non sufficientemente dettagliata dei setting utilizzati per la generazione delle risposte.
Una questione non solo accademica
La questione non è puramente accademica. Nei large language model dettagli apparentemente secondari — versione del modello, configurazione dell’inferenza, strategie di decoding o infrastruttura utilizzata — possono influire sulle risposte. La letteratura ha inoltre documentato forme di non determinismo anche in condizioni configurate per limitare la variabilità.
Contestualmente Nature Medicine ha pubblicato anche la replica degli autori del lavoro originale, Krithik Vishwanath, Yindalon Aphinyanaphongs ed Eric Karl Oermann.
I ricercatori riconoscono che la possibile contaminazione del benchmark MedQA e l’affinità degli evaluator di HealthBench possono ridurre la generalizzabilità di quei test e spiegano di averli trattati come elementi supplementari. Mantengono però la conclusione principale: nelle condizioni dello studio, i modelli general purpose hanno superato gli strumenti clinici anche nella valutazione basata su real clinical queries.
Non c’è quindi una smentita, ma un confronto su quanto sia possibile generalizzare da una determinata valutazione a decisioni di utilizzo molto più ampie. Ed è esattamente questo il punto che dovrebbe interessare l’industria farmaceutica.
Non esiste una “migliore AI”
Con l’aumento delle piattaforme AI disponibili, molti processi di selezione rischiano infatti di replicare il vecchio modello delle software demo: una serie di capability, alcuni benchmark generali, una prova controllata e una classifica finale. Ma stabilire che un modello è mediamente migliore in medical question answering non significa automaticamente dimostrare che sia più adatto a generare una medical response, analizzare insight raccolti dagli MSL, costruire una sintesi congressuale o supportare un workflow promozionale.
“Nel pharma non esiste ‘la migliore AI’ in assoluto. Esiste l’AI che ha dimostrato di essere adeguata a un determinato compito, con determinate fonti e dentro determinati limiti di rischio”, osserva Francesco Maria Avitto, Direttore editoriale Homnya, “Il benchmark decisivo non dovrebbe essere costruito dal vendor, ma dall’azienda: con i propri casi reali, le proprie lingue, i propri edge case e soprattutto con gli errori che in quel processo non possono essere accettati.”
La differenza è sostanziale. Per un sistema utilizzato in Medical Information, per esempio, un set di validazione dovrebbe comprendere non soltanto domande cliniche standard, ma richieste ambigue, query off-label, contenuti non aggiornati, differenze tra SmPC e letteratura, gestione delle fonti e capacità di riconoscere situazioni che richiedono escalation umana. In un sistema destinato al marketing entrerebbero invece claim, riferimenti obbligatori, brand rules e vincoli promozionali.
Anche la lingua è un aspetto da considerare. Un modello che offre ottime prestazioni su benchmark inglesi può comportarsi diversamente in italiano, soprattutto quando deve interpretare terminologia scientifica, materiale regolatorio o testi nei quali piccole variazioni semantiche possono modificare il significato.
Quali conclusioni?
Il confronto su Nature Medicine suggerisce quindi una regola semplice: benchmarking e procurement non possono essere separati dal contesto operativo.
La sfida per il pharma non sarà identificare una volta per tutte il modello più intelligente. Sarà costruire sistemi di valutazione sufficientemente rigorosi da sapere quale modello può essere utilizzato, per quale attività e sotto quale supervisione.
