L’intelligenza artificiale applicata alla ricerca clinica sembra iniziare a superare uno dei problemi che più ne hanno frenato la credibilità presso i professionisti sanitari: quello delle fonti inesistenti o inventate. Ma proprio mentre diminuisce questo rischio ne emerge un altro, potenzialmente ancora più rilevante per Medical Affairs e comunicazione scientifica: quali evidenze vengono selezionate dall’AI e quali, invece, restano fuori dal suo campo visivo?
A porre la questione è uno studio pubblicato il 2 settembre su npj Health Systems, che ha analizzato la qualità delle fonti restituite da OpenEvidence, piattaforma di intelligenza artificiale clinica basata su retrieval-augmented generation. I ricercatori hanno sottoposto al sistema 150 prompt standardizzati distribuiti tra oncologia, cardiologia, reumatologia, psichiatria e malattie infettive, passando poi al vaglio tutte le 4.979 citazioni prodotte. Nessun riferimento è risultato definitivamente fabbricato; sono stati rilevati soltanto tre errori di attribuzione relativi ad abstract congressuali.
Anche la composizione delle fonti è significativa. Tra i 3.787 riferimenti unici, il 25,9% proveniva da journal considerati “flagship” nelle rispettive specialità e il 47,3% da riviste appartenenti al primo quartile. Quasi sette riferimenti su dieci erano stati pubblicati dal 2020 in poi. Linee guida, documenti regolatori e fonti supplementari rappresentavano invece il 5,7% del totale, comprendendo anche Cochrane Reviews, documenti Fda e guideline di società scientifiche.
Il risultato segna una differenza importante rispetto ai modelli generalisti che, soprattutto nelle prime generazioni, hanno mostrato una significativa propensione a generare riferimenti bibliografici plausibili ma inesistenti. Tuttavia gli stessi autori invitano a non spingersi oltre ciò che lo studio dimostra: la ricerca verifica l’esistenza e le caratteristiche bibliografiche delle fonti, ma non valuta se ciascuna di esse supporti effettivamente il claim clinico formulato da OpenEvidence.
Ed è proprio qui che il tema diventa interessante per l’industria farmaceutica. Una volta ridotto il problema della fonte inventata, l’attenzione si sposta sulla composizione del corpus dal quale l’AI recupera le informazioni. In cardiologia, per esempio, il Journal of the American College of Cardiology rappresentava il 21,1% dei riferimenti unici recuperati dalla piattaforma, una concentrazione nettamente superiore a quella osservata in altre specialità. Gli autori ritengono plausibile che il dato rifletta il peso delle linee guida ACC/AHA, ma sottolineano anche che disponibilità delle fonti, licensing agreement e partnership potrebbero influire su ciò che il sistema è in grado di recuperare. Con le informazioni pubblicamente disponibili non è possibile separare questi diversi fattori.
Il passaggio non è secondario. Se un numero crescente di medici utilizzerà strumenti di clinical search basati sull’AI invece di interrogare direttamente PubMed, Google Scholar o i siti delle società scientifiche, una parte della selezione dell’evidenza avverrà prima ancora che il professionista visualizzi una lista di risultati.
“Il tema non è più soltanto evitare che l’intelligenza artificiale inventi una fonte. Quando una piattaforma diventa l’interfaccia attraverso cui il medico accede alla letteratura, acquisisce anche un potere di selezione: decide quali evidenze portare in primo piano e quali lasciare sullo sfondo”, osserva Francesco Maria Avitto, Direttore editoriale Homnya, “Per Medical Affairs questo apre una questione nuova: non basta produrre buona scienza, bisogna comprendere anche attraverso quali architetture informative quella scienza potrà essere trovata, riconosciuta e correttamente contestualizzata dalle macchine.”
Non significa trasformare la produzione scientifica in un esercizio di ottimizzazione per gli algoritmi. Né pensare che un articolo sponsorizzato o un contenuto corporate possano acquisire lo stesso peso di un trial peer-reviewed. Significa però iniziare a considerare la “source authority” come una nuova dimensione della strategia informativa.
Per il pharma potrebbe diventare necessario sapere quali fonti alimentano le principali piattaforme utilizzate dagli HCP, come vengono gestiti DOI, abstract, supplementary material, guideline e dati regolatori e quanto facilmente le evidenze prodotte dall’azienda siano collegabili alle pubblicazioni primarie. In questa prospettiva, publication strategy, medical communication e architettura digitale cominciano a convergere.
Lo studio su OpenEvidence non dimostra ancora che l’AI stia diventando il principale gateway della conoscenza clinica. Ma fotografa un passaggio importante: la discussione sulla qualità dell’AI medica si sta spostando dalla semplice capacità di generare risposte alla qualità dell’ecosistema di evidenze che quelle risposte rende possibile. Ed è probabilmente su questo terreno che si giocherà una delle prossime partite dell’engagement scientifico con gli HCP.
