Fino a oggi il grande dibattito sull’intelligenza artificiale nel pharma si è concentrato soprattutto su quello che l’AI dice. Il prossimo riguarderà quello che fa. È una differenza enorme.
Joshua Sharfstein, della Johns Hopkins Bloomberg School of Public Health ed ex numero due della FDA, ha affrontato il problema in un recente contributo su JAMA Health Forum dedicato all’agentic AI in medicina. Il punto di partenza è semplice: stiamo passando da sistemi che producono una risposta a sistemi capaci di utilizzare quella risposta per decidere l’azione successiva.
Un chatbot informa. Un agente opera
In medicina significa arrivare, almeno potenzialmente, a sistemi che ordinano test, modificano terapie, prescrivono medicinali o attivano autonomamente altri processi. Nel farmaceutico siamo ancora in una fase precedente, ma la traiettoria è già chiarissima. Gli agenti cominciano a entrare nei CRM, nei workflow di marketing, nella produzione e revisione dei contenuti, nell’analisi delle interazioni con gli HCP e nei sistemi che suggeriscono la next best action alla rete sul territorio. Il salto apparentemente piccolo arriva quando il suggerimento diventa esecuzione.
Un sistema che propone a un informatore scientifico il contenuto più appropriato lascia ancora una decisione umana nel mezzo. Un agente che identifica autonomamente l’HCP, seleziona il contenuto, decide il canale e attiva la comunicazione appartiene a una categoria completamente diversa. A quel punto non basta più verificare che il contenuto sia corretto. Bisogna verificare la decisione.
La proposta di Sharfstein
Sharfstein propone un modello di supervisione costruito su alcuni principi molto pragmatici: revisione indipendente delle principali affermazioni, definizione esatta delle condizioni nelle quali l’agente può essere utilizzato, controlli proporzionati al rischio e responsabilità distribuite chiaramente tra sviluppatori e organizzazioni che utilizzano il sistema.
Per l’industria farmaceutica significa che presto MLR potrebbe non dover approvare soltanto un contenuto. Potrebbe dover approvare una logica.
“Nel pharma siamo abituati a controllare ciò che viene comunicato. Gli agenti ci obbligheranno a controllare anche perché, quando e a chi viene comunicato. È un salto enorme: dalla compliance del contenuto alla compliance della decisione”, osserva Francesco Maria Avitto, Direttore Editoriale di Daily Health Industry.
Il tema diventa ancora più complesso quando gli agenti iniziano a collaborare tra loro. Un agente analizza i dati. Un secondo sceglie il target. Un terzo genera il contenuto. Un quarto seleziona il canale. Un quinto registra l’interazione nel CRM. Nessuno dei singoli passaggi appare particolarmente rischioso. È la catena complessiva a diventarlo.
Ed è proprio qui che molte aziende potrebbero commettere l’errore di applicare all’agentic AI le stesse governance costruite per ChatGPT. Policy sull’utilizzo dei dati, controllo degli output, verifica umana. Necessarie, ma non sufficienti.
Quando un sistema può compiere azioni bisogna definire permessi, soglie, eccezioni, possibilità di escalation e soprattutto punti nei quali l’intervento umano rimane obbligatorio. In altre parole bisogna costruire qualcosa che assomiglia molto più a un sistema di controllo interno che a una policy sull’intelligenza artificiale.
Il tema arriverà presto anche alla field force. Il futuro più interessante non è infatti l’assistente che suggerisce all’ISF quali slide utilizzare. È quello che conosce lo storico delle interazioni, riconosce ciò che interessa al medico, analizza i segnali provenienti dai diversi canali, propone l’azione successiva e aggiorna il percorso dopo ogni nuovo contatto.
È potente. Ed è proprio per questo che la domanda non potrà più essere soltanto: “L’AI ha dato la risposta giusta?”. Dovremo cominciare a chiederci: “Aveva il diritto di fare quella cosa?”.
