L’intelligenza artificiale è già entrata nella scrittura scientifica, ma il dibattito su questo tema non accenna a diminuire.
Ricercatori, medical writer, editor e reviewer utilizzano strumenti generativi per sintetizzare letteratura, migliorare la lingua, strutturare manoscritti, costruire abstract, individuare incongruenze, preparare slide e accelerare una quantità crescente di attività editoriali. Il problema non è più stabilire se questa trasformazione avverrà. È capire quali regole riescano a sopravvivere alla trasformazione.
Una nuova scoping review pubblicata da BMC Medical Ethics ha analizzato 46 documenti relativi alla governance dell’intelligenza artificiale nelle pubblicazioni scientifiche. Il quadro che emerge è meno uniforme di quanto si potrebbe pensare. Su un punto esiste una convergenza molto forte: l’AI non può essere autore.
Non può assumersi responsabilità scientifiche, rispondere a una contestazione, dichiarare un conflitto di interessi o difendere una scelta metodologica. La responsabilità finale deve quindi restare umana. Un principio apparentemente ovvio, ma destinato a diventare sempre più importante man mano che aumenta la quota di lavoro materialmente realizzata dalle macchine.
Molto meno definita è la questione della disclosure. Quanto bisogna dichiarare? Ogni utilizzo? Soltanto quello generativo? È diverso chiedere a un modello di correggere l’inglese rispetto a chiedergli di produrre una prima stesura? E cosa succede quando l’AI è incorporata nel software utilizzato quotidianamente e l’utente non distingue più nemmeno con precisione quali funzioni siano basate su modelli generativi?
Le policy analizzate nella review danno risposte differenti. Ed è questo probabilmente il vero problema per il pharmaceutical medical writing. Non l’assenza assoluta di regole, ma la presenza contemporanea di regole diverse.
Una stessa modalità di utilizzo può risultare pienamente accettabile per un journal, richiedere disclosure dettagliata per un altro e trovarsi in un’area molto meno definita per un terzo. Se aggiungiamo le SOP aziendali, le policy delle agenzie, quelle delle società scientifiche e le indicazioni dei congressi, il quadro diventa rapidamente complesso.
«Credo che nel dibattito sull’AI applicata ai contenuti scientifici stiamo dedicando troppa attenzione alla domanda “è stata usata l’intelligenza artificiale?” e troppo poca alla domanda decisiva: chi ha verificato quel contenuto e chi se ne assume la responsabilità? La trasparenza è necessaria, ma non può diventare un surrogato della responsabilità», sottolinea Francesco Maria Avitto, Direttore Editoriale di Daily Health Industry.
La distinzione è importante anche perché rischiamo di creare una falsa equivalenza tra utilizzi profondamente diversi. Un modello impiegato per correggere la sintassi di un testo non svolge lo stesso ruolo di uno strumento al quale viene chiesto di selezionare la letteratura, interpretarla e generare le conclusioni. Trattarli allo stesso modo produce regole apparentemente rigorose ma difficili da applicare.
Per Medical Affairs e publication planning la strada più realistica sembra allora spostarsi da policy basate sul semplice utilizzo dell’AI a policy basate sul rischio dell’attività delegata.
Language editing, summarization, literature screening, data interpretation e drafting scientifico non hanno lo stesso profilo di rischio e non dovrebbero necessariamente avere gli stessi livelli di controllo.
Vale anche per il peer review. L’AI può aiutare a individuare incongruenze, controllare riferimenti, evidenziare punti deboli. Molto più problematico sarebbe delegarle un giudizio sulla solidità metodologica o sull’opportunità di pubblicare un lavoro.
L’obiettivo non dovrebbe essere difendere una zona della produzione scientifica nella quale l’AI non possa entrare. Quella zona diventerà ogni mese più piccola.
La vera sfida è costruire una catena nella quale sia sempre possibile sapere quale parte del lavoro è stata automatizzata, su quali fonti si è basata, chi l’ha verificata e soprattutto chi ne risponde.
Perché alla fine una pubblicazione scientifica potrà essere scritta con il contributo di dieci algoritmi diversi. Ma qualcuno dovrà comunque metterci il nome.
