Intelligenza artificiale e publishing scientifico

Intelligenza artificiale e publishing scientifico

Giuseppe Di Pasquale

Editor, Giornale Italiano di Cardiologia

The Times They Are A-Changin’

Bob Dylan, 1964

Nei confronti dell’intelligenza artificiale (IA) esistono atteggiamenti diametralmente opposti improntati a paura o entusiasmo, demonizzazione o esaltazione, spesso basati su un approccio emozionale piuttosto che razionale.

L’evoluzione esplosiva dell’IA ha già iniziato a determinare un forte impatto in numerosi ambiti quali la pubblica amministrazione, la sanità, l’istruzione, il giornalismo, l’informazione e la finanza. Il settore sanitario è sicuramente uno degli ambiti maggiormente influenzati dall’IA e le opportunità rivoluzionarie offerte dall’IA nell’ambito medico, compresa la cardiologia, sono in continua inarrestabile espansione. Nel nostro Paese le esperienze di IA in ambito clinico cardiologico sono tuttavia ancora limitate come dimostrano anche i dati dell’8° Censimento delle Strutture Cardiologiche in Italia anno 2022 che registra un utilizzo dell’IA in appena il 7.7% delle 790 cardiologie italiane, nel 30.6% di quelle universitarie, nel 6% di quelle ospedaliere e nel 2.6% di quelle private accreditate1.

Al di là dei timori esiste ampia condivisione che l’IA costituisca una grande opportunità, se ben governata, non per sostituire ma per supportare l’intelligenza umana in ambito di diagnostica e decision-making. Sono già numerose le applicazioni in cardiologia, a titolo di esempio l’IA applicata all’ECG standard per predire la fibrillazione atriale o lo scompenso cardiaco e alle metodiche di imaging per migliorare e rendere più tempestiva la diagnostica2-4. Sono attualmente disponibili oltre 600 algoritmi clinici di IA approvati dalla Food and Drug Administration, il 10% dei quali relativo ad applicazioni cardiovascolari2.

Interessanti contributi sull’utilizzo dell’IA in Cardiologia sono già stati pubblicati anche nel Giornale Italiano di Cardiologia5,6. Attualmente si contano oltre 200 nuove riviste scientifiche specificatamente dedicate all’IA e tra queste primeggia il New England Journal of Medicine che in gennaio 2024 ha varato una nuova rivista, NEJM AI, interamente dedicata all’IA in Medicina che nel suo primo editoriale dichiara come mission quella di volere guidare i lettori ad un utilizzo responsabile dell’IA con il fine ultimo di migliorare la qualità delle cure7.

Più contrastanti sono invece i punti di vista riguardo al ruolo dell’IA a supporto del publishing scientifico dove da parte di alcuni esiste un’enfatizzazione delle opportunità e da parte di altri quella dei rischi per l’integrità della ricerca. Il tema è molto attuale e digitando in PubMed Artificial Intelligence and Scientific Publishing compaiono ad oggi 5470 articoli.

Enorme è l’aiuto, e finora solo parzialmente esplorato, che l’IA può offrire ai ricercatori per migliorare la qualità degli articoli e agli editor delle riviste scientifiche per una valutazione più rapida dei manoscritti ricevuti8.

L’INTELLIGENZA ARTIFICIALE A SUPPORTO DELLA STESURA DI UN ARTICOLO SCIENTIFICO

L’utilizzo dell’IA nella preparazione di un manoscritto può includere l’uso di modelli linguistici di grandi dimensioni (large language models, LLM), software di IA generativa come ChatGPT (Generative Pre-trained Transformer), Bing AI, Bard e Dale-E per generare immagini.

Dal momento in cui il chatbot ChatGPT è stato lanciato da OpenAI nel novembre 2022 i ricercatori di tutto il mondo hanno iniziato a sperimentare le sorprendenti potenzialità di questo strumento per la stesura di testi e la creazione di immagini. Si stima che a gennaio 2023 ChatGPT abbia raggiunto 100 milioni di utilizzatori.

L’efficacia di ChatGPT è sbalorditiva anche se, almeno attualmente, esistono limiti di affidabilità e “hallucinations”, spesso oggetto di battute ironiche, che impongono un’accurata revisione del testo generato dall’IA. Come tutti i dispositivi, questi strumenti possono essere utilizzati a fini di bene, ma se non sono governati possono produrre danni9. Non c’è dubbio però che gli strumenti basati sull’IA possono aiutare a redigere articoli scientifici suggerendo frasi o interi paragrafi e a migliorare la chiarezza e la coerenza del testo e anche l’editing del linguaggio per chi ha una scarsa padronanza della sintassi o della lingua inglese. Diverse applicazioni di IA possono inoltre supportare gli autori per l’identificazione della rivista più appropriata alla quale sottomettere il proprio lavoro.

Le potenzialità offerte dall’IA hanno aperto un ampio dibattito tra gli editori scientifici sul fatto che i ricercatori possano utilizzare ChatGPT e altri strumenti di IA per la stesura di articoli sottomessi alle riviste. A tale riguardo la posizione degli editor non è univoca, oscillando da una posizione di rigida chiusura, come quella dichiarata da Science10, a quella di JAMA che lascia un certo margine di manovra per l’uso di ChatGPT come assistente per la ricerca, e alla posizione di decisa apertura del New England Journal of Medicine e di tante altre riviste.

Un dibattito non ancora concluso ha finora riguardato il fatto se ChatGPT possa essere considerato un autore, dopo che nel gennaio 2023 Nature ha pubblicato due articoli che includevano ChatGPT tra gli autori (nonhuman author) dichiarando successivamente che si era trattato di un errore11. Su questo argomento sono stati dedicati editoriali da parte di Science, JAMA e Nature che hanno dichiarato che ChatGPT non può comparire come autore in un articolo scientifico12. Anche la World Association of Medical Editors (WAME) ha espresso una posizione contraria alla possibilità di authorship per ChatGPT13. Al momento l’IA sembra non soddisfare i requisiti necessari per il riconoscimento di authorship e diritti di autore. Su questo concordano sia il legislatore italiano che quello europeo. Lo European Union Artificial Intelligence Act (EU AI Act) è la normativa in evoluzione candidata ad affrontare questi nuovi problemi legali. Ben più importante a mio parere è il problema della authorship e accountability dei numerosi autori “umani” che compaiono in molti articoli senza avere contribuito in modo significativo alla stesura dell’articolo e non potendo pertanto assumersene la responsabilità (guest e gift authorship), o al contrario la crescente diffusione del ghostwriting14.

Diverse riviste, tra le quali l’European Heart Journal e la JACC Family, hanno aderito alle raccomandazioni dell’International Committee of Medical Journal Editors (ICMJE) che nel maggio 2023 ha aggiornato le proprie raccomandazioni con un focus specifico sul ruolo dell’IA nel publishing accademico. Le principali raccomandazioni di ICMJE riguardano l’obbligo per gli autori di dichiarare nella lettera di accompagnamento alla sottomissione di un manoscritto se l’IA o tecnologie assistite dall’IA sono state utilizzate nella preparazione del lavoro e inoltre di dettagliare nella sezione dei metodi in che modo l’IA è stata utilizzata nell’ideazione e nella preparazione del manoscritto15.

Sempre nel 2023, JACC ha pubblicato un documento di consenso su rischi e benefici e sulla modalità di utilizzo dell’IA per la preparazione di dati, testo e figure nei manoscritti sottomessi alle riviste della JACC Family16. I due statement principali di questo documento richiamano l’obbligo della trasparenza degli autori nell’utilizzo di strumenti basati sull’IA per la produzione di un manoscritto: (1) gli autori si assumono piena responsabilità dell’integrità dei dati e l’autenticità dei contenuti che sono stati generati dall’IA; (2) agli autori viene richiesto di riportare l’utilizzo dell’IA nella sezione dei metodi e/o in quella dei Ringraziamenti del manoscritto sottomesso. Il documento di JACC stabilisce inoltre che l’utilizzo di immagini create dagli strumenti dell’IA non è consentito in assenza di un preliminare consenso da parte dell’Editor-in-chief.

Anche il Committee on Publication Ethics (COPE) ha rilasciato un position statement nel quale si consente l’utilizzo degli strumenti dell’IA da parte degli autori a condizione che il supporto venga dichiarato17.

Una revisione sistematica delle linee guida per gli autori e i revisori dei 25 giornali top-ranking di Cardiologia (impact factor >5.0) del 2023 ha rilevato che tutte le riviste consentono l’utilizzo documentato dell’IA nella generazione di contenuti scientifici con le limitazioni emanate dall’ICMJE18. Tutte le riviste affermano inoltre che gli strumenti dell’IA non possono essere inclusi nell’authorship o utilizzate per creare immagini. In accordo con le linee guida ICMJE, da tutte le riviste viene richiesto che gli autori dichiarino esplicitamente nella cover letter e all’interno del manoscritto che è stata utilizzata l’IA e in che modo. Un recentissimo editoriale di Lancet sottolinea le opportunità offerte dall’IA per la ricerca e il publishing medico, ma nello stesso tempo esprime preoccupazione che l’IA possa incentivare la proliferazione di articoli di modesto valore scientifico, perpetuando l’attuale deriva inflazionistica della pletora di pubblicazioni indotta dalla competizione accademica19.

L’INTELLIGENZA ARTIFICIALE A SUPPORTO DEL PROCESSO DI PEER-REVIEW

La peer-review è considerata lo strumento fondamentale, pur se imperfetto, per garantire la qualità e il rigore dell’informazione scientifica. La disponibilità di revisori è diventata di gran lunga inferiore alla crescente mole di manoscritti che ogni giorno vengono sottomessi nel mondo alle riviste scientifiche. Dal 2018 il numero di articoli scientifici è aumentato di oltre il 20% per anno. Si tratta di un sistema editoriale che richiede oltre 22 milioni l’anno di revisioni di articoli prima della loro eventuale pubblicazione e oltre 130 milioni di ore di lavoro (non remunerate) dei revisori20. La qualità delle revisioni è inoltre spesso insoddisfacente e la mancanza di puntualità dei revisori è un’altra criticità nota a tutti gli editor, compreso quello del Giornale Italiano di Cardiologia21. Inoltre esistono spesso conflitti di interesse non dichiarati che inficiano l’obiettività di una revisione.

L’IA con gli algoritmi di LLM (tipo ChatGPT e altri) viene oggi proposta come utile strumento per una valutazione, almeno formale, dei manoscritti sottomessi alle riviste. Un sistema automatizzato può rappresentare un primo filtro con una valutazione dei manoscritti in termini di forma, editing del linguaggio e controllo delle immagini, supportando le redazioni nella desk rejection con ovvia accelerazione dei tempi editoriali22.

Esistono già oggi prodotti di machine learning che possono essere utilizzati dai ricercatori per identificare la rivista più appropriata alla quale sottomettere il proprio lavoro, verificare la coerenza di un articolo con le norme editoriali della rivista, controllare i dati statistici e verificare la correttezza della bibliografia.

L’IA può supportare anche l’editor per svelare il plagio e già da tempo sono disponibili software anti-plagiarism che confrontano i contenuti degli articoli sottomessi con ricchissimi database di letteratura tra i quali uno dei più utilizzati, iThenticate, si basa su 90 milioni di articoli di 56 000 riviste e 1300 case editrici. La redazione del Giornale Italiano di Cardiologia già da tempo utilizza software di questo genere che negli ultimi 5 anni ci hanno consentito di identificare tre articoli con rilevanti criticità di plagio.

Probabilmente in futuro esisterà anche la disponibilità di strumenti in grado di riconoscere testi generati dall’IA, ma ChatGPT potrebbe non essere considerato plagiarism in quanto questi testi sono nuovi e non sono stati rubati ad altri autori13. Altri strumenti già disponibili possono supportare lo staff editoriale nella scelta dei revisori in base alla loro specifica competenza, con ovvio risparmio di tempo per lo staff editoriale.

L’IA può supportare anche i revisori nella valutazione critica di un manoscritto ed esistono dei software sviluppati per revisionare articoli o per prendere le decisioni editoriali, ma finora non si sono dimostrati in grado di sostituire un revisore esperto e dubito che questo potrà avvenire in futuro. Per il momento gli strumenti basati sull’IA possono soltanto supportare il revisore a identificare errori macroscopici, grammatica inadeguata o omissione di voci bibliografiche importanti. Ma questo è già un aiuto significativo.

CONCLUSIONI

L’utilizzo dell’IA nel publishing scientifico deve essere visto come un’opportunità che richiede tuttavia un governo attento. L’IA può essere un utile ausilio sia per i ricercatori nella preparazione di un manoscritto che per gli editor nella velocizzazione della peer-review.

L’adozione di una politica rigida nei confronti dei ricercatori non è giustificata dal momento che verosimilmente la maggior parte di essi agisce in buona fede. Se l’utilizzo dell’IA può facilitare il proprio lavoro e migliorarne la qualità, anche per quanto riguarda lo stile linguistico, ad esempio per i ricercatori non di madre lingua inglese, non dovrebbe essere avversata. In ambito scientifico la scrittura è solo un mezzo per raggiungere il fine di trasmettere informazioni e risultati in modo chiaro. Se l’IA ci consente di farlo in modo più rapido ed economico, dovremmo allora riconoscerne i benefici e non tanto i rischi. Siamo in una situazione simile a quella di inizio anni ’60 quando nelle scuole molti insegnanti di matematica protestarono contro l’introduzione delle calcolatrici temendo che gli studenti non avrebbero più studiato la materia.

Anche nel campo giornalistico sono molte le redazioni, e tra queste la testata del prestigioso Washington Post, che hanno già integrato lIA nel processo di produzione delle notizie utilizzando la tecnologia per migliorare l’efficienza e liberare i giornalisti dai compiti meno creativi.

Possiamo solo aspettarci che la tecnologia dirompente dell’IA sia destinata a migliorare grazie a training addizionale e ottimizzazione degli algoritmi. Non ha senso contrastare o ignorare l’avvento dell’IA che nel publishing medico può alleviare il burden di una serie di azioni che fanno spendere tempo lasciando uno spazio maggiore per il pensiero critico e ideativo. È importante tuttavia una sua introduzione consapevole, un suo utilizzo etico e sicuro e un dibattito aperto senza pregiudizi sui rischi e benefici.

BIBLIOGRAFIA

1. Oliva F, Di Pasquale G, Lucci D et al. 8° Censimento delle Strutture Cardiologiche in Italia. Associazione Nazionale Medici Cardiologi Ospedalieri (ANMCO). Anno 2022. G Ital Cardiol 2024;25(2 Suppl 1):19S-103S.

2. Haug CJ, Drazen J. Artificial intelligence and machine learning in clinical medicine, 2023. N Engl J Med 2023;388:1201-8.

3. Jain SS, Elias P, Poterucha T, et al. Artificial intelligence in cardiovascular care – Part 2: Applications: JACC review topic of the week. J Am Coll Cardiol 2024;83:2487-2496.

4. Ciccarelli M, Giallauria F, Carrizzo A, et al. Artificial intelligence in cardiovascular prevention: new ways will open new doors. J Cardiovasc Med (Hagerstown) 2023;24(Suppl 2):e106-e115.

5. Nicolosi GL, Casolo G. L’intelligenza artificiale in cardiologia. G Ital Cardiol 2022;23:761-70.

6. Gensini GF, Cabitza F. Conoscere bene l’intelligenza artificiale è il primo passo. G Ital Cardiol 2022;23:771-2.

7. Kohane IS. Injecting artificial intelligence into medicine. NEJM AI 2023;1:1-3.

8. Vincent JL. How artificial intelligence will affect the future of medical publishing. Crit Care 2023;27:271.

9. Lee P, Bubeck S, Petro J. Benefits, limits, and risks of GPT-4 as an AI chatbot for medicine. N Engl J Med 2023;388:1233-9.

10. Thorp NH. ChatGPT is fun, but not an author. Science 2023;379:313.

11. Stokel-Walker C. ChatGPT listed as author on research paper: many scientist disapprove. Nature 2023;613:620-1.

12. Flanagin A, Bibbins-Domingo K, Berkwits M, Christiansen SL. Nonhuman “authors” and implications for the integrity of scientific publication and medical knowledge. JAMA 2023;329:637-9.

13. Staiman A. Su ChatGPT, gli editori scientifici perdono di vista il punto. Recenti Prog Med 2023;114(Suppl Forward 30):S22-25.

14. Alfonso F. Authorship: the emerging importance of accountability. Eur Heart J 2019;40:1391-2.

15. Alfonso A, Crea F. New recommendations of the International Committee of Medical Journal Editors: use of artificial intelligence. Eur Heart J 2023;44:2888-90.

16. Fuster V, Bozkurt B, Chandrashekhar Y, et al. JACC Journal’s pathway forward with AI tools: the future is now. J Am Coll Cardiol 2023;81:1543-5.

17. Committee on Publication Ethics. COPE Position Statement. Authorship and AI tools. 13 February 2023. https://publicationethics.org/cope-position-statements/ai-author [ultimo accesso 27 agosto 2024].

18. Inam M, Sheikh S, Minhas AMK, et al. A review of top cardiology and cardiovascular medicine journal guidelines regarding the use of generative artificial intelligence tools in scientific writing. Curr Probl Cardiol 2024;49:102387.

19. Rethinking research and generative artificial intelligence. Lancet 2024;404:1.

20. De Fiore L. Sul pubblicare in medicina. Roma: Il Pensiero Scientifico Editore; 2024.

21. Di Pasquale G. Il lavoro oscuro del revisore. G Ital Cardiol 2023;24:935-7.

22. Chauhan C, Patel CJ. Guest Post – Striking a balance: humans and machines in the future of peer review and publishing. The Scholarly Kitchen, September 28, 2023.