Fatti non foste a viver come bruti…

L'evoluzione di ChatGPT nel settore delle life sciences tra potenzialità, rischi e necessità di formazione nel mondo del lavoro

0
152
Paul Gustave Doré_Ulisse

Da dr. Google a dr. ChatGPT il passo è breve ed è salito agli onori della cronaca il caso di una mamma statunitense che si è affidata a ChatGPT per cercare (e trovare) la corretta diagnosi ai problemi di salute di suo figlio. Il suo bambino di quattro anni – racconta la donna alla stampa – accusava molteplici disturbi di cui, dopo tre anni di accertamenti e 17 pareri medici, gli specialisti non erano riusciti a capire la causa. In base a dati relativi ai sintomi, agli esiti dei controlli svolti, alle terapie prescritte e ai pareri ricevuti in precedenza, ChatGPT ha emesso la sua diagnosi: Tethered Spinal Cord Syndrome, confermata successivamente da un neurochirurgo pediatrico dell’Università del Michigan che ha poi curato il bambino.

ChatGPT, an unstoppable trend…

Al di là del caso specifico, la via è tracciata e, anche in campo medico la potenza delle intelligenze artificiali generative è una risorsa in rapidissima evoluzione che è necessario imparare a sfruttare e governare. Un esempio per tutti, Med-PaLM, modello LLM (Large language model) di Google progettato per fornire risposte a domande mediche (in preprint a fine 2022 e pubblicato su Nature nel luglio 2023), è stato il primo sistema di intelligenza artificiale a superare il punteggio minimo nelle domande in stile US Medical licensing examination (USMLE) con la seconda versione che raggiunge una precisione di risposta dell’86,5%: l’IA impara in fretta.

…tra potenzialità…

D’altra parte, stando a uno studio pubblicato a fine agosto sul Journal of Medical Internet Research sulla valutazione dell’utilità di ChatGPT nel supportare le decisione cliniche, l’accuratezza del chatbot è impressionante. Il test è stato effettuato inserendo 36 vignette cliniche pubblicate dal manuale MSD in ChatGPT e confrontando l’accuratezza di diagnosi differenziali, test diagnostici, diagnosi finale e gestione in base a età, sesso e acuità del caso del paziente. L’accuratezza è stata misurata in base alla percentuale di risposte corrette alle domande poste all’interno delle vignette cliniche testate, calcolate da valutatori umani ed è stata condotta una regressione lineare per valutare i fattori che contribuiscono alle prestazioni di ChatGPT nelle attività cliniche. ChatGPT ha ottenuto un’accuratezza complessiva del 71,7%, con prestazioni più elevate nella formulazione di diagnosi finali e inferiori nella generazione di diagnosi differenziali iniziali, a dimostrazione del fatto che maggiori sono le informazioni a disposizione, maggiore è l’accuratezza raggiunta dal chatbot nel processo clinico decisionale. 

Aggiungiamo a questi dati il fatto che i chatbot possono far risparmiare tempo, assolvendo a compiti ripetitivi che contribuiscono al burnout dei medici e arriviamo all’ovvia conclusione che è giunto il momento di prendere coscienza del fatto che questi strumenti esistono e sono destinati a evolvere e che la tecnologia – come sempre – non deve essere demonizzata ma governata perché può rappresentare un importante valore aggiunto sia per i medici che per i pazienti.

…e rischi

Tuttavia, sono gli stessi ricercatori a mettere in guardia dal dr. ChatGPT: sarà pure meglio di dr. Google, ma fa comunque registrare un deficit di consapevolezza situazionale e apre tutta una serie di problematiche legate alla privacy, alla sicurezza, ai pregiudizi che possono essere trasmessi dai dati di addestramento, alla responsabilità, alla trasparenza e all’attuale assenza di controllo normativo.

Uno dei maggiori pericoli è che gli interessi economici portino allo sviluppo di interfacce di intelligenza artificiale in grado di indirizzare i pazienti e i clinici all’uso di determinati farmaci: il potenziale di manipolazione delle persone e di commercializzazione dei dati non ha precedenti.

Non tutto il mondo è paese…

Ma come cambiano le prospettive se ci riferiamo ai Paesi a basso e medio reddito? In un recente articolo pubblicato su The Lancet, ricercatori cinesi hanno messo in luce come ChatGPT – nonostante i rischi evidenziati – rappresenti un potenziale strumento in grado di aiutare ad affrontare le sfide che ostacolano l’accesso dei pazienti ai servizi sanitari, abbracciando un ampio spettro di ambiti che vanno dall’alfabetizzazione sanitaria, allo screening, al triage, al supporto sanitario remoto, al supporto per la salute mentale, alle capacità multilingue, alla comunicazione e documentazione sanitaria, alla formazione e sostegno agli operatori sanitari. «Grazie alla crescente disponibilità di plugin per migliorare le funzioni – concludono i firmatari dell’articolo, – le capacità di ChatGPT potrebbero aumentare, incorporando informazioni mediche più aggiornate e specializzate. Tuttavia, quando si contempla la sua adozione nei Paesi meno sviluppati, è essenziale un approccio prudente, che tenga conto di fattori etici e culturali, dei vincoli infrastrutturali esistenti, dei bassi tassi di alfabetizzazione e della limitata competenza digitale. Per ottimizzare l’utilità della ChatGPT in questi Paesi, è fondamentale istituire un adeguato onboarding dell’utente e iniziative educative pertinenti. Queste iniziative possono aiutare a creare aspettative realistiche riguardo alle capacità di ChatGPT, promuovendo al contempo un uso responsabile ed etico di questa tecnologia nei Paesi a basso e medio reddito».

…ma la formazione è essenziale ovunque

Torna prepotentemente, in queste parole, il tema della formazione che non può ovviamente essere confinato ai Paesi scarsamente sviluppati e tantomeno a problematiche legate all’utilizzo dell’intelligenza artificiale. Perché, se è vera la necessità di approfondire rischi/benefici dei chatbot in sanità – e non solo – è pur vero che nella “avanzata” Italia le necessità formative sono enormi, in tutti i settori. Non a caso i numeri relativi ai morti sul lavoro sono impressionanti (si sono registrati oltre 800 decessi nei primi nove mesi di quest’anno) – a dimostrazione della quasi totale assenza di consapevolezza dei rischi per la salute in ambito lavorativo. È lo stesso Sergio Mattarella a lanciare il monito in occasione della 73a giornata mondiale per le vittime degli incidenti sul lavoro: «Morire in fabbrica, nei campi, in qualsiasi luogo di lavoro – afferma il Capo dello Stato – è uno scandalo inaccettabile per un Paese civile, un fardello insopportabile per le nostre coscienze, soprattutto quando dietro agli incidenti si scopre la mancata o la non corretta applicazione di norme e procedure».

«La sicurezza non è un costo – continua Mattarella – né tantomeno un lusso: ma un dovere cui corrisponde un diritto inalienabile di ogni persona. Occorre un impegno corale di istituzioni, aziende, sindacati, lavoratori, luoghi di formazione affinché si diffonda ovunque una vera cultura della prevenzione».

L’ingresso di MakingLife nella formazione, con il lancio della piattaforma MakingEducation, vuole rappresentare un tassello di questa importante mission, con l’ambizione di riuscire a fare la propria parte per aumentare consapevolezza e conoscenza nei lavoratori delle life sciences.