Nel mondo dei dispositivi medici l’intelligenza artificiale non è più soltanto una promessa tecnologica né un tema confinato alla diagnostica avanzata. Sta entrando progressivamente nei processi documentali, nella gestione dei technical files, nella preparazione di alcune sezioni regolatorie e, in prospettiva, anche nelle attività di verifica da parte degli organismi notificati.
È su questo passaggio, delicato e tutt’altro che neutro, che si concentrerà la XII sessione del 65° Simposio AFI, dal titolo “Impatto dell’IA sulle professioni nel mondo dei Dispositivi Medici”. Una sessione che nasce da un dato ormai evidente: l’intelligenza artificiale sta cambiando il modo in cui si lavora, ma nel campo regolatorio non può essere trattata come uno strumento qualsiasi.
«L’AI sta introducendo un cambiamento epocale nel nostro modo di lavorare e di vivere», spiega Mauro Rainoni, richiamando il motivo per cui il tema è stato scelto proprio ora. Non si tratta di una moda, ma di una trasformazione che attraversa l’intero settore della salute e che, nel caso dei dispositivi medici, assume caratteristiche particolarmente complesse.
Dalla diagnostica ai technical files
L’impiego dell’intelligenza artificiale nella diagnostica è già una realtà consolidata. Algoritmi e sistemi di analisi avanzata supportano attività predittive, lettura di immagini, classificazione di dati clinici e individuazione di pattern difficilmente riconoscibili con metodi tradizionali. Ma il punto più interessante, per la sessione AFI, è un altro: l’AI sta iniziando a trovare spazio anche nei dispositivi medici a base di sostanza, in particolare nella preparazione di parti della documentazione tecnica.
«Nel campo dei dispositivi medici a base di sostanze sta prendendo piede l’impiego dell’intelligenza artificiale come strumento utile per la preparazione di alcune parti dei technical files», osserva Rainoni. È un cambiamento concreto, perché riguarda una delle aree più sensibili del percorso regolatorio: la costruzione, la coerenza e la solidità del fascicolo tecnico.
Tra gli ambiti in cui l’AI può offrire un contributo significativo rientrano le attività routinarie, strutturate, basate su istruzioni precise e su dati ben delimitati. Rainoni cita, tra gli esempi, la preparazione dei CER, i Clinical Evaluation Report, dove l’intelligenza artificiale può supportare la raccolta e l’organizzazione delle informazioni. Ma il confine è netto: il supporto operativo non coincide mai con la delega del giudizio.
«La verifica di un operatore esperto è sempre necessaria, tanto più dove l’interpretazione è richiesta», sottolinea.
Uno strumento di supporto, non una sostituzione
Il messaggio centrale della sessione è chiaro: l’intelligenza artificiale può aumentare l’efficienza, ma non sostituire l’expertise dei professionisti. Anzi, proprio l’ingresso dell’AI nei processi regolatori rende ancora più importante la presenza di tecnici qualificati, capaci di valutare criticamente l’output prodotto dagli strumenti digitali.
Rainoni lo definisce «l’approccio, la chiave e anche l’auspicio» con cui guardare all’AI. In altre parole, non una scorciatoia per ridurre il ruolo delle competenze, ma uno strumento per liberarle da attività ripetitive e consentire ai professionisti di concentrarsi su compiti a maggior valore aggiunto.
Il vantaggio, infatti, è reale. Se utilizzata correttamente, l’AI può ridurre il tempo necessario per alcune lavorazioni documentali, velocizzare la ricerca di informazioni, supportare la strutturazione di contenuti tecnici e rendere più efficiente la gestione di attività ripetitive. Ma il rischio emerge quando lo strumento viene usato in modo improprio, senza una governance chiara e senza un controllo esperto.
Il rischio dell’errore credibile
Uno degli aspetti più critici riguarda la capacità dell’intelligenza artificiale di generare contenuti apparentemente plausibili ma non corretti. Il problema non è soltanto l’errore evidente, facilmente identificabile. È l’errore credibile, ben scritto, coerente nella forma, ma fragile o falso nella sostanza.
Rainoni richiama un esempio concreto emerso dall’esperienza di alcuni partecipanti al gruppo di lavoro. Con un prompt adeguato, spiega, è possibile chiedere a un sistema di AI di preparare un CER a partire da dati proprietari e da altre fonti. Ma già a questo punto iniziano le criticità: la scelta dello strumento, la qualità del prompt, la delimitazione delle fonti e la capacità di verificare il risultato.
«Anche il miglior prompt può avere delle pecche», osserva. In un caso citato, l’output prodotto risultava adeguato nella struttura, ma conteneva riferimenti bibliografici inesistenti o errati. Un problema apparentemente circoscritto, ma in realtà molto significativo.
«La verifica dei riferimenti bibliografici è probabilmente la parte più facile da fare», afferma Rainoni. «Ma immagini cosa può capitare nel caso in cui il lavoro dell’intelligenza artificiale vada in mano a qualcuno che non ha l’esperienza sufficiente per comprendere il contenuto del lavoro fatto».
È qui che il tema diventa propriamente regolatorio. Se l’AI viene alimentata da fonti non selezionate, può incorporare informazioni scorrette, ripetute in rete fino ad apparire affidabili. Rainoni usa un’espressione molto netta: «Nel web esiste un sacco di spazzatura che, a furia di essere riproposta come vera, diventa vera in termini assoluti».
La frase coglie un punto cruciale per chi opera in ambito medical device: la qualità della fonte non è un dettaglio accessorio, ma una condizione strutturale dell’affidabilità documentale.
Dove finisce l’automazione e dove inizia il giudizio
La sessione AFI si concentrerà anche sul confine tra attività ripetitive, che possono essere supportate efficacemente dall’AI, e attività interpretative, dove il rischio di errore aumenta. In ambito regolatorio questo confine non può essere tracciato solo in base alla complessità tecnica dell’operazione, ma deve tenere conto della responsabilità professionale e dell’impatto che l’output può avere sul percorso di valutazione.
Le attività routinarie, con istruzioni precise e dati controllati, rappresentano il terreno più favorevole. Al contrario, quando è necessario interpretare requisiti regolatori, valutare evidenze cliniche, selezionare fonti, costruire argomentazioni o stabilire la pertinenza di una letteratura scientifica, il giudizio umano resta imprescindibile.
«L’expertise è imprescindibile», sintetizza Rainoni. «L’AI è uno strumento utilissimo per risparmiare tempo, ma non può e non deve essere usato senza controllo adeguato».
Questa impostazione evita due estremi ugualmente rischiosi: da un lato l’entusiasmo acritico, che vede nell’AI una sostituzione automatica del lavoro professionale; dall’altro il rifiuto difensivo, che impedisce di coglierne le potenzialità. La questione non è se usare o non usare l’intelligenza artificiale, ma come usarla, con quali limiti, con quale supervisione e con quale livello di competenza.
Anche gli organismi notificati guardano all’AI
Un ulteriore elemento di interesse riguarda gli organismi notificati e, più in generale, gli enti coinvolti nelle attività di verifica e valutazione. Anche in questo ambito l’intelligenza artificiale può diventare uno strumento di efficienza, ad esempio per supportare l’analisi documentale, individuare incongruenze, orientare controlli e rendere più mirate alcune attività di revisione.
Ma i rischi non scompaiono. Al contrario, si ripropongono con la stessa forza. «Anche gli organismi notificati, come l’industria, si doteranno di strumenti che fanno efficienza», osserva Rainoni. Tuttavia, aggiunge, «i rischi per l’industria sono esattamente gli stessi a cui vanno incontro gli organismi notificati».
Per questo diventa importante capire dove stanno andando i notified bodies, per quali attività stanno valutando l’utilizzo dell’AI e con quali criteri intendono integrarla nei propri processi. Se governato correttamente, l’uso dell’intelligenza artificiale non dovrebbe alterare il rapporto tra aziende, consulenti e organismi notificati. Ma perché ciò accada, è necessario che il suo impiego sia trasparente, controllato e coerente con le responsabilità regolatorie.
Una rivoluzione da governare
L’intelligenza artificiale apre dunque una stagione nuova per le professioni dei dispositivi medici. Non cancella le competenze, ma le mette alla prova. Non elimina il giudizio tecnico, ma ne aumenta il valore. Non semplifica automaticamente il lavoro, ma può renderlo più efficiente se inserita in un contesto maturo, regolato e professionalmente consapevole.
Il messaggio che Rainoni desidera lasciare ai professionisti del settore è, in questo senso, un messaggio di prudenza attiva. Non paura, non delega cieca, ma capacità di affrontare il cambiamento.
«Ci attende una rivoluzione copernicana che va affrontata con intelligenza», afferma. Una trasformazione che richiederà «un importante balzo tecnologico», soprattutto da parte degli operatori con più anni di esperienza, ma che potrà anche semplificare il lavoro e valorizzare ulteriormente chi saprà integrare competenza consolidata e strumenti nuovi.
La prospettiva, quindi, non è quella di una professione indebolita dall’AI, ma di una professione chiamata a ridefinire il proprio baricentro. Meno tempo assorbito da attività ripetitive, più attenzione alla valutazione critica, alla qualità delle fonti, alla responsabilità regolatoria e alla coerenza scientifica della documentazione.
Perché nel mondo dei dispositivi medici l’intelligenza artificiale può accelerare molti processi. Ma la responsabilità di decidere se ciò che produce è corretto, pertinente e accettabile resta, ancora una volta, nelle mani dei professionisti.
