Immaginiamo che un sistema di intelligenza artificiale analizzi una deviazione di processo. Ricostruisce la sequenza degli eventi, confronta i dati con casi precedenti, individua alcune correlazioni e suggerisce una possibile root cause. In pochi secondi produce un risultato plausibile, ben argomentato, magari persino più ordinato di quello che avrebbe preparato un gruppo di lavoro.
A quel punto, però, cominciano le domande interessanti.
Con quali dati ha lavorato? Quanto sono rappresentativi? Quale versione del modello li ha elaborati? Un aggiornamento potrebbe produrre una risposta diversa? Qual è il tasso di errore accettabile per quello specifico utilizzo? Chi verifica il risultato? E soprattutto: che cosa dobbiamo essere in grado di dimostrare, mesi dopo, se quella risposta ha contribuito a una decisione rilevante per la qualità?
È qui che il dibattito sull’intelligenza artificiale cambia natura. La potenza del modello conta. Conta anche la sicurezza progettata dal suo produttore. Ma quando l’AI entra in un processo regolato, l’affidabilità smette di essere una proprietà astratta della tecnologia e diventa una caratteristica del sistema nel quale quella tecnologia viene utilizzata.
La superintelligenza, prima della definizione
Il 29 settembre 2026 la Casa Bianca ha offerto un esempio curioso di quanto il linguaggio possa anticipare persino le definizioni.
Con l’Executive Order Inaugurating the Era of Super Intelligence, l’amministrazione Trump ha stabilito che l’executive branch statunitense utilizzi, nei documenti e nelle comunicazioni non statutarie, le espressioni “Super Intelligence” e “SI” al posto di “Artificial Intelligence” e “AI”. Per il momento, tuttavia, la sostanza giuridica rimane invariata: lo stesso ordine precisa che “Super Intelligence” indica le tecnologie già comprese nella definizione federale di artificial intelligence. Entro sessanta giorni dovrà essere proposta una possibile nuova definizione legislativa.
Il nome, insomma, arriva prima della nuova categoria.
Nella stessa giornata i vertici di Google, Anthropic, Meta, OpenAI, xAI e Nvidia hanno sottoscritto il White House Accord on Super Intelligence, un impegno volontario per la gestione dei rischi legati ai sistemi più avanzati. Il modello previsto si sviluppa su più livelli: controlli interni, gruppi incaricati di verificarne l’applicazione, valutazioni affidate a soggetti esterni indipendenti e supervisione a livello di board. L’accordo, che Trump ha definito “morally binding”, non introduce però un sistema sanzionatorio comparabile a quello di una regolazione cogente.
Il tema non è liquidabile come una semplice contrapposizione fra autoregolazione americana e regolazione europea. Sarebbe una lettura comoda, ma spiegherebbe poco di ciò che accade quando un sistema di AI viene utilizzato nella ricerca, nello sviluppo o nella produzione di un medicinale.
Proprio FDA ed EMA, infatti, stanno costruendo insieme un linguaggio molto più specifico.
La domanda regolatoria è un’altra
Nel gennaio 2026 le due agenzie hanno pubblicato congiuntamente i Guiding Principles of Good AI Practice in Drug Development, dieci principi destinati all’impiego dell’intelligenza artificiale nella generazione e nell’analisi delle evidenze lungo l’intero ciclo di vita del medicinale: attività non cliniche e cliniche, fase post-marketing e manufacturing.
La sequenza è istruttiva.
Human-centric design. Approccio basato sul rischio. Rispetto degli standard. Clear context of use. Competenze multidisciplinari. Data governance e documentazione. Buone pratiche di progettazione e sviluppo del modello. Valutazione delle prestazioni proporzionata al rischio. Life-cycle management. Informazioni chiare per chi utilizza il sistema.
Qui la questione si sposta.
Sapere che il produttore del modello dispone di controlli interni, procedure di sicurezza e valutatori indipendenti è importante. Non ci dice ancora se quel modello sia adeguato a valutare un certo dato di processo, supportare una deviazione, classificare un segnale di farmacovigilanza o contribuire a una decisione regolatoria.
Per stabilirlo bisogna conoscere che cosa gli stiamo chiedendo di fare.
Il context of use diventa così molto più di una formula regolatoria. Definisce la relazione fra il sistema, il dato, l’utente e la decisione che ne deriva. Uno stesso modello può essere perfettamente accettabile per riassumere documentazione tecnica e richiedere tutt’altra evidenza se viene utilizzato per produrre un risultato che influenza una decisione GxP.
Il modello da solo non basta
C’è un passaggio dei principi FDA-EMA che merita particolare attenzione per l’industria.
La provenienza dei dati, le trasformazioni effettuate e le decisioni analitiche devono essere documentate in modo dettagliato, tracciabile e verificabile, coerentemente con i requisiti GxP. La valutazione delle prestazioni deve riguardare il sistema nel suo complesso, comprese le interazioni fra persona e AI. E il controllo prosegue nel tempo: sono previsti monitoraggio programmato e rivalutazione periodica, anche per intercettare fenomeni come il data drift.
È un’impostazione che EMA aveva già anticipato nel proprio reflection paper sull’uso dell’AI lungo il ciclo di vita del medicinale, adottato nel 2024. Il documento sottolineava i rischi introdotti da architetture complesse e poco trasparenti e la necessità di misure capaci di tutelare sicurezza dei pazienti e integrità dei risultati.
Proviamo allora a tornare alla deviazione iniziale.
Il sistema legge batch record, dati di processo e casi storici e suggerisce una root cause. La verifica non può ridursi alla domanda “la risposta sembra corretta?”. Occorre capire se il dataset utilizzato è appropriato, quali informazioni siano rimaste fuori dall’analisi, quanto stabile sia la prestazione del sistema, come venga registrata la versione utilizzata e quale ruolo abbia avuto l’operatore nella decisione finale.
Cambia anche il significato di human oversight.
Un essere umano che approva automaticamente un output perché appare ragionevole aggiunge ben poco al controllo. La supervisione acquista valore quando chi la esercita possiede competenze, informazioni e autorità sufficienti per contestare il sistema, richiedere ulteriori verifiche o respingerne il risultato.
È probabilmente questo uno dei punti più difficili per le organizzazioni che iniziano a portare l’AI nei processi regolati: progettare il controllo umano come componente del processo, invece di collocarlo alla fine sotto forma di firma.
L’AI Act è solo un pezzo del problema
In Europa, dal 2 agosto 2026, sono diventate applicabili ulteriori disposizioni dell’AI Act, insieme ai relativi poteri di enforcement. Per i provider di modelli di general purpose AI sono previsti obblighi di documentazione e trasparenza e, per i modelli che presentano rischio sistemico, requisiti ulteriori relativi alla valutazione e mitigazione dei rischi, alla cybersecurity e alla gestione degli incidenti.
Per un’azienda farmaceutica, però, rispettare l’AI Act non esaurisce il problema.
Il regolamento europeo sull’intelligenza artificiale e la normativa farmaceutica osservano infatti il sistema da prospettive che possono sovrapporsi senza coincidere. Un modello può avere obblighi propri in quanto sistema o modello di AI; il suo impiego all’interno del ciclo di vita di un medicinale deve essere valutato anche rispetto alla qualità e all’affidabilità dell’evidenza che contribuisce a produrre.
Ed è interessante che proprio FDA ed EMA, appartenenti a sistemi normativi differenti, abbiano scelto di formulare insieme i principi di Good AI Practice. Segno che nel settore life sciences la linea di demarcazione più utile potrebbe passare meno tra Stati Uniti ed Europa e più tra AI considerata come tecnologia generale e AI utilizzata all’interno di uno specifico processo regolato.
Governare ciò che cambia
C’è infine una caratteristica che rende l’AI diversa da molti strumenti digitali che l’industria ha imparato a qualificare e validare: può cambiare.
Cambiano i modelli, cambiano i dati, cambiano le configurazioni. Possono cambiare persino comportamenti che non erano l’obiettivo diretto di un aggiornamento. Se un sistema esterno viene aggiornato dal provider, la domanda regolatoria non riguarda soltanto ciò che è migliorato: riguarda anche la permanenza delle condizioni sulle quali era stata costruita la nostra fiducia.
Per questo il life-cycle management indicato da FDA ed EMA è probabilmente uno dei principi da osservare con maggiore attenzione. La validazione rischia di diventare una fotografia se il sistema che abbiamo valutato continua a muoversi.
Servono quindi criteri per sapere quando una modifica è significativa, quali prestazioni devono essere ricontrollate, come gestire versioni e configurazioni, quali eventi richiedono una rivalutazione del rischio. È una governance che coinvolge Quality, IT, data science, funzioni regolatorie e proprietari del processo e che difficilmente può essere affidata a una sola funzione aziendale.
La discussione sulla “Super Intelligence” può sembrare lontana da tutto questo. Eppure mette in evidenza una domanda che il settore farmaceutico conosce bene: di chi ci fidiamo, e sulla base di quale evidenza?
Nel caso di un medicinale, la risposta non può fermarsi alle caratteristiche dichiarate dal fornitore della tecnologia. Bisogna ricostruire il percorso che porta da un modello a un utilizzo concreto, da quell’utilizzo a un output e dall’output a una decisione.
È in quel percorso che l’AI diventa parte del sistema qualità. Ed è lì che si decide quanto possiamo davvero affidarle.
Vuoi trovare più facilmente MakingPharmaIndustry su Google?
Aggiungici alle tue fonti preferite
