L’intelligenza artificiale sta entrando progressivamente nei processi della Pharmaceutical Quality. Può aiutare a sintetizzare grandi quantità di informazioni, identificare pattern, supportare l’analisi di deviazioni, confrontare documenti, evidenziare anomalie o suggerire possibili interpretazioni.
La domanda più immediata è spesso quanto tutto questo possa migliorare efficienza e capacità analitica. Ma, man mano che l’AI si avvicina ai processi decisionali, emerge una questione diversa: quando l’AI contribuisce a una decisione Quality, chi possiede realmente quella decisione?
Dall’output alla decisione
Consideriamo un’investigazione di deviazione. Un sistema AI analizza informazioni provenienti da batch record, deviazioni precedenti, CAPA e trend storici, individua alcune correlazioni e suggerisce una possibile causa. Il Quality professional esamina il risultato e approva la conclusione.
Formalmente, la decisione rimane umana. Ma questo basta a dimostrare che il giudizio sia stato effettivamente esercitato?
L’AI potrebbe avere già influenzato il percorso che conduce alla decisione: quali informazioni sono state considerate rilevanti, quali pattern hanno ricevuto maggiore attenzione, quali ipotesi sono apparse più plausibili. Lo stesso può accadere nella valutazione di un change control, nella qualificazione di un fornitore, nell’analisi di trend o nella valutazione di un rischio.
Il punto, quindi, non è soltanto controllare l’output prodotto dall’AI. Occorre comprendere anche come quell’output abbia influenzato il ragionamento umano che conduce alla decisione.
Essere “nel loop” non basta
Mantenere una persona nel processo è fondamentale, ma la sua presenza formale non garantisce automaticamente una supervisione significativa.
Un professionista può leggere un risultato generato dall’AI, approvarlo e continuare a essere formalmente responsabile della decisione senza aver realmente sottoposto a verifica critica ciò che il sistema ha proposto.
La Human Oversight acquista significato quando comporta la capacità di interpretare, verificare e, quando necessario, contestare l’output dell’AI. Significa chiedersi quali evidenze supportino una conclusione, quali informazioni possano mancare, se esistano interpretazioni alternative, quale sia il livello di incertezza e se la situazione richieda ulteriori evidenze, una revisione indipendente o un’escalation.
Una firma documenta un’approvazione. Da sola, non dimostra l’esercizio del giudizio.
Rendere ricostruibile la decisione
In un ambiente regolato, una decisione rilevante dovrebbe poter essere ricostruita. Quando interviene l’AI, dovrebbe essere possibile distinguere ciò che deriva dalla sua analisi, ciò che è stato verificato o messo in discussione dalla persona e il razionale che ha portato alla decisione finale.
Questo non significa documentare indiscriminatamente ogni interazione con un sistema AI. Il livello di controllo dovrebbe essere proporzionato all’uso e all’impatto della decisione.
Utilizzare l’AI per riassumere informazioni già verificate non presenta lo stesso profilo di rischio di utilizzarla per interpretare evidenze, suggerire una root cause o influenzare una valutazione che può incidere sulla qualità del prodotto o sulla sicurezza del paziente.
Quanto maggiore è l’influenza dell’AI sul ragionamento che porta a una decisione regolata, tanto più espliciti devono diventare controllo, responsabilità ed evidenza del processo decisionale.
Sapere quando fermarsi
Anche la capacità di non proseguire lungo il percorso ordinario è parte del controllo.
Evidenze incomplete o contraddittorie, elevata incertezza, utilizzo dell’AI oltre l’ambito previsto o una decisione ad alto impatto possono richiedere un’escalation.
In questi casi Human Oversight non significa semplicemente approvare o respingere una raccomandazione. Può significare fermare il processo, cercare ulteriori evidenze, coinvolgere competenze diverse o richiedere una revisione indipendente.
Challenge ed escalation diventano così elementi della qualità del processo decisionale, non eccezioni da gestire soltanto quando qualcosa è già andato storto.
Governare anche il percorso del ragionamento
È a partire da questo problema che propongo di guardare alla Cognitive Governance: la governance di come l’intelligenza supportata dall’AI influenza il ragionamento, il giudizio professionale e le decisioni accountable negli ambienti regolati.
Questa prospettiva non sostituisce AI Governance, Quality Risk Management, validazione o Pharmaceutical Quality System, né pretende di sovrapporsi ai principi di Human Oversight già esistenti. Sposta piuttosto l’attenzione sul percorso attraverso il quale l’AI contribuisce alla formazione del giudizio e della decisione.
L’unità di osservazione non è più soltanto il sistema AI e il suo utilizzo, ma anche il percorso che collega l’intelligenza supportata dall’AI alla decisione umana accountable.
Quando questo percorso è rilevante dal punto di vista Quality, dovremmo poter comprendere chi ha deciso, sulla base di quali evidenze, quale influenza abbia avuto l’AI, cosa sia stato sottoposto a verifica critica, come sia stata gestita l’incertezza e perché la decisione finale sia stata ritenuta appropriata.
La questione è organizzativa, non soltanto tecnologica
Le capacità dell’AI continueranno a crescere. Nei processi Quality questo può tradursi in maggiore capacità di analizzare informazioni, individuare relazioni e supportare professionisti chiamati a prendere decisioni complesse.
Ma maggiore capacità analitica non dovrebbe produrre minore chiarezza sulla responsabilità.
Il valore dell’AI dipenderà quindi non soltanto da ciò che la tecnologia saprà fare, ma dalla capacità delle organizzazioni di integrarla senza indebolire giudizio professionale, accountability e difendibilità delle decisioni.
Per questo, accanto alla domanda “quanto può aiutarci l’AI?”, dovremmo cominciare a porcene sistematicamente un’altra: quando l’AI supporta la decisione, chi la possiede davvero?
Vuoi trovare più facilmente MakingPharmaIndustry su Google?
Aggiungici alle tue fonti preferite
