
RheumAI V2: piattaforma web per la validazione clinica cieca di raccomandazioni terapeutiche generate da AI
Progettazione, implementazione e collaudo di un sistema in due fasi per distinguere
la decisione autonoma del medico dall’effetto della successiva esposizione a una
raccomandazione algoritmica in reumatologia.
Riassunto
L’impiego dell’intelligenza artificiale come supporto alla decisione terapeutica
richiede procedure di validazione capaci di limitare fenomeni di ancoraggio e
automation bias. Per questo motivo è stata sviluppata RheumAI V2,
una piattaforma web che registra dapprima il giudizio clinico indipendente del
medico e rende visibile la raccomandazione AI solo dopo la conclusione definitiva
della prima valutazione.
Il sistema gestisce autenticazione, assegnazione dei casi, bozze, autosalvataggio,
recupero della sessione, confronto medico–AI, analytics amministrativi, tracciabilità
tecnica ed esportazione dei risultati. Il collaudo preliminare ha confermato il
funzionamento dell’intero percorso applicativo.
Introduzione
I sistemi basati su intelligenza artificiale possono integrare informazioni cliniche,
farmacologiche e provenienti dalle linee guida, proponendo opzioni terapeutiche ordinate
secondo criteri algoritmici. La valutazione di questi sistemi non può tuttavia limitarsi
a chiedere al medico se una raccomandazione sia corretta.
Quando il suggerimento dell’AI viene mostrato prima che il clinico abbia espresso il
proprio giudizio, la risposta può essere influenzata da ancoraggio, conformità implicita
o eccessiva fiducia nell’automazione. Diventa quindi necessario separare temporalmente
il giudizio autonomo dalla fase di confronto.
Obiettivi
Raccogliere la prima scelta terapeutica del medico prima di mostrare qualunque
suggerimento prodotto dall’AI.
Misurare accordo, disaccordo, cambiamento della decisione e scelta finale dopo
l’esposizione alla raccomandazione.
Conservare versioni, hash, date, stati, metadati ed export necessari alla verifica
metodologica dello studio.
Architettura della piattaforma
RheumAI V2 è stata implementata come applicazione web accessibile tramite browser,
senza installazione di software sul dispositivo del revisore. L’infrastruttura
comprende:
- interfaccia in PHP, HTML, CSS e JavaScript;
- database relazionale MySQL;
- autenticazione a sessione per i revisori;
- login amministrativo separato;
- API per casi, bozze, valutazioni, analytics ed export;
- corpus clinico congelato;
- registrazione degli eventi principali;
- esportazione CSV per l’analisi statistica.
L’ingresso principale del revisore indirizza alla dashboard dello studio V2.
Il precedente pannello legacy e gli strumenti diagnostici visibili sono stati rimossi
dall’interfaccia operativa.
Corpus clinico
Il corpus sperimentale comprende 50 casi clinici reumatologici
predisposti e congelati prima dell’avvio della raccolta. Le principali categorie
comprendono artrite reumatoide, artrite psoriasica, spondiloartrite assiale,
artrite associata a malattie infiammatorie intestinali e differenti forme di
artrite idiopatica giovanile.
Ogni caso è associato a:
- identificativo tecnico del caso;
- identificativo pseudonimizzato del paziente;
- categoria di malattia;
- snapshot clinico strutturato;
- raccomandazione terapeutica generata dall’AI;
- modello e data di generazione;
- hash dello snapshot clinico;
- hash della raccomandazione.
Gli hash permettono di controllare che il materiale sottoposto ai revisori rimanga
invariato durante la raccolta.
Procedura di valutazione
Fase A: valutazione clinica indipendente
Il medico visualizza esclusivamente il profilo clinico ed esprime la propria
decisione terapeutica. Possono essere registrati prima scelta, alternativa,
ragionamento clinico, aspetti di sicurezza, esami aggiuntivi e livello di confidenza.
Durante la compilazione i dati vengono salvati come bozza e possono essere
recuperati dopo logout, chiusura del browser o accesso da un altro dispositivo.
Fase B: confronto con la raccomandazione AI
Solo dopo la finalizzazione della Fase A viene mostrata la raccomandazione AI,
comprendente prima scelta, ragionamento clinico, opzioni ordinate, cautele,
riferimenti alle linee guida, follow-up, screening mancanti e limitazioni.
Il medico indica quindi livello di accordo, eventuale cambiamento della decisione,
scelta finale, motivazione e commenti.
al caso successivo.
Protezione della cecità metodologica
La cecità non è affidata alla sola presentazione grafica. Prima della conclusione
definitiva della Fase A, il backend non restituisce al browser il contenuto della
raccomandazione AI.
Sono stati inoltre esclusi dalla vista clinica alcuni campi intermedi potenzialmente
rivelatori, tra cui:
rag_context;pre_filtered_candidates;pre_contraindicated.
Questa scelta riduce la possibilità che il revisore possa dedurre indirettamente il
trattamento proposto dal sistema.
Note tecniche e struttura dei dati
Le principali tabelle dedicate allo studio V2 sono:
re_v2_study_cases;re_v2_study_assignments;re_v2_study_drafts;re_v2_study_reviews_a;re_v2_study_reviews_b;re_v2_study_events.
| Tabella | Funzione | Elemento di integrità |
|---|---|---|
study_cases |
Corpus clinico e raccomandazioni congelate | Hash clinico e hash della raccomandazione |
assignments |
Collegamento tra revisore, caso e posizione | Stati espliciti e date operative |
drafts |
Autosalvataggio dei dati parziali | Una bozza per assegnazione |
reviews_a |
Giudizio medico autonomo | Un record definitivo per assegnazione |
reviews_b |
Confronto medico–AI | Riferimento obbligatorio alla review A |
events |
Tracciabilità del percorso applicativo | Registrazione degli eventi principali |
Stati delle assegnazioni
assigned: caso assegnato ma non ancora aperto;in_progress: caso aperto o parzialmente compilato;completed: Fase A e Fase B concluse;excluded: assegnazione esclusa.
Nomenclatura tecnica
Alcuni identificativi interni conservano il termine storico claude
per compatibilità e tracciabilità del corpus congelato. Nell’interfaccia destinata
ai revisori viene invece utilizzato il termine generico AI.
Autenticazione e sicurezza
Revisori
Sono stati implementati e collaudati login, logout, recupero password, invio email,
reset forzato da parte dell’amministratore e conservazione dell’avanzamento dopo
la modifica della password.
Amministratore
L’accesso amministrativo è gestito tramite una pagina dedicata e una sessione separata.
Le principali misure comprendono:
- rigenerazione dell’identificativo di sessione dopo il login;
- cookie
HttpOnlyeSecure; - impostazione
SameSite=Strict; - scadenza dopo otto ore di inattività;
- blocco temporaneo dopo ripetuti tentativi errati;
- logout esplicito;
- protezione dell’accesso diretto al pannello.
medico certificato o uno strumento destinato all’applicazione diretta delle
raccomandazioni su pazienti reali.
Collaudo effettuato
Il collaudo funzionale ha incluso:
Assegnazione casi
Bozze Fase A
Bozze Fase B
Cecità AI
Passaggio automatico
Recupero password
Login admin
Analytics
Export CSV
Un primo caso è stato completato integralmente. Un secondo caso è stato utilizzato
per verificare il recupero della Fase B, il logout, il nuovo accesso e il ripristino
dei dati inseriti.
Il pannello amministrativo mostra avanzamento individuale, Fasi A e B completate,
accordo medico–AI, cambiamento della decisione e distribuzione per patologia.
Sono inoltre disponibili due esportazioni: casi completati e tutte le assegnazioni.
Prima dello studio reale saranno eliminati mediante query MySQL transazionali
limitate al revisore di prova.
Possibili analisi scientifiche
Il disegno consente di stimare, tra gli altri:
- concordanza tra prima scelta medica e prima scelta AI;
- accordo completo, parziale o assente;
- percentuale di decisioni modificate dopo l’esposizione all’AI;
- direzione del cambiamento terapeutico;
- differenze per patologia e classe farmacologica;
- associazione tra esperienza del medico e accordo;
- associazione tra confidenza iniziale e cambiamento;
- frequenza di conferma delle cautele di sicurezza;
- persistenza del disaccordo dopo il confronto.
Un elevato accordo non dimostra automaticamente la superiorità dell’AI. Analogamente,
la modifica di una decisione non prova che la nuova scelta sia corretta. Sarà quindi
necessario prevedere un riferimento clinico indipendente o una procedura di adjudication.
Limiti e sviluppi successivi
I principali limiti dell’attuale fase sono:
- utilizzo di un solo revisore di prova;
- numero limitato di casi completati durante il collaudo;
- assenza di risultati clinici statisticamente interpretabili;
- necessità di definire endpoint e piano di analisi;
- necessità di formalizzare protocollo ed aspetti etico-regolatori;
- possibile eterogeneità dei modelli AI originariamente utilizzati;
- possibili effetti dell’ordine e dell’apprendimento progressivo.
Passaggi previsti prima dell’avvio reale
- backup del database e conservazione degli export di collaudo;
- pulizia transazionale dei dati del revisore di prova;
- verifica finale dell’immutabilità del corpus;
- definizione di endpoint primario e secondari;
- calcolo della numerosità campionaria;
- definizione della procedura di adjudication;
- eventuale randomizzazione dell’ordine dei casi;
- congelamento della versione del codice e del database;
- predisposizione della documentazione etica e informativa;
- avvio controllato della raccolta con revisori reali.
Conclusioni
RheumAI V2 costituisce una piattaforma web completa per la validazione cieca,
sequenziale e tracciabile di raccomandazioni terapeutiche generate da AI in
reumatologia.
Il sistema separa il giudizio autonomo del medico dalla successiva esposizione
alla raccomandazione algoritmica, conserva bozze e valutazioni definitive,
registra gli stati di avanzamento, fornisce analytics ed esporta dataset
strutturati per l’analisi.
Il collaudo preliminare ha confermato il corretto funzionamento del percorso
applicativo. L’avvio dello studio con revisori reali resta subordinato alla
pulizia dei dati di test, al congelamento finale della versione e alla definizione
formale del protocollo scientifico, statistico ed etico.

