L’annuncio di ChatGPT Salute rappresenta uno spartiacque nel rapporto tra intelligenza artificiale general purpose e sanità. Non tanto per le funzionalità dichiarate — chiarimenti su sintomi, referti, stili di vita — quanto per il fatto che, per la prima volta, un modello di IA generalista entra in modo strutturato e continuativo nel trattamento di dati sanitari, assumendo un ruolo che, di fatto, incide sui processi decisionali dell’utente in materia di salute.
Dal punto di vista del diritto europeo dell’intelligenza artificiale, il nodo centrale non è ciò che OpenAI dichiara di fare, ma ciò che il sistema è concretamente idoneo a fare e l’impatto prevedibile sul comportamento degli utenti. Ed è proprio qui che l’AI Act offre una chiave di lettura particolarmente rigorosa.
- Qualificazione del sistema: non basta negare la diagnosi
OpenAI insiste nel qualificare ChatGPT Salute come strumento informativo e non medico. Tuttavia, ai sensi dell’AI Act, la qualificazione giuridica di un sistema non dipende dall’etichetta attribuita dal fornitore, bensì dalla finalità d’uso ragionevolmente prevedibile (art. 3 e considerando).
Un sistema che:
- analizza sintomi,
- interpreta referti,
- suggerisce correlazioni tra valori clinici e patologie,
- dialoga in modo iterativo affinando le risposte,
opera in un’area di influenza significativa sulle decisioni sanitarie individuali, anche in assenza di una diagnosi formale. In questo senso, ChatGPT Salute si colloca pericolosamente vicino ai sistemi di IA destinati a essere utilizzati in ambito sanitario, che l’AI Act qualifica come high-risk quando incidono su diagnosi, prevenzione o trattamento.
Il rischio giuridico è evidente: una piattaforma che, nella pratica, orienta le scelte dell’utente in materia di salute potrebbe rientrare nella disciplina dei sistemi ad alto rischio, con conseguente obbligo di:
- gestione del rischio,
- qualità dei dati,
- documentazione tecnica,
- supervisione umana effettiva,
- tracciabilità e accountability.
- AI general purpose e sanità: un’accoppiata critica
ChatGPT è, per definizione, un General Purpose AI (GPAI). L’AI Act introduce obblighi specifici per i modelli GPAI, rafforzati ulteriormente quando essi presentano rischi sistemici.
L’uso strutturato di un GPAI su dati sanitari amplifica tali rischi:
- allucinazioni in ambito medico non sono un semplice bug, ma un potenziale danno alla persona;
- la probabilisticità del modello entra in tensione con il principio di affidabilità richiesto in sanità;
- l’asimmetria informativa tra utente e fornitore rende il consenso e la consapevolezza particolarmente fragili.
Non a caso, l’AI Act dedica una tutela rafforzata agli ambiti che incidono su diritti fondamentali, tra cui la salute. La scelta di escludere (almeno per ora) il mercato europeo non appare quindi prudenziale, ma quasi obbligata.
- Il cortocircuito con il GDPR: dati di salute e fiducia tecnologica
Sul piano della protezione dei dati, il servizio tocca il cuore del GDPR: i dati relativi alla salute, categoria particolarmente protetta ex art. 9 del Regolamento UE 2016/679.
Le rassicurazioni di OpenAI — crittografia, separazione delle chat, esclusione dall’addestramento — pongono un problema tipicamente europeo: la verificabilità. La compliance non può basarsi sulla fiducia, ma su:
- accountability dimostrabile,
- auditabilità,
- controlli indipendenti.
In assenza di questi presidi, l’accesso a cartelle cliniche elettroniche da parte di un soggetto extra-UE solleva interrogativi seri anche in tema di trasferimenti internazionali di dati e sovranità digitale sanitaria.
- Responsabilità: il grande assente
Forse il punto più critico, anche alla luce dell’AI Act e delle future norme sulla responsabilità da IA, è la dissociazione tra influenza e responsabilità.
ChatGPT Salute:
- incide sulle decisioni dell’utente,
- analizza dati sanitari,
- interagisce in modo personalizzato,
ma OpenAI esclude qualsiasi qualificazione come dispositivo medico e, di conseguenza, ogni responsabilità clinica.
Il confronto con la sperimentazione statunitense di Doctronic è illuminante: lì l’IA prescrive, ma è assicurata come un medico. Qui l’IA orienta, ma senza assumere alcun rischio giuridico. È esattamente questo squilibrio che il legislatore europeo tenta di correggere con l’AI Act: chi trae valore dall’IA deve anche assumerne i rischi.
- Perché l’Europa frena (e probabilmente continuerà a farlo)
ChatGPT Salute mostra in modo plastico la distanza tra l’approccio statunitense — innovation first — e quello europeo — fundamental rights by design.
Nel contesto UE, un sistema simile difficilmente potrebbe operare senza:
- una chiara qualificazione giuridica,
- un inquadramento come high-risk AI,
- un’integrazione con il diritto sanitario e dei dispositivi medici,
- una responsabilità definita lungo tutta la filiera.
Non è un rifiuto dell’innovazione, ma una richiesta di governance.
Conclusione
ChatGPT Salute non vuole “sostituirsi al medico”. Ma il diritto europeo non guarda alle intenzioni: guarda agli effetti. E quando un sistema di IA entra nella sfera più intima e vulnerabile della persona — la salute — non può restare in una zona grigia normativa.
L’AI Act nasce proprio per evitare che l’innovazione più potente si sviluppi dove la responsabilità è più debole. La sanità è il banco di prova. E ChatGPT Salute, più che una promessa tecnologica, è oggi un caso di studio giuridico perfetto.
