Les médecins peuvent-ils utiliser ChatGPT ? Utiliser l'IA avec des données de patients en toute sécurité

Les soignants consacrent une grande partie de leur journée à l'administratif : courriers d'adressage, comptes rendus de sortie, rapports pour les assureurs, notes après chaque consultation. Beaucoup ont commencé à utiliser des chatbots d'IA pour aller plus vite.

Devraient-ils le faire, et comment s'y prendre sans mettre en danger la confidentialité des patients ?

Pourquoi les données de santé sont à part

Au sens du RGPD, les données de santé sont une catégorie particulière de données personnelles (article 9). Leur traitement est interdit par défaut, sauf exceptions précises comme la prise en charge sanitaire par des professionnels soumis au secret.

Les professionnels de santé sont en outre tenus au secret médical. En France, il est consacré par l'article L1110-4 du Code de la santé publique, et sa violation est sanctionnée pénalement. Par ailleurs, l'hébergement de données de santé pour le compte de tiers est encadré par la certification HDS (Hébergeur de Données de Santé).

Coller l'historique d'un patient dans un chatbot grand public transmet ces informations à une entreprise tierce, sur des serveurs que vous ne contrôlez pas, selon des conditions que vous n'avez pas négociées.

Les problèmes d'un chatbot classique

Les chatbots grand public peuvent utiliser les conversations pour améliorer leurs modèles, sauf désactivation par l'utilisateur. Les prompts sont traités en clair sur les serveurs du fournisseur. Il n'y a aucun DPA entre votre cabinet et l'entreprise d'IA, les données peuvent être traitées hors de l'UE et vous ne décidez pas de leur durée de conservation.

Retirer le nom ne règle pas le problème. Une combinaison d'âge, de maladie rare, de dates et de commune peut suffire à identifier un patient, et au sens du RGPD, des données pseudonymisées restent des données personnelles.

Règles pratiques pour utiliser l'IA en cabinet

1. Séparez les tâches selon leur sensibilité

Tâche	Contient des données patients ?	Quel outil
Expliquer une pathologie en langage simple pour une brochure	Non	Tout outil fiable
Résumer des recommandations ou études publiées	Non	Tout outil fiable
Rédiger un courrier d'adressage à partir de vos notes	Oui	Uniquement un outil chiffré de bout en bout, sans accès du fournisseur
Structurer les notes de consultation	Oui	Uniquement un outil chiffré de bout en bout, sans accès du fournisseur
Préparer un compte rendu avec diagnostic et antécédents	Oui	Uniquement un outil chiffré de bout en bout, sans accès du fournisseur

2. Minimisez ce que vous saisissez

Même avec un outil sûr, n'incluez que ce dont la tâche a besoin. Utilisez des initiales ou un code plutôt que des noms, et omettez les identifiants qui ne changent rien au résultat.

3. Le soignant garde la main

L'IA peut produire un contenu médical plausible mais faux : le praticien doit donc vérifier chaque résultat avant de le verser au dossier ou de le remettre au patient. Les outils d'IA qui appuient des décisions diagnostiques ou thérapeutiques peuvent en outre relever de la réglementation des dispositifs médicaux et de la catégorie à haut risque de l'AI Act. Utilisez un assistant généraliste pour la documentation et la communication, et laissez la décision clinique au praticien.

4. Documentez votre choix

Votre analyse d'impact (AIPD) et votre registre des traitements doivent couvrir l'outil d'IA : données saisies, lieu de traitement, durée de conservation et garanties en place.

5. Consultez les recommandations

Référez-vous aux recommandations de la CNIL et au code de déontologie de votre ordre professionnel avant d'adopter un outil.

À quoi ressemble une configuration sûre

Pour des données de patients, personne d'autre que vous ne devrait pouvoir lire le contenu, fournisseur d'IA compris. Cela suppose un chiffrement de bout en bout, pour que le prompt soit chiffré sur votre appareil et déchiffré uniquement là où s'exécute le modèle. Le modèle doit tourner dans une enclave sécurisée par le matériel (un Trusted Execution Environment) que ni le fournisseur ni l'hébergeur cloud ne peuvent inspecter. Rien ne doit être gardé une fois la réponse délivrée, une attestation cryptographique doit prouver que l'enclave est authentique, et il vous faut un DPA et un traitement au sein de l'UE.

ChatLock fonctionne ainsi. Votre historique reste chiffré sur votre propre appareil, et les modèles d'IA s'exécutent dans des enclaves sécurisées où ChatLock ne peut pas voir ce que vous écrivez. Vous gagnez du temps sans confier de données de patients à un tiers. Pour en savoir plus, lisez notre article sur le calcul confidentiel.

FAQ

Est-il légal pour un médecin d'utiliser ChatGPT ?

Utiliser l'IA n'est pas illégal en soi. Le problème est de saisir des données identifiantes de patients dans un outil qui n'offre pas les garanties exigées par le secret médical et le RGPD. Les comptes ChatGPT grand public n'atteignent généralement pas ce niveau.

Suffit-il d'anonymiser les données du patient avant d'utiliser l'IA ?

Une véritable anonymisation est difficile à obtenir avec des récits cliniques. Retirer le nom n'est souvent qu'une pseudonymisation, et des données de santé pseudonymisées restent des données personnelles au sens du RGPD.

Les psychologues peuvent-ils utiliser l'IA pour leurs notes de séance ?

Les mêmes règles s'appliquent, et les données de santé mentale sont parmi les plus sensibles qui soient. N'utilisez que des outils où le fournisseur ne peut pas accéder au contenu, et gardez des notes minimales.

L'IA peut-elle aider au diagnostic ?

Les chatbots généralistes ne sont pas des dispositifs médicaux et ne doivent pas servir à prendre des décisions diagnostiques ou thérapeutiques. Ils peuvent aider pour la documentation, la communication et la recherche d'informations, avec un praticien qui relit le résultat.