Qui est responsable lorsque l’IA clinique se trompe ? – Guide juridique 2026

Les points essentiels en 30 secondes

Introduction

L’IA clinique promet des diagnostics plus rapides, des plans de traitement personnalisés et des coûts réduits. Pourtant, chaque année, des erreurs de classification ou des dérives d’algorithmes apparaissent, soulevant la question inévitable : qui est responsable lorsque l’IA clinique se trompe ? La réponse n’est jamais simple, car la responsabilité s’entrelace entre les fabricants, les établissements de santé et les cliniciens qui valident finalement la recommandation.

Depuis 2016, Galeon co‑construit un DPI intelligent avec les soignants de première ligne. Déployé dans 19 hôpitaux – dont deux centres hospitaliers universitaires – le DPI de Galeon masque aujourd’hui plus de 3 millions de dossiers patients et plus de 10 000 professionnels de santé. Son moteur Swarm Learning® permet aux hôpitaux d’améliorer collectivement les modèles d’IA tout en conservant les données sur site, un mode d’emploi aligné avec les nouvelles attentes européennes en matière de souveraineté des données.

Avec l’entrée en vigueur complète de l’AI Act en 2024 et les amendements du nouveau MDR en 2026, les régulateurs exigent une supervision humaine concrète et une surveillance post‑marché rigoureuse. Cet article démêle le cadre juridique, souligne les zones d’ombre et montre comment les établissements peuvent structurer leurs processus pour limiter leur exposition.

« La responsabilité ne se transfère pas par la technologie – elle se redéfinit par les contrats, les contrôles et la documentation que vous mettez en place. » – Conseil juridique, European HealthTech Association, 2025.

Qui sont les parties prenantes d’une décision d’IA clinique ?

Le fournisseur d’IA et l’établissement de santé peuvent tous deux être tenus responsables, selon les termes contractuels, le niveau d’intégration et la présence d’une supervision humaine.

La chaîne typique comprend :

• Fabricant d’IA / éditeur logiciel – conçoit l’algorithme, fournit le dossier d’utilisation prévu et réalise les évaluations de conformité pré‑marché.
• Hôpital / prestataire de soins – intègre l’outil dans le flux de travail du DPI, configure les seuils et garantit la formation du personnel.
• Clinicien (médecin, radiologue, etc.) – prend la décision diagnostique ou thérapeutique finale à partir du résultat de l’IA.

Lorsqu’une erreur survient, les tribunaux examinent qui avait un « contrôle effectif » sur la décision. Si l’IA était une « boîte noire » sans explicabilité et que le clinicien s’appuyait aveuglément, la responsabilité peut basculer vers le fabricant pour des dispositifs de sécurité insuffisants. Inversement, si l’hôpital n’a pas mis en place la supervision obligatoire, il peut être considéré comme négligent.

Que requiert l’AI Act en matière de supervision humaine pour les IA médicales ?

L’AI Act classe la plupart des IA utilisées pour le diagnostic, la planification de traitement ou le tri comme « haut risque » et impose une supervision humaine en temps réel.

Les principales obligations sont :

• Transparence : le système doit indiquer à l’utilisateur que le résultat est généré par l’IA et fournir des explications compréhensibles.
• Gestion rigoureuse des risques : un dossier d’évaluation des risques documenté, mis à jour à chaque ré‑entraînement du modèle.
• Humain‑dans‑la‑boucle : un professionnel qualifié doit vérifier les suggestions de l’IA avant toute action clinique.
• Surveillance post‑marché : collecte continue des données de performance, déclaration des incidents et audits périodiques.

L’Acte ne décharge pas les hôpitaux de leur responsabilité ; il formalise simplement le rôle de supervision que les cliniciens assurent déjà.

Référence : Commission européenne, AI Act (Règlement (UE) 2021/0106), EUR‑Lex.

Comment la classification de l’IA comme dispositif médical influence la responsabilité ?

Lorsqu’un outil d’IA est classé dispositif médical au sens du MDR, le fabricant doit obtenir le marquage CE et se conformer aux procédures d’évaluation de conformité.

Conséquences pour la responsabilité :

• Responsabilité du fabricant : si le dispositif est jugé non conforme, le fabricant peut être visé par des actions de responsabilité du fait des produits selon la directive 85/374/CEE.
• Responsabilité de l’hôpital : même les dispositifs CE doivent être utilisés conformément à leur usage prévu et le personnel doit être formé.
• Responsabilité partagée : une responsabilité solidaire peut apparaître si l’hôpital modifie l’IA (par ex. seuils personnalisés) sans l’accord du fabricant.

En pratique, le plus sûr est de conserver l’IA identique à la version ayant reçu le marquage CE et de documenter toute personnalisation locale.

Source : Agence européenne des médicaments – « Guide sur l’évaluation clinique des dispositifs médicaux », EMA Guideline.

Quelle documentation les hôpitaux doivent‑ils conserver pour prouver la conformité ?

Les établissements doivent tenir un « dossier d’usage de l’IA » complet, attestant le respect à la fois de l’AI Act et du MDR.

Ce dossier comprend généralement :

• Rapport d’évaluation des risques (initial et mis à jour après chaque ré‑entraînement).
• Résultats de validation et de vérification, incluant sensibilité, spécificité et métriques de calibration.
• Procédures d’exploitation standard (SOP) de supervision humaine – étapes détaillant quand et comment les cliniciens interviennent.
• Registres de formation pour tous les utilisateurs de l’IA.
• Journaux de déclarations d’incidents et plans d’actions correctives.
• Registres de gouvernance des données, surtout lorsqu’on utilise le Swarm Learning® ou d’autres approches fédérées.

Tous les dossiers doivent être prêts à être audités et hébergés sur une plateforme certifiée HDS (Hébergement de Données de Santé) conforme à la norme ISO 27001:2022. L’absence de ces documents à la demande peut entraîner des amendes jusqu’à 30 millions d’euros ou 6 % du chiffre d’affaires annuel selon l’AI Act.

Référence : ANSSI – « Certification HDS en 2026 : ce que chaque hôpital doit vérifier avant de signer », Guide HDS 2026.

Comment les processus de validation et de suivi évoluent‑ils avec l’AI Act ?

Selon l’AI Act, la validation devient une activité continue, et non plus un point de contrôle unique.

Principaux changements :

• Validation pré‑déploiement : doit être réalisée sur un jeu de données local représentatif ; la validation externe seule ne suffit pas.
• Surveillance en temps réel : les hôpitaux ont besoin de tableaux de bord qui signalent dérive, biais ou taux d’erreur inattendus.
• Ré‑évaluation périodique : tous les 12 mois, ou après une mise à jour logicielle majeure, une nouvelle évaluation doit être documentée.
• Boucles de retour des parties prenantes : les cliniciens doivent pouvoir reporter directement les faux positifs/negatifs dans le système afin d’alimenter le raffinement du modèle.

Le DPI intelligent de Galeon intègre la détection automatique de dérive et des traces d’audit, facilitant la conformité tout en préservant la souveraineté des données.

En savoir plus sur les différences entre un DPI intelligent et un DPI traditionnel : DPI intelligent vs DPI traditionnel.

Sur quoi les DSI et les directeurs d’établissement doivent‑ils se concentrer lors du déploiement d’une IA clinique ?

Pour les DSI (direction des systèmes d’information)

Prioriser l’hébergement certifié HDS, une gouvernance robuste des API et une intégration fluide avec les workflows du DPI existant. Veiller à ce que toutes les données utilisées dans le Swarm Learning® restent sur site et que les journaux d’audit soient immuables.

Pour les directeurs d’établissement / directeurs médicaux

Mettre en place des matrices de responsabilité claires, allouer un budget à la validation continue et créer des comités d’éthique IA qui revoient les évaluations de risque chaque trimestre.

Limites et défis à connaître

• L’interprétation règlementaire évolue encore : les juridictions nationales peuvent appliquer différemment l’AI Act, créant une incertitude de juridiction.
• Compromis explicabilité / performance : les modèles de deep‑learning très performants manquent souvent de transparence, compliquant la supervision humaine obligatoire.
• La qualité des données reste le goulot d’étranglement : même le meilleur modèle Swarm Learning ne peut compenser des jeux de données biaisés ou incomplets.
• Charge de travail pour les hôpitaux : constituer et maintenir le dossier d’usage IA nécessite du personnel dédié à la conformité et des outils informatiques spécifiques.
• Carences des assurances : toutes les polices de responsabilité médicale ne couvrent pas les réclamations liées à l’IA ; une couverture sur‑mesure peut être indispensable.

FAQ

Un hôpital peut‑il déléguer toutes les décisions IA au fournisseur ?
Non. L’AI Act impose qu’un clinicien qualifié vérifie les sorties de l’IA avant toute action clinique.

Chaque outil d’imagerie radiologique est‑il automatiquement à haut risque ?
Seuls les outils influençant le diagnostic ou la planification de traitement sont à haut risque ; les outils qui se contentent d’organiser les images sont à faible risque.

Que se passe‑t‑il si un modèle IA dérive après le déploiement ?
Les hôpitaux doivent déclencher une révision post‑marché, suspendre le modèle si les seuils de sécurité sont dépassés et le ré‑entraîner avec des données validées.

Les modèles Swarm Learning nécessitent‑ils un nouveau marquage CE ?
Chaque hôpital participant doit s’assurer que le modèle fédéré respecte la version CE initiale ; les mises à jour sont considérées comme une modification du dossier technique.

Combien de temps les journaux d’incidents doivent‑ils être conservés ?
Au moins 10 ans, conformément au MDR et aux règles nationales de conservation des données de santé.

Existe‑t‑il un bouclier « sans faute » pour les fabricants d’IA ?
Non. Bien que le droit de la responsabilité du fait des produits offre une défense si le dispositif respecte toutes les normes, une négligence dans la gestion des risques peut toujours entraîner une responsabilité.

Les cliniciens peuvent‑ils être personnellement poursuivis pour avoir suivi l’IA ?
Uniquement s’ils ont ignoré les procédures de supervision requises ou agi à l’encontre des SOP documentées.

En résumé

La responsabilité en cas d’erreur d’IA clinique est une construction partagée et multi‑niveaux impliquant fabricants d’IA, établissements de santé et cliniciens qui valident la recommandation. L’AI Act cristallise la nécessité d’une supervision humaine en temps réel, d’une gestion continue des risques et d’un dossier d’usage IA robuste – des éléments que les hôpitaux doivent intégrer à leur gouvernance. Le DPI intelligent de Galeon, propulsé par Swarm Learning®, propose une voie concrète : résidence des données sur site, artefacts de conformité automatisés et points de contrôle humain‑dans‑la‑boucle alignés à la fois sur l’AI Act et le MDR. En alliant documentation rigoureuse et amélioration fédérée transparente, les établissements peuvent réduire leur exposition juridique tout en profitant des avantages de l’IA de pointe.

Découvrez comment la qualité des données alimente la médecine prédictive – lisez notre analyse approfondie.

Sources

• Commission européenne, AI Act (Règlement (UE) 2021/0106) – EUR‑Lex
• Agence européenne des médicaments, Guide sur l’évaluation clinique des dispositifs médicaux – EMA Guideline
• ANSSI, Certification HDS en 2026 – Guide HDS 2026
• CNIL, « Intelligence artificielle et données de santé : considérations réglementaires » – Article CNIL
• Rapport interne Galeon, « DPI intelligent vs DPI traditionnel : pourquoi les hôpitaux basculent vers l’IA en 2026 » – DPI intelligent vs DPI traditionnel
• Blog Galeon, « Médecine prédictive à l’hôpital – pourquoi l’IA dépend d’abord de la qualité des données » – Médecine prédictive & Qualité des données

‍