Peut-on faire confiance à une réponse générée par une IA ?

Un médecin ouvre le dossier d’un patient et pose une question :

« Quels traitements prend-il actuellement ? »

Quelques secondes plus tard, l’intelligence artificielle liste trois médicaments, avec leurs dosages et leur fréquence de prise.

La réponse paraît cohérente avec l’histoire du patient. Pour pouvoir l’utiliser, le médecin doit cependant savoir sur quelles informations elle repose et si celles-ci correspondent bien à la situation actuelle.

À l’hôpital, la qualité d’une réponse générée ne dépend donc pas uniquement du modèle. Elle dépend aussi des données auxquelles il accède, de leur contexte et de la possibilité pour le professionnel d’en retrouver l’origine.

Une réponse crédible peut être fausse

Les modèles de langage sont particulièrement efficaces pour produire du texte naturel et cohérent. Lorsqu’une information manque, qu’un élément est mal interprété ou que plusieurs données sont reliées de manière incorrecte, cette capacité peut aussi conduire à une réponse parfaitement plausible mais erronée.

C’est ce que l’on appelle généralement une hallucination.

Prenons un patient dont le traitement a changé plusieurs fois au cours des derniers mois.

Une prescription de janvier indique 10 mg. Un compte rendu d’hospitalisation de mars mentionne le passage à 20 mg. Une nouvelle prescription enregistrée en avril revient à 10 mg.

Si l’IA retrouve uniquement le document de mars, elle peut indiquer que le patient prend actuellement 20 mg.

Cette information figure bien dans le dossier, mais elle ne correspond plus à la prescription la plus récente. Pour répondre correctement, le système doit donc tenir compte de la chronologie du dossier et des informations susceptibles d’avoir évolué.

Retrouver la source de l’information

Reprenons la même situation.

Cette fois, l’IA indique :

« Le traitement actuellement documenté est de 10 mg. »

La réponse est accompagnée de sa source :

Prescription, 14 avril 2026

Le professionnel peut ouvrir le document correspondant et vérifier directement l’information. Il peut également consulter les prescriptions précédentes pour comprendre comment le traitement a évolué.

La réponse générée devient ainsi un moyen d’accéder plus rapidement à l’information contenue dans le dossier, sans remplacer les documents qui en constituent la source.

Cette traçabilité est particulièrement importante dans un contexte médical. Une réponse utile doit permettre au professionnel de retrouver les éléments sur lesquels elle s’appuie.

Une information peut avoir plusieurs sources

Afficher une source permet déjà de vérifier une réponse. Dans un dossier médical, cette vérification ne s’arrête toutefois pas toujours à un seul document.

Un traitement peut apparaître dans plusieurs prescriptions, dans un compte rendu d’hospitalisation, dans une lettre adressée au médecin traitant ou dans les notes d’un professionnel.

Un résultat biologique peut prendre une signification différente lorsqu’on observe son évolution dans le temps. Un diagnostic peut avoir été envisagé puis écarté quelques semaines plus tard.

Pour exploiter correctement ces informations, l’IA doit pouvoir tenir compte de leur date, de leur origine, des événements médicaux auxquels elles sont liées et des éléments plus récents susceptibles de les compléter ou de les contredire.

C’est ce contexte qui permet de passer d’une information retrouvée dans le dossier à une information pertinente pour la situation actuelle du patient.

Toutes les questions ne présentent pas le même risque

Demander « Quand a eu lieu la dernière consultation en cardiologie ? » n’implique pas le même niveau de responsabilité que « Quel traitement faudrait-il prescrire à ce patient ? ».

Dans le premier cas, l’IA cherche principalement une information déjà présente dans le dossier. Dans le second, elle intervient beaucoup plus directement dans une décision médicale.

Entre les deux existent de nombreux usages : résumer une hospitalisation, retrouver les derniers résultats biologiques, identifier les modifications successives d’un traitement, préparer une consultation ou mettre en évidence certains événements du parcours du patient.

Plus l’usage se rapproche d’une décision médicale, plus les exigences de fiabilité, de validation et de responsabilité augmentent.

Une grande partie de la valeur de ces outils peut déjà se trouver en amont de cette décision : rendre l’information existante plus facile à retrouver, à organiser et à vérifier pour le professionnel qui devra ensuite l’interpréter.

Savoir quand les informations ne permettent pas de répondre

La fiabilité d’un système dépend aussi de sa capacité à reconnaître lorsque les informations disponibles ne permettent pas de répondre.

Supposons qu’un professionnel demande : « Ce patient est-il allergique à la pénicilline ? »

Si le dossier accessible au système ne contient aucune information suffisamment fiable à ce sujet, produire une réponse à partir d’éléments incomplets créerait une certitude qui n’existe pas dans les données.

Dans ce cas, le système devrait pouvoir indiquer ne pas disposer de suffisamment d’informations dans le dossier pour répondre à la question.

Dans un environnement médical, l’absence d’information doit pouvoir rester une absence d’information. Identifier cette limite fait partie des conditions nécessaires pour utiliser ces outils de manière fiable.

La validation humaine reste au centre

Permettre au professionnel de vérifier les sources ne signifie pas qu’il devra relire l’intégralité du dossier après chaque réponse générée. Cela supprimerait une grande partie du gain attendu.

L’enjeu consiste plutôt à faciliter l’accès aux éléments pertinents lorsque leur vérification est nécessaire.

Une synthèse peut accélérer la préparation d’une consultation. Une réponse peut orienter directement vers le document concerné. Une chronologie peut aider à comprendre plusieurs mois de soins sans parcourir manuellement chaque élément du dossier.

Le professionnel doit néanmoins conserver l’accès à l’information originale et la responsabilité de son interprétation.

L’IA facilite alors l’accès à l’information sans se substituer à celui qui l’utilise pour prendre une décision.

La confiance commence par les données

Pour montrer l’origine d’une information, il faut d’abord savoir d’où elle vient.

Identifier la prescription la plus récente suppose de connaître sa date. Replacer un résultat biologique dans le parcours du patient nécessite de pouvoir le relier au bon épisode de soins. Distinguer une information actuelle d’une information devenue obsolète demande de conserver son contexte.

Une partie de la fiabilité de l’IA se construit donc avant même l’intervention du modèle, dans la manière dont les données médicales sont produites, structurées, datées et reliées entre elles dans le dossier patient.

Un modèle performant restera limité s’il travaille à partir d’informations incomplètes ou mal contextualisées. À l’inverse, des données structurées et contextualisées permettent de construire des usages dans lesquels les réponses restent reliées aux éléments qui les ont produites.

De la réponse à la vérification

Les modèles de langage permettent d’imaginer une manière plus directe d’interagir avec le dossier patient.

Au lieu de parcourir plusieurs écrans pour rechercher une information, le professionnel peut poser une question et utiliser la réponse pour accéder aux éléments pertinents du dossier.

Dans un environnement hospitalier, cette simplicité repose sur plusieurs conditions : disposer d’informations correctement contextualisées, pouvoir retrouver leur source, signaler lorsque les données disponibles sont insuffisantes et laisser au professionnel la possibilité de vérifier avant de décider.

Chez Galeon, la structuration de la donnée directement dans le dossier patient répond aussi à cet enjeu. L’objectif est de conserver une information exploitable, reliée à son contexte et à son origine, afin de pouvoir construire des usages d’IA plus facilement vérifiables.

La confiance dans l’IA à l’hôpital dépendra donc autant de la qualité de ses réponses que de la possibilité, pour les professionnels, d’en comprendre l’origine et de les vérifier.

À lire aussi

• Une IA peut-elle vraiment faire gagner du temps aux soignants ?
• Notes cliniques générées par IA : ce que disent les études en 2026
• Une IA peut-elle comprendre votre dossier médical ?