Copilotes, IA clinique : sur quelle preuve les établissements choisissent-ils vraiment leurs solutions ?

L’usage décolle, la grille de lecture manque

Le mouvement le plus net du Baromètre 2026 concerne l’intelligence artificielle : quasi absente des priorités deux ans plus tôt, elle s’impose comme la première tendance à surveiller. Elle entre dans les usages par des cas ciblés — imagerie, copilotes documentaires — mais le décalage est désormais documenté : pour huit organisations sur dix, la gouvernance reste à construire.

La lecture spontanée fait de cet écart un simple retard de maturité, que l’on comblerait avec une charte et un référent désigné. C’est nécessaire, mais cela arrive trop tard dans la chaîne. Car la gouvernance ne commence pas au déploiement : elle commence au choix. Avant de se demander qui supervise l’IA une fois en service, l’obligation de supervision humaine prévue par l’AI Act pour les systèmes à haut risque, que le Digital Omnibus, en cours d’adoption, repousse de l’été 2026 à 2027-2028, il en est une autre, plus précoce et rarement formulée : sur quelle base l’avons-nous sélectionnée ? Ce report ne doit d’ailleurs pas se lire comme un répit : il desserre le calendrier réglementaire, pas le risque opérationnel. Une solution mal choisie le reste, que l’obligation tombe en 2026 ou en 2028.

Le glissement de focale n’est pas cosmétique. Une solution mal choisie ne se gouverne pas bien en aval : aucune charte, aucun comité ne rattrape un outil dont on n’a jamais établi qu’il faisait ce qu’il prétend. Le premier acte de gouvernance est donc l’instruction du choix — la décision motivée, sur des critères objectivables, qu’une solution mérite d’entrer dans l’établissement. Tout le reste en découle.

La pression rend la question concrète. Le même Baromètre rappelle que 74 % des répondants jugent leurs ressources financières inadéquates et 91 % leurs moyens humains insuffisants ; dans le même temps, la résistance au changement s’impose comme premier obstacle aux projets. À moyens contraints et à adhésion fragile, chaque mauvais choix se paie deux fois, en budget, puis en confiance des équipes. D’où le besoin d’une grille de lecture partagée pour décider, en amont. Et c’est précisément là que le système français montre sa singularité.

Référencé n’est pas prouvé : deux canaux qui ne se parlent pas

En France, le choix s’opère dans un système à deux canaux découplés.

Le premier est celui de la conformité et de la visibilité : abondant, et non sélectif par construction. Le Ségur du numérique référence aujourd’hui des centaines de solutions sur ses différents couloirs ; le dispositif est officiellement « ouvert et non sélectif » — le terme figure dans les textes de l’Agence du numérique en santé. Mon espace santé évalue les services référencés sur l’interopérabilité, la sécurité, l’éthique et le RGPD — jamais sur l’efficacité clinique. S’y ajoutent les labels « lauréat » des appels à projets. Tous ces dispositifs sont utiles ; aucun ne mesure si l’outil produit l’effet clinique attendu.

Le second canal est celui de la preuve clinique, exigeant, et rarement franchi : HAS, CNEDiMTS, dispositif PECAN. Une précision compte ici : PECAN ne se déclenche que sur une demande de remboursement. Une solution qui ne sollicite pas de prise en charge ne passe jamais devant ce guichet de preuve. Il ne s’agit donc pas d’une mise en avant malgré une preuve faible, mais d’une mise en avant dans un canal où la preuve n’est tout simplement pas une question.

Le danger n’est pas le laxisme. Il est que la légitimité acquise dans le premier canal fonctionne comme une preuve dans l’œil du décideur. « Référencé » devient « validé », « lauréat » devient « prouvé ». Un directeur, de bonne foi et sous contrainte de temps, prend un référencement pour une garantie clinique. La dette n’est pas morale, elle est architecturale : deux tuyaux parallèles qui ne communiquent pas (voir la figure).

Figure — Deux canaux découplés en France, un guichet unique ailleurs. Schéma : JuliaShift, d’après ANS, HAS, BfArM, NICE, mHealthBelgium.

Ailleurs, le registre qui rend visible est celui qui exige la preuve

La comparaison européenne éclaire le diagnostic. Chez plusieurs de nos voisins, le registre public qui rend une solution visible est le guichet de preuve, un seul tuyau, pas deux.

En Allemagne, le DiGA-Verzeichnis du BfArM évalue les applications en quelques mois, avec une inscription provisoire de douze mois destinée à collecter la donnée en vie réelle, et un retrait possible si la preuve ne suit pas : être visible, c’est être en cours de démonstration. Au Royaume-Uni, l’Evidence Standards Framework du NICE module le niveau d’exigence selon le risque. En Belgique, mHealthBelgium organise une pyramide M1/M2/M3 où l’accès au remboursement, au sommet, est conditionné à la preuve.

Le point n’est pas « la France laxiste face à des voisins stricts ». C’est que la France a séparé ce que les autres ont gardé ensemble : la visibilité d’un côté, la preuve de l’autre.

Or la preuve en conditions réelles est exactement ce qu’un référencement ne capte pas. Une étude d'Oxford récente l'illustre avec une netteté rare [Bean et al., Clinical knowledge in LLMs does not translate to human interactions, 2025, 1 298 participants]¹. Testés seuls, les meilleurs modèles de langage identifient correctement les situations cliniques dans près de 95 % des cas — un score du niveau des examens médicaux. Mais lorsque des personnes réelles s’en servent pour s’orienter, ce taux tombe sous 35 %, sans faire mieux qu’un groupe témoin. L’étude porte sur le grand public, non sur des cliniciens et l’on objectera qu’un médecin interroge l’outil mieux qu’un patient. C’est sans doute vrai, mais c’est précisément ce que l’étude établit : la performance dépend de l’interaction et du contexte, pas seulement du modèle, donc d’un paramètre qu’aucun banc d’essai ni aucun label ne capture. Le mécanisme de l’échec est d’ailleurs instructif : les utilisateurs livrent une information incomplète, et les modèles renvoient un mélange de bonnes et de mauvaises réponses que l’usager ne sait pas trier. Raison de plus pour éprouver une solution dans ses propres conditions d’emploi, plutôt que de présumer sa tenue. C’est en effet cette tenue en réel qu’un établissement doit pouvoir apprécier avant de déployer et qu’aucun de nos deux canaux ne lui fournit sous une forme comparable.

Qui, demain, outillera la décision ?

La vraie question des prochaines années n’est donc pas une charte de plus. C’est : qui outille la décision d’achat ? Trois familles de réponses se présentent, chacune avec sa limite.

L’État référence largement, mais son référencement est non sélectif par construction, et il occupe simultanément les rôles de financeur, d’opérateur et de prescripteur, une position structurellement inconfortable pour arbitrer entre solutions. L’industriel connaît ses produits mieux que personne, mais demeure partie intéressée. Un tiers indépendant, enfin, n’a de valeur que s’il est réellement sans lien commercial et que ses critères sont publics, comparables et opposables.

Aucune de ces réponses n’est évidente, et ce n’est pas à une tribune de trancher. Le besoin, lui, est clair et déjà partagé : la HAS, l’AI Act et les dispositifs voisins convergent tous vers la même exigence — avant de déployer, pouvoir comparer, sur des critères publics et neutres, ce qu’une solution fait réellement. Tant que cette grille manquera, les établissements continueront de choisir à l’instinct, ou à la notoriété. La filière — HAS, Agence du numérique en santé, conférences des directeurs généraux de CHU, en y associant les industriels sans leur en confier les clés — gagnerait à esquisser ensemble ce référentiel manquant : indépendant des éditeurs, lisible par les décideurs, tenu à jour. Car la question n’est plus seulement de savoir si l’IA tiendra ses promesses, mais sur quelles preuves nous déciderons d’y croire.

(1) Bean A. M. et al., Clinical knowledge in LLMs does not translate to human interactions, Oxford Internet Institute, preprint arXiv:2504.18919, avril 2025. arxiv.org/abs/2504.18919