Publicité en cours de chargement...
Intelligence artificielle, algorithmes d’aide à la décision et à la thérapeutique, comment la garantie humaine doit-elle être mise en œuvre ? quelles exigences pour les utilisateurs professionnels de santé ?
Les outils d’intelligence artificielle (IA) ont pénétré l’hôpital, améliorant l’organisation des soins et les conditions de prise en charge avec diverses applications : structuration des connaissances médicales, aide au diagnostic, aide à la décision, traitements personnalisés, triage, planification chirurgicale, interventions assistées, suivi à distance, prothèses intelligentes, fluidification administrative et coordination automatisée…
Parmi ces applications, celles cristallisant le plus de craintes sont celles susceptibles de remplacer le médecin dans la réalisation d’actes médicaux diagnostiques et thérapeutiques. En effet, comment s’assurer que les résultats fournis par les algorithmes ne soient utilisés que comme une aide, et n’aboutissent pas à une perte d’autonomie des médecins et/ou à un appauvrissement de l’acte médical ? Comment donner aux médecins les moyens d’apprécier les résultats, et, le cas échéant, de s’en départir ?
C’est pour apporter un premier cadre face à ces risques, qu’ont été adoptées les dispositions de la Loi Bioéthique (introduites à l’art. L4001-3 CSP) visant à la supervision humaine, ou garantie humaine, imposant :
- d’une part, au professionnel de santé d’informer le patient du recours à un outil d’IA dans le cadre d’un acte de prévention, de diagnostic ou de soins, et le cas échéant du résultat qui en résulte,
- d’autre part, au concepteur de l’algorithme de s’assurer de l’explicabilité de son fonctionnement pour les utilisateurs.
La première exigence pose une obligation d’information du patient par le professionnel de santé. Elle permet ainsi l’instauration d’un échange entre le médecin et son patient sur l’utilisation d’une IA et le résultat associé, et donc par la même, invite le médecin à motiver à l’égard du patient son choix de suivre la recommandation de l’IA ou de s’en départir, et à s’approprier l’acte médical diagnostique ou thérapeutique.
La seconde exigence vise à s’assurer que le médecin dispose des informations nécessaires et suffisantes pour comprendre le fonctionnement du système d’IA, et ainsi à lui permettre de s’approprier le résultat, et de s’en écarter.
Enfin, le texte pose une obligation de traçabilité de la décision augmentée, visant à permettre aux professionnels intervenant dans la prise en charge, d’être en mesure d’évaluer la pertinence de l’acte, « augmenté » par l’IA, d’un médecin, et de s’assurer qu’il a bénéficié de l’autonomie nécessaire par rapport à l’algorithme.
Le projet de règlement européen (dont l’adoption est annoncée sous peu), visant au développement d’un marché unique d’applications d’IA légales, sûres et dignes de confiance, encadre également cette supervision humaine, notamment dans le cadre de l’utilisation d’IA à haut risque - dont en particulier les IA constituant ou intégrées à des dispositifs médicaux - fixant des exigences de :
- Transparence et fourniture d’informations aux utilisateurs « pour permettre aux utilisateurs d’interpréter les résultats du système et de l’utiliser de manière appropriée », et ce au moyen d’une notice d’utilisation précisant la destination d’usage, les performances, la fiabilité, les bornes et limites ;
-Contrôle humain dès la conception pour permettre un contrôle effectif par des personnes physiques pendant la période d’utilisation du système d’IA. Les utilisateurs devant en particulier être en mesure d’appréhender les capacités et limites du système d’IA à haut risque pour en interpréter correctement les résultats, de surveiller correctement son fonctionnement, et d’éviter les biais d’automatisation.
Le corolaire est une obligation pour les utilisateurs d’utiliser les systèmes d’IA conformément aux notices d’utilisation accompagnant les systèmes, à exercer un contrôle sur les données d'entrée, et à veiller à ce que ces dernières soient pertinentes au regard de la destination du système d’IA à haut risque.
Il en résulte également des obligations à la charge de l’établissement, qui seront traitées dans un prochain numéro…
Rappelons quand même, dans l’attente, que la violation de ces exigences fera encourir des sanctions pouvant aller jusqu’à 20 millions d’euros une fois le texte adopté.
L'auteur
Marguerite Brac de La Perrière est avocate, associée chez Lerins & BCW, experte en Santé Numérique. Elle accompagne les acteurs de la santé dans leur conformité réglementaire, leur développement et leur croissance, notamment en matière de traitements de données, de réutilisation des données, et de contrats. [email protected]
Avez-vous apprécié ce contenu ?
A lire également.

L’Institut Curie et le groupe hospitalier Diaconesses Croix Saint-Simon unissent leurs expertises pour un parcours de soins d’excellence en cancérologie
27 juin 2025 - 14:47,
Actualité
- DSIHL’Institut Curie, premier centre français de lutte contre le cancer, et le groupe hospitalier Diaconesses Croix Saint-Simon, créateur du Centre de Cancérologie de l’Est Parisien, annoncent un partenariat stratégique inédit. Ce partenariat, baptisé « Parcours Expert Institut Curie – Diaconesses Croix...

Dedalus France : une nouvelle étape dans la trajectoire de transformation
24 juin 2025 - 07:50,
Actualité
- DSIHDedalus France annonce le départ de Frédéric Vaillant, Directeur Général Délégué, au 30 juin 2025, après plus de 25 ans d’engagement. Fondateur de Medasys, acteur central des grandes étapes de structuration de l’entreprise, il a contribué à façonner Dedalus France comme acteur majeur du numérique en...

Interopérabilité en santé : FHIR on fire
23 juin 2025 - 21:47,
Actualité
- DSIH, Guilhem De ClerckHLTH 2025 – Amsterdam, 17 juin 2025 – Sur la scène du congrès HLTH, l’interopérabilité des données de santé s’est imposée comme un enjeu central, illustrant les limites persistantes des systèmes actuels et les espoirs placés dans la norme FHIR (Fast Healthcare Interoperability Resources). Au cœur de...

« Data Opt-in-imism : pourquoi la confiance est-elle la clé du succès de l’EHDS », une question débattue au HLTH 2025
23 juin 2025 - 21:23,
Actualité
- DSIH, Mehdi LebranchuLe 18 juin dernier, au Salon HLTH Europe d’Amsterdam, la conférence « Data Opt-in-imism: Why trust is key to the success of EHDS » a réuni des voix institutionnelles du nord de l’Europe autour d’une question déterminante pour l’avenir du partage de données de santé : la confiance. Prévu pour 2029, l...