Publicité en cours de chargement...
Intelligence artificielle, algorithmes d’aide à la décision et à la thérapeutique, comment la garantie humaine doit-elle être mise en œuvre ? quelles exigences pour les utilisateurs professionnels de santé ?
Les outils d’intelligence artificielle (IA) ont pénétré l’hôpital, améliorant l’organisation des soins et les conditions de prise en charge avec diverses applications : structuration des connaissances médicales, aide au diagnostic, aide à la décision, traitements personnalisés, triage, planification chirurgicale, interventions assistées, suivi à distance, prothèses intelligentes, fluidification administrative et coordination automatisée…
Parmi ces applications, celles cristallisant le plus de craintes sont celles susceptibles de remplacer le médecin dans la réalisation d’actes médicaux diagnostiques et thérapeutiques. En effet, comment s’assurer que les résultats fournis par les algorithmes ne soient utilisés que comme une aide, et n’aboutissent pas à une perte d’autonomie des médecins et/ou à un appauvrissement de l’acte médical ? Comment donner aux médecins les moyens d’apprécier les résultats, et, le cas échéant, de s’en départir ?
C’est pour apporter un premier cadre face à ces risques, qu’ont été adoptées les dispositions de la Loi Bioéthique (introduites à l’art. L4001-3 CSP) visant à la supervision humaine, ou garantie humaine, imposant :
- d’une part, au professionnel de santé d’informer le patient du recours à un outil d’IA dans le cadre d’un acte de prévention, de diagnostic ou de soins, et le cas échéant du résultat qui en résulte,
- d’autre part, au concepteur de l’algorithme de s’assurer de l’explicabilité de son fonctionnement pour les utilisateurs.
La première exigence pose une obligation d’information du patient par le professionnel de santé. Elle permet ainsi l’instauration d’un échange entre le médecin et son patient sur l’utilisation d’une IA et le résultat associé, et donc par la même, invite le médecin à motiver à l’égard du patient son choix de suivre la recommandation de l’IA ou de s’en départir, et à s’approprier l’acte médical diagnostique ou thérapeutique.
La seconde exigence vise à s’assurer que le médecin dispose des informations nécessaires et suffisantes pour comprendre le fonctionnement du système d’IA, et ainsi à lui permettre de s’approprier le résultat, et de s’en écarter.
Enfin, le texte pose une obligation de traçabilité de la décision augmentée, visant à permettre aux professionnels intervenant dans la prise en charge, d’être en mesure d’évaluer la pertinence de l’acte, « augmenté » par l’IA, d’un médecin, et de s’assurer qu’il a bénéficié de l’autonomie nécessaire par rapport à l’algorithme.
Le projet de règlement européen (dont l’adoption est annoncée sous peu), visant au développement d’un marché unique d’applications d’IA légales, sûres et dignes de confiance, encadre également cette supervision humaine, notamment dans le cadre de l’utilisation d’IA à haut risque - dont en particulier les IA constituant ou intégrées à des dispositifs médicaux - fixant des exigences de :
- Transparence et fourniture d’informations aux utilisateurs « pour permettre aux utilisateurs d’interpréter les résultats du système et de l’utiliser de manière appropriée », et ce au moyen d’une notice d’utilisation précisant la destination d’usage, les performances, la fiabilité, les bornes et limites ;
-Contrôle humain dès la conception pour permettre un contrôle effectif par des personnes physiques pendant la période d’utilisation du système d’IA. Les utilisateurs devant en particulier être en mesure d’appréhender les capacités et limites du système d’IA à haut risque pour en interpréter correctement les résultats, de surveiller correctement son fonctionnement, et d’éviter les biais d’automatisation.
Le corolaire est une obligation pour les utilisateurs d’utiliser les systèmes d’IA conformément aux notices d’utilisation accompagnant les systèmes, à exercer un contrôle sur les données d'entrée, et à veiller à ce que ces dernières soient pertinentes au regard de la destination du système d’IA à haut risque.
Il en résulte également des obligations à la charge de l’établissement, qui seront traitées dans un prochain numéro…
Rappelons quand même, dans l’attente, que la violation de ces exigences fera encourir des sanctions pouvant aller jusqu’à 20 millions d’euros une fois le texte adopté.
L'auteur
Marguerite Brac de La Perrière est avocate, associée chez Lerins & BCW, experte en Santé Numérique. Elle accompagne les acteurs de la santé dans leur conformité réglementaire, leur développement et leur croissance, notamment en matière de traitements de données, de réutilisation des données, et de contrats. [email protected]
Avez-vous apprécié ce contenu ?
A lire également.

Appel à projet cybersécurité : l’ARS Auvergne-Rhône-Alpes soutient l’innovation en établissements de santé
06 juin 2025 - 18:52,
Actualité
- DSIHL’Agence régionale de santé Auvergne-Rhône-Alpes lance un appel à projet pour expérimenter des solutions innovantes en cybersécurité dans les établissements sanitaires et médico-sociaux. Les candidatures sont ouvertes jusqu’au 30 juin 2025. L’initiative s’inscrit dans le cadre du programme CaRE, pou...

Libérer du temps soignant et sécuriser les approvisionnements : deux priorités au cœur de la stratégie logistique de l’Anap
06 juin 2025 - 18:32,
Actualité
- DSIHFace aux tensions sur les organisations hospitalières, l’Agence nationale de la performance sanitaire et médico-sociale (Anap) renforce son engagement aux côtés des établissements avec deux outils complémentaires :

Le Health Data Hub sélectionne huit nouveaux projets pour enrichir sa bibliothèque open source d’algorithmes en santé
04 juin 2025 - 13:10,
Communiqué
- Le Health Data HubÀ l’occasion de la Journée de l’open science en santé, organisée ce 4 juin 2025 à PariSanté Campus, le Health Data Hub (HDH) annonce les huit lauréats de la 8e vague de son appel à manifestation d’intérêt (AMI) dédié à la Bibliothèque Ouverte d’Algorithmes en Santé (BOAS). Cet appel à projets, lancé...

MentalTech, vers un Observatoire français de la e-santé mentale
02 juin 2025 - 22:20,
Actualité
- Damien Dubois, DSIHLe 21 mai, le collectif MentalTech a annoncé l’arrivée de dix nouveaux membres et dévoilé sa feuille de route 2025 avec pour ambition de s’affirmer comme l’Observatoire de la e-santé mentale.