Publicité en cours de chargement...
Intelligence artificielle, algorithmes d’aide à la décision et à la thérapeutique, comment la garantie humaine doit-elle être mise en œuvre ? quelles exigences pour les utilisateurs professionnels de santé ?
Les outils d’intelligence artificielle (IA) ont pénétré l’hôpital, améliorant l’organisation des soins et les conditions de prise en charge avec diverses applications : structuration des connaissances médicales, aide au diagnostic, aide à la décision, traitements personnalisés, triage, planification chirurgicale, interventions assistées, suivi à distance, prothèses intelligentes, fluidification administrative et coordination automatisée…
Parmi ces applications, celles cristallisant le plus de craintes sont celles susceptibles de remplacer le médecin dans la réalisation d’actes médicaux diagnostiques et thérapeutiques. En effet, comment s’assurer que les résultats fournis par les algorithmes ne soient utilisés que comme une aide, et n’aboutissent pas à une perte d’autonomie des médecins et/ou à un appauvrissement de l’acte médical ? Comment donner aux médecins les moyens d’apprécier les résultats, et, le cas échéant, de s’en départir ?
C’est pour apporter un premier cadre face à ces risques, qu’ont été adoptées les dispositions de la Loi Bioéthique (introduites à l’art. L4001-3 CSP) visant à la supervision humaine, ou garantie humaine, imposant :
- d’une part, au professionnel de santé d’informer le patient du recours à un outil d’IA dans le cadre d’un acte de prévention, de diagnostic ou de soins, et le cas échéant du résultat qui en résulte,
- d’autre part, au concepteur de l’algorithme de s’assurer de l’explicabilité de son fonctionnement pour les utilisateurs.
La première exigence pose une obligation d’information du patient par le professionnel de santé. Elle permet ainsi l’instauration d’un échange entre le médecin et son patient sur l’utilisation d’une IA et le résultat associé, et donc par la même, invite le médecin à motiver à l’égard du patient son choix de suivre la recommandation de l’IA ou de s’en départir, et à s’approprier l’acte médical diagnostique ou thérapeutique.
La seconde exigence vise à s’assurer que le médecin dispose des informations nécessaires et suffisantes pour comprendre le fonctionnement du système d’IA, et ainsi à lui permettre de s’approprier le résultat, et de s’en écarter.
Enfin, le texte pose une obligation de traçabilité de la décision augmentée, visant à permettre aux professionnels intervenant dans la prise en charge, d’être en mesure d’évaluer la pertinence de l’acte, « augmenté » par l’IA, d’un médecin, et de s’assurer qu’il a bénéficié de l’autonomie nécessaire par rapport à l’algorithme.
Le projet de règlement européen (dont l’adoption est annoncée sous peu), visant au développement d’un marché unique d’applications d’IA légales, sûres et dignes de confiance, encadre également cette supervision humaine, notamment dans le cadre de l’utilisation d’IA à haut risque - dont en particulier les IA constituant ou intégrées à des dispositifs médicaux - fixant des exigences de :
- Transparence et fourniture d’informations aux utilisateurs « pour permettre aux utilisateurs d’interpréter les résultats du système et de l’utiliser de manière appropriée », et ce au moyen d’une notice d’utilisation précisant la destination d’usage, les performances, la fiabilité, les bornes et limites ;
-Contrôle humain dès la conception pour permettre un contrôle effectif par des personnes physiques pendant la période d’utilisation du système d’IA. Les utilisateurs devant en particulier être en mesure d’appréhender les capacités et limites du système d’IA à haut risque pour en interpréter correctement les résultats, de surveiller correctement son fonctionnement, et d’éviter les biais d’automatisation.
Le corolaire est une obligation pour les utilisateurs d’utiliser les systèmes d’IA conformément aux notices d’utilisation accompagnant les systèmes, à exercer un contrôle sur les données d'entrée, et à veiller à ce que ces dernières soient pertinentes au regard de la destination du système d’IA à haut risque.
Il en résulte également des obligations à la charge de l’établissement, qui seront traitées dans un prochain numéro…
Rappelons quand même, dans l’attente, que la violation de ces exigences fera encourir des sanctions pouvant aller jusqu’à 20 millions d’euros une fois le texte adopté.
L'auteur
Marguerite Brac de La Perrière est avocate, associée chez Lerins & BCW, experte en Santé Numérique. Elle accompagne les acteurs de la santé dans leur conformité réglementaire, leur développement et leur croissance, notamment en matière de traitements de données, de réutilisation des données, et de contrats. [email protected]
Avez-vous apprécié ce contenu ?
A lire également.

Éthicovigilance numérique : premiers signaux d’alerte dans la santé connectée
24 avril 2025 - 15:14,
Actualité
- DSIHLa Délégation au numérique en santé (DNS) publie le premier rapport d’activité de la Plateforme d’éthicovigilance du numérique en santé, un dispositif inédit lancé fin 2023 pour recueillir les signalements d’usagers et de professionnels confrontés à des enjeux éthiques liés aux technologies de santé...

Le GHT Hôpitaux de Provence optimise ses flux patients avec la solution M-SESAME de Maincare
24 avril 2025 - 10:06,
Communiqué
- MaincareLe GHT Hôpitaux de Provence, un des groupements hospitaliers les plus importants de France avec 13 établissements et un bassin de 2 millions d’habitants, a choisi la solution M-SESAME, développée par Atout Majeur Concept, distribuée et intégrée par Maincare, pour répondre à ses besoins en matière de...

Le Groupe Softway Medical accueille Bain Capital Europe au sein de sa structure capitalistique
22 avril 2025 - 15:27,
Communiqué
- Groupe Softway Medical22 avril, 2025 – le Groupe Softway Medical, un leader européen des systèmes d’information en santé, à la fois éditeur, hébergeur et intégrateur pour les établissements de santé publics et privés en France, au Canada et à travers l’Europe, annonce aujourd’hui l’arrivée du fonds de capital-investissem...

L’IA en action : les conditions d’un déploiement réussi au sein des équipes de soins
21 avril 2025 - 18:55,
Tribune
- Arnaud HAVE, Directeur Conseil WeliomL’intégration de l’intelligence artificielle (IA) dans les établissements sanitaires et médico-sociaux représente un défi majeur – à la fois culturel, opérationnel et technique. Pour maximiser les bénéfices concrets de l’IA, les ambitions doivent être alignées sur la maturité de la structure, des éq...