Publicité en cours de chargement...
La Garantie Humaine dans le projet de règlement sur l’IA de la Commission européenne !
Ce principe de Garantie Humaine de l’IA et du numérique en santé, introduit et porté par Ethik-IA depuis 2017, avait d’ores déjà été reconnu dans les avis 129 et 130 du CCNE et dans l’article 11 du projet de loi bioéthique[1].
Dans le contexte du droit bioéthique français, ce principe de Garantie Humaine induit pour tous les utilisateurs et concepteurs de solutions d’IA en santé :
- La mise en œuvre d’une information préalable du patient sur le recours à l’IA dans sa prise en charge ;
- Le déploiement d’une supervision humaine de la solution d’IA « en vie réelle » dans des conditions de traçabilité.
Un projet pilote de « Collège de Garantie Humaine » avait ainsi pu être mis en œuvre fin 2020 par Ethik-IA sous égide de l’Union française pour la santé bucco-dentaire (UFSBD) pour exercer une supervision humaine d’un dispositif d’IA de prise en charge dans le domaine bucco-dentaire en EHPAD (dans le cadre d’un protocole de financements innovants article 51 LFSS).
L’article 14 du projet de règlement de la Commission européenne sur l’IA instituant ce principe se situe dans le droit fil de ces démarches pilotes et de ces recommandations.
Le paragraphe 1 de cet article énonce ainsi que les solutions d’intelligence artificielle doivent être conçues et développées de façon à pouvoir être superviser par des Humains. Le paragraphe suivant précise que la supervision humaine permettra de prévenir ou de minimiser les risques pour la santé, la sécurité ou les droits fondamentaux pouvant émerger d’un système d’IA susceptible de présenter un niveau de risque élevé. Par cet énoncé, le projet de règlement consacre ainsi la nécessité d’une garantie humaine pour un déploiement éthique de l’IA.
Le paragraphe 3 donne ainsi des indications sur la mise en application de la supervision humaine de l’IA. En effet, la garantie humaine doit être identifiée et construite par le fournisseur avant sa mise sur le marché ou sa mise en service et/ou identifiée par le fournisseur et pouvant être mise en œuvre par l’utilisateur, et ce, toujours en amont de sa mise sur le marché ou de sa mise en service. Cette garantie humaine doit pouvoir faire l’objet d’un suivi en vie réelle de l’intelligence artificielle.
Les mesures prévues au paragraphe 3 de cet article fixent un certain nombre d’objectifs d’information autour de cette Garantie Humaine : comprendre entièrement les capacités et limites du système d’IA et d’être capable de surveiller l’opération de façon à ce que les risques d’anomalies, de dysfonctionnements et de performance inattendus puissent être détectés ; d’être conscient des risques liés aux IA d’aide à la décision ; d’être capable d’interpréter correctement le résultat de l’IA à haut risque et, si nécessaire, de ne pas tenir compte de ce résultat, le remplacer ou l’ignorer ; et enfin de pouvoir interrompre l’IA à tout moment.
On retrouve donc dans cet article 14 du projet de règlement européen les deux axes essentiels de l’article 11 et des méthodologies construites par Ethik-IA depuis 2017 dans le champ de la santé :
- L’information des utilisateurs de la solution d’IA ;
- La supervision humaine de l’IA dans sa phase de conception et, dans une logique d’amélioration continue de la qualité, dans son utilisation en vie réelle.
[1] Ce texte finit actuellement son parcours législatif devant le Parlement pour une entrée en vigueur en France à la fin de ce premier semestre.
Avez-vous apprécié ce contenu ?
A lire également.

L’Institut Curie et le groupe hospitalier Diaconesses Croix Saint-Simon unissent leurs expertises pour un parcours de soins d’excellence en cancérologie
27 juin 2025 - 14:47,
Actualité
- DSIHL’Institut Curie, premier centre français de lutte contre le cancer, et le groupe hospitalier Diaconesses Croix Saint-Simon, créateur du Centre de Cancérologie de l’Est Parisien, annoncent un partenariat stratégique inédit. Ce partenariat, baptisé « Parcours Expert Institut Curie – Diaconesses Croix...

Dedalus France : une nouvelle étape dans la trajectoire de transformation
24 juin 2025 - 07:50,
Actualité
- DSIHDedalus France annonce le départ de Frédéric Vaillant, Directeur Général Délégué, au 30 juin 2025, après plus de 25 ans d’engagement. Fondateur de Medasys, acteur central des grandes étapes de structuration de l’entreprise, il a contribué à façonner Dedalus France comme acteur majeur du numérique en...

Interopérabilité en santé : FHIR on fire
23 juin 2025 - 21:47,
Actualité
- DSIH, Guilhem De ClerckHLTH 2025 – Amsterdam, 17 juin 2025 – Sur la scène du congrès HLTH, l’interopérabilité des données de santé s’est imposée comme un enjeu central, illustrant les limites persistantes des systèmes actuels et les espoirs placés dans la norme FHIR (Fast Healthcare Interoperability Resources). Au cœur de...

« Data Opt-in-imism : pourquoi la confiance est-elle la clé du succès de l’EHDS », une question débattue au HLTH 2025
23 juin 2025 - 21:23,
Actualité
- DSIH, Mehdi LebranchuLe 18 juin dernier, au Salon HLTH Europe d’Amsterdam, la conférence « Data Opt-in-imism: Why trust is key to the success of EHDS » a réuni des voix institutionnelles du nord de l’Europe autour d’une question déterminante pour l’avenir du partage de données de santé : la confiance. Prévu pour 2029, l...