Publicité en cours de chargement...

Publicité en cours de chargement...

Quand l’éthique s’invite dans les services numériques de santé intégrant l’IA

01 mars 2024 - 11:31,
Tribune - Alice Robert et Alexandre Fievee
L’Agence du Numérique en Santé (ANS) vient de publier un référentiel éthique pour les services numériques de santé intégrant l’IA. Ce référentiel s’adresse aux éditeurs-fournisseurs d’un SI embarquant un module d’IA, mais aussi aux professionnels de santé et aux patients utilisateurs. 

  Par Alice Robert et Alexandre Fievee, Derriennic Associés


Ce référentiel s’inscrit dans le « Cadre de l’Ethique en Santé » (« CENS »), qui un corpus documentaire lancé en 2023 par la DNS et l’ANS, avec pour objectif de promouvoir et d’encadrer l’éthique des solutions et services numériques en santé. 

Ce référentiel repose sur les 5 principes suivants : 

- La bienfaisance où la garantie de transparence donnée aux utilisateurs quant à l’utilisation d’une solution IA ;
- La non-malfaisance ou la garantie à un traitement approprié et pertinent des données ;
- L’autonomie ou la garantie donnée aux utilisateurs quant au recours à une solution IA et à leur pouvoir décision sur sa désactivation ;
- La justice et l’équité ou la garantie donnée pour une performance identique de l’IA pour tous les publics (en évitant les biais algorithmiques) ;
- Le développement durable ou l’engagement des éditeurs dans une démarche (i) d’évaluation de l’impact environnemental de leurs solutions et (ii) d’amélioration continue. 

32 critères, élaborés à partir de ces principes, composent ce référentiel. 

Parmi ces critères, on peut noter : 

- Les professionnels de santé utilisateurs d’un SI de santé doivent bénéficier d’une formation à l’utilisation de l’IA en amont de son introduction ;
- Les utilisateurs - professionnels de santé et patients – d’une solution d’IA sont informés qu’ils interagissent avec une IA et le fournisseur met en œuvre des mécanismes permettant de s’assurer de leur bonne compréhension ;
- Lorsqu’un professionnel de santé construit sa décision (diagnostique/thérapeutique) en suivant les propositions d’une IA, il doit informer les patients de l’usage de l’IA et du fait qu’il a suivi les propositions faites par l’IA ;
- Lorsqu’un professionnel de santé construit sa décision (diagnostique/thérapeutique) en utilisant une IA, mais sans suivre les propositions d’une IA, il doit informer les patients de l’usage de l’IA et du fait qu’il n’a pas suivi les propositions faites par l’IA ;
- Tout module d’IA doit proposer une interface intuitive permettant à l’utilisateur -professionnel de santé ou patient – de comprendre l’origine de la proposition de l’IA ;
- Les interfaces d’un SI de santé intégrant un module d’IA doivent mettre en évidence les résultats qui ont été produits par l’IA ;
- Le fournisseur d’un module d’IA utilise des données anonymisées comme données d’apprentissage. Si l’anonymisation n’a pas été possible, et qu’il dispose de données pseudonymisées, il doit s’assurer que les patients ont consenti à la réutilisation secondaire de leurs données de santé à des fins d’apprentissage pour des solutions d’IA ;
- Le fournisseur d’un module d’IA met en œuvre des mécanismes lui permettant de minimiser le recueil des données utilisées pour l’entraînement de l’algorithme, la protection et l’exploitation du module d’IA, aux seules données nécessaires et suffisantes pour tenir compte de la singularité des patients qui constituent la cible d’usage du module d’IA. 

Ce corpus documentaire a vocation à être opposable. En effet, l’article L.1470-5 du Code de la santé publique consacre l’opposabilité des référentiels éthiques du CENS au même titre que les référentiels de sécurité (PGSSI-S) et d’interopérabilité (CI-SIS). A suivre… 

Avez-vous apprécié ce contenu ?

A lire également.

Illustration PHAST pour la mise en œuvre des terminologies LOINC et SNOMED CT

PHAST pour la mise en œuvre des terminologies LOINC et SNOMED CT

26 août 2025 - 08:46,

Actualité

- DSIH, Damien Dubois

Fin juillet, l’opérateur d’interopérabilité sémantique PHAST a annoncé la sélection de son consortium par l’Agence du numérique en santé pour porter le marché de la mise en œuvre des terminologies LOINC et SNOMED CT.

Illustration Un starter kit enrichi pour faciliter les demandes d’autorisation à la Cnil

Un starter kit enrichi pour faciliter les demandes d’autorisation à la Cnil

26 août 2025 - 08:44,

Actualité

- DSIH, Damien Dubois

Depuis cet été, le starter kit d’accompagnement à la demande d’autorisation Cnil du Health Data Hub intègre de nouveaux outils pédagogiques. Ils aident les porteurs de projet à en évaluer l’éligibilité à une procédure simplifiée d’accès aux données de santé.

Illustration Trophées de la e-santé 2025 : cap sur les innovations qui transforment le soin

Trophées de la e-santé 2025 : cap sur les innovations qui transforment le soin

25 août 2025 - 14:46,

Brève

- DSIH

La 19ᵉ édition des Trophées de la e-santé est officiellement lancée. Véritable vitrine de l’innovation en santé numérique, cette compétition nationale – moment fort de l’Université de la e-santé – mettra en lumière, en novembre prochain, les solutions digitales les plus prometteuses pour améliorer l...

Illustration Pilotage des blocs opératoires : l’Anap dévoile une plateforme numérique intégrée pour améliorer la performance et la gouvernance

Pilotage des blocs opératoires : l’Anap dévoile une plateforme numérique intégrée pour améliorer la performance et la gouvernance

08 juil. 2025 - 00:26,

Actualité

- DSIH

L’Agence nationale de la performance sanitaire et médico-sociale (Anap) franchit un nouveau cap dans le soutien aux établissements de santé avec le lancement d’une plateforme numérique unique dédiée à l’optimisation des blocs opératoires. Ce nouvel outil regroupe 22 ressources opérationnelles destin...

Lettre d'information.

Ne manquez rien de la e-santé et des systèmes d’informations hospitaliers !

Inscrivez-vous à notre lettre d’information hebdomadaire.