Publicité en cours de chargement...
Quand l’éthique s’invite dans les services numériques de santé intégrant l’IA
Par Alice Robert et Alexandre Fievee, Derriennic Associés
Ce référentiel s’inscrit dans le « Cadre de l’Ethique en Santé » (« CENS »), qui un corpus documentaire lancé en 2023 par la DNS et l’ANS, avec pour objectif de promouvoir et d’encadrer l’éthique des solutions et services numériques en santé.
Ce référentiel repose sur les 5 principes suivants :
- La bienfaisance où la garantie de transparence donnée aux utilisateurs quant à l’utilisation d’une solution IA ;
- La non-malfaisance ou la garantie à un traitement approprié et pertinent des données ;
- L’autonomie ou la garantie donnée aux utilisateurs quant au recours à une solution IA et à leur pouvoir décision sur sa désactivation ;
- La justice et l’équité ou la garantie donnée pour une performance identique de l’IA pour tous les publics (en évitant les biais algorithmiques) ;
- Le développement durable ou l’engagement des éditeurs dans une démarche (i) d’évaluation de l’impact environnemental de leurs solutions et (ii) d’amélioration continue.
32 critères, élaborés à partir de ces principes, composent ce référentiel.
Parmi ces critères, on peut noter :
- Les professionnels de santé utilisateurs d’un SI de santé doivent bénéficier d’une formation à l’utilisation de l’IA en amont de son introduction ;
- Les utilisateurs - professionnels de santé et patients – d’une solution d’IA sont informés qu’ils interagissent avec une IA et le fournisseur met en œuvre des mécanismes permettant de s’assurer de leur bonne compréhension ;
- Lorsqu’un professionnel de santé construit sa décision (diagnostique/thérapeutique) en suivant les propositions d’une IA, il doit informer les patients de l’usage de l’IA et du fait qu’il a suivi les propositions faites par l’IA ;
- Lorsqu’un professionnel de santé construit sa décision (diagnostique/thérapeutique) en utilisant une IA, mais sans suivre les propositions d’une IA, il doit informer les patients de l’usage de l’IA et du fait qu’il n’a pas suivi les propositions faites par l’IA ;
- Tout module d’IA doit proposer une interface intuitive permettant à l’utilisateur -professionnel de santé ou patient – de comprendre l’origine de la proposition de l’IA ;
- Les interfaces d’un SI de santé intégrant un module d’IA doivent mettre en évidence les résultats qui ont été produits par l’IA ;
- Le fournisseur d’un module d’IA utilise des données anonymisées comme données d’apprentissage. Si l’anonymisation n’a pas été possible, et qu’il dispose de données pseudonymisées, il doit s’assurer que les patients ont consenti à la réutilisation secondaire de leurs données de santé à des fins d’apprentissage pour des solutions d’IA ;
- Le fournisseur d’un module d’IA met en œuvre des mécanismes lui permettant de minimiser le recueil des données utilisées pour l’entraînement de l’algorithme, la protection et l’exploitation du module d’IA, aux seules données nécessaires et suffisantes pour tenir compte de la singularité des patients qui constituent la cible d’usage du module d’IA.
Ce corpus documentaire a vocation à être opposable. En effet, l’article L.1470-5 du Code de la santé publique consacre l’opposabilité des référentiels éthiques du CENS au même titre que les référentiels de sécurité (PGSSI-S) et d’interopérabilité (CI-SIS). A suivre…
Avez-vous apprécié ce contenu ?
A lire également.

Dedalus France : une nouvelle étape dans la trajectoire de transformation
24 juin 2025 - 07:50,
Actualité
- DSIHDedalus France annonce le départ de Frédéric Vaillant, Directeur Général Délégué, au 30 juin 2025, après plus de 25 ans d’engagement. Fondateur de Medasys, acteur central des grandes étapes de structuration de l’entreprise, il a contribué à façonner Dedalus France comme acteur majeur du numérique en...

HLTH 2025, un Salon sous le signe de l’innovation distribuée
23 juin 2025 - 21:18,
Actualité
- DSIH, Mehdi LebranchuHLTH Europe 2025, qui s’est tenu cette année à Amsterdam, a offert un panorama dense et incarné de l’écosystème européen de la santé numérique. Le Salon a rassemblé géants technologiques, institutions publiques, start-up prometteuses et hôpitaux à la recherche de nouveaux modèles de collaboration. U...

Cour de cassation versus RGPD : 2-0. Et ce n’est pas une bonne nouvelle !
23 juin 2025 - 18:14,
Tribune
-Ça fait deux fois.

Approche hétérodoxe du concept de risque résiduel
02 juin 2025 - 22:42,
Tribune
-Vous voulez être le bon élève de l’auditeur 27001 qui vient constater, de visu, comment vous mettez en œuvre un SMSI. Le bon élève, avec les félicitations, le bisou sur le front et le petit papier qui va bien.