Publicité en cours de chargement...
Quand l’éthique s’invite dans les services numériques de santé intégrant l’IA
Par Alice Robert et Alexandre Fievee, Derriennic Associés
Ce référentiel s’inscrit dans le « Cadre de l’Ethique en Santé » (« CENS »), qui un corpus documentaire lancé en 2023 par la DNS et l’ANS, avec pour objectif de promouvoir et d’encadrer l’éthique des solutions et services numériques en santé.
Ce référentiel repose sur les 5 principes suivants :
- La bienfaisance où la garantie de transparence donnée aux utilisateurs quant à l’utilisation d’une solution IA ;
- La non-malfaisance ou la garantie à un traitement approprié et pertinent des données ;
- L’autonomie ou la garantie donnée aux utilisateurs quant au recours à une solution IA et à leur pouvoir décision sur sa désactivation ;
- La justice et l’équité ou la garantie donnée pour une performance identique de l’IA pour tous les publics (en évitant les biais algorithmiques) ;
- Le développement durable ou l’engagement des éditeurs dans une démarche (i) d’évaluation de l’impact environnemental de leurs solutions et (ii) d’amélioration continue.
32 critères, élaborés à partir de ces principes, composent ce référentiel.
Parmi ces critères, on peut noter :
- Les professionnels de santé utilisateurs d’un SI de santé doivent bénéficier d’une formation à l’utilisation de l’IA en amont de son introduction ;
- Les utilisateurs - professionnels de santé et patients – d’une solution d’IA sont informés qu’ils interagissent avec une IA et le fournisseur met en œuvre des mécanismes permettant de s’assurer de leur bonne compréhension ;
- Lorsqu’un professionnel de santé construit sa décision (diagnostique/thérapeutique) en suivant les propositions d’une IA, il doit informer les patients de l’usage de l’IA et du fait qu’il a suivi les propositions faites par l’IA ;
- Lorsqu’un professionnel de santé construit sa décision (diagnostique/thérapeutique) en utilisant une IA, mais sans suivre les propositions d’une IA, il doit informer les patients de l’usage de l’IA et du fait qu’il n’a pas suivi les propositions faites par l’IA ;
- Tout module d’IA doit proposer une interface intuitive permettant à l’utilisateur -professionnel de santé ou patient – de comprendre l’origine de la proposition de l’IA ;
- Les interfaces d’un SI de santé intégrant un module d’IA doivent mettre en évidence les résultats qui ont été produits par l’IA ;
- Le fournisseur d’un module d’IA utilise des données anonymisées comme données d’apprentissage. Si l’anonymisation n’a pas été possible, et qu’il dispose de données pseudonymisées, il doit s’assurer que les patients ont consenti à la réutilisation secondaire de leurs données de santé à des fins d’apprentissage pour des solutions d’IA ;
- Le fournisseur d’un module d’IA met en œuvre des mécanismes lui permettant de minimiser le recueil des données utilisées pour l’entraînement de l’algorithme, la protection et l’exploitation du module d’IA, aux seules données nécessaires et suffisantes pour tenir compte de la singularité des patients qui constituent la cible d’usage du module d’IA.
Ce corpus documentaire a vocation à être opposable. En effet, l’article L.1470-5 du Code de la santé publique consacre l’opposabilité des référentiels éthiques du CENS au même titre que les référentiels de sécurité (PGSSI-S) et d’interopérabilité (CI-SIS). A suivre…
Avez-vous apprécié ce contenu ?
A lire également.

Le Health Data Hub sélectionne huit nouveaux projets pour enrichir sa bibliothèque open source d’algorithmes en santé
04 juin 2025 - 13:10,
Communiqué
- Le Health Data HubÀ l’occasion de la Journée de l’open science en santé, organisée ce 4 juin 2025 à PariSanté Campus, le Health Data Hub (HDH) annonce les huit lauréats de la 8e vague de son appel à manifestation d’intérêt (AMI) dédié à la Bibliothèque Ouverte d’Algorithmes en Santé (BOAS). Cet appel à projets, lancé...

MentalTech, vers un Observatoire français de la e-santé mentale
02 juin 2025 - 22:20,
Actualité
- Damien Dubois, DSIHLe 21 mai, le collectif MentalTech a annoncé l’arrivée de dix nouveaux membres et dévoilé sa feuille de route 2025 avec pour ambition de s’affirmer comme l’Observatoire de la e-santé mentale.

Vu à SantExpo 2025 : le CHU d’Amiens obtient l’accord officiel des archives départementales pour son Système d’Archivage Electronique avec la solution HYDMedia de Dedalus
26 mai 2025 - 15:41,
Actualité
- Pauline Nicolas, DSIHLors d’une session au sein de l’auditorium Dedalus, Jacques Delamarre, Responsable Parcours Patient au CHU d’Amiens a témoigné de la genèse qui a conduit à l’adoption de la solution SAE HYDMedia de Dedalus dans son établissement et des principaux apports de cette solution. Un SAE doit intégrer un l...

L’Académie de l’IA en santé de la FEHAP
26 mai 2025 - 11:27,
Actualité
- Damien Dubois, DSIHLe 21 mai 2025, lors de SantExpo, la FEHAP a annoncé le déploiement opérationnel de son plan d’actions pour son Académie de l’IA en santé.