Publicité en cours de chargement...
Quand l’éthique s’invite dans les services numériques de santé intégrant l’IA
Par Alice Robert et Alexandre Fievee, Derriennic Associés
Ce référentiel s’inscrit dans le « Cadre de l’Ethique en Santé » (« CENS »), qui un corpus documentaire lancé en 2023 par la DNS et l’ANS, avec pour objectif de promouvoir et d’encadrer l’éthique des solutions et services numériques en santé.
Ce référentiel repose sur les 5 principes suivants :
- La bienfaisance où la garantie de transparence donnée aux utilisateurs quant à l’utilisation d’une solution IA ;
- La non-malfaisance ou la garantie à un traitement approprié et pertinent des données ;
- L’autonomie ou la garantie donnée aux utilisateurs quant au recours à une solution IA et à leur pouvoir décision sur sa désactivation ;
- La justice et l’équité ou la garantie donnée pour une performance identique de l’IA pour tous les publics (en évitant les biais algorithmiques) ;
- Le développement durable ou l’engagement des éditeurs dans une démarche (i) d’évaluation de l’impact environnemental de leurs solutions et (ii) d’amélioration continue.
32 critères, élaborés à partir de ces principes, composent ce référentiel.
Parmi ces critères, on peut noter :
- Les professionnels de santé utilisateurs d’un SI de santé doivent bénéficier d’une formation à l’utilisation de l’IA en amont de son introduction ;
- Les utilisateurs - professionnels de santé et patients – d’une solution d’IA sont informés qu’ils interagissent avec une IA et le fournisseur met en œuvre des mécanismes permettant de s’assurer de leur bonne compréhension ;
- Lorsqu’un professionnel de santé construit sa décision (diagnostique/thérapeutique) en suivant les propositions d’une IA, il doit informer les patients de l’usage de l’IA et du fait qu’il a suivi les propositions faites par l’IA ;
- Lorsqu’un professionnel de santé construit sa décision (diagnostique/thérapeutique) en utilisant une IA, mais sans suivre les propositions d’une IA, il doit informer les patients de l’usage de l’IA et du fait qu’il n’a pas suivi les propositions faites par l’IA ;
- Tout module d’IA doit proposer une interface intuitive permettant à l’utilisateur -professionnel de santé ou patient – de comprendre l’origine de la proposition de l’IA ;
- Les interfaces d’un SI de santé intégrant un module d’IA doivent mettre en évidence les résultats qui ont été produits par l’IA ;
- Le fournisseur d’un module d’IA utilise des données anonymisées comme données d’apprentissage. Si l’anonymisation n’a pas été possible, et qu’il dispose de données pseudonymisées, il doit s’assurer que les patients ont consenti à la réutilisation secondaire de leurs données de santé à des fins d’apprentissage pour des solutions d’IA ;
- Le fournisseur d’un module d’IA met en œuvre des mécanismes lui permettant de minimiser le recueil des données utilisées pour l’entraînement de l’algorithme, la protection et l’exploitation du module d’IA, aux seules données nécessaires et suffisantes pour tenir compte de la singularité des patients qui constituent la cible d’usage du module d’IA.
Ce corpus documentaire a vocation à être opposable. En effet, l’article L.1470-5 du Code de la santé publique consacre l’opposabilité des référentiels éthiques du CENS au même titre que les référentiels de sécurité (PGSSI-S) et d’interopérabilité (CI-SIS). A suivre…
Avez-vous apprécié ce contenu ?
A lire également.
Contourner les règles, faille cyber éternelle et consubstantielle à l’espèce humaine
21 avril 2025 - 19:07,
Tribune
-Récemment, un post sur LinkedIn racontait l’histoire suivante : un enseignant soucieux de repérer les élèves qui faisaient rédiger leur copie par ChatGPT transmettait ses consignes sous forme de fichiers PDF dans lesquels il incluait des morceaux de texte en caractères blancs, donc invisibles pour l...
Panorama forcément non exhaustif du fléau des arnaques en ligne en ce début 2025
08 avril 2025 - 07:19,
Tribune
-Le temps des mails provenant d’un prince nigérian qui requiert votre aide pour toucher un héritage, ou de la petite Marie qui attend désespérément une greffe, est révolu : les techniques ont évolué, les outils aussi, les réseaux se sont structurés et professionnalisés. Petit panorama, forcément inco...
Ségur numérique : Mise à jour du calendrier réglementaire pour les dispositifs de la Vague 2 à l’hôpital
24 mars 2025 - 20:32,
Actualité
- DSIH,Afin de garantir au plus grand nombre d’établissements de santé l’accès aux mises à jour financées par le Ségur numérique, le calendrier des dispositifs dédiés aux logiciels Dossier Patient Informatisé (DPI) et Plateforme d’Interopérabilité (PFI) a été étendu par un arrêté modificatif, publié ce jou...
Loi sur le narcotrafic et fin du chiffrement : analyse d’un membre éminent et actif du CVC
10 mars 2025 - 19:33,
Tribune
-Vous n’avez pas pu le rater : sous couvert de lutte contre le trafic de stupéfiants, la proposition de loi d’Étienne Blanc et de Jérôme Durain, déjà adoptée à l’unanimité au Sénat, sera débattue au mois de mars à l’Assemblée nationale. Baptisée « loi Narcotrafic », elle vise à obliger les services d...