Publicité en cours de chargement...

Publicité en cours de chargement...

Recos de la DNS pour une éthique « by design » des solutions d’IA

07 juin 2022 - 11:16,
Actualité - DSIH
La 31 mai 2022, la Délégation ministérielle au numérique en santé a publié les travaux du groupe de travail de la cellule Éthique sur l’approche méthodologique à déployer dans la conception et la réalisation de solutions d’IA.

La Délégation ministérielle au numérique en santé (DNS) a mis en ligne fin mai ses Recommandations de bonnes pratiques pour intégrer l’éthique dès le développement des solutions d’intelligence artificielle en santé : mise en œuvre de « l’éthique by design ». Ce document est issu des travaux du GT3 de la cellule Éthique du numérique en santé de la DNS.

Le fruit d’un travail de deux ans mené par des experts pluriprofessionnels

Pour la DNS, la mission de Cédric Villani sur la mise en œuvre d’une stratégie française et européenne en intelligence artificielle et l’article 17 de la loi du 2 août 2021 sur la bioéthique ont mis en lumière les enjeux éthiques liés au recours à l’intelligence artificielle en santé. Dans une approche de coconstruction, les travaux de la cellule Éthique ont associé, pendant deux ans, des experts pluriprofessionnels avec des chercheurs en IA, des représentants des patients, des professionnels de santé, des juristes, des sociologues, des éthiciens, et des éditeurs (notamment des start-up). Ils ont abouti à des recommandations de bonnes pratiques pour intégrer l’éthique dès les premières étapes du développement des solutions d’IA en santé.

« On propose des outils très pratiques pour les concepteurs des solutions d’IA en santé, en articulation avec les professionnels de santé et les représentants des patients, en cohérence avec les chantiers en cours sur le plan législatif à la fois national et européen, avec un principe de garantie humaine de l’IA relayé dans la loi de bioéthique et dans le projet de règlement européen de l’IA », explique David Gruson, directeur du programme Santé chez Luminess et fondateur d’Ethik-IA dans un communiqué de presse publié par l’Agence du numérique en santé le 31 mai.

Des questions éthiques à chaque étape

Le processus d’élaboration d’une solution d’IA comporte plusieurs étapes : cadrage, collecte des données, prétraitement des données, construction de l’algorithme et évaluation de l’algorithme en amont de la mise en production de la solution numérique. Des questionnements éthiques propres à chacune de ces étapes ont été proposés.

La démarche méthodologique du guide permet d’identifier l’ensemble des éléments spécifiques à prendre en compte pour intégrer l’éthique « by design » tant dans la phase de conception, en intégrant les valeurs éthiques dans la sélection des données d’apprentissage et l’architecture logicielle des systèmes, qu’à l’issue de la réalisation, pour valider les solutions proposées et éviter les biais redoutés de l’IA.

Certaines recommandations sont déjà entrées dans le droit national et européen, comme, dans ce nouveau cadre juridique de l’IA en santé, le devoir d’information du patient sur le recours à des traitements algorithmiques dans sa prise en charge ou le nouveau principe de garantie humaine de l’intelligence artificielle.

Le guide balaie également le paysage des recommandations existantes, produites par d’autres institutions françaises ou internationales, et propose une analyse croisée des différentes sources pertinentes pour permettre au lecteur de se les approprier.

Avez-vous apprécié ce contenu ?

A lire également.

Illustration Un code de bonnes pratiques pour les modèles d'IA à usage général

Un code de bonnes pratiques pour les modèles d'IA à usage général

15 juil. 2025 - 16:57,

Actualité

-
Marguerite Brac de La Perrière

Entré en vigueur le 1er août 2024, le Règlement sur l'Intelligence Artificielle (AI Act) vise à créer un cadre juridique uniforme pour le développement, la mise sur le marché, la mise en service et l’utilisation de systèmes d'IA dans le respect des valeurs de l’Union. Parmi les systèmes d'IA encadré...

Illustration Le numérique médico-social : mutation systémique et levier d’humanité

Le numérique médico-social : mutation systémique et levier d’humanité

08 juil. 2025 - 01:07,

Actualité

- DSIH

Longtemps resté en périphérie des politiques publiques du numérique en santé, le secteur médico-social entre aujourd’hui dans une phase de transformation profonde. C’est cette bascule, inédite et structurante, que décrivent Olivier Babinet et Manon Lorenzo dans leur ouvrage Le virage du numérique en...

Illustration Mobisoins Patient : quand soignants et éditeur innovent ensemble au service du patient

Mobisoins Patient : quand soignants et éditeur innovent ensemble au service du patient

08 juil. 2025 - 00:49,

Actualité

- Maellie Vezien, DSIH

À l’heure où les soins hospitaliers se déploient de plus en plus à domicile, l’implication du patient dans son parcours de santé devient essentielle. Mais comment favoriser son autonomie tout en garantissant une prise en charge sécurisée ? C’est le défi que relèvent l’HAD Vendée et Dicsit Informatiq...

Illustration Pilotage des blocs opératoires : l’Anap dévoile une plateforme numérique intégrée pour améliorer la performance et la gouvernance

Pilotage des blocs opératoires : l’Anap dévoile une plateforme numérique intégrée pour améliorer la performance et la gouvernance

08 juil. 2025 - 00:26,

Actualité

- DSIH

L’Agence nationale de la performance sanitaire et médico-sociale (Anap) franchit un nouveau cap dans le soutien aux établissements de santé avec le lancement d’une plateforme numérique unique dédiée à l’optimisation des blocs opératoires. Ce nouvel outil regroupe 22 ressources opérationnelles destin...

Lettre d'information.

Ne manquez rien de la e-santé et des systèmes d’informations hospitaliers !

Inscrivez-vous à notre lettre d’information hebdomadaire.