Recos de la DNS pour une éthique « by design » des solutions d’IA

La Délégation ministérielle au numérique en santé (DNS) a mis en ligne fin mai ses Recommandations de bonnes pratiques pour intégrer l’éthique dès le développement des solutions d’intelligence artificielle en santé : mise en œuvre de « l’éthique by design ». Ce document est issu des travaux du GT3 de la cellule Éthique du numérique en santé de la DNS.

Le fruit d’un travail de deux ans mené par des experts pluriprofessionnels

Pour la DNS, la mission de Cédric Villani sur la mise en œuvre d’une stratégie française et européenne en intelligence artificielle et l’article 17 de la loi du 2 août 2021 sur la bioéthique ont mis en lumière les enjeux éthiques liés au recours à l’intelligence artificielle en santé. Dans une approche de coconstruction, les travaux de la cellule Éthique ont associé, pendant deux ans, des experts pluriprofessionnels avec des chercheurs en IA, des représentants des patients, des professionnels de santé, des juristes, des sociologues, des éthiciens, et des éditeurs (notamment des start-up). Ils ont abouti à des recommandations de bonnes pratiques pour intégrer l’éthique dès les premières étapes du développement des solutions d’IA en santé.

« On propose des outils très pratiques pour les concepteurs des solutions d’IA en santé, en articulation avec les professionnels de santé et les représentants des patients, en cohérence avec les chantiers en cours sur le plan législatif à la fois national et européen, avec un principe de garantie humaine de l’IA relayé dans la loi de bioéthique et dans le projet de règlement européen de l’IA », explique David Gruson, directeur du programme Santé chez Luminess et fondateur d’Ethik-IA dans un communiqué de presse publié par l’Agence du numérique en santé le 31 mai.

Des questions éthiques à chaque étape

Le processus d’élaboration d’une solution d’IA comporte plusieurs étapes : cadrage, collecte des données, prétraitement des données, construction de l’algorithme et évaluation de l’algorithme en amont de la mise en production de la solution numérique. Des questionnements éthiques propres à chacune de ces étapes ont été proposés.

La démarche méthodologique du guide permet d’identifier l’ensemble des éléments spécifiques à prendre en compte pour intégrer l’éthique « by design » tant dans la phase de conception, en intégrant les valeurs éthiques dans la sélection des données d’apprentissage et l’architecture logicielle des systèmes, qu’à l’issue de la réalisation, pour valider les solutions proposées et éviter les biais redoutés de l’IA.

Certaines recommandations sont déjà entrées dans le droit national et européen, comme, dans ce nouveau cadre juridique de l’IA en santé, le devoir d’information du patient sur le recours à des traitements algorithmiques dans sa prise en charge ou le nouveau principe de garantie humaine de l’intelligence artificielle.

Le guide balaie également le paysage des recommandations existantes, produites par d’autres institutions françaises ou internationales, et propose une analyse croisée des différentes sources pertinentes pour permettre au lecteur de se les approprier.