Publicité en cours de chargement...

Publicité en cours de chargement...

Diagnostic médical et intelligence artificielle : deux comités d’éthique formulent des recommandations et appellent à la vigilance

16 jan. 2023 - 10:47,
Actualité - DSIH
Le Comité consultatif national d’éthique (CCNE) et le comité national pilote d’éthique du numérique (CNPEN), en réponse à une saisine adressée par le Premier ministre, ont publié le 10 janvier un avis sur les enjeux d’éthique de l’utilisation de l’intelligence artificielle (IA) dans le champ du diagnostic médical.

Cet avis de 58 pages, accessible sur le site du CCNE, est divisé en quatre parties. Il commence par décrire les principaux soubassements de l’utilisation de systèmes d’intelligence artificielle dans le diagnostic médical (partie 1) et leur portée opérationnelle (partie 2), avant de questionner la procession de régulation de ces systèmes, qui « reste à construire » (partie 3) et de décrire les enjeux éthiques posés (partie 4).

Si les auteurs de l’avis notent que les systèmes d’intelligence artificielle appliqués au diagnostic médical (SIADM) sont d’ores et déjà pourvoyeurs de nombreux progrès (identification de lésions qui échappent à l’œil humain ; traitement rapide de cas assez aisés à diagnostiquer mais répétitifs ; amélioration de l’organisation des soins ; etc.), ils rappellent que « les promesses sont nombreuses et nécessitent dans un premier temps de bien les distinguer des faits ». Ils insistent également sur le fait que les SIADM « produisent des résultats basés d’une part sur des approches qui peuvent être probabilistes et d’autre part peuvent être entachés d’erreurs ».

Les deux comités d’éthique estiment qu’il ne serait pas éthique de priver, a priori, les équipes soignantes et les patients des atouts des SIADM. Néanmoins, ils invitent les utilisateurs à « se donner constamment les moyens de prendre de la distance avec le résultat fourni » et jugent « indispensable » de mieux encadrer ces systèmes pour augmenter la confiance en eux.

Ils formulent pour cela seize recommandations. Ils appellent notamment à améliorer le contrôle de conformité des SIADM, qui doit « être accompagné d’une évaluation de son efficacité clinique montrant, au-delà de son absence de nocivité, qu’il contribue efficacement au principe de bienfaisance ». Les autorités doivent s’assurer que « les SIADM s’inscrivent dans une logique d’amélioration continue de la qualité et de la sécurité des soins » et éviter qu’ils « ne soient positionnés dans une logique de substitution à l’intervention humaine des professionnels de santé ».

D’autres recommandations préconisent de soumettre les SIADM à un contrôle humain à toutes les étapes-clés de la conception et de l’application en vie réelle du dispositif ; de faciliter l’explicabilité des résultats obtenus afin que les médecins soient en mesure de leur donner un sens clinique ; d’informer le patient en cas de recours à un SIADM ; mais aussi d’encourager la recherche afin d’améliorer les processus de validation de l’intérêt clinique et de conformité des SIADM.

Les systèmes d’intelligence artificielle doivent en outre « toujours être utilisés en priorité dans une optique d’amélioration du soin, avant les intérêts organisationnels, économiques, ou managériaux », souligne l’avis.

À lire aussi : Intelligence artificielle, algorithmes d’aide à la décision et à la thérapeutique, comment la garantie humaine doit-elle être mise en œuvre ? quelles exigences pour les utilisateurs professionnels de santé ?

Avez-vous apprécié ce contenu ?

A lire également.

Illustration Un code de bonnes pratiques pour les modèles d'IA à usage général

Un code de bonnes pratiques pour les modèles d'IA à usage général

15 juil. 2025 - 16:57,

Actualité

-
Marguerite Brac de La Perrière

Entré en vigueur le 1er août 2024, le Règlement sur l'Intelligence Artificielle (AI Act) vise à créer un cadre juridique uniforme pour le développement, la mise sur le marché, la mise en service et l’utilisation de systèmes d'IA dans le respect des valeurs de l’Union. Parmi les systèmes d'IA encadré...

Illustration Le numérique médico-social : mutation systémique et levier d’humanité

Le numérique médico-social : mutation systémique et levier d’humanité

08 juil. 2025 - 01:07,

Actualité

- DSIH

Longtemps resté en périphérie des politiques publiques du numérique en santé, le secteur médico-social entre aujourd’hui dans une phase de transformation profonde. C’est cette bascule, inédite et structurante, que décrivent Olivier Babinet et Manon Lorenzo dans leur ouvrage Le virage du numérique en...

Illustration Mobisoins Patient : quand soignants et éditeur innovent ensemble au service du patient

Mobisoins Patient : quand soignants et éditeur innovent ensemble au service du patient

08 juil. 2025 - 00:49,

Actualité

- Maellie Vezien, DSIH

À l’heure où les soins hospitaliers se déploient de plus en plus à domicile, l’implication du patient dans son parcours de santé devient essentielle. Mais comment favoriser son autonomie tout en garantissant une prise en charge sécurisée ? C’est le défi que relèvent l’HAD Vendée et Dicsit Informatiq...

Illustration Pilotage des blocs opératoires : l’Anap dévoile une plateforme numérique intégrée pour améliorer la performance et la gouvernance

Pilotage des blocs opératoires : l’Anap dévoile une plateforme numérique intégrée pour améliorer la performance et la gouvernance

08 juil. 2025 - 00:26,

Actualité

- DSIH

L’Agence nationale de la performance sanitaire et médico-sociale (Anap) franchit un nouveau cap dans le soutien aux établissements de santé avec le lancement d’une plateforme numérique unique dédiée à l’optimisation des blocs opératoires. Ce nouvel outil regroupe 22 ressources opérationnelles destin...

Lettre d'information.

Ne manquez rien de la e-santé et des systèmes d’informations hospitaliers !

Inscrivez-vous à notre lettre d’information hebdomadaire.