Publicité en cours de chargement...
Diagnostic médical et intelligence artificielle : deux comités d’éthique formulent des recommandations et appellent à la vigilance
Cet avis de 58 pages, accessible sur le site du CCNE, est divisé en quatre parties. Il commence par décrire les principaux soubassements de l’utilisation de systèmes d’intelligence artificielle dans le diagnostic médical (partie 1) et leur portée opérationnelle (partie 2), avant de questionner la procession de régulation de ces systèmes, qui « reste à construire » (partie 3) et de décrire les enjeux éthiques posés (partie 4).
Si les auteurs de l’avis notent que les systèmes d’intelligence artificielle appliqués au diagnostic médical (SIADM) sont d’ores et déjà pourvoyeurs de nombreux progrès (identification de lésions qui échappent à l’œil humain ; traitement rapide de cas assez aisés à diagnostiquer mais répétitifs ; amélioration de l’organisation des soins ; etc.), ils rappellent que « les promesses sont nombreuses et nécessitent dans un premier temps de bien les distinguer des faits ». Ils insistent également sur le fait que les SIADM « produisent des résultats basés d’une part sur des approches qui peuvent être probabilistes et d’autre part peuvent être entachés d’erreurs ».
Les deux comités d’éthique estiment qu’il ne serait pas éthique de priver, a priori, les équipes soignantes et les patients des atouts des SIADM. Néanmoins, ils invitent les utilisateurs à « se donner constamment les moyens de prendre de la distance avec le résultat fourni » et jugent « indispensable » de mieux encadrer ces systèmes pour augmenter la confiance en eux.
Ils formulent pour cela seize recommandations. Ils appellent notamment à améliorer le contrôle de conformité des SIADM, qui doit « être accompagné d’une évaluation de son efficacité clinique montrant, au-delà de son absence de nocivité, qu’il contribue efficacement au principe de bienfaisance ». Les autorités doivent s’assurer que « les SIADM s’inscrivent dans une logique d’amélioration continue de la qualité et de la sécurité des soins » et éviter qu’ils « ne soient positionnés dans une logique de substitution à l’intervention humaine des professionnels de santé ».
D’autres recommandations préconisent de soumettre les SIADM à un contrôle humain à toutes les étapes-clés de la conception et de l’application en vie réelle du dispositif ; de faciliter l’explicabilité des résultats obtenus afin que les médecins soient en mesure de leur donner un sens clinique ; d’informer le patient en cas de recours à un SIADM ; mais aussi d’encourager la recherche afin d’améliorer les processus de validation de l’intérêt clinique et de conformité des SIADM.
Les systèmes d’intelligence artificielle doivent en outre « toujours être utilisés en priorité dans une optique d’amélioration du soin, avant les intérêts organisationnels, économiques, ou managériaux », souligne l’avis.
Avez-vous apprécié ce contenu ?
A lire également.

Un code de bonnes pratiques pour les modèles d'IA à usage général
15 juil. 2025 - 16:57,
Actualité
-Entré en vigueur le 1er août 2024, le Règlement sur l'Intelligence Artificielle (AI Act) vise à créer un cadre juridique uniforme pour le développement, la mise sur le marché, la mise en service et l’utilisation de systèmes d'IA dans le respect des valeurs de l’Union. Parmi les systèmes d'IA encadré...

Le numérique médico-social : mutation systémique et levier d’humanité
08 juil. 2025 - 01:07,
Actualité
- DSIHLongtemps resté en périphérie des politiques publiques du numérique en santé, le secteur médico-social entre aujourd’hui dans une phase de transformation profonde. C’est cette bascule, inédite et structurante, que décrivent Olivier Babinet et Manon Lorenzo dans leur ouvrage Le virage du numérique en...

Mobisoins Patient : quand soignants et éditeur innovent ensemble au service du patient
08 juil. 2025 - 00:49,
Actualité
- Maellie Vezien, DSIHÀ l’heure où les soins hospitaliers se déploient de plus en plus à domicile, l’implication du patient dans son parcours de santé devient essentielle. Mais comment favoriser son autonomie tout en garantissant une prise en charge sécurisée ? C’est le défi que relèvent l’HAD Vendée et Dicsit Informatiq...

Pilotage des blocs opératoires : l’Anap dévoile une plateforme numérique intégrée pour améliorer la performance et la gouvernance
08 juil. 2025 - 00:26,
Actualité
- DSIHL’Agence nationale de la performance sanitaire et médico-sociale (Anap) franchit un nouveau cap dans le soutien aux établissements de santé avec le lancement d’une plateforme numérique unique dédiée à l’optimisation des blocs opératoires. Ce nouvel outil regroupe 22 ressources opérationnelles destin...