Publicité en cours de chargement...

Publicité en cours de chargement...

Intelligence artificielle en santé, un nouveau référentiel national

01 sept. 2025 - 15:12,
Tribune-
Marguerite Brac de La Perrière

Écouter l'article

0:000:00
Illustration Intelligence artificielle en santé, un nouveau référentiel national
Si l'intégration croissante de différentes typologies de systèmes d’intelligence artificielle (SIA) dans le secteur de la santé est une formidable opportunité pour la qualité et la sécurité des soins, elle doit s'accompagner de garde fous réglementaires et opérationnels.

Le guide d’implémentation de l’éthique dans les SIA en santé, publié en juillet 2025 par la cellule éthique de la Délégation au numérique en santé (DNS)1 vise à proposer une approche structurée et pragmatique pour accompagner les acteurs du numérique en santé dans la mise en œuvre de systèmes conformes aux exigences du RGPD, du Règlement sur les Dispositifs Médicaux (MDR), de l'AI Act, et à des critères éthiques du soin.

Le RGPD comme socle de régulation des données de santé

L’entraînement des algorithmes, en tant qu'utilisation secondaire des données de santé, doit s'inscrire dans le respect du RGPD. A ce titre, l'utilisation secondaire des données de santé doit en particulier respecter les principes fondamentaux relatifs au traitement de données, dont la minimisation des données, la licéité du traitement, la transparence et la sécurité (article 5 RGPD) y incluant un hébergement HDS selon le Guide, et reposer sur une base de licéité (au titre de l'article 6 du RGPD) et également une condition au titre de l'article 9 du RGPD (conditions de traitement des catégories particulières de données), le cas échéant un consentement, précédé d'une information répondant aux exigences du RGPD.

Une réflexion doit être conduite et documentée par le fournisseur du SIA afin que seules les données nécessaires soient utilisées pour l’entraînement, la production et l’exploitation du SIA, mais néanmoins suffisantes pour que le SIA soit performant de la même manière pour toutes les personnes de la population cible du SIA.

L'AI Act, des exigences pour les systèmes à haut risque et des obligations pour leurs fournisseurs

Les SIA utilisés en santé constituent généralement des systèmes d'IA à « haut risque », soumis à des exigences spécifiques : mise en place d’un système de gestion des risques (article 9), la gouvernance des données, y incluant la prévention et gestion des biais (article 10), la documentation technique (article 11), l’enregistrement des événements (article 12), la transparence et la fourniture d'informations aux déployeurs (article 13), le contrôle humain (article 14), et l'exactitude, la robustesse et la cybersécurité (article 15), y incluant la conformité HDS.

Le guide de la DNS complète ces exigences et propose des critères concrets, tels que la traçabilité des désactivations, la transparence sur le suivi ou non des recommandations de l’IA, et la mise en place de comités scientifiques et éthiques dès la phase de cadrage. Il insiste sur la nécessité de garantir l’autonomie décisionnelle des professionnels de santé et de préserver leur responsabilité dans l’usage des outils numériques.

L’IA générative : vigilance renforcée et encadrement spécifique

Face à l’essor des IA génératives, le guide introduit des critères spécifiques visant à prévenir la restitution de données personnelles, le plagiat, les hallucinations algorithmiques, et la dépendance cognitive des utilisateurs. Il recommande la mise en œuvre de mécanismes de filtrage, de citation explicite des sources, et d’alerte en cas de détection d’une dépendance à l’IA.

Ces mesures visent à préserver l’esprit critique des professionnels de santé, à garantir la qualité des réponses générées, et à assurer que les patients soient incités à consulter un professionnel en cas de situation d’urgence.

Une approche nationale opérationnelle fondée sur des critères éthiques et réglementaires

Au-delà de l'ambition de lisibilité du cadre réglementaire, le guide vise à rendre applicables des critères éthiques, afin de garantir la confiance des citoyens et des soignants. Une nouvelle spécificité nationale dont tenir compte, pour les fournisseurs internationaux de systèmes d'IA, d'autant que le guide pourrait, à terme, être intégré aux référentiels sectoriels opposables…


1. Guide d'implémentation de l'éthique dans les SIA en santé - DNS - 07-2025

photo de Brac de La Perrière
Marguerite Brac de La Perrière

Avez-vous apprécié ce contenu ?

A lire également.

Illustration Satelia® et Withings s’associent pour réinventer le suivi à distance des patients insuffisants cardiaques

Satelia® et Withings s’associent pour réinventer le suivi à distance des patients insuffisants cardiaques

11 juin 2025 - 17:22,

Communiqué

- Satelia® et Withings

Satelia®, leader de la télésurveillance de l’insuffisance cardiaque, et Withings, pionnier des objets connectés de santé, unissent leurs expertises pour améliorer le suivi à distance des patients insuffisants cardiaques. En intégrant la balance connectée Withings Body Pro dans le programme Satelia® ...

Illustration Vu à SantExpo 2025 : Automatiser et revaloriser le codage des séjours hospitaliers grâce à l’interaction du PMSI Dedalus et de l’IA SANCARE

Vu à SantExpo 2025 : Automatiser et revaloriser le codage des séjours hospitaliers grâce à l’interaction du PMSI Dedalus et de l’IA SANCARE

10 juin 2025 - 10:27,

Actualité

- DSIH, Pauline Nicolas

Optimiser le codage PMSI par l’innovation et l’intelligence artificielle, tel est le message clé de la dernière conférence qui s’est tenue au sein de l’auditorium Dedalus en clôture de cette 59ème édition de SantExpo. Dedalus, leader des solutions PMSI en France, et SANCARE, spécialiste de l’intelli...

Illustration Partenariat Malt-Resah Un levier stratégique pour accéder à l’expertise freelance

Partenariat Malt-Resah Un levier stratégique pour accéder à l’expertise freelance

09 juin 2025 - 20:54,

Actualité

- DSIH, Damien Dubois

Le jeudi 5 juin, Malt et le Resah ont organisé un webinaire commun sur leur partenariat et les opportunités qu’il offre aux projets des adhérents du Resah, lors duquel Xavier Vallin, freelance engagé auprès d’établissements de santé, a fait part de son retour d’expérience.

Illustration Appel à projet cybersécurité : l’ARS Auvergne-Rhône-Alpes soutient l’innovation en établissements de santé

Appel à projet cybersécurité : l’ARS Auvergne-Rhône-Alpes soutient l’innovation en établissements de santé

06 juin 2025 - 18:52,

Actualité

- DSIH

L’Agence régionale de santé Auvergne-Rhône-Alpes lance un appel à projet pour expérimenter des solutions innovantes en cybersécurité dans les établissements sanitaires et médico-sociaux. Les candidatures sont ouvertes jusqu’au 30 juin 2025. L’initiative s’inscrit dans le cadre du programme CaRE, pou...

Lettre d'information.

Ne manquez rien de la e-santé et des systèmes d’informations hospitaliers !

Inscrivez-vous à notre lettre d’information hebdomadaire.