Publicité en cours de chargement...
Intelligence artificielle en santé, un nouveau référentiel national
Écouter l'article

Le guide d’implémentation de l’éthique dans les SIA en santé, publié en juillet 2025 par la cellule éthique de la Délégation au numérique en santé (DNS)1 vise à proposer une approche structurée et pragmatique pour accompagner les acteurs du numérique en santé dans la mise en œuvre de systèmes conformes aux exigences du RGPD, du Règlement sur les Dispositifs Médicaux (MDR), de l'AI Act, et à des critères éthiques du soin.
Le RGPD comme socle de régulation des données de santé
L’entraînement des algorithmes, en tant qu'utilisation secondaire des données de santé, doit s'inscrire dans le respect du RGPD. A ce titre, l'utilisation secondaire des données de santé doit en particulier respecter les principes fondamentaux relatifs au traitement de données, dont la minimisation des données, la licéité du traitement, la transparence et la sécurité (article 5 RGPD) y incluant un hébergement HDS selon le Guide, et reposer sur une base de licéité (au titre de l'article 6 du RGPD) et également une condition au titre de l'article 9 du RGPD (conditions de traitement des catégories particulières de données), le cas échéant un consentement, précédé d'une information répondant aux exigences du RGPD.
Une réflexion doit être conduite et documentée par le fournisseur du SIA afin que seules les données nécessaires soient utilisées pour l’entraînement, la production et l’exploitation du SIA, mais néanmoins suffisantes pour que le SIA soit performant de la même manière pour toutes les personnes de la population cible du SIA.
L'AI Act, des exigences pour les systèmes à haut risque et des obligations pour leurs fournisseurs
Les SIA utilisés en santé constituent généralement des systèmes d'IA à « haut risque », soumis à des exigences spécifiques : mise en place d’un système de gestion des risques (article 9), la gouvernance des données, y incluant la prévention et gestion des biais (article 10), la documentation technique (article 11), l’enregistrement des événements (article 12), la transparence et la fourniture d'informations aux déployeurs (article 13), le contrôle humain (article 14), et l'exactitude, la robustesse et la cybersécurité (article 15), y incluant la conformité HDS.
Le guide de la DNS complète ces exigences et propose des critères concrets, tels que la traçabilité des désactivations, la transparence sur le suivi ou non des recommandations de l’IA, et la mise en place de comités scientifiques et éthiques dès la phase de cadrage. Il insiste sur la nécessité de garantir l’autonomie décisionnelle des professionnels de santé et de préserver leur responsabilité dans l’usage des outils numériques.
L’IA générative : vigilance renforcée et encadrement spécifique
Face à l’essor des IA génératives, le guide introduit des critères spécifiques visant à prévenir la restitution de données personnelles, le plagiat, les hallucinations algorithmiques, et la dépendance cognitive des utilisateurs. Il recommande la mise en œuvre de mécanismes de filtrage, de citation explicite des sources, et d’alerte en cas de détection d’une dépendance à l’IA.
Ces mesures visent à préserver l’esprit critique des professionnels de santé, à garantir la qualité des réponses générées, et à assurer que les patients soient incités à consulter un professionnel en cas de situation d’urgence.
Une approche nationale opérationnelle fondée sur des critères éthiques et réglementaires
Au-delà de l'ambition de lisibilité du cadre réglementaire, le guide vise à rendre applicables des critères éthiques, afin de garantir la confiance des citoyens et des soignants. Une nouvelle spécificité nationale dont tenir compte, pour les fournisseurs internationaux de systèmes d'IA, d'autant que le guide pourrait, à terme, être intégré aux référentiels sectoriels opposables…
1. Guide d'implémentation de l'éthique dans les SIA en santé - DNS - 07-2025

Marguerite Brac de La Perrière
Avez-vous apprécié ce contenu ?
A lire également.

Satelia® et Withings s’associent pour réinventer le suivi à distance des patients insuffisants cardiaques
11 juin 2025 - 17:22,
Communiqué
- Satelia® et WithingsSatelia®, leader de la télésurveillance de l’insuffisance cardiaque, et Withings, pionnier des objets connectés de santé, unissent leurs expertises pour améliorer le suivi à distance des patients insuffisants cardiaques. En intégrant la balance connectée Withings Body Pro dans le programme Satelia® ...

Vu à SantExpo 2025 : Automatiser et revaloriser le codage des séjours hospitaliers grâce à l’interaction du PMSI Dedalus et de l’IA SANCARE
10 juin 2025 - 10:27,
Actualité
- DSIH, Pauline NicolasOptimiser le codage PMSI par l’innovation et l’intelligence artificielle, tel est le message clé de la dernière conférence qui s’est tenue au sein de l’auditorium Dedalus en clôture de cette 59ème édition de SantExpo. Dedalus, leader des solutions PMSI en France, et SANCARE, spécialiste de l’intelli...

Partenariat Malt-Resah Un levier stratégique pour accéder à l’expertise freelance
09 juin 2025 - 20:54,
Actualité
- DSIH, Damien DuboisLe jeudi 5 juin, Malt et le Resah ont organisé un webinaire commun sur leur partenariat et les opportunités qu’il offre aux projets des adhérents du Resah, lors duquel Xavier Vallin, freelance engagé auprès d’établissements de santé, a fait part de son retour d’expérience.

Appel à projet cybersécurité : l’ARS Auvergne-Rhône-Alpes soutient l’innovation en établissements de santé
06 juin 2025 - 18:52,
Actualité
- DSIHL’Agence régionale de santé Auvergne-Rhône-Alpes lance un appel à projet pour expérimenter des solutions innovantes en cybersécurité dans les établissements sanitaires et médico-sociaux. Les candidatures sont ouvertes jusqu’au 30 juin 2025. L’initiative s’inscrit dans le cadre du programme CaRE, pou...