Publicité en cours de chargement...

Publicité en cours de chargement...

Intelligence artificielle, algorithmes d’aide à la décision et à la thérapeutique, quelles informations fournir aux patients ? comment y satisfaire ?

30 mai 2022 - 13:19,
Tribune - Marguerite Brac de La Perrière
Après avoir respectivement dans les deux derniers volets(1), adressé les obligations des professionnels de santé, et celles des établissements de santé utilisant des outils d’intelligence artificielle (IA) dans le cadre d’actes de prévention, de diagnostic ou de soins, il s’agit dans le présent papier de préciser les conditions dans lesquelles satisfaire aux droits et des patients. 

Comme explicité en filigrane dans les derniers volets, s’il y a un maître mot concernant l’intelligence artificielle, et aussi paradoxal que cela puisse paraître, c’est l’humain, lequel doit rester au cœur de chaque étape de la conception, du développement et du déploiement de tout système d’intelligence artificielle, ce que garantit le référentiel légal et le droit mou. 

C’est ainsi que l’OMS a, il y a bientôt un an, défini six principes pour que, dans tous les pays, l’IA en matière de santé œuvre dans l’intérêt public, dont en particulier l’autonomie de l’être humain, et la transparence.

« L’IA est un outil qui devrait se mettre au service des personnes et constituer une force positive pour la société afin d’accroître, en définitive, le bien-être de l’être humain. », tels sont la justification et les objectifs de la proposition de règlement relatif à l’intelligence artificielle, pleinement inscrite dans la stratégie numérique globale de la Commission en ce qu’elle contribue à promouvoir des technologies au service des personnes. La proposition établit ainsi un cadre cohérent, efficace et proportionné destiné à garantir que l’IA soit développée de manière à respecter les droits des personnes et à gagner la confiance de ceux-ci. 

Les obligations en matière de transparence sont ainsi destinées à permettre aux personnes d’exercer leur droit à un recours effectif et à la transparence. 

C’est dans le même sens qu’ont été adoptés les principes européens pour l’éthique du numérique en santé par la France en sa qualité de présidente du Conseil de l’Union Européenne, en particulier le 4ème : « lorsqu’une intelligence artificielle est mise en œuvre, le maximum a été fait pour qu’elle soit explicable et sans biais discriminatoire ». 

De même, les dispositions de la Loi de Bioéthique, transposées au sein du code de la santé publique, ont posé le principe d’une une obligation d’information du patient par le professionnel de santé concernant : 

-        l’utilisation, « pour un acte de prévention, de diagnostic ou de soin, d‘un dispositif médical comportant un traitement de données algorithmique dont l'apprentissage a été réalisé à partir de données massives » ;

-        l’interprétation qui en résulte, ceci signifiant que le patient doit également bénéficier d’un éclairage lui permettant de l’apprécier.

Les informations mises à disposition des patients au sein des établissements de santé, notamment au sein des politiques de confidentialité, devront donc être complétées, selon les services utilisateurs d’IA, d’informations spécifiques à fournir par les professionnels de santé aux patients, concernant l’utilisation d’un système d’IA, notamment son contexte d’utilisation, sa destination, sa fiabilité, ses performances, et ses spécifications concernant les données utilisées.  

Enfin, la personne concernée a le droit de ne pas faire l'objet d'une décision fondée exclusivement sur un traitement automatisé produisant des effets juridiques la concernant ou l'affectant de manière significative de façon similaire, et ce, au titre du RGPD, faisant ainsi écho au contrôle humain consacré au projet de règlement relatif à l’IA.

Chacun l’aura compris, la transparence, et donc l’information, est la principale obligation des concepteurs à l’égard des utilisateurs, et des utilisateurs à l’égard des patients. 

Rappelons que les sanctions encourues en matière de protection des données et en matière d’intelligence artificielle sont similaires, les dernières pouvant toutefois s’élever jusqu’à 20 000 000 € s’agissant des exigences relatives à la transparence.  


(1) /article/4703/intelligence-artificielle-algorithmes-d-aide-a-la-decision-et-a-la-therapeutique-comment-la-garantie-humaine-doit-elle-etre-mise-en-oeuvre-quelles-exigences-pour-les-utilisateurs-professionnels-de-sante.html 

À découvrirIntelligence artificielle, algorithmes d’aide à la décision et à la thérapeutique, comment la garantie humaine doit-elle être mise en œuvre ? quelles exigences pour les utilisateurs professionnels de santé ?

/article/4726/intelligence-artificielle-algorithmes-d-aide-a-la-decision-et-a-la-therapeutique-quelles-exigences-pour-les-utilisateurs-des-etablissements-de-sante.html 


L'auteur

Marguerite Brac de La Perrière est avocate, associée du cabinet Lerins, experte en Santé Numérique.
Elle accompagne les acteurs de la santé dans leur conformité réglementaire, leur développement et leur croissance, notamment en matière de traitements de données, de réutilisation des données, et de contrats informatiques.
[email protected] 

Avez-vous apprécié ce contenu ?

A lire également.

Illustration Le consortium AGORiA Santé en partenariat avec BIOGROUP obtient la 1ère autorisation de la CNIL permettant d’associer des données de biologie et du SNDS (système national des données de santé)

Le consortium AGORiA Santé en partenariat avec BIOGROUP obtient la 1ère autorisation de la CNIL permettant d’associer des données de biologie et du SNDS (système national des données de santé)

22 juil. 2025 - 10:23,

Communiqué

- Biogroup & Agoria Santé

le 21 juillet 2025 – Le consortium AGORiA Santé est autorisé par la CNIL (Commission nationale de l'informatique et des libertés) à enrichir sa plateforme, entrepôt de données de santé système fils SNDS, avec des données d’analyses de biologie médicales issues du réseau BIOGROUP. Créé en 2021, le co...

Illustration Un code de bonnes pratiques pour les modèles d'IA à usage général

Un code de bonnes pratiques pour les modèles d'IA à usage général

15 juil. 2025 - 16:57,

Actualité

-
Marguerite Brac de La Perrière

Entré en vigueur le 1er août 2024, le Règlement sur l'Intelligence Artificielle (AI Act) vise à créer un cadre juridique uniforme pour le développement, la mise sur le marché, la mise en service et l’utilisation de systèmes d'IA dans le respect des valeurs de l’Union. Parmi les systèmes d'IA encadré...

Illustration Le numérique médico-social : mutation systémique et levier d’humanité

Le numérique médico-social : mutation systémique et levier d’humanité

08 juil. 2025 - 01:07,

Actualité

- DSIH

Longtemps resté en périphérie des politiques publiques du numérique en santé, le secteur médico-social entre aujourd’hui dans une phase de transformation profonde. C’est cette bascule, inédite et structurante, que décrivent Olivier Babinet et Manon Lorenzo dans leur ouvrage Le virage du numérique en...

Illustration Mobisoins Patient : quand soignants et éditeur innovent ensemble au service du patient

Mobisoins Patient : quand soignants et éditeur innovent ensemble au service du patient

08 juil. 2025 - 00:49,

Actualité

- Maellie Vezien, DSIH

À l’heure où les soins hospitaliers se déploient de plus en plus à domicile, l’implication du patient dans son parcours de santé devient essentielle. Mais comment favoriser son autonomie tout en garantissant une prise en charge sécurisée ? C’est le défi que relèvent l’HAD Vendée et Dicsit Informatiq...

Lettre d'information.

Ne manquez rien de la e-santé et des systèmes d’informations hospitaliers !

Inscrivez-vous à notre lettre d’information hebdomadaire.