Publicité en cours de chargement...

Publicité en cours de chargement...

Publicité en cours de chargement...

Intelligence artificielle, algorithmes d’aide à la décision et à la thérapeutique, quelles informations fournir aux patients ? comment y satisfaire ?

30 mai 2022 - 13:19,
Tribune - Marguerite Brac de La Perrière
Après avoir respectivement dans les deux derniers volets(1), adressé les obligations des professionnels de santé, et celles des établissements de santé utilisant des outils d’intelligence artificielle (IA) dans le cadre d’actes de prévention, de diagnostic ou de soins, il s’agit dans le présent papier de préciser les conditions dans lesquelles satisfaire aux droits et des patients. 

Comme explicité en filigrane dans les derniers volets, s’il y a un maître mot concernant l’intelligence artificielle, et aussi paradoxal que cela puisse paraître, c’est l’humain, lequel doit rester au cœur de chaque étape de la conception, du développement et du déploiement de tout système d’intelligence artificielle, ce que garantit le référentiel légal et le droit mou. 

C’est ainsi que l’OMS a, il y a bientôt un an, défini six principes pour que, dans tous les pays, l’IA en matière de santé œuvre dans l’intérêt public, dont en particulier l’autonomie de l’être humain, et la transparence.

« L’IA est un outil qui devrait se mettre au service des personnes et constituer une force positive pour la société afin d’accroître, en définitive, le bien-être de l’être humain. », tels sont la justification et les objectifs de la proposition de règlement relatif à l’intelligence artificielle, pleinement inscrite dans la stratégie numérique globale de la Commission en ce qu’elle contribue à promouvoir des technologies au service des personnes. La proposition établit ainsi un cadre cohérent, efficace et proportionné destiné à garantir que l’IA soit développée de manière à respecter les droits des personnes et à gagner la confiance de ceux-ci. 

Les obligations en matière de transparence sont ainsi destinées à permettre aux personnes d’exercer leur droit à un recours effectif et à la transparence. 

C’est dans le même sens qu’ont été adoptés les principes européens pour l’éthique du numérique en santé par la France en sa qualité de présidente du Conseil de l’Union Européenne, en particulier le 4ème : « lorsqu’une intelligence artificielle est mise en œuvre, le maximum a été fait pour qu’elle soit explicable et sans biais discriminatoire ». 

De même, les dispositions de la Loi de Bioéthique, transposées au sein du code de la santé publique, ont posé le principe d’une une obligation d’information du patient par le professionnel de santé concernant : 

-        l’utilisation, « pour un acte de prévention, de diagnostic ou de soin, d‘un dispositif médical comportant un traitement de données algorithmique dont l'apprentissage a été réalisé à partir de données massives » ;

-        l’interprétation qui en résulte, ceci signifiant que le patient doit également bénéficier d’un éclairage lui permettant de l’apprécier.

Les informations mises à disposition des patients au sein des établissements de santé, notamment au sein des politiques de confidentialité, devront donc être complétées, selon les services utilisateurs d’IA, d’informations spécifiques à fournir par les professionnels de santé aux patients, concernant l’utilisation d’un système d’IA, notamment son contexte d’utilisation, sa destination, sa fiabilité, ses performances, et ses spécifications concernant les données utilisées.  

Enfin, la personne concernée a le droit de ne pas faire l'objet d'une décision fondée exclusivement sur un traitement automatisé produisant des effets juridiques la concernant ou l'affectant de manière significative de façon similaire, et ce, au titre du RGPD, faisant ainsi écho au contrôle humain consacré au projet de règlement relatif à l’IA.

Chacun l’aura compris, la transparence, et donc l’information, est la principale obligation des concepteurs à l’égard des utilisateurs, et des utilisateurs à l’égard des patients. 

Rappelons que les sanctions encourues en matière de protection des données et en matière d’intelligence artificielle sont similaires, les dernières pouvant toutefois s’élever jusqu’à 20 000 000 € s’agissant des exigences relatives à la transparence.  


(1) /article/4703/intelligence-artificielle-algorithmes-d-aide-a-la-decision-et-a-la-therapeutique-comment-la-garantie-humaine-doit-elle-etre-mise-en-oeuvre-quelles-exigences-pour-les-utilisateurs-professionnels-de-sante.html 

À découvrirIntelligence artificielle, algorithmes d’aide à la décision et à la thérapeutique, comment la garantie humaine doit-elle être mise en œuvre ? quelles exigences pour les utilisateurs professionnels de santé ?

/article/4726/intelligence-artificielle-algorithmes-d-aide-a-la-decision-et-a-la-therapeutique-quelles-exigences-pour-les-utilisateurs-des-etablissements-de-sante.html 


L'auteur

Marguerite Brac de La Perrière est avocate, associée du cabinet Lerins, experte en Santé Numérique.
Elle accompagne les acteurs de la santé dans leur conformité réglementaire, leur développement et leur croissance, notamment en matière de traitements de données, de réutilisation des données, et de contrats informatiques.
[email protected] 

Avez-vous apprécié ce contenu ?

A lire également.

Illustration À l’ère de l’IA conversationnelle, l’intégration de Dragon Medical One à Philips SpeechLive reconnecte médecins et secrétaires

À l’ère de l’IA conversationnelle, l’intégration de Dragon Medical One à Philips SpeechLive reconnecte médecins et secrétaires

08 mai 2025 - 14:46,

Communiqué

-
Philippe VEMCLEFS

Utilisée par plus de 10 000 structures de santé à travers le monde dont 550 000 médecins (1), Dragon Medical One (DMO) est la solution de reconnaissance vocale médicale la plus reconnue, tant chez les médecins spécialistes que chez les radiologues. Devenue une référence incontournable dans le secteu...

Illustration Élargissement de la feuille de route pour la performance des achats et de la logistique

Élargissement de la feuille de route pour la performance des achats et de la logistique

06 mai 2025 - 08:10,

Actualité

- Damien Dubois, DSIH

Le 28 avril, la feuille de route pour la performance des achats et de la logistique des établissements de santé et médico-sociaux a été étendue selon trois axes structurants : Pilotage, Produits de santé et criticité, Pratiques et processus d’achat.

Illustration Le DPI complet GALEON à SantExpo 2025

Le DPI complet GALEON à SantExpo 2025

06 mai 2025 - 00:21,

Communiqué

- GALEON

Plus que quelques semaines avant l’un des plus importants rassemblements annuels du secteur de la santé en France. SantExpo, organisé par la FHF, attend 30 000 participants Porte de Versailles à Paris, du 20 au 22 mai. Cette édition 2025 pourra compter sur la présence du DPI Galeon, qui figurera par...

Illustration [SANTEXPO 2025] Inscrivez-vous à la conférence inédite de Nicolas BOUZOU à Santexpo !

[SANTEXPO 2025] Inscrivez-vous à la conférence inédite de Nicolas BOUZOU à Santexpo !

05 mai 2025 - 19:12,

Communiqué

- Axigate Link

"Économie de la santé & transformation numérique : les enjeux et les leviers pour améliorer la qualité du système de santé" Le mercredi 21 mai à 15h00, la Division Axigate Link du Groupe EQUASENS, aura l'honneur d'accueillir Nicolas BOUZOU, économiste et essayiste reconnu, pour une conférence exclus...

Lettre d'information.

Ne manquez rien de la e-santé et des systèmes d’informations hospitaliers !

Inscrivez-vous à notre lettre d’information hebdomadaire.