Publicité en cours de chargement...

Publicité en cours de chargement...

Publicité en cours de chargement...

Libres propos sur l’intelligence artificielle (volet 2)

22 jan. 2019 - 10:29,
Tribune - Par Me Omar Yahia, Cabinet Yahia Avocats
Selon Orange Healthcare, la division santé d’Orange, le Big data médical devrait voir son « volume multiplié par 50 d’ici 2050 »et pour le cabinet McKinsey, il pourrait rapporter rapidement plus de 300 milliards de dollars par an au système de santé américain. Le traitement massif de données permettrait de réduire des dépenses inutiles via des améliorations logistiques, mais avant tout une meilleure prise en charge des patients. 

Si les retombées économiques et financières s’annoncent prometteuses, les enjeux éthiques se révèlent fondamentaux.

À cet égard, la mission d’information sur la révision de la loi de bioéthique consacre, dans son rapport, un chapitre entier à l’intelligence artificielle (IA) et préconise l’introduction dans la loi de la « garantie humaine » du numérique en santé et « l’explicabilité des algorithmes ».

Présentée comme le socle du développement de l’IA, la « garantie humaine » est définie par le Comité consultatif national d’éthique et des sciences de la vie (CCNE) comme étant « la garantie d’une supervision humaine de toute utilisation du numérique en santé, et l’obligation d’instaurer pour toute personne le souhaitant et à tout moment, la possibilité d’un contact humain en mesure de lui transmettre l’ensemble des informations la concernant dans le cadre de son parcours de santé ». Cette « garantie humaine » nécessiterait de « préserver la maîtrise finale du professionnel de santé, en interaction avec le patient, pour prendre les décisions appropriées en fonction de chaque situation spécifique »

Lors de son audition, le député Cédric Villani a expliqué que le médecin devrait « pouvoir connaître les facteurs déterminants  qui, parmi la multitude des données prises en compte par l’algorithme, ont fait pencher la balance du diagnostic d’un côté ou de l’autre », d’après son rapport sur l’IA. 

C’est précisément toute la difficulté !

Le système d’IA fonctionne comme une boîte noire, dans la mesure où la connaissance des éléments introduits dans la machine ne permet pas, même à celui qui a mis au point le système, de préjuger des combinaisons réalisées entre eux. Ce qui se passe à l’intérieur est complexe. La validité de la réponse et sa crédibilité reposent sur la confiance portée envers le système. 

Le problème de fond, c’est que le système devient tellement complexe et autonome que l’humain ne peut pas vérifier directement sa réponse. Il faut en amont certifier que le système fonctionne bien. 

Or, tester un système qui construit seul ses solutions n’est pas chose aisée. Il ne s’agit pas de valider une liste de cas, un par un, mais d’examiner un système conçu pour répondre à une infinité de situations différentes…alors que l’infinité ne se teste pas en séquence. La croissance de l’autonomie du système s’accompagne d’une baisse du contrôle de l’humain sur l’outil qu’il utilise (mais c’était bien l’intention initiale !).

Non seulement le comportement de l’IA devient a prioriimprédictible, mais il peut même demeurer a posterioriinexplicable ou très difficilement explicable. 

En donnant des réponses ou en prenant des décisions, sans être capable de les justifier, l’IA en devient opaque. 

Lorsqu’un algorithme prend une décision, le processus décisionnel devrait pourtant être transparent : on devrait par exemple savoir comment la décision a été prise. Peut-être certains éléments n’ont-ils pas été pris en compte ? Au contraire, certains éléments non pertinents ont-ils été pris en compte ? Peut-être le traitement même des éléments est-il biaisé sans que l’intéressé ne soit informé de ce biais ? 

Si les décisions humaines ne sont pas nécessairement transparentes, il est toujours techniquement possible de dialoguer avec un humain. C’est bien plus difficile avec un algorithme fondé sur l’IA forte. 

Ainsi, avant d’être juridiques, les enjeux de l’IA sont d’abord de nature éthique. 

Omar_YahiaPar Me Omar YAHIA
SELARL YAHIA Avocats
Barreau de Paris
www.yahia-avocats.fr 

Avez-vous apprécié ce contenu ?

A lire également.

Illustration Contourner les règles, faille cyber éternelle et consubstantielle à l’espèce humaine

Contourner les règles, faille cyber éternelle et consubstantielle à l’espèce humaine

21 avril 2025 - 19:07,

Tribune

-
Cédric Cartau

Récemment, un post sur LinkedIn racontait l’histoire suivante : un enseignant soucieux de repérer les élèves qui faisaient rédiger leur copie par ChatGPT transmettait ses consignes sous forme de fichiers PDF dans lesquels il incluait des morceaux de texte en caractères blancs, donc invisibles pour l...

Illustration Panorama forcément non exhaustif du fléau des arnaques en ligne en ce début 2025

Panorama forcément non exhaustif du fléau des arnaques en ligne en ce début 2025

08 avril 2025 - 07:19,

Tribune

-
Cédric Cartau

Le temps des mails provenant d’un prince nigérian qui requiert votre aide pour toucher un héritage, ou de la petite Marie qui attend désespérément une greffe, est révolu : les techniques ont évolué, les outils aussi, les réseaux se sont structurés et professionnalisés. Petit panorama, forcément inco...

Illustration Ségur numérique : Mise à jour du calendrier réglementaire pour les dispositifs de la Vague 2 à l’hôpital

Ségur numérique : Mise à jour du calendrier réglementaire pour les dispositifs de la Vague 2 à l’hôpital

24 mars 2025 - 20:32,

Actualité

- DSIH,

Afin de garantir au plus grand nombre d’établissements de santé l’accès aux mises à jour financées par le Ségur numérique, le calendrier des dispositifs dédiés aux logiciels Dossier Patient Informatisé (DPI) et Plateforme d’Interopérabilité (PFI) a été étendu par un arrêté modificatif, publié ce jou...

Illustration Loi sur le narcotrafic et fin du chiffrement : analyse d’un membre éminent et actif du CVC

Loi sur le narcotrafic et fin du chiffrement : analyse d’un membre éminent et actif du CVC

10 mars 2025 - 19:33,

Tribune

-
Cédric Cartau

Vous n’avez pas pu le rater : sous couvert de lutte contre le trafic de stupéfiants, la proposition de loi d’Étienne Blanc et de Jérôme Durain, déjà adoptée à l’unanimité au Sénat, sera débattue au mois de mars à l’Assemblée nationale. Baptisée « loi Narcotrafic », elle vise à obliger les services d...

Lettre d'information.

Ne manquez rien de la e-santé et des systèmes d’informations hospitaliers !

Inscrivez-vous à notre lettre d’information hebdomadaire.