Publicité en cours de chargement...

Publicité en cours de chargement...

Un cadre éthique pour le développement de l’IA

19 déc. 2017 - 09:16,
Actualité - DSIH,@lehalle
La Cnil a publié le rapport de synthèse du débat public qu’elle a animé tout au long de l’année sur les enjeux éthiques des algorithmes et de l’intelligence artificielle(1).  

Isabelle Falque PierrotinSa présidente, Isabelle Falque-Pierrotin (photo ci-contre), en a rappelé l’objectif : « Garantir que l’intelligence artificielle augmente l’homme plutôt qu’elle ne le supplante et participe à l’élaboration d’un modèle français de gouvernance éthique de l’IA. Nous devons collectivement faire en sorte que ces nouveaux outils soient à la main humaine, à son service, dans un rapport de transparence et de responsabilité. »

Loyauté et vigilance

La Commission affirme à cette occasion deux principes fondateurs qui devront cadrer le développement des IA : loyauté et vigilance.
Reprenant une définition du Conseil d’État(2) (« la loyauté consiste à assurer de bonne foi le service de classement ou de référencement, sans chercher à l’altérer ou à le détourner à des fins étrangères à l’intérêt des utilisateurs »), la Cnil insiste sur l’utilité de son élargissement en précisant la notion d’« intérêt des utilisateurs » et en prenant en compte une dimension collective. Mais elle s’interroge également sur une terminologie, « loyauté des algorithmes », qui perd, avec la montée en puissance du machine learning, « une part de sa portée dès lors que l’algorithme se comporte d’une façon qui reste opaque à ses concepteurs ».
Quant au principe de vigilance, il vise à maîtriser l’instabilité et l’imprévisibilité des algorithmes dans la durée, mais aussi à contrebalancer une confiance excessive et une déresponsabilisation qui seraient favorisées par leur caractère de « boîte noire ».

Au-delà des principes, sixrecommandations opérationnelles sont déclinées (en encadré).
Ces réflexions vont nourrir la mission Villani qui a prévu de remettre ses conclusions début février. Rappelons que cette mission a vocation à éclairer le gouvernement dans l’élaboration d’une stratégie française en matière d’intelligence artificielle.
Lors de la présentation de son rapport d’étape, fin novembre, elle précisait sa vision d’un « enjeu éthique crucial pour le développement de l’IA. De lui dépendra en grande partie l’acceptation de ces technologies par les citoyens. La mission s’intéressera donc aux modalités d’une gouvernance de l’éthique de l’IA et s’attachera à décliner quelques propositions ».

Le Conseil national de l’Ordre des médecins ne sera pas non plus en reste pour alimenter de ses recommandations pouvoirs publics, professionnels et citoyens dans leur ensemble : adoptées mi-décembre, elles seront diffusées fin janvier. 

Six recommandations opérationnelles

  • Former à l’éthique tous les acteurs-maillons de la « chaîne algorithmique » (concepteurs, professionnels, citoyens) : l’alphabétisation au numérique doit permettre à chaque humain de comprendre les ressorts de la machine ;
  • Rendre les systèmes algorithmiques compréhensibles en renforçant les droits existants et en organisant la médiation avec les utilisateurs ;
  • Travailler le design des systèmes algorithmiques au service de la liberté humaine, pour contrer l’effet « boîtes noires » ;
  • Constituer une plateforme nationale d’audit des algorithmes ;
  • Encourager la recherche sur l’IA éthique et lancer une grande cause nationale participative autour d’un projet de recherche d’intérêt général ;
  • Renforcer la fonction éthique au sein des entreprises (par exemple, l’élaboration de comités d’éthique, la diffusion de bonnes pratiques sectorielles ou la révision de chartes de déontologie peuvent être envisagées).

(1) 

(2) Dans Le numérique et les droits fondamentaux, étude annuelle, 2014.

Avez-vous apprécié ce contenu ?

A lire également.

Illustration Dedalus France : une nouvelle étape dans la trajectoire de transformation

Dedalus France : une nouvelle étape dans la trajectoire de transformation

24 juin 2025 - 07:50,

Actualité

- DSIH

Dedalus France annonce le départ de Frédéric Vaillant, Directeur Général Délégué, au 30 juin 2025, après plus de 25 ans d’engagement. Fondateur de Medasys, acteur central des grandes étapes de structuration de l’entreprise, il a contribué à façonner Dedalus France comme acteur majeur du numérique en...

Illustration HLTH 2025, un Salon sous le signe de l’innovation distribuée

HLTH 2025, un Salon sous le signe de l’innovation distribuée

23 juin 2025 - 21:18,

Actualité

- DSIH, Mehdi Lebranchu

HLTH Europe 2025, qui s’est tenu cette année à Amsterdam, a offert un panorama dense et incarné de l’écosystème européen de la santé numérique. Le Salon a rassemblé géants technologiques, institutions publiques, start-up prometteuses et hôpitaux à la recherche de nouveaux modèles de collaboration. U...

Illustration Cour de cassation versus RGPD : 2-0. Et ce n’est pas une bonne nouvelle !

Cour de cassation versus RGPD : 2-0. Et ce n’est pas une bonne nouvelle !

23 juin 2025 - 18:14,

Tribune

-
Cédric Cartau

Ça fait deux fois.

Illustration Approche hétérodoxe du concept de risque résiduel

Approche hétérodoxe du concept de risque résiduel

02 juin 2025 - 22:42,

Tribune

-
Cédric Cartau

Vous voulez être le bon élève de l’auditeur 27001 qui vient constater, de visu, comment vous mettez en œuvre un SMSI. Le bon élève, avec les félicitations, le bisou sur le front et le petit papier qui va bien.

Lettre d'information.

Ne manquez rien de la e-santé et des systèmes d’informations hospitaliers !

Inscrivez-vous à notre lettre d’information hebdomadaire.