Publicité en cours de chargement...
Quelle responsabilité juridique pour l’IA – la vision juridique, partie 2
A titre liminaire, la garantie légale des vices cachés au titre de laquelle « Le vendeur est tenu de la garantie à raison des défauts cachés de la chose vendue qui la rendent impropre à l'usage auquel on la destine, ou qui diminuent tellement cet usage que l'acheteur ne l'aurait pas acquise, ou n'en aurait donné qu'un moindre prix, s'il les avait connus [1] »pourrait trouver à s’appliquer mais ne semble pas évidente à invoquer dans la mesure où elle suppose en particulier que le défaut ait existé à la date d’achat -ce qui en matière d’algorithme apprenant est incertain-.
Restent plusieurs régimes de responsabilité pouvant fonder des actions, en fonction du contexte, notamment selon que la victime a une relation contractuelle ou non avec le concepteur ou producteur, et selon le degré d’autonomie de l’algorithme. En premier lieu, la responsabilité contractuelle. Dans l’hypothèse d’une relation contractuelle, « le débiteur est condamné, s'il y a lieu, au paiement de dommages et intérêts soit à raison de l'inexécution de l'obligation, soit à raison du retard dans l'exécution, s'il ne justifie pas que l'exécution a été empêchée par la force majeure.» [2]
Dans cette hypothèse, la responsabilité et l’obligation de réparation d’un éventuel préjudice est fonction des stipulations contractuelles, notamment celles définissant les prérequis, le service attendu et les conditions d’utilisation, et celles délimitant la responsabilité des parties et la réparation du préjudice.
Le cas d’usage serait celui, par exemple, d’un établissement souscrivant à un service SaaS d’aide à la décision médicale, dont l’utilisation conduirait à la survenance un dommage. Le patient pourrait engager la responsabilité de l’établissement, lequel pourrait alors engager une action récursoire en responsabilité contractuelle du fournisseur du service, dans les limites du contrat conclu avec lui. A nouveau, la rédaction et lecture attentive des stipulations contractuelles est de rigueur.
En second lieu, la responsabilité délictuelle. En dehors de toute relation contractuelle, c’est la responsabilité civile délictuelle de droit commun qui pourrait s’appliquer : « On est responsable non seulement du dommage que l'on cause par son propre fait, mais encore de celui qui est causé par le fait des personnes dont on doit répondre, ou des choses que l'on a sous sa garde.» [3]. La première question est celle de savoir si l’algorithme est assimilable à une chose que l’on a sous sa garde.
Dans l’affirmative, la responsabilité ferait peser le poids de la réparation sur le gardien de la chose, lequel est celui qui est investi des pouvoirs d’usage, de direction et de contrôle.
Ainsi, l’utilisateur de l’algorithme, comme de n’importe quelle chose, pourrait voir sa responsabilité engagée en cas de sinistre survenant dans le cadre de son utilisation.
Toutefois ce serait nier la spécificité de l’algorithme tenant à son autonomie, à son intelligence artificielle justement. Comment un utilisateur dépossédé, même partiellement, de son pouvoir de contrôle et de direction pourrait-il être tenu pour responsable de sa défaillance ?
Il faudrait donc distinguer la garde de la structure (l’algorithme ?), et celle du comportement de l’algorithme. Resterait alors à déterminer qui du concepteur de l’algorithme, du développeur de l’algorithme, et de l’utilisateur – duquel l’objet aurait tiré son apprentissage – détenait effectivement la garde du comportement au moment du sinistre.
Enfin, dernier axe d’analyse, la responsabilité du fait des produits défectueux. Au titre de la responsabilité du fait des produits défectueux, prévue aux articles 1245 et suivants nouveaux du code civil, la victime du dommage causé par un objet connecté serait fondée à agir contre le « producteur », sans avoir à identifier le véritable responsable du sinistre.
Toutefois, il faudrait préalablement trancher les questionnements ayant trait à l’application de ce régime aux biens immatériels. En effet, le texte dispose « Le producteur est responsable du dommage causé par un défaut de son produit, qu'il soit ou non lié par un contrat avec la victime.» [4], mais définit le produit comme un bien meuble [5].
A supposer que cette problématique soit résolue, une victime pourrait librement engager la responsabilité du producteur, lequel est très largement défini puisqu’il peut aussi bien s’agir du fabricant du produit fini ou d’une partie composante, du producteur d’une matière première, de celui qui appose sa marque et même, et dans l’hypothèse où le « producteur » ainsi défini ne pourrait être identifié, du vendeur ou du fournisseur du produit défectueux. L’indemnisation de la victime supposerait alors qu’elle démontre le caractère défectueux du produit, c’est-à-dire son incapacité à offrir la sécurité à laquelle elle pouvait légitimement s’attendre, et le fait qu’il soit à l’origine du dommage.
Cependant l’algorithme évoluant au fil de l’utilisation qu’en fait son utilisateur, l’origine du dommage pourrait ne pas être l’algorithme mais son utilisation par l’utilisateur. Or, dès lors que le défaut du produit est postérieur au moment de sa mise en circulation, le recours au régime de la responsabilité du fait des produits défectueux est exclu. De même encore, l’article 1245-10 nouveau du code civil écarte la responsabilité de plein droit du producteur, lorsque l’état des connaissances scientifiques et techniques au moment où le produit a été mis en circulation ne permettait pas de déceler le défaut du produit. Les fabricants des objets innovants pourraient utilement se prévaloir de cette exclusion du risque de développement.
Pour conclure, si les régimes de responsabilité actuels peuvent a priori fonder des actions en responsabilité, leur mise en œuvre s’annonce pour le moins délicate. Aussi, l’instauration d’un régime de responsabilité propre – telle qu’il se dessine pour les véhicules autonomes – et auquel seraient attachées des garanties d’assurance spécifiques, pourrait offrir une meilleure lisibilité et sécurité juridique.
L'auteur
Marguerite Brac de La Perrière
Avocate, directrice du département santé numérique
Lexing Alain Bensoussan Avocats
Avez-vous apprécié ce contenu ?
A lire également.
Contourner les règles, faille cyber éternelle et consubstantielle à l’espèce humaine
21 avril 2025 - 19:07,
Tribune
-Récemment, un post sur LinkedIn racontait l’histoire suivante : un enseignant soucieux de repérer les élèves qui faisaient rédiger leur copie par ChatGPT transmettait ses consignes sous forme de fichiers PDF dans lesquels il incluait des morceaux de texte en caractères blancs, donc invisibles pour l...
Panorama forcément non exhaustif du fléau des arnaques en ligne en ce début 2025
08 avril 2025 - 07:19,
Tribune
-Le temps des mails provenant d’un prince nigérian qui requiert votre aide pour toucher un héritage, ou de la petite Marie qui attend désespérément une greffe, est révolu : les techniques ont évolué, les outils aussi, les réseaux se sont structurés et professionnalisés. Petit panorama, forcément inco...
Ségur numérique : Mise à jour du calendrier réglementaire pour les dispositifs de la Vague 2 à l’hôpital
24 mars 2025 - 20:32,
Actualité
- DSIH,Afin de garantir au plus grand nombre d’établissements de santé l’accès aux mises à jour financées par le Ségur numérique, le calendrier des dispositifs dédiés aux logiciels Dossier Patient Informatisé (DPI) et Plateforme d’Interopérabilité (PFI) a été étendu par un arrêté modificatif, publié ce jou...
Loi sur le narcotrafic et fin du chiffrement : analyse d’un membre éminent et actif du CVC
10 mars 2025 - 19:33,
Tribune
-Vous n’avez pas pu le rater : sous couvert de lutte contre le trafic de stupéfiants, la proposition de loi d’Étienne Blanc et de Jérôme Durain, déjà adoptée à l’unanimité au Sénat, sera débattue au mois de mars à l’Assemblée nationale. Baptisée « loi Narcotrafic », elle vise à obliger les services d...