Responsabilité de l’IA : visions croisées de l’informaticien et de l’avocate – partie I
Ce après quoi je me dis que l’exemple du chien n’est peut-être pas une analogie idéale. Oui, après tout, personne n’a fabriqué le chien – si l’on excepte l’hypothèse du gros barbu perché dans les nuages –, et de fait le chien ne peut être responsable ni civilement ni pénalement. Donc, dans le cas de la morsure, cela me retombe toujours dessus quel que soit l’angle d’approche.
Mais à y réfléchir à nouveau, il y a peut-être une distinction à faire selon que le propriétaire de l’IA est un particulier comme vous et moi ou une entreprise. Dans le cas d’une entreprise en effet, à partir du moment où l’acheteur prononce l’admission de la prestation, il reconnaît de facto que la chose vendue correspond à ce qu’il a commandé. Il lui appartenait de faire auditer l’objet du marché par une entreprise tierce pour en vérifier la conformité ; ne pas le faire est à ses risques et périls. C’est bien l’une des raisons pour lesquelles les chantiers navals de Saint-Nazaire ont été condamnés dans l’affaire de l’effondrement de la passerelle du paquebot Queen Mary II [2] : les juges ont certainement dû considérer que les chantiers navals auraient pu faire auditer la construction de la passerelle, qui avait été conçue par une deuxième entreprise et construite par une troisième. Dans le cas d’un particulier, cette possibilité d’audit est rarement mise en pratique dans les faits : quand on achète un véhicule, on s’attend à ce qu’il fonctionne.
Clairement, dans le cas d’un véhicule appartenant à un particulier, à la réflexion, je doute que devant un juge le transfert de responsabilité afférent à l’acte d’achat l’emporte sur la garantie des vices cachés. D’ailleurs, si je reviens à l’exemple du toutou, je doute que l’on puisse invoquer la question du vice caché concernant le caractère de l’animal auprès de l’éleveur qui vous l’a vendu, alors qu’évidemment si le joint de culasse casse à 15 000 kilomètres, l’acheteur est protégé. Il y a fort à parier que la notion de vice caché l’emporte donc.
Dans le cas de la voiture autonome, ce qui m’ennuie dans l’attribution systématique de la responsabilité au constructeur du véhicule, c’est que IA = logiciel et que le bug est inhérent au logiciel. Quels que soient les contrôles qualité que l’on déploie dans la conception ou l’implémentation du logiciel de commande, il y aura toujours des bugs. En dehors de cas très précis [3] et sans commune mesure avec le nombre de cas d’usage dans la conduite d’un véhicule, la preuve formelle de l’absence de bug est quasi impossible à démontrer. Comment peut-on engager la responsabilité d’un constructeur sachant que forcément le bug lui sera imputable, à lui et à lui seul ? Et si l’on ajoute le fait que, toujours dans le cas de l’IA, l’algorithme se modifie avec le temps (dans le cas d’un algorithme auto-apprenant), il va être compliqué d’engager la responsabilité du concepteur du logiciel, alors que le produit incriminé n’est pas – plus – celui qu’il a livré à l’origine.
Il est clair que les constructeurs ne vont jamais s’engager dans des véhicules autonomes à 100 % sans possibilité de débrayage : le fait justement de disposer d’un système débrayable et de stipuler dans les conditions d’utilisation que le conducteur doit reprendre la main « quand la situation le justifie » leur permettrait de dégager leur responsabilité. Bref, il va falloir des juristes et des avocats « plus plus plus » pour auditer les contrats de vente. Je gage que les conditions générales d’utilisation des voitures, que l’on va devoir signer en les achetant, seront des pavés de 500 pages.
C’est ce que je dis depuis le début : la responsabilité de l’IA, c’est tout sauf simple, et il va falloir que les avocats s’emparent de la question, sinon une belle pagaille s’annonce dans les prétoires et chez les concessionnaires.
[1] Marguerite Brac de la Perrière, avocate et directrice du département Santé numérique du cabinet Lexing.
[2] Le 15 novembre 2003, la chute d’une passerelle d’une hauteur de 18 mètres a provoqué 16 morts et 29 blessés.
[3] La ligne 14 du métro parisien.
Avez-vous apprécié ce contenu ?
A lire également.

Dedalus France : une nouvelle étape dans la trajectoire de transformation
24 juin 2025 - 07:50,
Actualité
- DSIHDedalus France annonce le départ de Frédéric Vaillant, Directeur Général Délégué, au 30 juin 2025, après plus de 25 ans d’engagement. Fondateur de Medasys, acteur central des grandes étapes de structuration de l’entreprise, il a contribué à façonner Dedalus France comme acteur majeur du numérique en...

HLTH 2025, un Salon sous le signe de l’innovation distribuée
23 juin 2025 - 21:18,
Actualité
- DSIH, Mehdi LebranchuHLTH Europe 2025, qui s’est tenu cette année à Amsterdam, a offert un panorama dense et incarné de l’écosystème européen de la santé numérique. Le Salon a rassemblé géants technologiques, institutions publiques, start-up prometteuses et hôpitaux à la recherche de nouveaux modèles de collaboration. U...

Cour de cassation versus RGPD : 2-0. Et ce n’est pas une bonne nouvelle !
23 juin 2025 - 18:14,
Tribune
-Ça fait deux fois.

Approche hétérodoxe du concept de risque résiduel
02 juin 2025 - 22:42,
Tribune
-Vous voulez être le bon élève de l’auditeur 27001 qui vient constater, de visu, comment vous mettez en œuvre un SMSI. Le bon élève, avec les félicitations, le bisou sur le front et le petit papier qui va bien.