Les angles morts de l’IA – en santé et ailleurs

À lire toutes les présentations, les plaquettes marketing, les thèmes de conférence et j’en passe, faudrait vraiment être pisse-vinaigre pour ne pas être convaincu que le bonheur est au bout de l’algorithme, du réseau de neurones auto-apprenants et des LLM de troisième ou de quatrième génération (je commence à m’y perdre). Y a presque des moments où l’on se croirait dans une scène cucul la praline d’une comédie musicale sucrée hollywoodienne.

Il se trouve que ce genre de sketch à grande échelle s’est déjà produit par le passé (l’avantage d’être un vieux con, c’est de se souvenir des veilles couillonnades dont le monde de l’IT nous abreuve depuis des décennies) et que l’analyse de ce qui a mal ou pas du tout fonctionné est riche d’enseignements. J’ai nommé la télémédecine.

25 ans après que la totalité des conditions technologiques indispensables à la télémédecine ont été disponibles (écrans haute définition, réseaux haut débit, etc.), on continue de lire, çà et là, des articles qui vous parlent des « promesses de l’essor de la télémédecine » – depuis 25 ans qu’elle est en train d’éclore, les poussins doivent avoir une sale tête, non ?

Plusieurs aspects d’un sujet de ce genre ont cette particularité : si vous ne les traitez pas, cela ne fonctionnera pas – ou mettra des décennies à démarrer. Le premier concerne le cadre juridique, totalement absent de la télémédecine à ses débuts. Pour l’IA bien heureusement, on n’est pas en train de faire la même erreur – je vous renvoie aux excellents articles de M^e Brac de La Perrière, notamment celui du dernier DSIH (n° 42, mai 2024, p. 42).

Le deuxième est l’absence totale d’analyse des impacts RH, et là, on rejoue les mêmes âneries. Quel impact sur les métiers, sur les formations initiales ou continues, sur l’évolution des compétences (pour la télémédecine, par exemple, il faut des opérateurs à compétences mixtes informatique/soins en pagaille), sur le recyclage de ceux qui atteindront leur niveau d’incompétence (comme à chaque rupture technologique). Pas un papier sur ces sujets.

Le troisième, et là c’est pire, porte sur la question du partage de la valeur. OK, le radiologue pourra analyser dix fois plus de mammographies par jour (c’est l’exemple que l’on vous sort à chaque fois du chapeau). Mais quel acteur va « empocher » la valeur additionnelle ainsi produite (et que vous choisissiez une définition marxiste ou ultralibérale de la notion de valeur ne changera rien au débat) ? Les patients ? L’écosystème de santé (praticiens, hôpitaux, système santé, etc.) ? Les éditeurs ? Les fournisseurs de services de type SaaS ? S’il y a des publications, des conférences, des articles sur ces questions, j’ai dû tous les rater.

Et le meilleur pour la fin : quel modèle de facturation ? Si la télémédecine a zozoté pendant des décennies, c’est en grande partie à cause d’un modèle de facturation qui, pour des raisons à la fois juridiques et SIH, a été très difficile à cadrer. Je pose une question toute simple : quand le patient lambda discutera avec un bot qui soit produira diagnostic/compte rendu/prescription en 10 minutes, soit aura fait un premier niveau de filtrage à destination de professionnels de santé du niveau d’après, qui payera quoi à qui et qui récupérera quelle partie de ce modèle de facturation ? Je suis certain que tous les acteurs de santé ont une réponse, et tout aussi certain qu’elle est à chaque fois différente.

Tant que ces questions n’auront pas été a minima abordées (et j’en oublie certainement), les débats autour de l’IA en santé passeront totalement à côté de l’aspect sociétal global.

Un dernier pour la route ? Comme à son habitude, la société entreprend de déployer des technologies pour soulager les augmentations de charges… sans se préoccuper une seule fois du PCA-PRA. On fera comment dans tout le système de santé lorsque le bot de filtrage des patients précédemment mentionné sera en panne pendant 72 heures ?

L'auteur

Responsable Sécurité des systèmes d’information et correspondant Informatique et Libertés au CHU de Nantes, Cédric Cartau est également chargé de cours à l’École des hautes études en santé publique (EHESP). On lui doit aussi plusieurs ouvrages spécialisés publiés par les Presses de l’EHESP, dont La Sécurité du système d’information des établissements de santé.