SantExpo : Docaposte, acteur d’une IA générative éthique et souveraine en santé

Définie comme une branche de l’IA qui se concentre sur la création de nouveaux contenus par des algorithmes, l’IA générative est indissociable des enjeux liés à la qualité et à la quantité des données. Cette dualité permet à Olivier Barets, Directeur Général Adjoint de la Poste Santé & Autonomie, de rappeler deux notions : le Machine Learning, qui utilise des données structurées nécessaires pour que la machine soit autoapprenante et le Deep Learning où la machine est en capacité d’apprendre à partir de grands volumes de données. A ces notions, s’ajoute celle de l’IA générative, reposant sur des données non structurées, et dont l’usage révèle une tension entre la rapidité de l’innovation technologique et notre capacité à en comprendre et maîtriser les conséquences. 

A ce regard critique, s’adjoint un cadre règlementaire. Président d’Ethik-IA, David Gruson souligne ainsi que le règlement européen sur l’IA, adopté définitivement ce 21 mai 2024, s’appliquera en première intention à l’IA générative. Dès mai 2025, tous les systèmes d’IA générative devront appliquer ce cadre de régulation impliquant des obligations particulières de gestion de risques, de documentations techniques, de gouvernance des données, et une obligation de contrôle humain dès la conception jusqu’à l’application en vie réelle. A cette règlementation, s’ajoute un véritable enjeu de souveraineté numérique qui nécessite l’inscription de l’IA générative dans un cadre français et européen et des engagements de garantie humaine de l’IA.

La sécurité de la donnée, la souveraineté, l’éthique et la garantie humaine sont au cœur de la solution DALVIA Santé. Cette solution d’IA générative comprend deux cas d’usage. Le premier usage permet d’accéder, en quelques clics, à la synthèse des informations médicales du patient à connaître dans le cadre d’une prise en charge par exemple. Le second usage consiste à préparer la synthèse des informations à transmettre pour améliorer la coordination entre les professionnels de santé au travers, notamment, de la lettre de liaison. Cette solution est aujourd’hui totalement intégrée avec les systèmes d’information hospitaliers. En outre, le cadre souverain et éthique de cette solution d’IA générative est préservé tant par l’accompagnement d’Ethik-IA autour de la conformité réglementaire par rapport à l’IA Act et la garantie humaine, que par le recours à des solutions souveraines et françaises encadrant l’ensemble de la chaîne de traitement de la donnée.  

Apparaissant en filigrane de cette agora, David Gruson a souhaité évoquer l’enjeu de souveraineté numérique et la notion de « course contre la montre ». Selon lui, il est important de réaliser que chaque question médicale posée sur un moteur d’IA générative non souverain conduit à deux types de risques : une évaporation des données hors du champ du RGPD et une perte de souveraineté numérique.

Il est possible de découvrir la solution DALVIA sur le stand de la Poste Santé & Autonomie. 

À lire aussi : En direct de SantExpo 2023 : L’IA générative en santé, quelques pistes présentées au stand Maincare