L’IA générative en santé : un outil prometteur, à utiliser de manière responsable

Des technologies innovantes au service des pratiques professionnelles

Les systèmes d’IA générative permettent de produire des contenus – texte, image, son ou vidéo – à partir de requêtes (« prompts »). Dans le domaine de la santé, ils sont déjà mobilisés pour :

• transcrire les échanges lors de consultations,

• rédiger des synthèses de littérature scientifique,

• concevoir des supports pédagogiques illustrés pour les parcours médico-sociaux.
  Ces usages ouvrent de réelles opportunités : libérer du temps pour les soins, améliorer la qualité de vie au travail et valoriser les pratiques professionnelles.

Des risques à maîtriser pour un usage de confiance

L’usage de ces outils n’est pas sans risque. Le contenu généré peut comporter des erreurs ou des informations non vérifiées — un phénomène souvent appelé « hallucination ». En outre, des pratiques inappropriées sont observées, comme la transmission d’informations confidentielles. En l’absence d’évaluation rigoureuse de leur fiabilité et de leur pertinence, ces systèmes peuvent susciter méfiance et hésitation parmi les professionnels.
Dans ce contexte, la HAS publie ce guide pour favoriser la maîtrise, la transparence et l’évaluation des usages de l’IA générative, afin que ces technologies puissent devenir des alliées au service de la qualité et de la sécurité des soins.

A.V.E.C. : quatre principes pour un usage raisonné de l’IA générative

Le bon usage de l’IA générative s’appuie sur quatre lignes directrices résumées par l’acronyme A.V.E.C. :

• A – Apprendre : s’informer et se former au fonctionnement des systèmes d’IA générative.
  Exemples : consulter des sources fiables, se former à la protection des données, tester les outils en conditions réelles, définir ses besoins avant adoption.

• V – Vérifier : contrôler la qualité, la fiabilité et la pertinence du contenu généré.
  Exemples : ne pas partager d’informations sensibles, vérifier les valeurs/chiffres/noms de médicaments, conserver une part de pratique sans IA, tenir compte de l’impact environnemental.

• E – Estimer : évaluer périodiquement la performance, l’adéquation à ses besoins et la valeur ajoutée du système.
  Exemples : fixer des objectifs, analyser les corrections réalisées, mesurer la facilité d’intégration à ses pratiques professionnelles.

• C – Communiquer : partager les retours d’expérience et favoriser la transparence.
  Exemples : informer les patients ou usagers du recours à l’IA, échanger avec d’autres professionnels, expliciter les typologies de données partagées et les impacts organisationnels.
  Chaque usage doit rester conscient, encadré et réfléch i. Bien maîtrisée, l’IA générative peut devenir une alliance précieuse pour renforcer la qualité et la sécurité des soins.

La publication du guide « Premières clefs d’usage de l’IA générative en santé » constitue la première brique du cadre de confiance de la HAS sur les technologies numériques et systèmes d’IA à usage professionnel. L’objectif est de favoriser une utilisation (ou non) éclairée et responsable de ces technologies.

Parmi les autres productions en développement sur l’IA :
- une fiche sur l’utilisation de l’IA générative en santé destinée aux usagers
- des recommandations pour accompagner les établissements et professionnels de santé dans le bon usage de l’IA (qu’elle soit générative ou non) en contexte de soins (voir la note de cadrage). Ce travail est mené en collaboration avec la Commission nationale de l’information et des libertés.