Publicité en cours de chargement...

Publicité en cours de chargement...

Publicité en cours de chargement...

Intelligence artificielle, les premières échéances

25 mars 2025 - 07:28,
Tribune-
Marguerite Brac de La Perrière

Écouter l'article

0:000:00
Illustration Intelligence artificielle, les premières échéances
Attendu depuis des années, dans le contexte d'une adoption déjà massive des systèmes d'IA en santé, notamment en imagerie et en biologie, mais aussi dans le cadre des recherches, et plus généralement du pilotage des activités, le règlement sur l'intelligence artificielle du 13 août 2024 est entré en vigueur le 2 août 2024, avec pour objectifs (i) d'établir un cadre juridique uniforme, en particulier pour le développement, la mise sur le marché, la mise en service et l’utilisation des systèmes d’IA dans le respect des valeurs de l’Union, (ii) de promouvoir l’adoption de l'IA axée sur l’humain et digne de confiance tout en garantissant un niveau élevé de protection de la santé, de la sécurité et des droits fondamentaux, (iii) de protéger contre les effets néfastes des systèmes d’IA dans l’Union, et (iv) de soutenir l’innovation.

Une entrée progressive en application est prévue, avec des échéances comprises entre le 2 février dernier et le 2 août 2027, dont les premières sont déjà intervenues.

Maîtrise de l'IA

 Le 2 février 2025 sont entrées en application les dispositions portant obligation de "maîtrise de l'IA" imposant aux fournisseurs et déployeurs de systèmes d'IA à prendre des mesures pour garantir, dans toute la mesure du possible, un niveau suffisant de maîtrise de l’IA pour leur personnel et les autres personnes s’occupant du fonctionnement et de l’utilisation des systèmes d’IA pour leur compte, en prenant en considération leurs connaissances techniques, leur expérience, leur éducation et leur formation, ainsi que le contexte dans lequel les systèmes d’IA sont destinés à être utilisés, et en tenant compte des personnes ou des groupes de personnes à l’égard desquels les systèmes d’IA sont destinés à être utilisés.

A ce titre, il appartient à toutes les organisations de :

- mettre en œuvre des sessions de sensibilisation et formation du personnel, en sous-groupes, afin de tenir compte de leurs profils, et

- de mettre en place une documentation de nature à permettre la maîtrise de l'IA, a minima une AI Policy, ou Charte IA, et d'assurer son opposabilité auprès du personnel.

Pratiques interdites

Le 2 février 2025 également, ce sont les pratiques interdites en matière d'IA qui doivent être identifiées et bannies des organisations.

Leur mise sur le marché, mise en service ou utilisation sont proscrites, ces activités devant être appréciées de manière extensive selon les guidelines publiées par la Commission. En effet, et à titre d'exemples, le champ d'application matériel de l'IA Act couvre les pratiques liées à la mise sur le marché, la mise en service et l'utilisation, quel que soit le moyen de fourniture, à titre onéreux ou gratuit, en vue de sa première utilisation telle que destinée par le fournisseur. Dans le même sens, l'utilisation doit être comprise comme incluant toute utilisation abusive d'un système d'IA, "raisonnablement prévisible" ou non.  Les pratiques d'IA interdites doivent être considérées en relation avec systèmes d'IA classés à haut risque, les derniers pouvant constituer des IA interdites et inversement selon leurs caractéristiques spécifiques, selon l'évaluation et la gestion des risques réalisées par le fournisseur.

Cette interdiction des IA à risques inacceptables suppose ainsi, au sein de chaque organisation constituant un déployeur, une cartographie des IA et la qualification des systèmes d'IA au regard des dispositions de l'IA Act et de ces éclairages.

Le non-respect de l’interdiction des pratiques en matière d’IA fait l’objet des plus lourdes amendes administratives prévues à l'IA Act, pouvant aller jusqu’à 35 000 000 EUR ou jusqu’à 7 % de son chiffre d’affaires annuel mondial total réalisé au cours de l’exercice précédent, le montant le plus élevé étant retenu. Si à date, l'autorité de contrôle n'est pas encore désignée, il est conseillé de gravir les marches de l'IA Act dès à présent.

Pour les échéances suivantes, et l'implémentation des exigences et obligations, la suite dans quelques semaines…

photo de Brac de La Perrière
Marguerite Brac de La Perrière

Avez-vous apprécié ce contenu ?

A lire également.

Illustration Vu à SantExpo 2025 : le CHU d’Amiens obtient l’accord officiel des archives départementales pour son Système d’Archivage Electronique avec la solution HYDMedia de Dedalus

Vu à SantExpo 2025 : le CHU d’Amiens obtient l’accord officiel des archives départementales pour son Système d’Archivage Electronique avec la solution HYDMedia de Dedalus

26 mai 2025 - 15:41,

Actualité

- Pauline Nicolas, DSIH

Lors d’une session au sein de l’auditorium Dedalus, Jacques Delamarre, Responsable Parcours Patient au CHU d’Amiens a témoigné de la genèse qui a conduit à l’adoption de la solution SAE HYDMedia de Dedalus dans son établissement et des principaux apports de cette solution. Un SAE doit intégrer un l...

Illustration L’Académie de l’IA en santé de la FEHAP

L’Académie de l’IA en santé de la FEHAP

26 mai 2025 - 11:27,

Actualité

- Damien Dubois, DSIH

Le 21 mai 2025, lors de SantExpo, la FEHAP a annoncé le déploiement opérationnel de son plan d’actions pour son Académie de l’IA en santé.

Illustration De la gestion des risques en version pratico-pratique par votre banquier

De la gestion des risques en version pratico-pratique par votre banquier

24 mars 2025 - 21:10,

Actualité

-
Cédric Cartau

Récemment, je suis tombé sur un podcast de l’AFP sur un sujet dont le titre a piqué ma curiosité : les fermetures de comptes bancaires légèrement brutales par les banquiers – le terme exact était « abusif ».

Illustration Établissements de santé et médico-sociaux : l’intelligence artificielle est-elle un outil fiable et performant pour faire les plannings ?

Établissements de santé et médico-sociaux : l’intelligence artificielle est-elle un outil fiable et performant pour faire les plannings ?

28 mars 2025 - 10:37,

Actualité

- Mathilde Debry, DSIH

Chronophage, stressante et souvent très complexe, la conception des plannings dans les établissements de santé et médico-sociaux pourrait bientôt s’appuyer sur l’IA (intelligence artificielle).

Lettre d'information.

Ne manquez rien de la e-santé et des systèmes d’informations hospitaliers !

Inscrivez-vous à notre lettre d’information hebdomadaire.