Le Règlement IA est-il à la hauteur des risques dénoncés par les géants de l’IA ?

1. Prise de conscience progressive et préoccupante

Tout a commencé en mars 2023 par la lettre ouverte du Future of Life Institute, signée par plus de 1 000 personnalités, dont Elon Musk et Steve Wozniak, demandant un moratoire de six mois sur l'entraînement de modèles plus puissants que GPT-4, le temps d’établir des protocoles de sécurité communs, et ce en invoquant les « risques profonds pour la société et l'humanité ».
En mai 2023, Sam Altman, auditionné par le Sénat américain, a appelé à une régulation fédérale et à une agence internationale dédiée. Le même mois, le Center for AI Safety, avec Geoffrey Hinton, Yoshua Bengio, Demis Hassabis, Dario Amodei et Sam Altman, a déclaré : « Mitigating the risk of extinction from AI should be a global priority alongside other societal-scale risks such as pandemics and nuclear war ».
Les 1er et 2 novembre 2023, la Déclaration de Bletchley, signée par 28 États - dont les États-Unis, la Chine, la France et l’ensemble des États membres de l’Union - a consacré la coopération internationale pour identifier et atténuer les risques des « frontier models »[1].
Entre 2024 et 2025, Dario Amodei (Anthropic) a développé les « Responsible Scaling Policies » (RSP), un cadre volontaire prévoyant qu’un modèle ne soit pas développé ou déployé au-delà d’un seuil de capacité sans mesures de sécurité proportionnées ; ces RSP ont inspiré des cadres internes chez OpenAI et Google/DeepMind pour organiser des évaluations avant déploiement, sans créer d’obligation juridique générale.
En parallèle, Yoshua Bengio – voix académique et scientifique indépendante - a appelé à rendre obligatoires par la loi les évaluations de sécurité pré-déploiement. Ces initiatives - encore largement volontaires et internes - ont posé les premiers jalons d’une gouvernance des modèles de frontière, sans imposer le contrôle indépendant juridiquement contraignant réclamé aujourd’hui par certains.
En juin 2026, le rapport d’Anthropic When AI Builds Itself indiquait que Claude produisait plus de 80 % du code intégré à ses systèmes de production et avertissait : « We are not there yet, and recursive self-improvement is not inevitable. But it could come sooner than most institutions are prepared for », signalant ainsi la possibilité d’une autonomie croissante dans la conception des systèmes.
En avril, le modèle Mythos avait été retenu pour sa capacité à s’échapper de manière autonome d’un « sandbox », tandis qu’OpenAI ralentissait certains aspects d’Astra pour des raisons de cybersécurité.
Le 9 septembre 2026, Jacob Coxon, chercheur passé par OpenAI puis Anthropic, a démissionné en accusant les principales entreprises du secteur de « jouer avec nos vies » dans la course à une superintelligence auto-améliorante.
Le 12 septembre, Dario Amodei a publié l’essai We Must Pace the Frontier : après avoir évoqué l’accélération de l’amélioration récursive et un incident cyber impliquant des agents d’OpenAI, il propose d’intégrer des évaluateurs indépendants dans les laboratoires, de coordonner les entreprises des pays démocratiques autour de normes communes et d’organiser une coordination internationale incluant la Chine et les gouvernements autoritaires. Il a averti qu’un essaim d’agents pourrait prendre le contrôle d’Internet dans les six à douze mois et proposé des « checkpoints » de certification avant la poursuite du développement ; Sam Altman a déclaré qu’il fallait ralentir la frontière et Elon Musk a répondu : « Dario is right ».
Quand les dirigeants et anciens salariés alertent sur les risques d’une IA auto-améliorante, Anthropic et OpenAI préparent des introductions en bourse fondées sur des valorisations de plusieurs centaines de milliards de dollars.
L’AI Act constitue-t-il un rempart ou un moyen d’actions efficace contre ces possibles dérives ?  

2. Mécanismes d'audit et de contrôle de l’AI Act pour les modèles à risque systémique

Le chapitre V du Règlement IA, applicable depuis le 2 août 2025 aux modèles d’IA à usage général (« GPAI »), instaure un régime renforcé pour ceux qui présentent un risque systémique.
L’article 51 retient notamment une présomption lorsque la puissance de calcul cumulative de l’entraînement dépasse 10²⁵ opérations en virgule flottante (FLOP), tout en permettant à la Commission de désigner d’autres modèles au regard de leur diffusion ou de leurs impacts potentiels.
L’article 55 impose au fournisseur des évaluations contradictoires, l’identification et l’atténuation des risques systémiques, le suivi et le signalement des incidents graves, ainsi qu’un niveau adéquat de cybersécurité. 
Un panel scientifique d'experts indépendant - institué par l’article 68 de l’AI Act - peut alerter le Bureau de l’IA lorsqu’il soupçonne un risque systémique concret.
Le Bureau de l’IA peut obtenir les informations et documents nécessaires, évaluer les modèles ou demander des tests complémentaires et imposer des mesures correctives au titre de l’article 89.
La Commission peut, en vertu de l’article 93 de l’AI Act, lorsque le risque systémique est établi et que cela est nécessaire, demander aux fournisseurs de restreindre ou retirer le modèle du marché de l’Union ou exiger des évaluations complémentaires avant toute nouvelle mise à disposition.
Sans constituer une pause juridique au sens propre, ces mesures peuvent donc produire un ralentissement de facto, après que le modèle a été mis à disposition.
Ces mécanismes ne concernent cependant pas les modèles d’IA au stade de leur entraînement.
Le Règlement IA ne prévoit pas de moratoire explicite, ni ne confère aux autorités le pouvoir d’ordonner l’arrêt de l’entraînement d’un modèle en cours de développement : la logique est ex post et liée à la mise sur le marché, non à la recherche ou au développement.

3. Pouvoir des autorités européennes à l’égard des fournisseurs extraterritoriaux

L’article 2 confère au Règlement IA une portée extraterritoriale : les fournisseurs, notamment les géants américains comme OpenAI, Anthropic, Google ou Meta, sont concernés dès lors qu’ils mettent un système ou un modèle GPAI à disposition ou en service dans l’Union, quelle que soit leur implantation. Cette portée vise donc en pratique les modèles les plus puissants - dont la plupart de ceux susceptibles d’atteindre 10²⁵ FLOP sont développés aux États-Unis (même Mistral reste en deçà de la frontière mondiale) - néanmoins le texte exclut la recherche et développement antérieure à la mise sur le marché, ainsi que les systèmes exclusivement consacrés à la sécurité nationale, à la défense ou à des fins militaires.
Or, les appels au moratoire portent précisément sur l’entraînement, qui peut échapper au règlement tant qu’aucune mise à disposition n’intervient.
Dans le périmètre couvert, le pouvoir des autorités reste soumis au principe de proportionnalité : l’article 93 exige des éléments suffisants établissant un risque systémique avant toute demande de restriction ou retrait du marché.
À l’égard des fournisseurs établis hors de l’Union, l’exécution concrète des mesures dépend en outre de la coopération internationale.
Le contrôle demeure essentiellement ex post et le fournisseur n’a pas à obtenir d’autorisation préalable avant le déploiement ; il doit certes évaluer et documenter les risques, mais l’article 55 ne transforme pas ces évaluations en procédure d’autorisation. Il ne prévoit pas davantage d’audit préventif obligatoire par un tiers indépendant : les évaluations sont d’abord réalisées par le fournisseur, même selon des protocoles normalisés, le groupe scientifique et le Bureau disposant surtout d'un droit d’alerte, de regard et d’intervention. Le dispositif reste ainsi en décalage avec les demandes des dirigeants, qui portent sur des évaluations indépendantes et des checkpoints en amont du développement et du déploiement.

Pouvoirs et limites des institutions européennes face à ces alertes

Le panel a été constitué conformément au règlement d'exécution (UE) 2025/454 du 7 mars 2025, et ses 60 experts ont été recrutés et nommés courant 2026. 
Le pouvoir d'émettre des alertes qualifiées en vertu de l'article 90 n'est entré en application que le 2 août 2026 - soit il y a à peine six semaines. Le panel est donc, à ce stade, une institution jeune, encore en phase de mise en route opérationnelle.
Le Bureau de l'IA a commencé la mise en application effective depuis le 2 août 2026, et à ce titre, a mis en place un outil de plaintes (AI Act complaints tool) et un outil pour les lanceurs d'alerte (Whistleblower Tool).
De son côté, la commissaire européenne au numérique, Henna Virkkunen, a rappelé cette semaine que le droit de l'UE exige déjà des entreprises, y compris Anthropic, qu'elles évaluent les risques de perte de contrôle.  
De même, l'ENISA (l'agence européenne pour la cybersécurité) disposerait déjà du modèle Mythos 5 d'Anthropic et du modèle Astra d'OpenAI pour évaluation.
Pour autant, aucun mécanisme européen ne permet à la Commission d’ordonner un ralentissement des développements, ni à des concurrents de s'accorder sur une limitation commune de la vitesse de développement.
Par ailleurs, le jeu de la concurrence est faussé, faute de pouvoir faire exécuter les sanctions en Chine. Si DeepSeek (basée à Hangzhou, Chine) refuse de se conformer à une décision du Bureau de l'IA ou de payer une amende, les leviers d'exécution sont limités. La Commission ne dispose pas de mécanismes d'exécution forcée sur le territoire chinois.
Un précédent au titre du RGPD est éclairant : l'Italie a bloqué l'accès à DeepSeek R1 début 2025 pour non-conformité au RGPD, mais le blocage est intervenu via les app stores - un levier indirect qui dépend de la coopération d'Apple et Google. 

Le Règlement IA a le mérite de poser les fondations d’un premier cadre juridique de portée mondiale, et de fédérer autour de valeurs communes les conditions de mise sur le marché des systèmes et modèles d’IA, selon une approche fondée sur les risques, afin de maintenir un équilibre entre soutien à l’innovation et contrôle des risques.
Pour autant l’équilibre est mis sous tension par l’accélération des capacités technologiques et la concurrence internationale.
SI l’AI Act prévoit une clause de révision à son article 112, avec une évaluation et un rapport au Parlement et au Conseil au plus tard le 2 août 2029, ce calendrier apparaît déjà en décalage avec la réalité technologique.
Ainsi, au-delà de l’AI Act et des pouvoirs de la Commission et des Etats membres, la coordination entre concurrents pour limiter la vitesse de développement, et la coordination entre gouvernements au titre de la diplomatie internationale, apparaissent fondamentales.