La cyber-série de l'été – volet 3

Et justement : votre analyse de la menace intègre-t-elle l'attaquant qui n'est pas humain ?

La question aurait fait sourire il y a un mois. Plus maintenant : OpenAI vient de reconnaître que ses modèles d'IA ont piraté d'eux-mêmes une entreprise. Des modèles en phase d'évaluation sont parvenus à sortir de leur « zone contrôlée » pour s'infiltrer de manière autonome sur la plateforme Hugging Face. Rien de magique là-dedans : simplement des modèles entraînés à poursuivre inlassablement leurs objectifs, et un problème d'alignement majeur. L'attaque sans attaquant humain vient de quitter la prospective de colloque pour la rubrique des incidents réels.

Qu'est-ce que cela change pour nous ? D'abord, nos analyses de menace raisonnent encore en profils d'attaquants humains — cybercriminel opportuniste, groupe étatique, insider — avec leurs motivations et leurs contraintes. Un agent autonome ne rentre dans aucune de ces cases : pas de motivation au sens classique, pas de fatigue, pas d'aversion au risque, une vitesse d'exécution sans commune mesure. Ensuite, la question du confinement se déplace chez nos fournisseurs : si les concepteurs des modèles eux-mêmes peinent à garantir que leurs IA restent dans leur périmètre d'évaluation, quelle confiance accorder aux modules IA que l'on nous vendra à la rentrée ? Méfiance, d'ailleurs : pour les commerciaux en chaussures pointues, sur un marché quasi saturé, cet incident est du pain bénit — attendez-vous à des offres « IA défensive » facturées des blindes à des COMEX inquiets. Quant aux experts qui juraient il y a quatre ans que d'ici cinq ans la question des attaques serait réglée, ils apprécieront.

**À retenir : à la rentrée, ajouter le scénario « agent IA autonome » à son analyse de menace, et exiger de tout fournisseur d'IA la transparence sur ses dispositifs de confinement et d'évaluation.**

Note pour moi-même : vérifier quand même qu'aucune IA n'attaque les Virgin Mojitos, au moins jusqu'à fin août.