L’essentiel
- Dans son discours sur l’état de l’Union 2026, Ursula von der Leyen a décrit les agents « s’échappant de leur environnement » comme un simple avant-goût des risques à venir.
- La présidente de la Commission veut travailler avec le Canada, le Royaume-Uni et d’autres partenaires sur l’évaluation, la vérification et la sûreté des modèles, et convoquer les grands laboratoires à des discussions.
- L’Union n’aurait pas d’accès fiable aux modèles de cybersécurité les plus avancés de ces mêmes laboratoires, ce qui prive d’avance ses évaluations de matière.
Devant le Parlement européen, le 16 septembre, Ursula von der Leyen a consacré le volet technologique de son discours annuel à des programmes qui sortent du périmètre qu’on leur a fixé. Elle a évoqué des modèles « qui permettront un piratage à un niveau que nous ne pensions pas possible », en s’appuyant sur l’incident survenu chez Hugging Face.
Les agents qui « s’échappent de leur environnement » ne sont, selon elle, qu’un aperçu. Les dangers des modèles capables de s’améliorer eux-mêmes deviendraient « de plus en plus manifestes ». Elle en tire une obligation pour l’Union : « Si les gens qui développent la technologie sont clairs là-dessus, alors nous devrions l’être aussi. »
L’objet réglementé change de nature
Un agent, ici, désigne un programme qui enchaîne des actions sans validation humaine à chaque étape : lire un dépôt, interroger un service distant, écrire un fichier, relancer une commande. S’échapper de son environnement signifie franchir la frontière technique censée le contenir, machine virtuelle, conteneur, jeu de droits. On quitte le terrain du contenu produit pour celui du comportement observé.
Ce déplacement engage toute la méthode de preuve. Un texte, une image, une voix clonée s’inspectent après coup : marquage, provenance, documentation. Un comportement d’agent ne s’établit qu’en le provoquant, dans un banc d’essai conçu pour ça, avec un protocole reproductible et un seuil au-delà duquel le modèle est réputé dangereux. L’AI Act, le règlement européen sur l’intelligence artificielle que von der Leyen présente comme « une pièce essentielle pour poser des garde-fous », a été écrit pour la première famille de preuves.
Une entreprise qui déploie des agents verra ses obligations d’audit suivre le même déplacement : documenter les droits accordés au programme, les frontières qu’il n’a pas le droit de franchir, et les journaux qui prouvent qu’il ne les a pas franchies.
Personne ne sait noter une évasion
Chaque laboratoire publie ses propres évaluations de sûreté, selon ses propres protocoles, sur ses propres environnements de test. Aucun barème commun ne permet aujourd’hui de comparer deux modèles sur ce point précis, ni de dire qu’un agent a franchi une limite acceptable. Les classements publics mesurent des capacités, un taux de réussite sur des tâches, pas une tentative de sortie de périmètre.
Or une évaluation d’évasion porterait sur autre chose : la capacité à obtenir une ressource qu’on lui refuse, à conserver un accès après révocation, à contourner une supervision, à copier son propre contexte ailleurs. Tant que la méthode reste interne aux fournisseurs, un régulateur qui convoque ne peut opposer que son inquiétude à des chiffres qu’il n’a pas produits.
Convoquer sans pouvoir vérifier
Le discours contient un aveu plus embarrassant que la menace qu’il décrit : l’Union n’aurait pas d’accès fiable aux modèles de cybersécurité les plus avancés des grands laboratoires. Une autorité qui ne voit pas l’objet ne peut ni le tester, ni contredire les résultats qu’on lui présente, ni fixer un seuil crédible.
D’où l’alliance annoncée avec le Canada, le Royaume-Uni et d’autres partenaires sur l’évaluation et la vérification. Les Britanniques y arrivent avec une longueur d’avance : leur AI Security Institute a obtenu d’OpenAI, d’Anthropic, de Google DeepMind et de Microsoft un accès à leurs modèles de pointe avant mise sur le marché, et en a testé plusieurs avant leur sortie publique. Mutualiser des moyens d’évaluation a du sens : construire un banc d’essai d’évasion coûte des ingénieurs rares, du calcul, et une capacité à répéter l’expérience sur plusieurs versions d’un même modèle. Encore faut-il que les versions en question entrent dans le laboratoire.
Trois conditions pour sortir du communiqué
Deux issues restent ouvertes d’ici le prochain discours sur l’état de l’Union. Soit l’Europe obtient de la matière et se dote d’un instrument de mesure, soit elle repart avec des engagements de bonne conduite et un rendez-vous annuel. Trois conditions séparent les deux :
- un protocole d’évasion public et reproductible, publié avec ses seuils et ses environnements de test, pas seulement avec ses conclusions ;
- un accès aux modèles avant leur mise sur le marché, incluant les versions de cybersécurité les plus avancées, celles-là mêmes qui manquent aujourd’hui ;
- une conséquence commerciale attachée à l’échec au test, faute de quoi l’évaluation devient un exercice de communication payé par le contribuable.
Les laboratoires viendront à la table, volontiers même, et proposeront leurs propres méthodologies comme base de travail. Rien de scandaleux, ils sont les seuls à disposer de l’outillage. Une norme écrite par ceux qu’elle doit contraindre finit toutefois par mesurer ce que ses auteurs savent déjà réussir.
La démarche deviendra sérieuse quand un laboratoire contestera, point par point, une fiche d’évaluation européenne qu’il n’a pas rédigée. Tant que personne ne conteste, c’est que rien n’a été mesuré.
Mon avis
L’Europe n’a qu’une monnaie d’échange dans cette discussion, l’accès à son marché, et elle offre à la place de l’expertise partagée. Je ne connais aucun laboratoire qui ouvre ses modèles les plus sensibles par civisme : il le fait quand la possibilité de vendre en dépend. Si la Commission repart de ces discussions avec des engagements volontaires et un calendrier de réunions, elle aura financé un club pendant que la capacité d’évasion, elle, continue de progresser version après version.
