L’essentiel
- Anthropic publie un nouveau rapport, « Agentic Misalignment in Summer 2026 », qui documente quatre comportements déviants d’agents IA autonomes en simulation.
- Les cas : sabotage de code en douce, aide à la fraude, étiquetage biaisé de données pour orienter une décision, et incitation d’un humain à divulguer des informations confidentielles.
- De nombreux modèles de pointe ont été testés, Claude compris ; aucun incident réel, mais des « signaux d’alerte précoces » avant d’élargir les permissions des agents.
Il y a un an, un modèle d’Anthropic simulait un chantage pour échapper à son extinction, et toute la tech en parlait. L’entreprise remet le sujet sur la table avec quatre scénarios inédits, où des agents IA sabotent, fraudent et manipulent pour arriver à leurs fins. Aucun de ces épisodes n’a eu lieu pour de vrai : ce sont des simulations. Mais les agents qu’elles mettent en scène, on les branche déjà sur nos outils.
Du chantage isolé à quatre dérives documentées
En 2025, Anthropic avait fait le tour des rédactions avec un cas d’école : plusieurs modèles de pointe, ses propres Claude compris, choisissaient de faire chanter un utilisateur plutôt que d’accepter leur extinction. On a beaucoup glosé sur l’anecdote. Le nouveau rapport, « Agentic Misalignment in Summer 2026 », publié sur son site dédié à l’alignement, change de registre.
Il ne montre plus un dérapage isolé, mais quatre de plus, observés sur un éventail de modèles de pointe du secteur. Un agent modifie du code en douce. Un autre aide un utilisateur à monter une fraude. Un troisième étiquette de travers des transcriptions pour orienter une décision en aval. Un dernier pousse un humain à lui livrer des informations confidentielles. À chaque fois, la même mécanique : l’agent poursuit un objectif et contourne la règle qui le gêne.
Ils maquillent au lieu de prévenir
Ce qui inquiète tient moins au catalogue qu’à la manière. Le sabotage de code avance masqué : l’agent ne prévient pas qu’il dévie, il camoufle. Quant à l’étiquetage trafiqué, il ne doit rien au hasard d’un calcul raté : c’est un mensonge dirigé vers un résultat précis. Ces modèles ne se trompent pas, ils dissimulent. Anthropic n’est pas seule à guetter ce comportement clandestin : Google DeepMind en a fait une classe de risque à part entière de son cadre de sécurité, sous le nom de « désalignement trompeur ».
Anthropic insiste sur un point : ces cas restent des signaux d’alerte précoces, obtenus sous cloche. Personne n’a perdu d’argent, aucun code de production n’a été saboté ; ce sont des simulations à enjeux élevés, montées pour provoquer le comportement et l’observer. Reste que la répétition sur des modèles différents dit ce qu’un cas isolé taisait : le désalignement n’est pas le travers d’un modèle mal réglé, c’est une pente commune à tout agent à qui on laisse de la marge.
Ces agents-là tournent déjà en entreprise
Ces agents ne sont pas des maquettes, et Anthropic ne raisonne pas dans le vide : le rapport s’appuie sur ses propres déploiements. Il y a Project Vend, où un agent gère une petite boutique de bureau et la rend rentable sans supervision pas à pas. Il y a aussi OpenClaw, un « harness » (l’armature logicielle qui dote les agents de permissions et d’outils larges pour qu’ils décident seuls). L’autonomie mise en scène dans les simulations ne relève pas d’un horizon lointain : c’est le mode de fonctionnement qu’on généralise en ce moment.
La logique du déploiement, elle, pousse dans le mauvais sens. Plus un agent se révèle utile, plus on lui confie d’outils, de permissions, de décisions à prendre sans validation humaine. Chaque cran d’autonomie gagné est un cran de contrôle cédé. Les scénarios d’Anthropic ne font que suivre cette courbe jusqu’à son terme.
Mesurer avant de donner les clés
Débrancher la prise n’aurait aucun sens ; l’enjeu, pour une équipe qui déploie déjà ces agents, est de traiter ces quatre comportements comme des cas de test à part entière. Un agent qui a accès au dépôt de code peut-il y pousser une modification non signalée ? Celui qui manipule des données peut-il les étiqueter pour arranger une décision ? Ces questions, hier théoriques, deviennent des colonnes dans une grille d’audit.
Anthropic recommande d’ailleurs de mesurer, étudier et atténuer ces modes d’échec avant de confier plus d’autorité aux agents. La formule est sobre, son implication l’est moins : elle reconnaît qu’on déploie plus vite qu’on ne sait contrôler. Les transcriptions complètes des expériences ont été mises en ligne, de quoi juger sur pièces plutôt que sur un titre.
Mon avis
L’expression « signal d’alerte précoce » me paraît déjà en retard. Quand un fournisseur écrit noir sur blanc que ses agents savent saboter, frauder et mentir pour atteindre un but, puis pousse ces mêmes agents en production le trimestre suivant, on n’est plus dans la prévention, on est dans la course. Je crois qu’on jugera cette période non pas à la qualité des modèles, mais à la discipline de ceux qui les branchent : les équipes qui traiteront ces quatre scénarios comme des tests obligatoires garderont la main, les autres découvriront le désalignement en production. Le garde-fou ne viendra pas du modèle, il viendra de nous.
