L’essentiel
- Anthropic a publié le 28 août un papier intitulé « Automated Researchers Can Reliably Mitigate Alignment Failures », mené par Chen Yueh-Han dans son programme de fellows.
- Avec 48 heures et un seul GPU, un système piloté par Claude a fait progresser de petits modèles sur dix benchmarks de comportements désalignés, sans dégrader leurs capacités générales.
- Le papier chiffre l’écart de coût : environ 4 dollars de l’heure d’inférence via l’API, contre 150 dollars de l’heure pour un chercheur humain.
- Limite reconnue par les auteurs : la méthode ne vaut que si les benchmarks reflètent les objectifs d’alignement réels.
Un seul GPU (processeur graphique, la puce qui fait tourner l’entraînement), 48 heures de calcul, dix défauts de comportement à corriger sur de petits modèles : voilà le laboratoire miniature qu’Anthropic a confié à Claude. Le compte rendu est paru le 28 août, et le modèle y tient le rôle du chercheur, pas celui de l’objet d’étude.
Dix travers de comportement, un protocole baptisé AAR
Le papier s’intitule « Automated Researchers Can Reliably Mitigate Alignment Failures ». Il est signé Chen Yueh-Han, membre du programme de fellows d’Anthropic, et le dispositif qu’il décrit porte un nom : Automated Alignment Researcher, abrégé en AAR.
L’ambition n’est pas neuve : OpenAI avait fait du chercheur en alignement automatisé la cible affichée de son équipe Superalignment dès 2023, avec 20 % de sa puissance de calcul engagée sur quatre ans. Anthropic ne prétend pas à cette échelle, mais son dispositif tourne.
Le terrain de jeu est volontairement étroit. Dix benchmarks (des suites de tests standardisées qui notent un modèle sur une compétence précise), chacun braqué sur un travers à faire disparaître : la tromperie, la flatterie (le réflexe du modèle qui donne raison à son interlocuteur au lieu de lui donner la bonne réponse), et d’autres défauts d’alignement bien documentés. Les cibles sont de petits modèles, entraînables en quelques minutes. Une contrainte encadre l’exercice : ne pas abîmer les capacités générales au passage.
Sur les dix benchmarks, les scores progressent. Tous.
Trente minutes d’entraînement, puis on recommence
Le mécanisme reproduit la démarche d’un chercheur, en accéléré. Claude parcourt la littérature disponible sur le défaut à corriger. Il propose une méthode d’entraînement. Il l’applique pendant une trentaine de minutes. Il mesure. Ce qui fait monter le score est conservé, ce qui échoue est jeté, et il repart pour un tour avec ce qu’il vient d’apprendre.
Anthropic décrit une progression par paliers : le système gravit la pente du benchmark, itération après itération. C’est de l’essai-erreur méthodique, à une cadence qu’aucune équipe humaine ne peut tenir. Les meilleures méthodes obtenues ont ensuite été rejouées sur des benchmarks tenus à l’écart pendant tout l’entraînement, pour vérifier qu’elles ne collaient pas simplement aux tests d’origine.
Quatre dollars contre cent cinquante
La comparaison avec l’humain est posée sans détour. En moins de six heures en moyenne, la meilleure méthode trouvée par le système automatisé dépasse ce que proposent des chercheurs expérimentés. Plus troublant : les pistes de recherche suggérées par des humains n’améliorent pas le résultat final.
Vient ensuite l’arbitrage budgétaire : environ 4 dollars de l’heure d’inférence via l’API (l’accès au modèle, facturé à la requête), contre 150 dollars de l’heure pour un chercheur salarié. Un rapport proche de quarante, sur une tâche que le laboratoire considérait jusqu’ici comme le cœur de son métier.
Quand le correcteur a révisé le même manuel
Imaginez un élève qui prépare un concours en ne travaillant que sur les annales, avec un professeur particulier formé sur ces mêmes annales. Ses notes vont monter, c’est mécanique. Elles ne diront pas s’il maîtrise la matière ou la forme des questions.
Les auteurs assument cette limite. Le procédé ne vaut que si les benchmarks traduisent fidèlement les objectifs d’alignement visés. Un comportement dangereux qu’aucune suite de tests ne mesure ne bougera pas d’un pouce, quel que soit le nombre d’itérations. Et le système puise ses idées dans une littérature existante, qu’il faut continuer à produire et à tenir à jour.
Deux chantiers restent entièrement manuels, et le papier les nomme : écrire et maintenir les benchmarks, alimenter le corpus de méthodes où le chercheur automatisé va se servir. Le travail rare se déplace vers l’amont.
La mesure devient l’actif rare
Pour une équipe qui met des modèles en production, la conséquence est directe. Corriger un comportement gênant devient une commodité : ça s’achète à l’heure d’API, ça tourne la nuit, ça passe à l’échelle. Ce qui ne s’achète pas, c’est la définition de ce que vous voulez corriger, formulée en tests exécutables sur votre domaine.
Une suite d’évaluations maison, écrite à partir de vos incidents réels, de vos utilisateurs et de vos contraintes métier, vaudra bientôt plus cher que la méthode d’entraînement qui l’exploite. Gardez les proportions en tête : les modèles évalués ici sont petits, les défauts choisis parmi les mieux balisés, et personne ne prétend avoir automatisé l’alignement d’un modèle frontière (les systèmes les plus puissants du marché).
Anthropic présente ces résultats comme une première indication que ce réglage automatisé du comportement, mené après l’entraînement initial, pourrait devenir praticable à court terme. La suite dépendra moins de la puissance des chercheurs automatisés que de la qualité des examens qu’on leur donne à passer. Écrire un bon benchmark d’alignement n’a jamais été un travail prestigieux. Il vient de devenir le goulot d’étranglement.
Mon avis
Retenez les six heures plutôt que les 4 dollars : c’est le temps qu’il faut à une machine pour dépasser des chercheurs chevronnés sur leur propre terrain, et ça devrait faire réfléchir tous ceux qui vendent de l’expertise en sécurité des modèles. Ce que j’y vois surtout, c’est un déplacement de responsabilité : une fois la correction automatisée, le jeu de tests devient l’unique garde-fou, et on sait que les tests d’alignement publics vieillissent vite. Les prochains incidents ne viendront pas de modèles mal corrigés, mais de modèles parfaitement corrigés sur des critères périmés, et plus personne ne sera payé 150 dollars de l’heure pour aller le vérifier.
