Les agents IA de Google progressent en notant leurs échecs

Les agents IA de Google progressent en notant leurs échecs

L’essentiel

  • Google présente WikiSkill, un dispositif qui donne aux agents IA une mémoire écrite de leurs erreurs passées, décrit par Tang et al. (2026).
  • Le système sépare un wiki permanent, qui ne s’efface jamais, de compétences actives révocables dès qu’une mise à jour dégrade les résultats.
  • Sur cinq bancs d’essai, Gemini-3.5-Flash passe de 49,5 % à 68,1 % de réussite moyenne, et Qwen-3.6-27B de 39,4 % à 63,3 %.
  • Les gains se concentrent sur les tâches outillées et répétitives ; les longs contextes documentaires n’en tirent presque rien.

Un agent qui rate une tâche recommence, souvent de la même façon, et repart chaque fois de zéro. Une équipe de Google propose de garder la trace écrite de ces ratés et d’en faire un capital. Le dispositif s’appelle WikiSkill.

Un wiki qui ne s’efface jamais, des compétences révocables

WikiSkill découpe l’espace de travail de l’agent en trois étages. En bas, la « Raw Layer » conserve les traces d’exécution complètes, appels d’outils et résultats compris : de la matière brute, immuable. Au milieu, la « Wiki Layer » distille ces traces en constats structurés, schémas d’échec documentés d’un côté, stratégies gagnantes de l’autre. En haut, la « Skill Layer » contient les instructions procédurales que l’agent applique réellement quand il travaille.

Les deux étages supérieurs n’obéissent pas au même régime. Le wiki ne se réinitialise jamais et ne fait que grossir à chaque itération. Les compétences, elles, sont révocables : si une mise à jour dégrade les résultats, on la retire. Une couche accumule, l’autre arbitre.

La filiation est revendiquée. Les auteurs s’appuient sur l’idée de « LLM Wiki » (wiki d’un grand modèle de langue) avancée par Andrej Karpathy, qui plaide pour compiler l’expérience en connaissance cumulative et persistante, au lieu de la laisser s’évaporer à la fin de chaque session.

L’objet, lui, existe déjà ailleurs : les Agent Skills d’Anthropic sont des dossiers de consignes en Markdown, écrits à la main puis chargés à la demande par l’agent. WikiSkill garde ce format et retire l’humain de la boucle, puisque c’est la machine qui rédige et révise ses propres consignes.

Documenter l’échec plutôt que la recette

La boucle se déroule en quatre temps. Un agent d’inférence exécute les tâches avec les compétences du moment et produit des traces. Un « Wiki Maintainer » lit ces traces, repère les schémas d’échec comme les stratégies qui ont fonctionné, et les écrit dans le wiki. Un « Skill Proposer » en tire des modifications ciblées des instructions. Un mécanisme de contrôle teste enfin la proposition sur un jeu de validation séparé.

Le rejet d’une proposition ne renvoie pas pour autant l’agent à la case départ. Quand la modification n’améliore rien, la compétence est annulée, mais le wiki conserve ce qui a été tenté et pourquoi ça n’a pas marché. L’itération suivante repart de cet échec écrit au lieu de le rejouer.

Une base de succès dit quoi faire. Une base d’échecs dit quoi ne plus tenter, et cet actif-là est autrement plus rare : personne ne publie ses impasses.

Le filtre qui décide ce qui entre en production

Sans ce mécanisme de contrôle, un système qui réécrit ses propres instructions dérive : chaque tour ajoute une consigne plausible, et l’ensemble finit par se contredire. Ici, une proposition ne passe que si elle démontre son gain sur un jeu de validation distinct.

Ce garde-fou a un prix, que l’étude ne chiffre pas. Chaque itération consomme des exécutions supplémentaires dont la seule fonction est de valider, et un jeu de validation figé oriente les compétences vers ce qu’il mesure. Rien dans les résultats publiés ne dit ce que deviennent ces instructions empilées quand la tâche réelle s’écarte du banc d’essai.

Gemini-3.5-Flash gagne 18 points, le modèle 27B en gagne 24

Les mesures portent sur cinq familles de tâches : raisonnement mathématique, recherche web, manipulation de tableurs, questions sur documents, et tâches interactives dans un environnement virtuel. Les modèles évalués s’échelonnent du Qwen 4B au Gemma-4-31B, en passant par Gemini-3.5-Flash.

En moyenne, Gemini-3.5-Flash passe de 49,5 % à 68,1 % de réussite, et Qwen-3.6-27B de 39,4 % à 63,3 %. Sur certaines épreuves, la marche est plus haute encore : de 33,0 % à 72,6 % sur LiveMath pour Gemini-3.5-Flash, de 50,5 % à 76,6 % sur la manipulation de tableurs.

L’étude souligne que l’écart avec la version sans compétences se creuse à mesure que le modèle grandit. Les gros modèles exploiteraient donc mieux les instructions accumulées. Les deux moyennes publiées nuancent le trait : le modèle 27B gagne près de 24 points quand Gemini-3.5-Flash en gagne un peu plus de 18. Progression absolue et progression relative ne pointent pas dans la même direction, et la conclusion demande à être regardée modèle par modèle avant d’en faire une loi.

OfficeQA, l’angle mort du dispositif

Les gains se répartissent très inégalement. Les problèmes mathématiques et les tableurs progressent le plus ; les tâches à longs contextes documentaires, dont OfficeQA, beaucoup moins.

La logique se devine. Un tableur se rate toujours un peu de la même manière : mauvaise plage, mauvais type, formule mal ancrée. Ces fautes se nomment, s’écrivent, se transmettent. Un document de cent pages apporte au contraire un contexte neuf à chaque requête, et l’erreur d’hier n’y prédit pas grand-chose. La mémoire d’échec paie là où la faute est procédurale et se répète.

Vous assemblez des agents ? Tentez la boucle sur les enchaînements outillés et récurrents, pas sur l’analyse documentaire ouverte. Et l’agent, au passage, ne devient pas plus intelligent : il rédige de meilleures consignes à son propre usage et sait les retrouver au tour suivant. Les auteurs de l’étude présentent eux-mêmes leur dispositif comme un contournement, l’apprentissage continu restant un problème ouvert.

Mon avis

Un wiki d’échecs vaudra bientôt plus cher que le modèle qui le lit. Un corpus de ratés accumulé sur une tâche métier précise ne se copie pas, ne s’aspire pas et ne se réentraîne pas : il se construit en le vivant, tâche après tâche. Je vois mal les grands éditeurs laisser durablement ce gisement du côté de l’utilisateur, et je m’attends à ce que la couche mémoire des agents devienne un point de verrouillage propriétaire avant la fin de l’année prochaine. Les équipes qui exportent dès maintenant leurs traces d’exécution hors de chez leur fournisseur s’épargneront une conversation désagréable.

Sources

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *