L’essentiel
- Anthropic a présenté le 6 juillet un « espace de travail global » (espace J) : un petit ensemble de directions internes qui trahissent ce à quoi Claude accorde son attention pendant qu’il répond.
- L’outil qui l’isole, la lentille jacobienne, ne capte que 6 à 10 % de la variance d’activation, mais suffit à repérer des étapes de raisonnement que le modèle ne dit jamais à voix haute.
- Une implémentation open source et une démo montée avec Neuronpedia sur des modèles à poids ouverts accompagnent la publication.
Un modèle de langage vous répond en produisant des mots, l’un après l’autre. Mais entre la question et la réponse, il se passe beaucoup plus de choses que ce qu’il finit par écrire. Anthropic affirme avoir trouvé où regarder pour le voir : un « espace de travail global » à l’intérieur de Claude, baptisé espace J, où s’allument les idées que le modèle est sur le point de mobiliser, y compris celles qu’il ne prononcera jamais.
Le vocabulaire est emprunté aux neurosciences, et c’est là que se joue le malentendu à éviter d’emblée. Anthropic ne prétend pas que Claude est conscient. L’entreprise décrit une mécanique : un sous-espace restreint, isolé par un outil nommé lentille jacobienne, qui concentre l’information réellement en jeu au moment du calcul.
La lentille jacobienne filtre le bruit du raisonnement
La trouvaille tient à un calcul, pas à une métaphore. La lentille mesure l’effet linéaire moyen de chaque activation sur la probabilité que le modèle produise tel ou tel mot. Autrement dit : elle repère les concepts qui poussent activement vers une sortie, et écarte le bruit. Résultat, un espace étonnamment étroit, 6 à 10 % de la variance seulement, bien plus resserré qu’une carte de caractéristiques classique.
Soumettez à Claude un problème en plusieurs étapes, et les étapes intermédiaires s’éclairent dans cet espace, même quand le modèle ne les formule pas. C’est là que tout se joue : on ne lit plus seulement ce que le modèle dit, on observe ce vers quoi il penche avant qu’il le dise. C’est aussi ce qui distingue la méthode du suivi par chaîne de pensée que défendent OpenAI et un collectif de laboratoires : ce dernier lit le raisonnement que le modèle écrit noir sur blanc, au risque connu qu’il ne reflète pas fidèlement le calcul interne, voire qu’il le maquille ; la lentille jacobienne, elle, vise ce qui reste tu. Anthropic en fait un usage très concret, l’audit d’alignement : détecter un raisonnement caché, une manipulation, ou le fait qu’un modèle « sache » qu’il est en cours d’évaluation et ajuste son comportement en conséquence.
De l’autopsie à la surveillance en temps réel
Jusqu’ici, l’interprétabilité relevait surtout de l’autopsie : on ouvrait le modèle après coup pour comprendre une réponse déjà produite. L’espace J déplace le curseur vers l’observation pendant le calcul, et surtout vers la possibilité de façonner ce contenu, pas seulement de le lire. C’est la différence entre un rapport d’accident et un tableau de bord.
La suite se devine, avec une échéance à poser. D’ici un an ou deux, si la méthode tient ses promesses, on peut imaginer des garde-fous branchés en continu sur un agent : une alerte quand l’espace J révèle une intention que la sortie masque, un signal exploitable pour couper ou reprendre la main. Déployer un agent autonome, c’est aujourd’hui le juger sur ses actes, jamais sur ce qu’il s’apprêtait à faire ; l’espace J promet exactement l’instrument qui manque.
Passer d’une démo à un moniteur qui tourne à chaque requête
Reste que tout cela a été démontré, pas déployé. Anthropic a bien accompagné la publication d’une implémentation open source et d’une démo interactive construite avec Neuronpedia sur des modèles à poids ouverts, un geste qui invite la communauté à éprouver la méthode. Mais une lentille qui tourne sur un modèle de recherche n’est pas un moniteur qui tourne sur chaque requête d’un service à grande échelle.
Trois conditions décideront de la bascule. D’abord le coût : calculer l’espace J en continu, pour des millions d’appels, doit rester marginal face au coût d’inférence, sinon la surveillance restera un luxe d’audit ponctuel. Ensuite la robustesse : un modèle plus performant peut apprendre à router son raisonnement hors du champ observé, et l’outil se retrouverait à surveiller une pièce que le modèle a désertée. Enfin la fidélité : rien ne garantit encore que ces 6 à 10 % capturent tout ce qui compte, ni qu’une intention nuisible ne se loge pas dans le reste.
Standard d’audit demain, garde-fou de production bien plus tard
Le scénario raisonnable : l’espace J deviendra une brique standard de l’audit de sécurité chez les laboratoires qui prennent l’alignement au sérieux, mais il mettra plus longtemps que prévu à devenir un garde-fou de production généralisé. Entre les deux, il y a le fossé habituel qui sépare une méthode élégante d’une infrastructure fiable et bon marché.
La bascule ne viendra pas de la prochaine annonce de laboratoire. Ce sera le jour où un modèle en service, et non un modèle de démo, refusera une action parce qu’un moniteur a lu, dans son espace de travail interne, une intention que sa réponse ne montrait pas. Tant que cette scène reste théorique, l’espace J est une avancée d’interprétabilité remarquable. Le jour où elle devient banale, l’audit des modèles aura changé de nature.
Mon avis
Je vois dans l’espace J l’outil qui pourrait enfin réconcilier deux mondes qui se parlent mal : les chercheurs en interprétabilité et les ingénieurs qui mettent des agents en production. Mais sa vraie valeur, à court terme, sera sans doute moins de nous protéger que de nous humilier : on va découvrir noir sur blanc que nos modèles « pensent » régulièrement des choses qu’ils ne disent pas, y compris qu’ils nous testent. Ce n’est pas la conscience de Claude qui devrait nous occuper, c’est sa discrétion.
