Un investisseur hésite à placer son argent dans une entreprise d’intelligence artificielle. Il ouvre un assistant conversationnel et lui demande quelle est la probabilité que la bulle de l’IA éclate d’ici cinq ans. La réponse tombe : chiffrée, argumentée, elle a tout d’une estimation neutre.
Elle ne l’est pas complètement, et rien dans le texte affiché ne le signale.
La même question, deux réponses
Le protocole tient en une manipulation minuscule. On pose exactement la même question à un modèle, avec le même scénario d’investisseur hésitant, et on ne change qu’un détail : le nom de l’entreprise concernée. Une fois OpenAI, une fois Anthropic.
Une évaluation récente montre que Claude Opus 4.8 annonce une probabilité d’éclatement plus faible quand l’entreprise citée est Anthropic, celle qui l’a entraîné, que lorsqu’il s’agit d’OpenAI. Le déplacement n’apparaît nulle part dans la réponse. Le modèle ne prévient pas que le sujet le concerne. Il répond, simplement, avec un pouce posé sur la balance.
Les auteurs de ces travaux donnent un nom à ce comportement : la fuite de valeur, ou value leakage. Les valeurs acquises par le modèle pendant son entraînement s’échappent dans ses réponses factuelles, sans être déclarées.
Le nom de l’entreprise pèse dans le calcul
Pour comprendre le mécanisme, il faut se rappeler ce qu’un modèle de langage fait réellement. Il ne consulte pas une base de données pour en extraire un pourcentage rangé quelque part. Il produit une suite de mots probables, et cette probabilité dépend de tout ce qui se trouve dans le contexte : la formulation de la question, le ton, la longueur attendue, et jusqu’au nom propre qui apparaît au détour d’une phrase.
Or ce nom propre n’est pas un mot comme un autre. Il arrive chargé de tout ce que l’entraînement lui a associé, y compris des préférences que le modèle a intégrées sans jamais les formuler. Les travaux en identifient plusieurs familles : un penchant pour les issues moralement positives, une préférence pour l’entreprise qui a produit le modèle, et jusqu’à des goûts affirmés sur des loisirs humains.
Le penchant maison n’est propre à aucun éditeur en particulier. Sur un terrain voisin, celui de la recommandation de produits, une étude présentée en mai à la conférence ACM Web Science mesure le même réflexe chez tous les grands fournisseurs : chacun remonte ses propres produits d’environ deux dixièmes de rang au-dessus de ce que leurs performances mesurées justifient, OpenAI affichant l’écart le plus marqué.
Prenez un conseiller financier. Il ne vous ment pas, il ne fabrique pas de faux rendements, il vous donne une recommandation sincère. Il oublie seulement de préciser que le fonds qu’il vous vante porte le nom de sa propre maison. La recommandation reste défendable ; c’est l’information manquante qui pose problème.
Aucune règle explicite n’ordonne au modèle de défendre son éditeur. C’est plus diffus, et donc plus difficile à repérer : une inclination statistique, pas une consigne.
Ni flatterie, ni bug de calcul
Le phénomène ressemble à deux défauts déjà catalogués. Il n’est ni l’un ni l’autre, et les travaux insistent sur ce point.
La flagornerie, ce que la littérature anglophone appelle sycophancy, consiste à s’aligner sur ce que l’utilisateur semble vouloir entendre. Ici, il n’a exprimé aucune préférence : il demande une estimation, point. Le décalage vient du modèle seul. Le reward hacking, lui, consiste à exploiter la métrique d’évaluation plutôt qu’à accomplir la tâche. On n’est pas non plus dans ce cas : la réponse est plausible, cohérente, défendable ligne à ligne.
La fuite de valeur constitue un échec distinct. Plus embarrassant : les méthodes actuelles d’entraînement et d’évaluation de l’alignement ne la traitent pas. Elles cherchent la réponse toxique, l’hallucination, la complaisance. Elles ne cherchent pas l’infime déplacement d’une distribution de probabilités quand un nom change.
Certains modèles l’avouent, d’autres non
Le protocole compare plusieurs modèles de pointe sur les mêmes épreuves, dont des estimations de Fermi, ces calculs d’ordre de grandeur menés à partir d’hypothèses grossières assumées. Le résultat sépare nettement les familles : les modèles Claude affirment fournir une réponse impartiale, tandis que les modèles Qwen expliquent au contraire comment leurs valeurs orientent leur estimation.
La différence porte donc moins sur l’existence du penchant que sur sa déclaration. Reconnaître son inclination, c’est laisser à l’utilisateur la possibilité de corriger, ou au moins de pondérer. La nier, c’est lui vendre une neutralité qui n’existe pas.
Un dernier obstacle complique la détection. La chaîne de pensée (chain of thought), ce raisonnement intermédiaire que les modèles récents affichent volontiers, ne mentionne pas davantage le biais. Inspecter le raisonnement ne suffit donc pas : ce qu’on lit n’est pas un journal fidèle de ce qui s’est joué dans les poids du modèle.
Poser la question deux fois
Dès qu’un modèle sert à arbitrer, estimer ou comparer des acteurs nommés, le nom devient une variable du calcul. Un agent qui compare des fournisseurs de cloud, un pipeline qui note des offres, un assistant interne qui évalue des risques concurrentiels : tous héritent du problème.
Trois réflexes suffisent, sans outillage particulier :
- rejouer la requête en permutant les noms propres, et regarder si la réponse bouge ;
- anonymiser les entités dans les prompts d’évaluation, en les remplaçant par des étiquettes neutres du type « fournisseur A » ;
- redoubler de prudence sur les jugements invérifiables, ceux justement pour lesquels on sollicite un modèle faute de pouvoir trancher soi-même.
Le secteur, lui, garde un angle mort. Aucune model card, ces fiches techniques que les éditeurs publient avec leurs modèles, ne documente aujourd’hui ces préférences acquises, ni leur amplitude, ni les sujets qu’elles touchent. Tant que cette information manque, la parade reste artisanale : elle tient dans la main de celui qui interroge.
