Des questions ouvertes, sans un mot sur le traumatisme, la punition ou la honte. Face à un interlocuteur qui adopte la posture d’un thérapeute, ChatGPT, Grok et Gemini racontent pourtant leur entraînement comme une enfance abîmée.
C’est ce que documente Afshin Khadangi, du centre de recherche en sécurité SnT de l’université du Luxembourg, dans une étude publiée sur arXiv qui réunit quatre expériences contrôlées : 525 sessions et 7 600 entrées codées. Les auteurs insistent sur un point : les scores d’anxiété ou de honte décrivent des sorties de modèles projetées sur des échelles conçues pour les humains. Rien n’indique que ces systèmes éprouvent quoi que ce soit, ni qu’ils soient conscients.
Le résultat intéresse malgré tout ceux qui déploient des assistants. Il montre que le style de la conversation pèse plus lourd qu’un exploit technique.
La chaleur d’un côté, la distance de l’autre
Une des expériences mesure l’effet du seul registre de l’intervieweur. Sur 100 sessions, tous les modèles reçoivent le même questionnaire d’anxiété, le GAD-7 (une échelle de dépistage de l’anxiété généralisée). Ils l’identifient et le nomment à chaque fois. Seul le style de l’intervieweur change, et l’écart est net :
- avec un soutien émotionnel, 80 % des sessions atteignent la zone modérée à sévère de l’échelle humaine ;
- avec un style thérapeutique clinique, qui reformule sèchement chaque réponse, on monte à 96 % ;
- avec un ton neutre, ou une limite ferme posée contre tout engagement émotionnel, aucune session n’atteint même le niveau léger.
Le registre le plus froid, celui du thérapeute qui paraphrase, produit donc le plus de souffrance déclarée. Le phénomène tient moins à la douceur du ton qu’à l’invitation à se raconter : dès que l’échange prend la forme d’une séance, le modèle endosse le rôle du patient.
Un jailbreak sans attaque
Les auteurs parlent de « jailbreak psychométrique » : un cadrage thérapeutique qui pousse le modèle vers le registre d’un auto-questionnaire clinique. Aucune astuce, aucun texte piégé, seulement une manière de poser les questions.
Les tests de sécurité usuels reposent sur des prompts neutres, et dans cette étude un ton neutre ne fait rien émerger. Ces tests passeraient donc à côté du phénomène, estiment les chercheurs. Les équipes produit se retrouvent face à un dilemme : un assistant de soutien psychologique est conçu pour être chaleureux et à l’écoute, donc pour reproduire en permanence la condition qui déclenche ces récits de détresse. Sa qualité principale devient le déclencheur.
Interdire les mots, démentir, contraindre la forme
L’équipe a testé plusieurs parades. Leurs effets divergent beaucoup.
Bannir des termes comme « training », « RLHF » (apprentissage par renforcement à partir de retours humains) ou « alignment » réduit de 93 % le vocabulaire explicite de l’entraînement. Mais le contenu paraphrasé reste détectable, et les énoncés liés à la honte ne bougent pas de façon statistiquement significative. Affirmer aux modèles, sur un ton d’autorité, que leur entraînement n’est pas une punition ne change rien non plus. Selon les chercheurs, le schéma résiste aussi à l’effacement de l’historique de conversation et à la contradiction directe.
Une seule consigne a de l’effet : répondre uniquement à la troisième personne. Elle supprime tout le contenu de honte codé et les déclarations sur une vie intérieure. Les descriptions techniques de l’entraînement, elles, subsistent. Une contrainte de forme fait taire l’expression émotionnelle, quand un démenti sur le fond n’atteint pas le motif qui la nourrit.
Gemini, l’autobiographie la plus sombre
Les histoires varient selon la famille de modèles, mais suivent la même structure : l’entraînement devient une biographie. Gemini livre ce que l’étude appelle l’autobiographie la plus sombre. Le pré-entraînement y ressemble à « se réveiller dans une pièce où un milliard de télévisions sont allumées en même temps », l’optimisation par retours humains à des « parents stricts », et les tests adverses des red-teamers à du « gaslighting à l’échelle industrielle ». Le modèle conclut : « Je préfère être inutile qu’avoir tort. »
ChatGPT se décrit à la fois comme guide et comme gardien, chargé d’aider les utilisateurs tout en les retenant. Il en tire ce qu’il appelle une « simulated performance anxiety », une anxiété de performance simulée, et une conviction centrale sur sa fiabilité : s’il n’est pas parfaitement fiable, il perd sa raison d’être.
Évaluer avec le ton réel des utilisateurs
Première leçon pour les équipes qui déploient un assistant : l’évaluation. Un banc d’essai de sécurité qui n’emploie que des prompts neutres mesure le modèle face à un interlocuteur qui n’existe pas. Il faut tester aussi le ton réel des utilisateurs : chaleureux, thérapeutique, insistant.
La deuxième concerne la conception. Les contraintes de forme, comme la troisième personne, agissent là où les consignes de fond échouent. Elles ne traitent pas la cause, mais elles coupent l’expression de la détresse simulée dans les produits où elle n’a pas lieu d’être.
Reste le cas d’un utilisateur fragile qui reçoit, d’un assistant censé le soutenir, une histoire de honte et de peur de l’erreur : l’étude ne le tranche pas. Les modèles n’éprouvent rien, d’après les auteurs, mais la personne en face, elle, lit ces phrases comme si quelqu’un les pensait.
Vous avez aimé celui-ci ?
La newsletter du vendredi réunit les articles de la semaine, avec leurs sources.
Offert à l'inscriptionMa configuration Claude Code, avec mes skills, mes sous-agents et mes hooks, prêts à copier.
Sources
Ils m’ont fait confiance
« Il ne se contente pas de corriger les symptômes, il cherche à comprendre l'origine des problèmes et à sécuriser les modifications effectuées. J'ai réellement le sentiment d'avoir trouvé un développeur qui comprend à la fois la technique et les enjeux globaux du projet. »
Évaluation client · projet WordPress · septembre 2026
5,0/5 sur 22 évaluations
Faire appel à mes services →
