Un modèle de langage ne ment pas. Il ne sait pas non plus qu’il se trompe. Une hallucination LLM (Large Language Model, grand modèle de langage) désigne une réponse fluide, assurée, plausible… et fausse : une jurisprudence qui n’existe pas, une date inventée, une citation jamais prononcée. Elle tient à la façon même dont ces modèles produisent du texte. C’est pour cela qu’on ne la « corrige » pas comme un bug : on l’encadre.
La recherche publiée par OpenAI en septembre 2025 (Kalai et al., « Why Language Models Hallucinate », arXiv 2509.04664) l’énonce sans détour : les modèles hallucinent parce que leur entraînement et leur évaluation récompensent la supposition plutôt que l’aveu d’incertitude. Tout le reste découle de ce constat.
Une hallucination, à quoi ça ressemble ?
Le cas d’école reste l’affaire Mata v. Avianca, jugée à New York en 2023. Des avocats y ont déposé un mémoire citant plusieurs décisions de justice fournies par ChatGPT. Aucune n’existait. Le juge a sanctionné le cabinet d’une amende de 5 000 dollars, et l’épisode a fait le tour des barreaux du monde entier.
Autre registre, même mécanique : en 2024, un tribunal canadien a condamné Air Canada après que son assistant conversationnel avait décrit à un client une politique de remboursement qui n’existait pas. La compagnie plaidait que le chatbot était responsable de ses propres propos. L’argument n’a pas tenu.
Les hallucinations prennent plusieurs formes, plus ou moins faciles à repérer :
- La référence fantôme : article scientifique, URL, décision de justice ou ouvrage inventé de toutes pièces, avec auteurs et numéros crédibles.
- Le fait déformé : une date, un chiffre ou un nom légèrement faux, mêlé à des informations exactes.
- L’attribution erronée : une citation réelle prêtée à la mauvaise personne.
- L’infidélité au document : le modèle résume un texte fourni en y ajoutant ce qui ne s’y trouve pas.
La dernière catégorie est la plus sournoise en entreprise. On croit le modèle « ancré » dans vos documents. Il brode quand même.
Pourquoi un modèle de langage invente
Un LLM est entraîné à prédire le token suivant (l’unité de texte, souvent un fragment de mot) à partir de ceux qui précèdent. Il apprend des régularités statistiques sur des milliards de phrases. Ce qu’il produit n’est pas une information récupérée dans une base : c’est la suite la plus probable compte tenu de ce qu’il a vu.
Pour la grammaire, l’orthographe ou la structure d’un raisonnement, cela fonctionne remarquablement, car ces régularités se répètent partout. Pour un fait isolé, beaucoup moins. L’article d’OpenAI montre qu’un fait apparu une seule fois dans les données d’entraînement (la date de naissance d’un chercheur peu connu, par exemple) n’offre aucun motif à généraliser. Le modèle peut alors produire une date plausible, mais arbitraire. Les auteurs relient le taux d’erreur minimal sur ce type de faits à la proportion de ceux qui n’apparaissent qu’une fois dans le corpus.
L’examen qui récompense le bluff
Le second mécanisme est plus dérangeant, car il est humain. La plupart des benchmarks notent les réponses de façon binaire : juste ou faux. Un « je ne sais pas » rapporte zéro point, exactement comme une erreur. Dans ce système, un modèle qui tente sa chance obtient mécaniquement un meilleur score qu’un modèle prudent.
C’est l’élève face à un QCM sans points négatifs : il coche toujours une case. Les équipes qui optimisent leurs modèles sur ces classements apprennent donc, sans le vouloir, à leurs systèmes à deviner avec aplomb. Les chercheurs d’OpenAI plaident pour revoir les grilles d’évaluation afin de pénaliser l’erreur confiante davantage que l’abstention.
Conséquence pratique pour vous : un modèle plus récent, plus gros ou mieux classé ne garantit pas moins d’hallucinations sur votre cas d’usage. Le progrès est réel, mais il n’est pas linéaire, et il dépend de ce qu’on a choisi de récompenser.
Là où l’erreur coûte cher : droit, santé, chiffres
Une hallucination dans un brouillon de mail marketing coûte une relecture. La même dans un dossier contentieux, un compte rendu médical ou un rapport financier engage une responsabilité. Trois terrains concentrent le risque.
Le droit, d’abord, parce que tout y repose sur des références vérifiables : textes, articles, décisions. Depuis l’affaire Avianca, les sanctions de professionnels ayant déposé des citations inventées se sont multipliées dans plusieurs pays. Le juge, lui, vérifie.
La santé, ensuite : posologie, interaction médicamenteuse, contre-indication. Le modèle formule ses réponses avec la même assurance qu’il ait raison ou tort, ce qui rend l’erreur difficile à détecter pour un non-spécialiste.
Les chiffres, enfin, partout. Montants, pourcentages, dates, statistiques sont précisément le type de faits isolés que la prédiction statistique restitue mal. Un rapport rédigé avec l’aide d’une IA, livré à un client ou à une administration sans vérification des sources, peut coûter un contrat et une réputation.
Dans ces trois domaines, la responsabilité reste humaine. Le tribunal canadien l’a rappelé à Air Canada : l’entreprise répond de ce que dit son outil.
RAG, citations, abstention : les parades qui font baisser le risque
Aucune technique ne ramène le taux d’hallucination à zéro. En revanche, plusieurs parades combinées le font baisser nettement, et surtout rendent les erreurs détectables.
Le RAG, à condition de le contrôler
Le RAG (Retrieval-Augmented Generation, génération augmentée par récupération) consiste à fournir au modèle, au moment de la question, des extraits pertinents de vos propres documents. Il répond alors à partir de ces passages plutôt que de sa mémoire statistique. C’est aujourd’hui la parade la plus répandue en entreprise.
Elle a deux limites. Si la recherche documentaire ramène les mauvais passages, le modèle répondra à côté avec la même assurance. Et même avec les bons passages, il peut ajouter des éléments absents du texte. Un RAG non mesuré donne une fausse impression de sécurité.
Exiger des citations, puis les vérifier
Demander au modèle de citer le passage exact sur lequel s’appuie chaque affirmation change la donne, à une condition : vérifier automatiquement que la citation existe bien dans la source. Une citation non contrôlée n’est qu’une hallucination de plus, mieux habillée.
Autoriser le modèle à ne pas savoir
C’est la traduction directe des travaux d’OpenAI. Dans vos prompts système et vos consignes, rendez l’abstention acceptable et explicite : « si l’information ne figure pas dans les documents fournis, réponds que tu ne sais pas ». Anthropic recommande la même chose dans sa documentation pour Claude, en y ajoutant une étape : faire retirer au modèle toute affirmation qu’il ne parvient pas à appuyer sur une citation. Côté produit, prévoyez une sortie propre pour ce cas, vers un humain ou une recherche complémentaire.
Les garde-fous complémentaires
- Restreindre le périmètre : un assistant qui ne traite qu’un domaine borné, avec un corpus maîtrisé, hallucine moins qu’un assistant généraliste.
- Structurer la sortie : imposer un format (champs, listes fermées, valeurs autorisées) limite la place laissée à l’invention.
- Faire relire par un second modèle : un vérificateur chargé uniquement de confronter chaque affirmation aux sources repère une partie des écarts.
- Garder un humain sur les sorties critiques : tout ce qui part chez un client, un juge ou un patient passe par une validation.
Baisser la température (le paramètre qui règle le caractère aléatoire de la génération) rend les réponses plus stables d’un essai à l’autre. Elle ne les rend pas plus vraies.
Comment mesurer le taux d’hallucination de vos propres usages
Les taux publiés par les éditeurs ou les classements publics donnent un ordre de grandeur, mesuré sur leurs tâches, pas les vôtres. Le seul chiffre qui compte est celui de votre cas d’usage, et il se construit.
- Constituer un jeu de test : une centaine de questions réelles, issues de vos utilisateurs, avec la réponse attendue et la source qui la justifie. Incluez volontairement des questions dont la réponse n’est pas dans vos documents.
- Découper en affirmations : chaque réponse est décomposée en énoncés vérifiables, puis chacun est classé comme appuyé par la source, contredit ou non vérifiable.
- Suivre deux indicateurs : la part d’affirmations non appuyées, et la part de questions hors corpus où le modèle a inventé au lieu de s’abstenir.
- Rejouer à chaque changement : nouveau modèle, nouveau prompt, nouveau découpage de documents. Un gain sur un axe cache parfois une régression sur l’autre.
Des bibliothèques open source comme RAGAS automatisent une partie de cette notation à l’aide d’un modèle évaluateur, notamment avec une métrique de fidélité à la source baptisée faithfulness. Elles accélèrent le travail sans dispenser d’une annotation humaine régulière sur un échantillon : l’évaluateur peut lui aussi se tromper.
Datez vos mesures et conservez-les. Un taux d’hallucination n’a de sens qu’avec le modèle, la version du prompt et le corpus qui l’ont produit.
Les hallucinations ne disparaîtront pas avec la prochaine génération de modèles, car elles tiennent à la façon dont ces systèmes apprennent et sont notés. Chercher le modèle qui n’invente plus mène donc à une impasse. Mieux vaut fixer le niveau d’erreur que votre usage tolère, puis se donner les moyens de le mesurer. Les équipes qui tiennent ce tableau de bord déploieront l’IA en production pendant que les autres resteront bloquées au prototype.
Questions frequentes
Qu’est-ce qu’une hallucination LLM ?
C’est une réponse générée par un grand modèle de langage qui paraît plausible et assurée mais qui est factuellement fausse ou sans fondement, comme une référence, un chiffre ou une citation inventés.
Pourquoi les modèles de langage hallucinent-ils ?
Ils produisent le token le plus probable à partir de régularités statistiques, sans base de faits vérifiés. Selon les travaux d’OpenAI (Kalai et al., 2025), leur entraînement et leurs évaluations récompensent aussi la supposition plutôt que l’aveu d’incertitude.
Le RAG supprime-t-il les hallucinations ?
Non. Le RAG les réduit en ancrant les réponses dans des documents fournis, mais le modèle peut encore mal exploiter ces passages ou y ajouter des éléments absents. Il doit être combiné à des citations vérifiées et à une mesure régulière.
Baisser la température réduit-il les hallucinations ?
Une température basse rend les réponses plus stables et moins aléatoires, mais elle ne garantit pas leur exactitude. Un modèle peut répéter la même erreur de façon parfaitement constante.
Comment mesurer le taux d’hallucination d’un assistant IA ?
On constitue un jeu de questions réelles avec réponses et sources de référence, on découpe chaque réponse en affirmations vérifiables et on calcule la part non appuyée par les sources. Le test est rejoué à chaque changement de modèle, de prompt ou de corpus.
Ils m’ont fait confiance
« Il ne se contente pas de corriger les symptômes, il cherche à comprendre l'origine des problèmes et à sécuriser les modifications effectuées. J'ai réellement le sentiment d'avoir trouvé un développeur qui comprend à la fois la technique et les enjeux globaux du projet. »
Évaluation client · projet WordPress · septembre 2026
5,0/5 sur 17 évaluations
Faire appel à mes services →
