Un assistant cite une décision de justice qui n'existe pas. Un autre invente un rapport annuel, avec le numéro de page et le chiffre. Le ton est le même que pour une réponse juste. C'est ce qu'on appelle une hallucination : une affirmation fausse, présentée comme vraie.
Pourquoi le modèle invente
Un LLM produit la suite la plus plausible d'un texte. Quand il connaît la réponse, la suite plausible est souvent la bonne. Quand il ne la connaît pas, la suite plausible a quand même la forme d'une réponse : un nom, une date, une référence.
Sur une phrase d'exemple, le modèle choisit l'un des tokens probables, l'ajoute à la phrase, puis recommence : la suite la plus plausible, pas la plus juste.
Concept clé
Un modèle ne dit pas de lui-même qu'il ne sait pas : son entraînement et ses évaluations récompensent une réponse plutôt qu'un aveu d'ignorance. Il énonce donc souvent une supposition avec la même assurance qu'un fait. On réduit les hallucinations ; on ne les supprime pas.
Avec un barème d'examen, le modèle qui devine marque 4 points et celui qui dit « je ne sais pas » 3 points : deviner paie.
Le risque monte quand la question porte sur un fait précis et rare : un chiffre, une citation, une source, un événement récent. Il baisse quand le modèle travaille sur un document fourni plutôt que de mémoire. La documentation d'Anthropic détaille des techniques pour les réduire, et précise qu'aucune ne les élimine.
De mémoire : aucun passage n'est récupéré, le modèle répond quand même avec la même assurance, et il n'y a pas de source pour vérifier.
Ce que ça change pour vous
Pour les fondateurs
Une hallucination devant un client coûte plus cher que le temps gagné. Repérez les réponses de votre produit où une erreur aurait un coût réel, et vérifiez celles-là, pas tout. Dans un secteur réglementé, cette liste s'allonge vite.
Pour les product managers
Concevez l'interface en prévoyant l'erreur. Montrez les sources, laissez l'utilisateur les ouvrir, et donnez-lui un moyen simple de signaler une réponse fausse. Quand l'assistant répond « je n'ai pas trouvé », ce doit être un comportement prévu et testé, pas un échec.
Pour les dirigeants
Fixez qui vérifie quoi avant qu'un contenu produit par l'IA ne quitte l'entreprise. Une note interne relue par son auteur ne présente pas le même risque qu'un courrier client ou un chiffre dans un rapport annuel. À l'échelle d'un groupe, écrivez cette règle une fois, et faites-la connaître aux équipes.
Pour aller plus loinPourquoi deviner est récompensé
Un article de recherche de septembre 2025, « Why Language Models Hallucinate », propose une explication simple. Pendant l'entraînement, un modèle apprend à produire du texte plausible, pas à séparer le vrai du faux. Ensuite, la plupart des évaluations notent les réponses comme un examen : une bonne réponse rapporte des points, un « je ne sais pas » n'en rapporte aucun. Un modèle qui devine obtient donc un meilleur score qu'un modèle qui reconnaît son ignorance. Les auteurs proposent de changer ces barèmes plutôt que d'ajouter de nouveaux tests. Ils rappellent aussi qu'un modèle tout juste pré-entraîné est souvent bien calibré (sa confiance correspond à son taux de bonnes réponses) et que l'entraînement qui suit peut dégrader ce calibrage.
L'erreur classique
fAIling RÈGLE VII
Le piège : Les hallucinations sont juste des suggestions créatives
Traiter une source inventée comme une « suggestion créative » est le plus sûr moyen de la publier. Une citation, un chiffre ou une référence produits par un modèle se vérifient avant de sortir, surtout quand ils ont l'air parfaits.
Lire la règle VII du manifesteÀ essayer
Demandez à un assistant IA cinq références précises sur un sujet que vous connaissez bien : articles, rapports ou décisions, avec auteur et date. Vérifiez chacune. Reposez ensuite la question en ajoutant « Si tu n'es pas sûr qu'une référence existe, dis-le », et comparez les deux listes.
Autour du sujet
Pour aller plus loinAncrer la réponse et citer les sources
Le moyen le plus fiable de réduire les inventions est de donner au modèle les documents à utiliser, et de lui demander de s'y tenir. Certaines API rendent cela vérifiable : en octobre 2026, la fonction de citations de Claude renvoie les passages exacts sur lesquels s'appuient ses affirmations. L'utilisateur peut alors contrôler la réponse au lieu de la croire. Cela ne garantit pas que le modèle ait bien compris le passage, mais cela rend l'erreur visible.
Pour aller plus loinLa date de coupure
Un modèle ignore tout de ce qui s'est passé après sa date de coupure, la date limite de ses connaissances. Interrogé sur un prix, une loi ou un produit plus récent, il peut répondre avec ce qui était vrai avant, ou inventer une suite plausible. Plus la question touche à l'actualité, plus il faut lui fournir l'information à jour. La page Le grand modèle de langage (LLM) détaille la différence entre entraînement et usage.
Pour aller plus loinLaisser le modèle dire « je ne sais pas »
Par défaut, un modèle répond. En octobre 2026, selon la documentation d'Anthropic, l'autoriser explicitement, dans les instructions, à reconnaître son incertitude réduit fortement les fausses informations. Le produit doit ensuite savoir quoi faire de ce « je ne sais pas » : passer la main à un humain, ouvrir une page d'aide, ou lancer une recherche.
Pour aller plus loinLes outils de recherche web
Un outil de recherche web permet au modèle d'aller chercher une information récente au lieu de la deviner. Avec l'outil de recherche web de Claude, en octobre 2026, la réponse cite les pages consultées. Mais une page web peut elle-même contenir des erreurs, et le modèle peut mal la résumer. La recherche déplace le travail de vérification ; elle ne le supprime pas.
Quoi en faire
Listez les réponses de votre produit où une erreur coûte cher, et vérifiez celles-là plutôt que tout.
Montrez les sources, laissez les utilisateurs les ouvrir, et donnez-leur un moyen simple de signaler une mauvaise réponse.
Faites de « je n'ai pas trouvé » un comportement prévu et testé, et décidez qui vérifie quoi avant qu'un contenu généré par l'IA ne sorte de l'entreprise.