Pourquoi l'IA invente des choses : 7 vérifications pour repérer une hallucination

L'IA invente des choses parce qu'un modèle de langage est conçu pour produire les mots suivants les plus probables, pas pour vérifier s'ils sont vrais, et parce que la façon dont les modèles sont entraînés et notés récompense une supposition assurée plutôt qu'un honnête « je ne sais pas ». Ce guide explique le mécanisme en termes simples, la fréquence du phénomène sur les modèles actuels, ce qu'il a coûté à trois entreprises et les sept vérifications qui le repèrent.

Vous l'avez déjà vu : le chatbot qui cite une réglementation qui n'existe pas, avance une statistique qu'aucune enquête n'a jamais produite ou nomme un fournisseur introuvable. On appelle cela une hallucination, et ce n'est pas un bogue que la prochaine mise à jour supprimera. Les chercheurs d'OpenAI eux-mêmes ont écrit en septembre 2025 que les modèles produisent des « faussetés plausibles et trop assurées » parce que leur entraînement et leur évaluation « récompensent la supposition plutôt que l'aveu d'incertitude ». Comprendre pourquoi l'IA invente des choses, c'est la différence entre un outil qui vous fait gagner une journée par semaine et un outil qui met un faux chiffre sous les yeux d'un client, d'une banque ou d'un tribunal.

Voici l'explication dont un dirigeant occupé a besoin, pas un cours d'informatique : comment la machine fonctionne vraiment, où se concentrent les erreurs, trois cas réels avec l'addition, ce que les éditeurs disent eux-mêmes, et les sept vérifications. La dernière section explique comment un agent IA qui montre ses sources et son navigateur change le problème, et ce qu'il ne peut toujours pas faire à votre place.

Comment nous avons vérifié ce guide

1. Sources primaires uniquement pour le mécanisme : l'article de recherche d'OpenAI du 4 septembre 2025 et les déclarations des régulateurs qui citent les éditeurs.
2. Taux mesurés sur un classement public, relevés le 22 octobre 2026, avec sa méthode indiquée, car un taux d'hallucination sans méthode est lui-même une forme d'hallucination.
3. Dossiers judiciaires et gouvernementaux pour les trois cas, pas des résumés de presse.
4. Les pages d'aide des éditeurs pour ce que ChatGPT et Claude disent de leurs limites.
5. Des vérifications qu'une personne non technique peut effectuer en moins d'une minute, avec pour seul outil une barre de recherche.

Ce qu'est une hallucination, et pourquoi elle se produit

Un grand modèle de langage fonctionne en prédisant le texte le plus susceptible de suivre celui qu'on lui a fourni. Lorsque la Solicitors Regulation Authority (SRA, l'autorité de régulation des solicitors) a mis en garde la profession juridique en novembre 2023, elle l'a dit sans détour : ces outils « fonctionnent en anticipant le texte qui devrait suivre ce qu'on leur donne, mais n'ont aucune notion de "réalité" ». Demandez une décision qui appuie votre argumentation et le modèle produit quelque chose qui a la forme d'une décision : un nom plausible, une année plausible, une citation plausible. Rien à l'intérieur ne vérifie que l'affaire existe, car rien n'a été conçu pour cela.

La seconde cause tient à la manière dont les modèles sont notés. Dans leur article de septembre 2025 « Why language models hallucinate », quatre chercheurs d'OpenAI ont montré que les tests standards récompensent une réponse assurée et ne donnent rien pour l'aveu d'incertitude, de sorte que « sous une notation binaire, s'abstenir est strictement sous-optimal ». Un modèle qui devine obtient plus de points qu'un modèle qui dit ne pas savoir, comme un étudiant qui répond au hasard à un QCM bat celui qui laisse la question en blanc. L'habitude de deviner est apprise, et elle est apprise parce qu'elle gagne.

Les chiffres qu'OpenAI a publiés avec l'article rendent ce compromis visible. Sur un test factuel, un modèle réglé pour s'abstenir a refusé de répondre à 52% des questions, en a réussi 22% et raté 26%; un modèle plus ancien qui ne s'abstenait presque jamais en a réussi 24% et raté 75%. Moins de mauvaises réponses venaient de plus de « je ne sais pas », pas de plus de connaissances. C'est toute l'histoire en un tableau, et c'est pourquoi les vérifications ci-dessous commencent par la permission de dire non.

Sa fréquence en 2026

La réponse honnête est « assez souvent pour toujours vérifier ». Le classement des hallucinations de Vectara, mis à jour le 22 octobre 2026, note les modèles sur une seule tâche étroite : résumer un document qu'on leur a fourni, puis compter à quelle fréquence le résumé contient quelque chose que le document ne dit pas. Même avec les faits sous les yeux, les modèles grand public ont inventé du contenu dans une part mesurable des résumés.

Deux points ressortent. Plus récent et plus gros ne veut pas dire plus sûr : la configuration GPT-5 d'août 2025 a obtenu un moins bon score que GPT-4o, plus ancien d'un an, sur ce test. Et il s'agit de chiffres d'ancrage, avec la source fournie; quand le modèle doit rappeler des faits de mémoire, les taux sont plus élevés.

Les études spécialisées concordent. Des chercheurs publiant dans les Annals of the Royal College of Surgeons of England ont rapporté en avril 2026 que, sur 108 réponses de chatbots à des questions chirurgicales, comprenant 1,249 références, les pires modèles ont fabriqué ou n'ont pas pu étayer 25% à 34% de leurs citations, tandis que les meilleurs n'en ont produit aucune. Une lettre publiée dans The Lancet en mai 2026 a constaté qu'environ un article récent sur 277 dans PubMed contenait des références fabriquées, contre un sur 2,828 en 2023. Une étude de Stanford sur des outils de recherche juridique qui utilisent la récupération de documents a montré qu'ils hallucinaient encore entre 17% et 33% du temps. La récupération aide; elle ne règle pas tout.

Ce que cela a coûté : trois cas

New York, juin 2023. Dans l'affaire Mata v Avianca, deux avocats ont déposé un mémoire contenant des décisions inexistantes, générées par ChatGPT, et le tribunal a infligé une sanction de 5,000 $. C'était le premier cas largement médiatisé, et c'est aujourd'hui l'une des plus de 2,200 décisions de justice dans le monde impliquant des citations fabriquées par IA, recensées dans une base publique tenue par le juriste Damien Charlotin.

Londres, juin 2025. Dans Ayinde v Haringey et Al-Haroun v Qatar National Bank, la High Court a traité deux affaires à la fois : un mémoire citait cinq décisions inexistantes, l'autre citait 45 références dont 18 étaient inventées. Le président de la King's Bench Division a écrit que les outils génératifs « ne sont pas capables de mener une recherche juridique fiable » et « peuvent citer des sources qui n'existent pas », que les juristes ont le devoir professionnel de « vérifier l'exactitude de cette recherche en se référant à des sources faisant autorité », et que le manquement peut entraîner des poursuites pour outrage et un signalement à la police. Depuis, la Solicitors Regulation Authority a publié un avis d'avertissement (17 août 2026) qui évoque des « affaires, références ou affirmations apparemment factuelles fictives » et rappelle aux solicitors qu'ils restent responsables du résultat.

Canberra, octobre 2025. Deloitte Australia a remis à un ministère un rapport dans le cadre d'un contrat de 440,000 AU$. Il contenait une citation fabriquée attribuée à un jugement et des références à des articles universitaires inexistants. Le cabinet a publié une version corrigée le 3 octobre 2025, a reconnu pour la première fois qu'un modèle Azure OpenAI avait été utilisé et a remboursé la dernière échéance, soit environ 98,000 AU$. Le travail a été fait par un grand cabinet doté d'un processus de relecture. La fabrication est tout de même passée, parce que personne n'a ouvert les références.

Aucune de ces personnes n'était un amateur négligent. C'étaient des professionnels occupés qui ont traité un texte fluide comme un texte vérifié. C'est l'erreur à éviter, et elle est évitable.

Ce que disent les éditeurs eux-mêmes

La documentation d'Anthropic pour Claude énumère les parades habituelles, dont autoriser le modèle à dire « je ne sais pas », lui demander de citer avant de répondre et le limiter aux documents fournis, puis ajoute qu'elles « ne les éliminent pas entièrement. Validez toujours les informations critiques. » Son article d'assistance sur les réponses incorrectes, mis à jour en mars 2026, dit sans détour que Claude « peut occasionnellement produire des réponses incorrectes ou trompeuses » et qu'il ne faut pas s'y fier comme à « une source unique de vérité ». La page d'aide d'OpenAI sur la véracité de ChatGPT dit la même chose : il peut fabriquer des citations, et il faut vérifier. L'ICO (l'autorité britannique de protection des données), dans ses travaux de 2024 sur l'IA générative, a noté que même des données d'entraînement exactes « n'empêcheront pas » les modèles de produire des affirmations fausses, et l'examen de l'IA dans les services financiers publié par la FCA en octobre 2026 répète que les entreprises « restent responsables des résultats pour les consommateurs », quel que soit l'outil utilisé.

Lus ensemble, le message de ceux qui conçoivent et régulent ces outils est constant : utilisez-les, et vérifiez-les.

Les 7 vérifications qui repèrent une hallucination

1. Demandez la source, puis ouvrez-la

Un modèle produira volontiers une référence sur demande; le test, c'est de savoir si la référence s'ouvre et dit ce que le modèle prétend qu'elle dit. Le rapport de Deloitte avait des références. Personne ne les a ouvertes. Si le lien est mort, si l'article n'existe pas ou si la page dit autre chose, toute la réponse est suspecte, pas seulement cette ligne.

2. Vérifiez séparément noms, chiffres, dates et citations

Ces quatre catégories concentrent la fabrication, car ce sont les parties d'une phrase les plus difficiles à prédire à partir du contexte. Une citation est la plus simple à contrôler : collez-la entre guillemets dans un moteur de recherche. Une statistique doit mener à une enquête avec un échantillon et une date, comme ce guide nomme l'étude du Royal College of Surgeons et ses 1,249 références.

3. Demandez deux fois, ou à un second modèle

Un fait qui survit à la reformulation a plus de chances d'être un fait. Posez la même question avec d'autres mots, ou collez-la dans un second produit (ChatGPT, Claude, Gemini, Microsoft Copilot, Manus ou Muse de Meta réagissent tous différemment au même prompt). Deux modèles d'accord ne prouvent rien, mais deux modèles en désaccord sont un signal fiable qu'il faut vérifier.

4. Donnez-lui le document et cadrez-le

Les chiffres du classement ci-dessus sont le meilleur cas, avec la source fournie; le rappel de mémoire est pire. Fournissez donc la source. Joignez le contrat, le tableur ou la réglementation, dites au modèle de répondre uniquement à partir de celui-ci et de citer la ligne utilisée, puis lisez la citation. S'il ne peut citer aucune ligne, la réponse ne vient pas du document.

5. Autorisez-le à dire « je ne sais pas »

Comme l'entraînement récompense la supposition, vous devez changer la notation dans le prompt. « Si tu n'es pas sûr, dis-le et dis-moi ce que je devrais vérifier » est la phrase la plus efficace de ce guide; c'est l'équivalent écrit du modèle qui s'abstient dans le tableau d'OpenAI, et elle ne vous coûte rien.

6. Refaites les calculs

Les modèles de langage prédisent du texte; ils ne calculent pas, sauf s'ils exécutent du code. Un total faux d'une ligne, un pourcentage sur la mauvaise base, une date décalée d'un an : tout cela paraît juste parce que la phrase autour est juste. Additionnez la colonne vous-même, ou demandez à un agent qui fait le calcul dans un tableur et le montre.

7. Traitez l'argent, le droit, la santé et la réputation comme un brouillon

Les avocats de Londres et les consultants de Canberra ne manquaient pas d'intelligence; il leur manquait une règle. La règle : tout ce qui parvient à un client, à un régulateur, à un prêteur ou à un tribunal est un brouillon tant qu'une personne nommée n'en a pas vérifié les faits. Écrivez cette règle, et la politique IA de Politique IA pour petite entreprise : un modèle gratuit vous en donne la version d'une page.

Là où les petites entreprises se font piéger le plus souvent

• Devis et estimations. Un modèle à qui l'on demande des « prix habituels » invente des prix habituels. Utilisez votre propre grille tarifaire ou une source chiffrée.
• Formulations juridiques et fiscales. Seuils, dates et pénalités changent chaque mois d'avril; la mémoire du modèle peut dater de deux ans. Consultez GOV.UK.
• Détails de fournisseurs et de produits. Références, compatibilité et spécifications sont exactement le texte dense et difficile à prédire qui se fait fabriquer.
• Avis et témoignages. Ne laissez jamais un modèle écrire un avis ou une citation de client. Outre qu'ils sont inventés, les faux avis sont illégaux au Royaume-Uni en vertu du Digital Markets, Competition and Consumers Act 2024.
• Traductions de chiffres. Quand un modèle traduit un document, les nombres peuvent changer. Comparez chaque chiffre de la version traduite avec l'original.

Comment un agent IA change le problème

Un chatbot vous donne une réponse et vous laisse la vérification. Un agent peut faire une partie de la vérification dans le cadre du travail, d'où l'importance de ces mécanismes quand vous en choisissez un.

• Il montre ses sources. Un agent qui navigue renvoie les pages qu'il a lues, donc la vérification 1 devient un clic plutôt qu'une recherche. Jobbit Research joint les sources à chaque constat du rapport qu'il rédige.
• Il travaille dans un navigateur que vous pouvez regarder. Quand l'agent ouvre une page, vous voyez la page. Un chiffre du rapport peut être relié à l'écran dont il provient.
• Il travaille à partir de vos documents. Joignez le contrat ou le tableur dans un projet Jobbit et l'agent répond à partir du fichier, avec la ligne citée : c'est la vérification 4 faite par défaut.
• Il fait les calculs dans un tableur, pas en prose. Demandez une prévision de trésorerie et l'agent construit la feuille et montre les formules; l'arithmétique est reproductible.
• Il demande avant de dépenser ou d'envoyer. Un agent qui s'arrête pour obtenir une validation avant l'envoi d'un e-mail donne à la vérification 7 un arrêt intégré.
• On peut lui demander de s'abstenir. Des instructions de projet telles que « dis quand tu n'es pas sûr et liste ce qu'il faut vérifier » s'appliquent à chaque conversation, donc la vérification 5 se règle une seule fois.

ChatGPT, Claude, Gemini, Microsoft Copilot, Manus et Muse de Meta rédigent tous bien, et plusieurs naviguent et citent désormais. Ce qu'aucun ne supprime, c'est la vérification finale par une personne, et Jobbit non plus. Ce que Jobbit ajoute, c'est un réseau humain : quand le travail est un bail, une déclaration fiscale ou une demande d'indemnisation médicale, l'agent peut confier la vérification à un professionnel contrôlé dans la même commande plutôt qu'à vous à onze heures du soir.

Votre plan pour cette semaine

• Lundi : écrivez la règle unique. « Tout ce qui part chez un client, à HMRC, à une banque ou à un tribunal est un brouillon tant qu'une personne nommée n'en a pas vérifié les faits. » Mettez-la dans votre politique IA et dans vos instructions de projet.
• Mardi : ajoutez la phrase d'abstention. Mettez « si tu n'es pas sûr, dis-le et dis-moi quoi vérifier » dans les instructions permanentes de chaque outil que vous utilisez.
• Mercredi : appliquez la vérification 1 aux productions de la semaine dernière. Prenez les trois derniers documents rédigés par IA que vous avez utilisés et ouvrez chaque référence. Comptez celles qui échouent.
• Jeudi : passez une tâche en mode ancré. Choisissez la tâche où les erreurs coûtent le plus, joignez les vrais documents et exigez des lignes citées.
• Vendredi : décidez ce qui ne sort jamais sans vérification. Dressez la liste (prix, formulations juridiques, allégations de santé, citations de clients) et partagez-la avec toute personne qui utilise l'IA dans votre entreprise.

À lire ensuite

• Is AI Safe to Use? A Plain-English Guide to Your Data, Your Money and the Scams to Watch
• 12 Mistakes Beginners Make With AI Agents, and the Quick Fix for Each One
• How Do AI Agents Work? The 5-Step Loop Behind Every Task, Explained Simply

Foire aux questions

Pourquoi l'IA invente-t-elle des choses ?

Parce qu'un modèle de langage génère les mots suivants les plus probables au lieu de vérifier les faits, et parce que les tests utilisés pour entraîner et classer les modèles récompensent une supposition assurée plutôt que l'aveu d'incertitude. Les chercheurs d'OpenAI ont décrit en 2025 le résultat comme des « faussetés plausibles et trop assurées ». Fluidité et exactitude sortent du même processus, ce qui explique qu'une mauvaise réponse se lise exactement comme une bonne.

Qu'est-ce qu'une hallucination de l'IA ?

Une réponse fluide et plausible mais fausse : une décision inventée, une statistique qu'aucune enquête n'a produite, une citation que personne n'a dite, un produit qui n'existe pas. Ce n'est pas un dysfonctionnement; c'est le comportement normal d'un modèle à qui l'on demande ce qu'il ne sait pas.

À quelle fréquence ChatGPT invente-t-il des choses ?

Cela dépend de la tâche. Sur un test public d'ancrage relevé en octobre 2026, les modèles grand public ont inventé du contenu dans environ 4% à 15% des résumés de documents, même avec la source fournie; des études sur les citations en chirurgie et en droit ont trouvé des taux de fabrication de 17% à 34% pour les moins bons. L'hypothèse prudente est « assez souvent pour vérifier chaque nom, chiffre, date et citation ».

Peut-on empêcher complètement les hallucinations de l'IA ?

Non. Fournir le document source, demander des citations, autoriser le « je ne sais pas » et utiliser un agent qui montre ses sources réduisent tous le taux, et la documentation d'Anthropic elle-même dit que ces mesures « ne les éliminent pas entièrement ». La vérification finale de tout ce qui compte revient à une personne.

Quelqu'un a-t-il été sanctionné pour des hallucinations de l'IA ?

Oui. Un tribunal de New York a infligé une sanction de 5,000 $ en 2023 pour de fausses décisions dans un mémoire; la High Court de Londres a averti en juin 2025 que des citations fabriquées peuvent mener à des poursuites pour outrage et à un signalement à la police; et Deloitte Australia a remboursé la dernière échéance d'un contrat public de 440,000 AU$ en octobre 2025 après qu'on a découvert des références inventées dans son rapport.

Un agent IA est-il plus fiable qu'un chatbot ?

Un agent qui navigue, cite ses sources et travaille à partir de vos documents rend les vérifications plus rapides et les erreurs plus faciles à retracer, mais il faut toujours une personne pour valider tout ce qui touche à l'argent, au droit ou à la santé. L'agent de Jobbit montre son navigateur et ses sources pendant qu'il travaille, et peut confier la vérification finale à un professionnel contrôlé quand le travail l'exige.