Pourquoi ChatGPT se trompe-t-il sur votre entreprise ?

La direction générale vous transfère une capture où ChatGPT se trompe sur votre organisation : il lui prête un chiffre qu’elle n’a jamais publié, avec un lien vers votre propre site. Le lien fonctionne, la phrase n’y figure pas. Sur 98.020 affirmations tirées de 7.491 Aperçus IA de Google, une équipe de Washington University in St. Louis en trouve 2,7% incorrectes et 7,0% absentes de la page pourtant citée (mai 2026). Le moteur invente moins souvent qu’il ne rattache. Pour une direction de la communication, la distinction décide de qui corrige et comment.

« Hallucination » : de quoi parle-t-on ?

Le mot s’est imposé dans le langage courant. Je l’évite, comme le guide, parce qu’il range sous une même étiquette 2 choses que la correction sépare. Il suggère aussi une invention qui n’est pas le mécanisme dominant.

Une erreur de fait est une affirmation fausse sur l’organisation, ses dirigeant·es ou son offre : une date de création erronée, un siège déplacé, un produit qui n’existe plus.

Une attribution erronée prête à l’organisation une position, un chiffre ou une citation qui ne sont pas les siens, souvent en renvoyant vers une de ses propres pages.

La première se corrige à la source qui porte l’erreur. La seconde se produit alors que vos pages sont exactes. Les voies de correction diffèrent. Je les détaille dans l’article sur la correction d’une erreur de ChatGPT.

Quelles formes prend une erreur sur une organisation ?

À partir du guide, 4 formes se distinguent au moment du relevé. Le guide demande aussi 3 colonnes pour l’exactitude, exact, périmé ou faux, au lieu de 2 : une information périmée n’appelle pas la même démarche qu’une information fausse.

Forme d’erreur	Exemple	Où chercher la cause
Erreur de fait	Une date de création, un siège ou un effectif faux	La source citée, une fiche tierce, un média, ou l’entraînement du modèle
Information périmée	Un dirigeant parti, une offre retirée, un site fermé	Une page ancienne toujours en ligne, chez vous ou chez un tiers
Attribution erronée	Un chiffre, une position ou une citation qui ne sont pas les vôtres, avec un lien vers votre site	La page citée, qui ne contient pas la phrase
Confusion d’entité	Un homonyme, la maison mère prise pour la filiale, une ancienne raison sociale	Des faits d’identité qui divergent entre le site, Wikidata et les fiches tierces

Synthèse tirée du Guide pratique du GEO pour les directions de la communication, sections 0.4, 2.3 et 2.4. Une confusion d’entité compte comme une erreur de fait.

Le risque est catalogué hors du monde de la communication. Le référentiel des risques propres aux applications à base de modèles de langage, publié par l’OWASP, fondation consacrée à la sécurité des logiciels, classe au 9e rang la production d’informations fausses ou trompeuses qui paraissent crédibles (novembre 2024, source fondatrice).

Pour une direction de la communication, la conséquence est pratique : dans le registre des constats, chaque cas porte l’une de ces étiquettes dès qu’il est relevé, parce que l’étiquette désigne qui corrige.

Les moteurs se trompent-ils souvent ?

La mesure la plus fine concerne les Aperçus IA de Google. Publiée le 13 mai 2026, l’étude de Washington University in St. Louis confronte chaque affirmation élémentaire au contenu réel de la page citée.

Aperçus IA de Google : 98.020 affirmations confrontées à la page citée

Au total, 11,0% des affirmations ne sont pas soutenues par la source citée, l’omission étant le mode d’échec dominant selon les auteurs.

Cette mesure couvre une seule surface et des questions qui ne visaient pas des organisations. Elle ne donne aucun taux d’erreur applicable à une question qui nomme la vôtre.

Une réponse correcte est-elle une réponse sourcée ?

Pas forcément. Oumi, jeune entreprise qui vend un détecteur d’erreurs pour modèles de langage, a soumis aux Aperçus IA les questions factuelles d’un banc d’essai public, en octobre 2025 puis en février 2026 (publication du 14 avril 2026).

Avec Gemini 3, environ 91% des réponses sont correctes. 39% seulement sont à la fois correctes et entièrement soutenues par les sources citées. 52% contiennent au moins une affirmation non soutenue.

Aperçus IA avec Gemini 3 : exactitude et appui des sources

Google conteste la méthode et juge le banc d’essai peu représentatif (« This study has serious holes »). Le New York Times, qui a révélé l’étude le 7 avril 2026, en a tiré des dizaines de millions de réponses fausses par heure, un calcul que l’éditeur de l’étude ne fait pas.

La mesure rejoint celle de Washington University sur un point : une réponse correcte n’est pas pour autant portée par ses sources.

Et sur l’actualité ?

Les ordres de grandeur varient fortement d’un assistant à l’autre. NewsBench, évaluation publiée en mai 2026 par Forum AI avec des chercheurs de Stanford University et de l’University of Washington, a fait interroger 4 assistants par des experts sur l’actualité politique et des sujets contestés.

Actualité politique : part des réponses qui contiennent au moins une affirmation fausse

Le billet de présentation résume l’ensemble à environ 30% des réponses et annonce 3.136 questions, le livre blanc en compte 3.135. Ces taux portent sur l’actualité politique.

NewsBench montre qu’une réponse fluide et sourcée n’est pas pour autant une réponse exacte, sans rien dire des questions qu’un public pose sur une organisation.

Que disent les médias publics européens ?

La RTBF, la VRT et Radio France ont participé à « News Integrity in AI Assistants », rapport de l’Union européenne de radio-télévision et de la BBC publié le 21 octobre 2025.

22 organisations de service public de 18 pays, en 14 langues, ont évalué 2.709 réponses de ChatGPT, Copilot, Gemini et Perplexity, recueillies fin mai et début juin 2025.

45% des réponses présentent au moins un problème jugé significatif. Le sourcing en est la première cause, avec 31% des réponses. L’écart entre assistants est considérable : 76% de réponses problématiques chez Gemini, dont 72% avec un problème de sourcing, contre 30% chez Perplexity.

L’évaluation repose sur le jugement de médias qui sont parties prenantes du conflit économique avec les éditeurs de modèles, fait de méthode que le guide signale.

Le communiqué annonce « plus de 3.000 réponses », le rapport en compte 2.709. Les 2 chiffres circulent. Le Luxembourg ne figure pas parmi les 18 pays. Le guide n’a trouvé aucune seconde vague chiffrée.

Pour vous, ces taux ont un usage précis : ils répondent à la direction qui demande si l’erreur relevée est un accident.

Ce n’en est pas un. Ces taux ne mesurent pas pour autant les questions qui nomment votre organisation. Seul votre propre relevé le fait.

Pourquoi le moteur vous attribue-t-il une phrase que vous n’avez pas écrite ?

Parce qu’il rattache plus souvent qu’il n’invente. Il cite bien la page de l’organisation, et la phrase qu’il lui attribue ne s’y trouve pas.

Pour un lecteur, la citation est vérifiable en apparence : le lien fonctionne, la page traite bien du sujet, et l’affirmation n’y figure pas.

L’étude de Washington University mesure aussi que la qualité des sources citées et la fidélité des affirmations sont largement indépendantes, avec une corrélation d’environ 0,045. Un moteur qui retient de meilleures sources ne leur prête pas pour autant des phrases plus exactes.

Quand ChatGPT se trompe, à quelle étape l’erreur naît-elle ?

Le plus souvent avant l’écriture. Un laboratoire de recherche torontois a classé en 16 types les erreurs d’un système qui récupère des documents avant de rédiger (version du 15 janvier 2026), réparties sur 4 étages : le découpage du contenu, la récupération, le reclassement, puis la génération.

Où naissent les erreurs d’un système qui récupère des documents avant de rédiger

À peu près deux tiers des erreurs se produisent donc avant que le modèle ne commence à écrire, au découpage, à la récupération ou au reclassement.

Le mauvais document arrive, ou le bon arrive coupé au mauvais endroit. La fabrication pure, celle que le langage courant nomme hallucination, y est décrite comme relativement rare.

Cette taxonomie décrit des systèmes d’entreprise à corpus fermé. Sa transposition aux moteurs grand public est plausible sans être démontrée.

Les recherches longues aggravent-elles le problème ?

Oui, selon le travail d’une équipe publié le 7 mai 2026, qui a soumis 130 questions de recherche approfondie à 14 modèles.

Les liens cités fonctionnent dans 94% à 100% des cas, la page traite bien du sujet dans 80% à 95,7% des cas, et l’affirmation attribuée est exacte dans 39% à 77% des cas seulement.

Cette exactitude chute d’environ 42% quand le nombre d’appels d’outils passe de 2 à 150. Plus le moteur cherche, moins il cite fidèlement.

Conséquence pratique : une page exacte ne vous protège pas d’une attribution erronée, puisque la page est déjà exacte.

Quand aucune page n’est fautive, le guide confie la suite à 3 chantiers : une page de référence qui énonce les faits, leur reprise par des sources indépendantes, et un signalement à l’éditeur du moteur construit comme une pièce de procédure (la procédure de correction).

D’où le moteur tient-il ce qu’il dit ?

Une réponse se construit selon 2 régimes, et la différence entre les 2 est la première chose à établir sur un relevé.

Dans le premier, le moteur lance une recherche en ligne et compose sa réponse à partir des pages trouvées. Dans le second, il répond à partir du seul modèle, sans rien consulter, sans source affichée.

L’écart n’a rien de marginal. Dans l’étude de l’université de Saint-Gall (avril 2026), 57,8% des exécutions de ChatGPT n’ont produit aucune citation, le moteur n’activant la recherche en ligne que pour certaines questions.

Sans recherche, la réponse reflète ce que le modèle a retenu de son entraînement, un état du monde antérieur et non datable de l’extérieur.

Une erreur sans source se corrige-t-elle ?

Lentement. Ce que le moteur dit sans chercher vient de ce que l’entraînement a retenu : la couverture gagnée dans les médias, Wikipédia, Wikidata.

Le guide décrit cette couche comme un canal de visibilité à part entière, qui se nourrit lentement et se corrige lentement. Elle relie aussi la décision de bloquer ou non les robots d’entraînement à ses effets à long terme.

Une étude du 4 septembre 2026 (Żatuchin, arXiv) mesure l’écart sur les organisations nommées, avec 6 moteurs et 15 exécutions par question.

Sans recherche en ligne, les moteurs proposent encore des organisations nouvelles à la 15e exécution dans 86% à 92% des cas, avec une médiane de 15 à 31 organisations différentes par question.

Le moteur doté d’une recherche se stabilise autour de la 10e exécution, avec une médiane de 8.

Une exécution unique ne capte que de 62% à 77% du répertoire obtenu sur 5 exécutions. L’auteur signe aussi une étude rattachée à Rankfor.AI, éditeur d’un outil de suivi.

Quelles sources nourrissent les réponses ?

Surtout des sources que l’organisation ne tient pas. Une analyse de 167.551 citations pourvues d’une adresse, sur 128 marques dans 12 marchés européens, trouve 85,7% de sources tierces et 14,3% de sources possédées par la marque (Żatuchin, 24 juin 2026, auteur rattaché à Rankfor.AI).

McKinsey écrivait le 16 octobre 2025 que les sites propres d’une marque ne pèsent que 5% à 10% des sources de la recherche IA, sans définition publiée du décompte.

Les 2 chiffres ne portent ni sur les mêmes marchés, ni sur le même objet compté, ni sur le même dénominateur. Le guide les pose côte à côte sans les ramener l’un à l’autre.

Les 2 chiffres convergent seulement sur l’ordre de grandeur : la colonne la plus remplie du registre des constats est celle sur laquelle l’organisation n’a pas la main.

Le guide qualifie donc chaque source citée selon 4 natures, parce que la nature décide qui corrige :

• la source possédée : le site, les fiches et les comptes que l’organisation contrôle, corrigés le jour même
• la source indépendante, sans intérêt au succès de l’organisation : presse, autorité publique, base officielle, avis de clients, qui relèvent d’une demande argumentée
• la source collaborative, que des tiers écrivent et modifient : Wikipédia, Wikidata, forums, qui suivent les règles de leur plateforme
• la source payée ou affiliée : contenu sponsorisé, annuaire payant, partenaire commercial

Une source possédée s’ajoute le 10 novembre 2026, après la date d’arrêt du guide : le profil d’entreprise qu’OpenAI ouvre dans ChatGPT, là où l’organisation y est éligible. Elle y déclare elle-même son site, sa description et sa catégorie (page d’aide d’OpenAI).

Ce profil ne se corrige pas le jour même, puisque OpenAI relit et publie chaque changement. Sa politique ajoute qu’OpenAI ne vérifie pas chaque détail et ne tranche pas chaque désaccord factuel. ChatGPT puise aussi à d’autres sources : un profil exact n’efface pas une erreur venue d’une page tierce.

D’où viennent les mauvaises sources ?

Une part des sources citées est elle-même produite par une IA. Une analyse de 26.266 adresses citées par 4 moteurs, publiée le 22 mai 2026, en détecte environ 16%, de 7,3% chez ChatGPT à 27,8% chez Copilot.

La matière du web change aussi. Une équipe de l’Imperial College London, de Stanford et de l’Internet Archive classe environ 35% des sites publiés à la mi-2025 comme générés ou assistés par IA, contre presque aucun avant ChatGPT.

Sa mesure porte sur des pages en anglais tirées des archives du web, passées à un détecteur de texte généré, et s’arrête en mai 2025.

Ces 2 travaux reposent sur des détecteurs, dont j’ai décrit les limites dans l’article sur les détecteurs d’IA.

Une page périmée toujours en ligne reste aussi un piège. Un travail présenté à la conférence ACL en juillet 2026 montre que les modèles repèrent parfois qu’un fait a changé, sans que cette détection influence leur réponse finale.

L’ancienne page tarifaire, l’ancien organigramme ou le communiqué d’une offre retirée continuent de nourrir les réponses tant qu’ils restent publiés.

Pour la direction de la communication, la conséquence est un inventaire : le retrait des pages périmées se décide avec le web, à intervalle régulier, sur commande de la communication.

Pourquoi la même question ne donne-t-elle pas la même erreur ?

Parce que la réponse se recompose à chaque fois. L’équipe de Saint-Gall a posé chaque jour, du 24 janvier au 20 mars 2026, les mêmes questions à ChatGPT, Gemini, au Mode IA de Google et à Perplexity, sur 4 secteurs, avec jusqu’à 10 exécutions identiques le même jour.

Les auteurs résument : d’un jour au lendemain, environ 65% des sources citées changent.

Entre 2 exécutions de la même question, le même jour, sans qu’aucune page ne change sur le web, la similarité des sources ne fait pas mieux : de 0,32 à 0,43, contre 0,34 à 0,42 d’un jour à l’autre.

Cette part de variation vient du processus de génération lui-même, pas de l’actualité ni du référencement.

Part des sources et des marques retrouvées quand la même question est reposée le même jour

Gemini est le plus régulier sur ses sources et l’un des moins réguliers sur les organisations qu’il nomme. Les 2 mesures ne se confondent donc pas.

Ces valeurs viennent de 4 secteurs, en allemand, depuis la Suisse, et indiquent un ordre de grandeur, sans tenir lieu de référence pour un marché belge.

Le moteur change-t-il d’avis d’une heure à l’autre ?

Oui, même réglé pour répondre de façon constante. L’équipe du Max Planck Institute et de l’université de Bochum (Findings of ACL 2026) mesure que, sur les moteurs dont la température se règle à zéro, entre 9% et 27% des questions donnent lieu à un basculement de décision en 5 minutes.

Sur 24 heures, jusqu’à 28% des réponses changent sur des questions fermées.

À 2 mois d’intervalle, 18% seulement des pages citées par un Aperçu IA sont communes entre 2 exécutions, contre 45% pour la recherche classique.

Le modèle lui-même change sous la mesure. Writesonic, éditeur d’outil de GEO, a posé le 27 avril 2026 50 questions une seule fois à 2 versions successives du modèle de ChatGPT (Writesonic, 28 avril 2026).

La part des réponses qui citent le site d’une marque passe de 56,8% à 47,2%. L’auteur qualifie lui-même ses pourcentages d’estimations ponctuelles : 50 questions passées une fois signalent un déplacement sans le mesurer.

Combien de passages faut-il pour conclure à une erreur ?

Plus qu’une capture. L’équipe de Saint-Gall calcule l’erreur type de sa mesure : 0,370 avec 1 exécution, 0,123 avec 5, 0,081 avec 7.

L’équipe recommande au moins 7 exécutions par question et par jour, 8 quand ce sont les sources qui comptent, et une fenêtre glissante de 2 à 4 semaines pour lire une évolution.

Un dirigeant qui interroge ChatGPT le lundi matin et transmet une capture à sa direction de la communication a produit un tirage parmi d’autres.

À l’inverse, une réponse fautive observée une fois ne disparaît pas parce qu’on ne la retrouve pas le lendemain. Pour la direction de la communication, la conséquence se traduit en méthode : un constat se rejoue, un autre jour et sur un second moteur, avant toute démarche (la méthode de l’audit GEO).

Ces erreurs ont-elles déjà des conséquences ?

Devant les tribunaux, oui. La base « AI Hallucination Cases », tenue par le chercheur Damien Charlotin, recensait au 11 septembre 2026 2.038 décisions de justice dans 58 juridictions, où une pièce produite portait une référence défectueuse.

8 décisions sont belges, 13 françaises et 11 allemandes. Le Luxembourg n’y figure pas.

Décisions de justice recensées selon la nature du défaut, au 11 septembre 2026

La dénaturation, une décision réelle citée à l’appui d’une proposition qu’elle ne soutient pas, correspond au mécanisme de l’attribution erronée : 853 cas.

Cette base ne mesure pas ce que les moteurs disent des organisations. Elle établit qu’une affirmation produite par un moteur a déjà des conséquences que des juges instruisent. Pour votre service juridique, le sujet a donc quitté la théorie.

Et la confusion entre 2 organisations du même nom ?

C’est le cas que les directions de la communication signalent le plus souvent, selon le guide. 3 confusions reviennent :

• l’homonyme, une organisation qui porte le même nom dans un autre secteur ou un autre pays
• la filiale et la maison mère, dont les faits se mélangent quand la structure du groupe n’est écrite nulle part de façon lisible
• l’entité disparue, ancienne raison sociale ou marque retirée, qui survit dans les sources anciennes

Ces confusions ne se voient pas dans un tableau de mentions. Elles apparaissent quand le relevé compare la réponse aux faits d’identité de l’organisation : forme juridique, siège, effectif, activité, appartenance à un groupe, dirigeants en fonction.

Une réponse qui se trompe d’entité compte comme une erreur de fait, pas comme une mention.

Existe-t-il une mesure de l’homonymie ?

Non. Les recherches menées pour le guide n’ont trouvé aucun travail primaire qui la mesure dans les moteurs grand public. La taxonomie torontoise décrit 2 types d’erreur, la faible pertinence et la dérive sémantique, qui correspondent à ce mécanisme sans porter sur les marques. Le rapprochement relève de la déduction, et je le donne comme tel.

Le guide décrit une convention de praticiens : une « phrase d’entité » qui dit ce qu’est l’organisation, ce qu’elle fait et pour qui, reprise au mot près sur toutes les fiches.

Aucune mesure ne l’appuie. Son intérêt est pratique, puisque la cohérence des fiches tierces se vérifie alors contre un texte écrit (le référencement dans ChatGPT).

Quand un homonyme crée la confusion, la page de référence de l’organisation dit l’absence de lien sans reprendre l’accusation. Pour la direction de la communication, le chantier commence par l’écriture de ces faits d’identité, puis par leur alignement dans les registres et les fiches tierces.

Que change cette distinction pour une direction de la communication ?

Une erreur de fait a une source. La correction remonte jusqu’à elle. Si la source est une page de l’organisation, elle se corrige le jour même.

Si c’est une fiche tierce, un média ou Wikipédia, d’autres règles s’appliquent, détaillées dans l’article sur la page Wikipédia d’entreprise et dans celui sur les sources citées par les IA.

Une attribution erronée survient alors que la page citée est exacte. Réécrire la page ne garantit rien. Le premier geste consiste à documenter le cas : la question exacte, le moteur, le mode, la date, la phrase attribuée, la page citée et son contenu réel.

Le guide trie chaque cas par 3 questions, dans cet ordre :

1. L’affirmation est-elle fausse, ou seulement défavorable ? Une critique exacte appelle une réponse ou un changement, pas une correction.
2. D’où vient-elle ? Une réponse qui cite ses sources donne l’adresse de la correction, à condition que la page citée dise bien ce que la réponse lui prête.
3. Qui est visé ? Une personne physique dispose de droits que l’organisation n’a pas (ChatGPT et le RGPD).

En Belgique, la langue ajoute une dimension. Une même question posée en français et en néerlandais mobilise des sources différentes. Un nom exact en français et erroné en néerlandais désigne, selon le guide, une source précise à corriger, et non un défaut général de présence.

Qui, chez vous, est concerné ?

• La communication tient le registre des constats, qualifie chaque cas (erreur de fait, information périmée, attribution erronée, confusion d’entité) et porte la demande de correction quand elle en a le mandat.
• Le web ou l’informatique retire ou met à jour les pages périmées, et vérifie que la page citée dit bien ce qu’on lui prête.
• Le juridique ou le délégué à la protection des données intervient dès que l’erreur touche une personne nommée.
• Le secrétariat général ou la direction financière tient les faits d’identité et les chiffres publiés, base de toute page de référence.
• La direction générale signe le mandat de correction, sans lequel un constat reste sans suite.

Une institution publique est exposée autrement. Une réponse qui se trompe sur un délai de recours, une condition d’éligibilité, l’adresse d’un guichet ou une consigne de sécurité touche aux droits et à la sécurité des personnes.

Le guide la classe au niveau de gravité le plus élevé, quelle que soit sa visibilité.

Quand la validation passe par la hiérarchie puis par un cabinet, le délai de ce niveau ne tient qu’avec des formats validés à froid, une fois par an : page de référence, modèle de mise au point, lettre type à un éditeur.

Que dire à votre comité de direction ?

• « Sur 98.020 affirmations tirées de 7.491 Aperçus IA de Google, 2,7% sont incorrectes et 7,0% absentes de la page citée comme source, selon Washington University in St. Louis (13 mai 2026) : une réponse sourcée n’est pas une réponse vérifiée. »
• « Selon l’évaluation de l’UER et de la BBC à laquelle ont participé la RTBF et la VRT, 45% des 2.709 réponses d’assistants sur l’actualité présentaient au moins un problème significatif (octobre 2025). »
• « D’un jour au lendemain, environ 65% des sources citées par un moteur changent (université de Saint-Gall, avril 2026) : une capture isolée décrit un tirage parmi d’autres, et une erreur absente le lendemain n’a pas forcément disparu. »

Quelles questions poser en interne ?

1. Le registre des constats distingue-t-il erreur de fait, information périmée, attribution erronée et confusion d’entité ?
2. Pour chaque cas, quelqu’un a-t-il ouvert la page citée pour vérifier qu’elle contient la phrase que le moteur lui prête ?
3. L’erreur revient-elle sur plusieurs passages de la même question, plusieurs jours et plusieurs moteurs ?
4. Le relevé est-il fait en français et en néerlandais, et en allemand pour une organisation fédérale ?
5. Une page périmée de votre site, ou une fiche tierce, porte-t-elle encore l’information fausse ?
6. Les faits d’identité de l’organisation sont-ils écrits sur une page de référence datée, à adresse stable ?
7. Qui, chez vous, a le mandat de demander la correction, et dans quel délai ?

Questions fréquentes

>>> Le Guide pratique du GEO pour les directions de la communication explique pourquoi il n’écrit pas « hallucination » (section 0.4), comment relever une réponse et qualifier ses sources (2.3 et 2.4), pourquoi la même question varie (3.5) et d’où vient l’attribution erronée (3.6). Son chapitre 4 décrit la procédure de correction. Il se télécharge librement.

Quelle est la dernière erreur qu’un moteur a commise sur votre organisation, et qui l’a repérée ?

Xavier Degraux ► Consultant & formateur LinkedIn™, IA et GEO · Prise de parole et réputation numériques des organisations et de leurs dirigeant.es · Employee advocacy ► +500 organisations accompagnées depuis 2013 ► 10 ans journaliste éco (L’Echo, Trends Tendances)