Vérifier les réponses de ChatGPT : la méthode selon le type de réponse

Une réponse de ChatGPT se vérifie selon ce qu’elle contient. Un chiffre se vérifie dans la publication d’origine, une citation dans le texte complet, un article de loi sur Légifrance dans sa version en vigueur, un calcul en le refaisant dans un tableur, un lien en l’ouvrant. Les éditeurs le disent eux-mêmes : OpenAI demande de ne pas se fier au résultat comme seule source de vérité, Anthropic de ne pas s’y fier sans confirmer son exactitude de façon indépendante. Les erreurs les plus fréquentes portent sur les faits rares et précis, les références juridiques, l’actualité récente et les calculs en plusieurs étapes.

Exemple fictif : la gérante d’une agence de voyages de huit personnes demande à ChatGPT de préparer une note pour l’équipe sur les règles d’un nouveau contrat. La réponse est claire et bien rédigée. Elle contient un article de loi, un pourcentage présenté comme une statistique du secteur, une date d’entrée en vigueur et un calcul de commission. Les quatre sont à vérifier, et chacun se vérifie à un endroit différent.

Pourquoi une réponse fausse a l’air juste

Un modèle de langage produit le texte le plus probable à partir de ce qu’il a appris. OpenAI l’explique dans une publication du 5 septembre 2025 : les « hallucinations » sont des affirmations plausibles mais fausses, et elles viennent en partie de méthodes d’évaluation qui récompensent une réponse au hasard plus qu’un aveu d’incertitude. Les faits isolés et peu fréquents, comme une date d’anniversaire ou le titre d’une thèse, ne suivent aucune logique que le modèle pourrait apprendre, et produisent des erreurs.

La forme ne vous aide pas. Une référence inventée a l’allure d’une vraie : une juridiction, une date, un numéro. Le 3 décembre 2025, le tribunal administratif de Grenoble a rejeté une requête qui contenait des « références jurisprudentielles fantaisistes » et qui avait manifestement été rédigée avec un outil d’IA générative, jugé « totalement inadapté à cet usage » (ordonnance n° 2509827).

La méthode par type de réponse

Un article de loi

Cherchez le numéro sur Légifrance, dans le bon code. Lisez la mention « En vigueur depuis » en haut de l’article et, si besoin, l’historique des versions. Un texte peut avoir changé après les données d’entraînement de l’outil. Exemple réel : l’article L1321-4 du Code du travail, sur l’entrée en vigueur du règlement intérieur, a été modifié par une loi du 26 mai 2026. Une réponse fondée sur l’ancienne version peut rester plausible et être dépassée.

Vérifiez aussi que l’article dit bien ce que la réponse lui fait dire. C’est l’erreur la plus difficile à repérer : le numéro existe, le contenu ne correspond pas.

Une décision de justice

Une référence complète comprend la juridiction, la date et le numéro. Si l’un des trois manque, considérez la décision comme non vérifiée. Ouvrez-la avant de la citer. Le guide IA en cabinet d’avocats détaille les précautions propres à la recherche juridique.

Un chiffre ou une statistique

Demandez la source, puis ouvrez-la. Si l’outil ne donne pas de source, ou donne une source qui ne contient pas le chiffre, ne l’utilisez pas. Regardez l’année et le champ : un taux national n’est pas un taux pour votre secteur, et un chiffre de 2022 n’est pas celui de cette année.

Un calcul

Demandez la formule plutôt que le résultat, puis refaites le calcul dans un tableur avec vos propres valeurs. Pour une commission, une remise ou une échéance, faites le calcul sur un cas dont vous connaissez déjà la réponse : si l’outil se trompe sur celui-là, ne lui confiez pas les autres.

Une citation ou une source en ligne

Copiez la phrase entre guillemets dans un moteur de recherche et retrouvez le texte complet. Ouvrez chaque lien donné : une page peut exister et ne rien dire de ce qu’on lui attribue. Quand l’outil affiche ses sources, le contrôle va plus vite. Il reste à faire.

Les demandes qui produisent le plus d’erreurs

• Les questions sur une personne, une petite entreprise ou un fait local peu documenté.
• Les références précises : numéros d’articles, de décisions, de normes, dates d’entrée en vigueur.
• L’actualité des derniers mois, si l’outil ne cherche pas sur le web.
• Les calculs longs ou les tableaux à reprendre ligne par ligne.
• Les demandes qui supposent une réponse : « donne-moi trois décisions qui confirment que… » pousse l’outil à en fournir trois.

Réduire les erreurs dès la demande

La documentation d’Anthropic propose plusieurs techniques simples, valables avec la plupart des outils : autoriser explicitement l’outil à dire qu’il ne sait pas, lui demander d’extraire les passages exacts d’un document avant de répondre, lui faire vérifier chaque affirmation par une citation et retirer celles qu’il ne peut pas justifier, poser la même question plusieurs fois et comparer les réponses. Elle précise que ces techniques réduisent les erreurs sans les supprimer.

Une consigne à ajouter à vos demandes :

Si tu n’es pas sûr d’une information, écris « je ne sais pas ».
Pour chaque chiffre, article de loi ou décision, indique la source
précise, ou écris « source non retrouvée ».
N’invente aucune référence.
À la fin, liste les points que je dois vérifier moi-même.

Quand la réponse doit venir de vos documents, donnez-les à l’outil et demandez-lui de citer la phrase exacte qui justifie chaque point. Le guide compte rendu de réunion à partir de notes applique ce principe à un cas courant.

Retour à la note de l’agence

La gérante reprend les quatre éléments un par un. L’article de loi : elle le retrouve sur Légifrance, vérifie qu’il est en vigueur et qu’il parle bien du sujet de la note. Le pourcentage : la réponse ne donne aucune source, elle le retire. La date d’entrée en vigueur : elle la contrôle dans le contrat lui-même, qui fait foi. La commission : elle refait le calcul dans son tableur sur un dossier déjà facturé.

La note part avec trois informations vérifiées au lieu de quatre, et une ligne « à confirmer » pour la statistique.

Le contrôle à deux

Pour ce qui sort de l’entreprise, prévoyez une deuxième lecture selon l’enjeu. Le principe : celui qui a fait la demande vérifie les faits, une autre personne relit avant l’envoi quand le texte engage l’entreprise.

• Email courant : l’auteur relit, vérifie les noms, les dates et les montants.
• Devis, courrier à un client, publication : l’auteur vérifie chaque chiffre à sa source ; une deuxième personne relit les engagements (prix, délais, garanties).
• Texte juridique, contrat, réponse à une administration : vérification de chaque référence, puis relecture par la personne compétente ou votre conseil.

Notez les erreurs que vous trouvez. Après quelques semaines, vous saurez sur quels sujets votre outil se trompe le plus, et la charte d’usage pourra en tenir compte : le modèle de charte prévoit un article sur le signalement des erreurs.

Vérifier une réponse ou tester un outil

Ce guide porte sur la vérification au quotidien d’une réponse. Pour évaluer un assistant avant de le donner à l’équipe, sur une série de questions dont vous connaissez la réponse, suivez la grille du guide tester un assistant IA sur ses documents. Pour un contrat, le guide analyser un contrat avec ChatGPT donne la liste des clauses à contrôler.

Quand une décision dépend de la réponse (un contrat, une obligation fiscale, une question de santé), faites valider par un professionnel : avocat, expert-comptable, médecin.

Questions fréquentes

Comment vérifier les réponses de ChatGPT ?

Selon le type d’information : un article de loi sur Légifrance dans sa version en vigueur, un chiffre dans la publication d’origine, une citation dans le texte complet, un calcul dans un tableur, un lien en ouvrant la page. Si aucune source ne confirme l’information, ne l’utilisez pas.

Pourquoi ChatGPT invente-t-il des réponses ?

Un modèle de langage produit le texte le plus probable. OpenAI explique que les méthodes d’évaluation actuelles récompensent une réponse au hasard plus qu’un aveu d’incertitude, et que les faits rares et isolés sont les plus exposés aux erreurs.

ChatGPT peut-il inventer des articles de loi ou des jurisprudences ?

Oui. Une référence inventée a la même forme qu’une vraie. Le tribunal administratif de Grenoble a relevé le 3 décembre 2025 des références jurisprudentielles fantaisistes dans une requête rédigée avec une IA générative. Ouvrez chaque texte et chaque décision avant de les citer.

Comment éviter que ChatGPT se trompe ?

Autorisez-le à répondre « je ne sais pas », demandez une source pour chaque chiffre et chaque référence, et donnez-lui vos documents quand la réponse doit en venir. Ces consignes réduisent les erreurs sans les supprimer : la vérification reste nécessaire pour tout ce qui sort de l’entreprise.

Peut-on faire confiance aux sources citées par ChatGPT ?

Ouvrez-les. Une page citée peut exister et ne pas contenir l’information annoncée, ou dire autre chose. Regardez aussi la date de la page et qui l’a publiée.

Sources consultées le 22 octobre 2026 : OpenAI, conditions d’utilisation pour l’Europe (version du 16 janvier 2026), section exactitude ; Anthropic, Consumer Terms of Service (8 octobre 2025), section Reliance on Outputs ; OpenAI, Modèles de langage : aux origines des hallucinations (5 septembre 2025) ; Tribunal administratif de Grenoble, ordonnance du 3 décembre 2025, n° 2509827 (copie publiée par le cabinet Landot) ; Légifrance, Code du travail, article L1321-4 (modifié par la loi n° 2026-403 du 26 mai 2026) ; Anthropic, documentation : Reduce hallucinations.