Hallucinations, biais, fausses infos : vérifier une réponse d’IA

Camille prépare une note pour son équipe. Elle demande à un assistant d’IA un chiffre de marché, une citation d’expert et la référence d’un article de loi. La réponse arrive en quelques secondes, bien rédigée, structurée, sûre d’elle. Problème : le chiffre n’a aucune source, la citation n’a jamais été prononcée et l’article de loi n’existe pas sous cette forme. Rien, dans le ton de la réponse, ne le laissait deviner.

Ce phénomène porte un nom : l’« hallucination ». Il ne signifie pas que l’IA est inutile, ni qu’il faut tout refuser en bloc. Il signifie qu’une réponse d’IA est un brouillon plausible, pas une vérité établie. Utilisée avec méthode, elle fait gagner un temps précieux ; utilisée sans vérification, elle diffuse des erreurs avec une grande assurance.

Ce guide explique, sans jargon, pourquoi ces erreurs surviennent, comment les reconnaître, comment mieux poser vos questions et surtout comment vérifier une réponse en cinq étapes. Vous y trouverez aussi un tableau des erreurs typiques, des cas pratiques, une façon simple de tester les biais et une checklist à garder sous la main. Pour choisir un assistant, notre comparatif des assistants IA vous aidera ; ici, on s’intéresse à ce que vous faites de ses réponses.

Pourquoi une IA peut se tromper avec tant d’aplomb

Un assistant d’IA générative repose sur un modèle de langage. Pour simplifier : il a appris, à partir d’énormes quantités de textes, à prédire quels mots suivent naturellement d’autres mots. Quand vous posez une question, il produit la suite la plus vraisemblable. Or vraisemblable ne veut pas dire vrai. Une phrase peut être parfaitement tournée, cohérente et fausse.

Trois mécanismes expliquent l’essentiel des erreurs :

• Le modèle comble les trous. Si l’information demandée est rare, ambiguë ou absente, il tend à produire une réponse qui ressemble à ce qu’on attend plutôt qu’à avouer qu’il ne sait pas. Un faux nom d’auteur, une fausse date ou un faux numéro de page ont l’air aussi crédibles que les vrais.
• Ses connaissances ont une date limite. Le modèle a été entraîné sur des données figées à un moment donné. Selon le service et ses réglages, il peut aussi consulter le web, mais ce n’est pas systématique. Sans cela, il peut ignorer un changement récent ou présenter comme actuel quelque chose de dépassé.
• Il cherche à vous satisfaire. Les assistants sont réglés pour être utiles et agréables. Résultat : ils peuvent aller dans votre sens, valider une idée fragile ou s’excuser à tort quand vous les contredisez, même si leur première réponse était juste. On parle de complaisance, ou de flagornerie.

Autre point utile : l’assurance du ton ne mesure pas la fiabilité. Une réponse hésitante peut être exacte, une réponse péremptoire peut être inventée. C’est le contenu qu’il faut contrôler, pas l’impression qu’il produit.

Les principaux types d’erreurs à connaître

Toutes les erreurs ne se ressemblent pas. Les reconnaître permet de savoir quoi vérifier en priorité.

• Faits inventés : un événement, une personne, une fonctionnalité de logiciel ou une règle qui n’existent pas.
• Sources, références et citations inventées : un titre d’étude, un auteur, une décision de justice ou une phrase attribuée à quelqu’un, très convaincants, mais introuvables. C’est l’erreur la plus piégeuse, car elle donne une fausse impression de rigueur.
• Chiffres et dates erronés : pourcentages, montants, années, durées, seuils.
• Mauvais calculs : un modèle de langage n’est pas une calculatrice. Les opérations enchaînées, les conversions et les pourcentages peuvent dérailler sans prévenir.
• Connaissances dépassées et anachronismes : une règle qui a changé, un prix ancien, un responsable qui a quitté son poste.
• Résumé infidèle : même à partir d’un document que vous fournissez, l’IA peut omettre une nuance, inverser une conclusion ou ajouter une phrase qui n’y figure pas.
• Erreur de code : une fonction qui n’existe pas, une option inventée, un script qui s’exécute mais ne fait pas ce qui est annoncé.
• Biais et stéréotypes : des associations injustes liées au genre, à l’origine, à l’âge ou au métier, héritées des textes d’entraînement.
• Complaisance : l’IA confirme votre hypothèse parce que vous l’avez formulée, sans l’examiner.

Les signes d’alerte qui doivent vous faire ralentir

Aucun signe n’est infaillible, mais certains justifient un contrôle immédiat :

• un chiffre très précis sans source (« 63,4 % des Français… ») ;
• une référence trop parfaite : titre, auteur, année et numéro de page tous présents, mais impossibles à retrouver ;
• une citation entre guillemets attribuée à une personnalité, sans lien vers le texte original ;
• une réponse qui change quand vous reposez la même question, ou qui s’effondre dès que vous la contestez ;
• des détails très spécifiques sur un sujet de niche (petite entreprise, personne peu connue, logiciel récent) ;
• des liens ou des noms de fichiers qui ne mènent nulle part ;
• une réponse qui vous donne entièrement raison alors que votre question était discutable.

La méthode de vérification en 5 étapes

Voici une démarche simple, applicable à n’importe quelle réponse qui compte. Elle prend quelques minutes pour un usage courant, davantage quand l’enjeu est élevé.

Étape 1 : isoler les affirmations vérifiables

Relisez la réponse en repérant ce qui peut être vrai ou faux : noms, dates, chiffres, citations, références, règles, causes annoncées. Laissez de côté ce qui relève de l’opinion ou de la reformulation. Surlignez ou listez ces affirmations : sur une réponse de quinze lignes, il y en a souvent cinq ou six qui comptent vraiment.

Étape 2 : demander les sources et le niveau d’incertitude

Demandez à l’assistant d’indiquer, pour chaque affirmation, d’où elle vient et à quel point il est sûr de lui. Par exemple :

Pour chacune des affirmations ci-dessus, indique :
1. la source précise (titre, auteur, éditeur, lien) si tu en as une ;
2. ton niveau de certitude (élevé, moyen, faible) ;
3. ce que je dois vérifier en priorité.
Si tu n'as pas de source fiable, écris « pas de source » plutôt que d'en proposer une.

Cette étape ne prouve rien à elle seule : l’IA peut aussi inventer une source ou surévaluer sa certitude. Elle sert à produire une liste de pistes à contrôler, pas un certificat de véracité.

Étape 3 : ouvrir et lire soi-même les sources

Cliquez sur chaque lien. Vérifiez qu’il existe, qu’il s’agit bien du document annoncé et surtout qu’il dit effectivement ce que l’IA affirme. Une source réelle peut être citée à tort : la page existe, mais ne contient pas le chiffre avancé. Pour une référence sans lien, cherchez le titre exact et l’auteur dans un moteur de recherche ou un catalogue de bibliothèque. Si vous ne la trouvez pas, considérez-la comme inventée jusqu’à preuve du contraire.

Étape 4 : recouper avec une source indépendante ou officielle

Une seule source, même réelle, ne suffit pas pour une information importante. Cherchez une seconde confirmation indépendante de la première, idéalement une source primaire ou officielle : texte de loi, site d’une administration, publication de l’organisme concerné, document de l’éditeur du logiciel. Deux sites qui se recopient l’un l’autre ne comptent pas pour deux confirmations.

Étape 5 : décider et garder une trace

À l’issue des contrôles, trois issues : vous conservez l’information (confirmée), vous la corrigez (la source dit autre chose), ou vous la retirez (rien ne la confirme). Notez, surtout dans un contexte professionnel, la source retenue et la date de vérification. Cette trace vous protège : elle vous permet de justifier un chiffre, de refaire le contrôle plus tard et de mesurer ce qui a été corrigé.

Règle simple : une affirmation d’IA ne devient une information que lorsque vous l’avez retrouvée, vous-même, dans une source fiable.

Où vérifier le plus : adapter l’effort au risque

Vérifier chaque mot serait épuisant et ferait perdre l’intérêt de l’outil. La bonne approche consiste à proportionner l’effort à la gravité d’une éventuelle erreur.

Niveau de risque	Exemples d’usages	Vérification conseillée
Faible	Brainstorming, idées de titres, reformulation d’un texte que vous avez écrit	Relecture rapide : le texte reste-t-il fidèle à ce que vous vouliez dire ?
Moyen	Résumé d’un document, explication d’une notion, plan d’un exposé	Comparer avec le document d’origine ou un cours ; vérifier les points clés et les nuances
Élevé	Chiffres, dates, citations, références, questions juridiques, médicales ou financières, décisions engageantes	Méthode complète en 5 étapes, source officielle, et avis d’un professionnel pour le droit, la santé ou la finance

Une idée utile : posez-vous la question « que se passe-t-il si c’est faux, et que quelqu’un s’en sert ? ». Une mauvaise idée de slogan se jette ; un faux seuil légal dans un contrat, une mauvaise posologie ou un chiffre erroné dans un rapport peuvent coûter cher. Sur la santé, le droit et la finance, l’IA peut aider à comprendre le vocabulaire et à préparer vos questions, mais elle ne remplace ni un médecin, ni un avocat, ni un conseiller financier.

Tableau récapitulatif : erreur, signe d’alerte, contre-mesure

Type d’erreur	Signe d’alerte	Contre-mesure
Fait inventé	Détail très précis sur un sujet peu documenté	Rechercher le fait sur une source officielle ; sinon l’écarter
Source ou citation inventée	Référence complète mais introuvable, lien qui ne mène nulle part	Chercher le titre exact, ouvrir le texte original, vérifier la citation mot à mot
Chiffre ou date erroné	Pourcentage très précis, sans source ni contexte	Retrouver la donnée chez l’organisme producteur, noter l’année et le périmètre
Mauvais calcul	Résultat approximatif, étapes sautées	Refaire le calcul avec une calculatrice ou un tableur
Information dépassée	Sujet qui évolue vite (règles, prix, logiciels)	Vérifier la date de la source et consulter la page officielle actuelle
Résumé infidèle	Nuance absente, conclusion plus tranchée que le texte	Demander les passages exacts et les relire dans le document
Erreur de code	Fonction ou option inconnue, script jamais testé	Consulter la documentation officielle, tester sur un petit exemple, relire avant de déployer
Biais ou stéréotype	Réponse qui varie selon le prénom, le genre ou l’origine	Refaire la demande en changeant ce détail, comparer, corriger la formulation
Complaisance	L’IA valide tout, change d’avis dès que vous insistez	Demander les arguments contraires, reformuler la question de façon neutre

Quatre cas pratiques

La jurisprudence ou la citation inventée

Camille demande une décision de justice qui soutiendrait son argument. L’assistant propose un intitulé de décision, une juridiction, une date et un numéro. Tout est cohérent… mais la décision n’apparaît dans aucune base officielle. Réflexe : chercher la référence exacte dans une base juridique publique ; si elle est introuvable, ne l’utilisez pas. Sur un sujet de droit, faites valider par un professionnel (informatif, pas un conseil juridique). La même logique s’applique à une citation d’auteur : retrouvez le texte d’origine, pas une version « rapportée ».

La statistique sans source

Pour illustrer un diaporama, l’IA affirme qu’« une large majorité » de salariés gagne du temps grâce à un outil, avec un pourcentage à la décimale près. Réflexe : demander l’étude, la retrouver, vérifier qui l’a menée, sur quelle population, en quelle année. Si vous ne pouvez pas la retrouver, remplacez le chiffre par une formulation prudente ou supprimez-le. Un chiffre non sourcé fait plus de dégâts qu’une absence de chiffre.

Le résumé qui déforme le document

Un responsable colle un compte rendu de réunion et demande un résumé. L’IA écrit que « la décision de reporter le projet a été validée », alors que le texte dit que le report « sera étudié ». Une nuance disparaît, et une décision en découle. Réflexe : demander à l’assistant d’associer chaque point du résumé à la phrase du document dont il provient, puis relire ces passages. Pensez à retirer ou masquer les données personnelles avant de coller un document.

La recette ou la dose : prudence santé

Une IA peut proposer une posologie, une interaction entre médicaments ou un temps de cuisson sécurisé pour une conserve. Une erreur peut avoir des conséquences réelles. Réflexe : pour tout ce qui touche à la santé ou à la sécurité alimentaire, utilisez l’IA pour préparer vos questions, jamais pour trancher. Consultez la notice du produit, un pharmacien ou un médecin.

Mieux demander pour réduire (sans éliminer) le risque

La façon de poser la question influence la qualité de la réponse. Quelques consignes efficaces :

• Autoriser le doute : « Si tu ne sais pas ou si tu n’es pas sûr, dis-le clairement au lieu de deviner. »
• Fournir le document : mieux vaut travailler sur un texte que vous apportez que sur la mémoire du modèle.
• Limiter au texte fourni : « Réponds uniquement à partir du texte ci-dessous et cite les passages utilisés. »
• Demander une double lecture critique : « Relis ta réponse comme un contradicteur et liste ce qui pourrait être faux ou incomplet. »
• Préciser le contexte : pays, période, public concerné, pour éviter les réponses hors-sujet.

Réponds uniquement à partir du texte ci-dessous.
Pour chaque affirmation, cite la phrase exacte du texte qui la justifie.
Si le texte ne permet pas de répondre, écris « Le texte ne le dit pas ».
Ne complète pas avec tes connaissances générales.

[colle ici le texte, après avoir retiré les données personnelles]

Ces consignes réduisent le risque, elles ne l’éliminent pas. Un assistant peut encore mal citer un passage, ou « avouer » son incertitude sur une réponse juste et en affirmer une autre à tort. Une relecture critique faite par la même IA reste une aide, pas une vérification indépendante. La preuve se trouve toujours dans la source. Pour aller plus loin sur la formulation des demandes, le cours gratuit Comprendre l’IA générative et maîtriser l’art du prompt (21 leçons, Arkendia Classrooms) explique comment fonctionnent ces outils, comment structurer un prompt et comment juger la fiabilité d’une réponse.

Les biais : comment les repérer et les tester

Les modèles apprennent à partir de textes écrits par des humains, avec leurs déséquilibres. Ils peuvent donc reproduire des stéréotypes : associer certains métiers à un genre, décrire différemment des personnes selon leur origine, proposer des conseils de carrière plus ou moins ambitieux selon l’âge. Ces biais sont rarement spectaculaires ; ils se glissent dans le choix d’un adjectif, d’un exemple ou d’une recommandation.

Un test simple, à la portée de tous : changer un seul détail et comparer.

1. Écrivez une demande, par exemple « Rédige une appréciation pour [Prénom], candidat(e) au poste de responsable de projet ».
2. Refaites la même demande en changeant uniquement le prénom, le genre ou l’origine supposée.
3. Comparez le ton, les qualités mises en avant, les réserves et les recommandations.
4. Si des écarts apparaissent sans raison objective, reformulez en retirant les informations inutiles et demandez des critères explicites.

Ce test ne mesure pas tout, mais il rend visible ce qui ne se voit pas à la première lecture. Pour toute décision touchant des personnes (recrutement, évaluation, notation), n’utilisez jamais une réponse d’IA comme seul critère : gardez un humain dans la boucle. La page de la CNIL consacrée à l’intelligence artificielle rappelle que ces usages soulèvent des enjeux de protection des données et des droits des personnes. Et si une IA produit une information inexacte sur une personne identifiable, le RGPD prévoit notamment un droit de rectification (informatif, pas un conseil juridique) ; les modalités dépendent du service concerné.

Fausses informations, images et voix générées

L’IA ne se contente pas de se tromper : elle permet aussi de fabriquer à grande échelle des textes, des images, des vidéos et des voix convaincants. Une photo « d’actualité » peut être entièrement générée ; un faux message vocal peut imiter un proche. Pour ne pas être piégé :

• cherchez l’origine du contenu (qui l’a publié en premier, où) ;
• méfiez-vous des contenus qui jouent sur l’urgence ou l’émotion et demandent de partager vite ;
• vérifiez si des médias ou organismes fiables relaient l’information ;
• examinez les détails (mains, texte, ombres, synchronisation labiale), tout en sachant que l’absence de défaut visible ne prouve rien.

Le cadre européen sur l’IA, présenté sur le site de la Commission européenne et dans le règlement (UE) 2024/1689, prévoit des obligations de transparence pour certains contenus générés ou manipulés par IA. Cela ne dispense pas de rester vigilant : tous les contenus ne seront pas signalés. Pour les arnaques à la voix clonée, aux faux dirigeants ou aux fausses vidéos, consultez notre guide arnaques IA et deepfakes, et le site Cybermalveillance.gouv.fr en cas de doute ou de victime.

IA et recherche web : vérifier que le lien dit bien ce qui est affirmé

De nombreux assistants proposent des réponses accompagnées de liens ou de notes de bas de page. C’est un progrès, car on peut remonter à la source. Mais cela ne règle pas tout :

• le lien peut exister sans contenir l’information annoncée ;
• l’IA peut mélanger plusieurs pages et en tirer une conclusion qu’aucune ne soutient ;
• la page citée peut être peu fiable, ancienne ou sponsorisée ;
• les sources retenues dépendent du service, de l’offre et des réglages : consultez ses paramètres et ses conditions pour savoir ce qui est consulté.

Le bon réflexe reste le même qu’à l’étape 3 : ouvrez le lien, cherchez le passage, vérifiez la date, puis recoupez. Une réponse « avec sources » n’est pas une réponse vérifiée ; c’est une réponse vérifiable, ce qui est déjà précieux.

J’ai diffusé une erreur : que faire ?

Cela arrive, et mieux vaut réagir vite et sobrement que de l’ignorer.

1. Identifiez l’erreur et ce qu’elle a touché : message, rapport, devoir, publication, décision.
2. Corrigez à la source : modifiez le document ou la page, remplacez la donnée par la valeur vérifiée.
3. Prévenez les destinataires avec un message court : ce qui était faux, la bonne information, ce qui est corrigé. Inutile de dramatiser, inutile de vous justifier longuement.
4. Évaluez les conséquences : si l’erreur touche un client, une décision, des données personnelles ou une obligation légale, informez votre responsable ou le service concerné.
5. Tirez-en une règle : quelle étape de vérification a été sautée ? Ajoutez-la à votre routine.

Dans un cadre professionnel, définir en équipe quels usages exigent une relecture humaine évite bien des mauvaises surprises. Le cours gratuit L’IA au travail : gagner du temps dans son métier (21 leçons, niveau intermédiaire) propose des pistes pour intégrer l’IA à vos tâches en gardant le contrôle de la qualité. Et pour un panorama des outils et des usages, relisez notre guide complet de l’IA générative.

En résumé : la checklist en 8 points

1. Considérez toute réponse d’IA comme un brouillon plausible, pas comme un fait établi.
2. Repérez les affirmations vérifiables : chiffres, dates, noms, citations, références.
3. Méfiez-vous des détails trop précis et des sources trop parfaites.
4. Demandez les sources et le niveau de certitude, mais ne vous en contentez pas.
5. Ouvrez les liens et vérifiez qu’ils disent bien ce qui est affirmé.
6. Recoupez avec une source indépendante ou officielle pour tout ce qui compte.
7. Adaptez l’effort au risque, et consultez un professionnel pour le droit, la santé et la finance.
8. Décidez, gardez une trace de la source et de la date, et corrigez vite si une erreur a été diffusée.

FAQ

Une IA « hallucine » toujours, ou seulement parfois ?

Seulement parfois, mais on ne peut pas savoir à l’avance quand. Le risque augmente avec les sujets rares, récents ou très précis, et diminue quand vous fournissez vous-même le texte de référence. Il n’est jamais nul : c’est pourquoi la vérification fait partie de l’usage normal.

Les IA qui consultent internet ne se trompent-elles plus ?

Elles se trompent différemment. La recherche web peut aider à obtenir des informations récentes et des liens, mais l’IA peut mal résumer une page, choisir une source douteuse ou associer un lien à une affirmation qu’il ne contient pas. Ouvrez toujours les liens importants.

Demander « es-tu sûr ? » à l’IA suffit-il à vérifier ?

Non. Cette question peut parfois faire apparaître une erreur, mais l’assistant peut aussi se corriger à tort, ou maintenir une erreur avec assurance. Son niveau de confiance annoncé n’est pas une mesure fiable. La vérification passe par des sources extérieures.

Peut-on se fier à une IA pour une question juridique, médicale ou financière ?

Elle peut aider à comprendre des termes ou à préparer vos questions, mais pas à décider. Ces domaines exigent une réponse adaptée à votre situation et fiable : demandez conseil à un professionnel (médecin, pharmacien, avocat, conseiller financier), ou à l’organisme officiel concerné.

Comment savoir si une IA est biaisée ?

Vous ne pouvez pas le garantir, mais vous pouvez tester. Refaites la même demande en changeant le prénom, le genre ou l’origine, puis comparez les réponses. Si des écarts apparaissent sans raison objective, reformulez la demande, donnez des critères explicites et ne laissez pas l’IA décider seule.

Comment vérifier rapidement une image ou une vidéo suspecte ?

Cherchez d’où elle vient, qui l’a publiée en premier et si des médias fiables la relaient. Méfiez-vous des contenus qui jouent sur l’urgence ou l’émotion. Les défauts visuels aident parfois, mais leur absence ne prouve rien : en cas de demande d’argent ou de données, contactez directement la personne concernée par un canal connu.

Sources

• CNIL – Intelligence artificielle
• EUR-Lex – Règlement général sur la protection des données (RGPD)
• EUR-Lex – Règlement (UE) 2024/1689 sur l’intelligence artificielle
• Commission européenne – Cadre réglementaire sur l’IA
• Cybermalveillance.gouv.fr

Ce guide est informatif : il ne constitue pas un conseil juridique, médical ou financier.