Hallucination IA : définition, causes et exemples

Hallucination IA : la définition en une phrase

Une hallucination IA désigne une réponse fausse, fabriquée par un outil d'intelligence artificielle générative, mais formulée avec l'aplomb d'une information vérifiée. Dans le jargon de l'IA, ces erreurs portent un nom à part parce qu'elles ne ressemblent à aucun bug classique : rien ne plante, la phrase est impeccable, seule l'exactitude manque. Un modèle de langage peut ainsi citer une étude qui n'existe pas, inventer un article de loi ou attribuer à un logiciel une fonctionnalité qu'il n'a jamais eue.

Le mot est une métaphore empruntée à la psychiatrie, et elle a ses limites : un modèle ne perçoit rien, il ne souffre d'aucune psychose, il produit simplement des sorties plausibles. C'est pourquoi certains chercheurs préfèrent parler de confabulation ou d'affirmation non fondée. Le vocabulaire importe peu pour un dirigeant ; ce qui compte, c'est de savoir que les IA peuvent se tromper sans jamais changer de ton.

Le terme en anglais

L'expression d'origine est anglaise : on parle de « AI hallucination », ou d'« hallucination » tout court dans la littérature consacrée à l'artificial intelligence. Les publications anglophones écrivent couramment « the model hallucinates » pour décrire exactement le même phénomène. En français, « hallucination » s'est imposé dans les médias, même si « erreur factuelle générée » décrirait mieux la réalité.

Ce qu'une hallucination n'est pas

Ce n'est pas un mensonge : aucune intention ne se cache derrière, et le modèle n'a pas conscience de se tromper. Ces systèmes ne savent pas faire la différence entre ce qu'ils ont réellement appris et ce qu'ils se contentent de compléter. Ce n'est pas non plus un biais, même si les deux se croisent souvent : un biais penche systématiquement dans une direction, alors qu'une hallucination fabrique un fait ponctuel.

Pourquoi le phénomène concerne directement votre entreprise

L'enjeu est très concret dès qu'un agent de chat répond à vos clients : une information inexacte sortie de cet assistant engage votre entreprise, pas l'éditeur du modèle. Si l'outil annonce un délai de livraison, une garantie ou une condition de retour qui n'existe pas, le client s'appuie dessus de bonne foi. Le risque est réel, et il se mesure en réclamations, en avoirs et en temps perdu à rattraper.

Comprendre ce fonctionnement change surtout la façon de confier une tâche aux outils d'IA. Sur un brouillon de newsletter, une approximation se corrige en deux minutes et personne n'en souffre. Sur une réponse juridique, un chiffrage ou une fiche technique, la même approximation coûte cher. L'arbitrage se fait toujours sur le même critère : quel niveau d'exactitude la tâche exige-t-elle vraiment ?

Les usages les plus exposés

• Le support client automatisé, où l'outil doit fournir une information exacte sur vos conditions de vente
• Les contenus techniques ou réglementés : santé, droit, finance, assurance, sécurité
• Les chiffres, dates, références produits et citations, que les modèles inventent avec une facilité déconcertante
• Les résumés de documents longs, où une ligne absente du texte d'origine peut apparaître de nulle part
• La traduction de termes métier rares, mal représentés dans les données
• La recherche d'informations récentes, postérieures à l'entraînement du modèle

Comment ça marche : les causes des hallucinations

Les systèmes d'intelligence artificielle génératifs ne consultent pas une base de connaissances au moment où vous les interrogez. Ils calculent, mot après mot, la suite la plus probable compte tenu de ce qu'ils ont vu pendant leur apprentissage. Quand la bonne information manque, le modèle ne s'arrête pas : il complète avec ce qui ressemble le plus à une réponse correcte. C'est ce mécanisme qui produit les hallucinations. Les hallucinations des IA naissent donc dans l'écart entre le probable et le vrai, pas dans une panne.

Des données d'entraînement imparfaites

Les données d'entraînement viennent du web, de livres, de forums, de code source. Elles contiennent des informations contradictoires, datées, parfois franchement erronées, et le modèle peut les reproduire telles quelles. À l'inverse, un sujet peu documenté laisse un trou que le modèle comble de lui-même : il ne peut pas apprendre ce qui n'est nulle part. Ajoutez la date de coupure, et tout ce qui s'est passé après devient invisible pour lui, sans qu'il renonce pour autant à décrire un produit sorti depuis.

Une demande trop floue

La formulation de la demande est un facteur largement sous-estimé. Une question vague, bâtie sur un présupposé faux ou réclamant une précision impossible pousse mécaniquement le modèle à broder. Un prompt bien construit, qui autorise explicitement la réponse « je ne sais pas » et borne le périmètre, fait déjà tomber une bonne partie des inventions.

L'absence de source sous la main

Sans document de référence, le modèle n'a que sa mémoire statistique. C'est tout l'intérêt du RAG, qui va chercher vos propres documents avant de répondre et oblige le modèle à s'appuyer sur ce dernier plutôt que sur ses souvenirs. Les causes des hallucinations sont nombreuses, mais celle-ci se corrige par l'architecture, pas par la chance.

• Des données d'entraînement incomplètes, périmées ou contradictoires
• Un sujet absent du corpus, qui laisse le modèle improviser
• Une question ambiguë ou partant d'une prémisse fausse
• Des réglages qui favorisent la créativité au détriment de la fiabilité
• Une conversation trop longue, où le modèle s'appuie sur ses propres réponses précédentes

Hallucination IA : exemples documentés

Deux épisodes publics ont fait entrer le mot dans le débat général. Lors de la présentation de Bard par Google, en février 2023, l'assistant affirmait que le télescope James Webb avait réalisé les premières images d'une exoplanète. C'était faux : ce type de cliché existait avant la mise en service du télescope, et venait d'un autre instrument. L'erreur tenait en une seule phrase, parfaitement tournée, au milieu d'une réponse juste par ailleurs.

Même scénario avec la démo de Galactica, le modèle scientifique publié par Meta fin 2022 puis retiré au bout de quelques jours. Il générait des textes d'apparence académique assortis de références bibliographiques inventées de toutes pièces. Plus près du quotidien des entreprises, des avocats américains ont été sanctionnés en 2023 pour avoir déposé devant un tribunal un mémoire citant des décisions de justice inexistantes, générées par l'IA et jamais vérifiées.

Taux, pourcentage et biais : ce qui se mesure vraiment

On cherche souvent un pourcentage rassurant. Il n'existe pas de taux universel : la mesure dépend du modèle, de sa version, du domaine interrogé et du protocole de test. Des classements publics comparent les modèles sur des tâches de résumé, et les différences entre générations sont importantes, mais un chiffre sorti de son contexte ne vous dit rien de votre cas. Certains éditeurs affirment avoir réglé le problème ; un nouveau modèle réduit la fréquence des erreurs, il ne les fait pas disparaître.

Le biais est une notion voisine, souvent associée à l'hallucination dans les travaux de recherche, mais distincte. Un biais reproduit un déséquilibre présent dans les données : il oriente les réponses. Une hallucination, elle, fabrique un fait. Les deux problèmes peuvent se cumuler dans une même réponse, et tous deux se traitent par la même discipline : la vérification systématique de ce qui sort.

Construire votre propre mesure

Rassemblez trente à cinquante questions réelles, celles que vos clients posent vraiment, avec la réponse attendue en face. Faites-les repasser à chaque mise à jour de l'outil et comptez les réponses incorrectes ou inexactes. Ce petit protocole maison vaut mieux que n'importe quel classement général de modèles, parce qu'il parle de votre métier et de votre vocabulaire.

Comment réduire les hallucinations en pratique

On ne supprime pas ce comportement : il est inhérent au fonctionnement de ces systèmes d'IA. En revanche, on le contient très efficacement. Voici quelques mesures qui font baisser le nombre d'erreurs factuelles quand on décide d'utiliser l'IA en production, et pas seulement en test.

• Brancher le modèle sur vos documents via un dispositif de RAG, et lui interdire de répondre en dehors de ce corpus
• Exiger les sources et vérifier un échantillon de réponses chaque semaine
• Autoriser le « je ne sais pas » et prévoir une bascule immédiate vers un humain
• Limiter le périmètre : un assistant qui couvre dix sujets bien délimités se trompe beaucoup moins qu'un oracle généraliste
• Garder une relecture humaine sur tout ce qui est publié, chiffré ou contractuel
• Journaliser les échanges pour repérer les dérives après la mise en ligne

Les erreurs courantes

La plus fréquente consiste à juger la qualité au style. Un texte fluide et bien structuré n'est pas un texte juste, et les résultats peuvent être entièrement faux tout en se lisant à merveille. Deuxième erreur : demander au modèle s'il est certain de lui, alors qu'il confirmera volontiers, faute du moindre moyen de contrôle interne. Troisième erreur : croire qu'un détecteur d'IA repère les hallucinations, alors qu'il tente seulement de deviner l'origine d'un texte.

Dernière erreur, et la plus coûteuse : mettre un assistant en ligne sans avoir testé ses réponses sur vos vrais cas, notamment ceux qui touchent au prix et aux engagements. Une intégration d'IA sérieuse commence par ce cadrage et par la préparation des sources, pas par le choix du modèle. C'est la meilleure garantie d'obtenir des réponses fiables une fois l'outil en production.

Questions fréquentes