Hallucinations des IA génératives : mécanisme, situations à risque et parades

Ce qu’est réellement une hallucination

Le terme est trompeur : il suggère un dysfonctionnement, un moment d’égarement. La réalité est plus dérangeante. Un modèle de langage génère du texte en estimant, mot après mot, la suite la plus vraisemblable compte tenu de ce qui précède. Il n’a pas de mécanisme distinct pour vérifier ; la production d’un fait exact et celle d’un fait inventé empruntent exactement le même chemin.

Quand l’information est solidement présente dans ce que le modèle a appris, la suite la plus vraisemblable est aussi la vraie. Quand elle est rare, ambiguë, ou postérieure à son entraînement, la suite la plus vraisemblable reste plausible, sans être vraie. Le modèle ne franchit aucune frontière : il n’y en a pas.

C’est pourquoi les hallucinations les plus fréquentes concernent des choses qui ressemblent à ce qui existe : une référence bibliographique bien formée mais fictive, un article de loi au numéro crédible, une fonction d’API dont le nom suit parfaitement les conventions de la bibliothèque. La forme est apprise ; le contenu est reconstitué.

Pourquoi elles passent la relecture

Un texte mal écrit déclenche la vigilance. Un texte assuré, bien articulé, au vocabulaire juste, la désarme. C’est un biais humain ordinaire, mais les modèles de langage l’exploitent involontairement à un degré inédit : ils produisent par construction une prose sans hésitation.

S’ajoute une asymétrie de coût. Vérifier une affirmation demande un effort réel, ouvrir une source, recouper. Accepter une affirmation n’en demande aucun. Sur vingt affirmations dans une réponse, l’attention se porte sur celles qui surprennent, jamais sur celles qui confirment ce qu’on croyait déjà.

Le résultat est prévisible : les hallucinations qui survivent sont précisément celles qui vont dans le sens attendu.

Les situations à risque

Le risque n’est pas uniforme. Certaines demandes l’augmentent nettement, et savoir les reconnaître vaut mieux que n’importe quelle formule magique.

Situation	Pourquoi le risque monte
Chiffres précis, dates, seuils	Le modèle produit un ordre de grandeur plausible ; la précision est une apparence
Références, citations, sources	La forme d’une référence est très apprise, son existence ne l’est pas
Événements récents	Postérieurs à l’entraînement, ils sont reconstitués par analogie
Questions présupposant une réponse	« Quels sont les trois avantages de X ? » force à en trouver trois, même s’il n’y en a qu’un
Sujets de niche	Peu de données, donc davantage d’interpolation
Demandes d’exhaustivité	« Liste tous les… » pousse à compléter une liste incomplète

La quatrième ligne mérite qu’on s’y arrête, parce qu’elle dépend entièrement de vous. Une question posée avec un présupposé oblige le modèle à le valider. Demandez « quels sont les trois principaux inconvénients de cette méthode ? » et vous obtiendrez trois inconvénients, y compris si le troisième est artificiel. Demandez « cette méthode présente-t-elle des inconvénients, et si oui lesquels ? » et vous laissez la porte ouverte à une réponse honnête.

Quatre parades qui fonctionnent

1. Ancrer sur des sources fournies

C’est de loin la mesure la plus efficace. Plutôt que d’interroger la mémoire du modèle, fournissez le texte de référence dans le prompt et demandez une réponse fondée uniquement sur lui.

Le changement est profond : la tâche passe de « produire une information » à « extraire une information d’un texte présent ». La seconde est bien plus fiable, et surtout elle est vérifiable, vous disposez du document face auquel confronter la réponse.

Renforcez l’ancrage en demandant que chaque affirmation soit accompagnée du passage qui la fonde. Une affirmation sans passage cité devient immédiatement suspecte, et le repérage ne demande plus d’expertise.

2. Autoriser explicitement l’ignorance

Par défaut, un modèle répond. C’est ce qu’on attend de lui, et rien dans une consigne ordinaire ne lui indique qu’une non-réponse serait acceptable.

Une phrase suffit souvent à changer le comportement : « Si l’information ne figure pas dans les documents fournis, écris explicitement qu’elle est absente plutôt que de la reconstituer. » Cela paraît évident ; c’est pourtant l’une des instructions les plus rentables qu’on puisse ajouter.

On peut aller plus loin en demandant une réponse structurée qui réserve un emplacement à l’incertitude : une section « points non établis » que le modèle doit remplir. Prévoir la place rend l’aveu naturel au lieu d’en faire un échec.

3. Séparer les faits des déductions

Une réponse mélange typiquement trois registres : ce qui est établi par la source, ce qui en est déduit, et ce qui relève de la connaissance générale. Mélangés dans un même paragraphe fluide, ils deviennent indiscernables.

Demander leur séparation explicite coûte trois lignes de consigne et change la nature du contrôle. Le lecteur sait alors où porter son attention : la partie « déduit » et la partie « connaissance générale » sont exactement celles qui appellent une vérification.

4. Vérifier ce qui est vérifiable

Certaines affirmations se contrôlent mécaniquement, sans expertise : une URL répond ou non, une référence existe ou non dans un catalogue, une fonction existe ou non dans une documentation, un calcul se refait.

Ce contrôle attrape une part importante des hallucinations les plus embarrassantes (les fausses sources) pour un coût faible. La règle simple : tout ce qui a la forme d’une référence doit être ouvert avant d’être cité.

Ce qui ne marche pas, ou moins bien qu’on croit

Écrire « ne fais pas d’erreur » ou « sois factuel ». Ces consignes n’ajoutent aucune information exploitable. Le modèle ne dispose pas d’un mode plus rigoureux qu’il retiendrait par défaut.

Demander au modèle s’il est sûr. La réponse est elle-même générée, avec les mêmes mécanismes. Une confirmation de confiance n’apporte aucune garantie supplémentaire, et un modèle interrogé sur sa propre production a tendance à se confirmer.

Compter sur un score de confiance. Quand il existe, il mesure la vraisemblance du texte, pas sa véracité. Une hallucination bien formée peut afficher un score élevé.

Croire qu’un modèle plus récent règle la question. Les modèles récents hallucinent moins, notamment sur les sujets bien couverts. Ils hallucinent toujours, et souvent de manière plus convaincante, ce qui, du point de vue du risque, n’est pas nécessairement un progrès.

Adapter l’effort au coût de l’erreur

Tout ce dispositif a un coût. L’appliquer intégralement à chaque usage serait absurde. La bonne question n’est pas « comment supprimer les hallucinations » mais « que coûte une erreur ici ».

• Reformuler un texte, produire des variantes, débloquer une réflexion : le coût d’une erreur est faible, elle se voit et se corrige. Aucun dispositif particulier n’est justifié.
• Synthétiser un document pour décider : ancrage sur la source et citation des passages. L’erreur se propage à une décision.
• Produire un contenu publié, juridique, médical ou comptable : l’ensemble des parades, plus une relecture humaine compétente. Ici, une affirmation fausse engage quelqu’un.

Cette gradation est la seule position tenable. Elle évite à la fois la paralysie (refuser l’outil parce qu’il peut se tromper) et l’imprudence, qui consiste à publier sans relire parce que le texte était bien tourné.

À retenir

L’hallucination n’est pas une panne à réparer mais une propriété avec laquelle composer. Elle se réduit en ancrant la réponse sur des sources fournies, en rendant l’ignorance dicible, en séparant ce qui est établi de ce qui est déduit, et en contrôlant tout ce qui a la forme d’une référence.

Et elle se maîtrise surtout par une habitude de lecture : se méfier davantage d’une réponse fluide et confirmante que d’une réponse hésitante. La première a passé toutes vos défenses ; la seconde vous a au moins prévenu.