Hallucinations : vérifier avant de faire confiance

L’essentiel. Un modèle génératif produit la suite de mots la plus plausible au regard de son contexte ; il ne consulte pas automatiquement un registre de vérités. Il peut donc inventer un fait, une citation, un chiffre ou une source avec un ton parfaitement assuré. La bonne pratique n’est pas de chercher un « prompt magique » qui supprimerait toute erreur, mais d’organiser la réponse pour rendre ses affirmations contrôlables, puis de vérifier les éléments qui comptent auprès de sources indépendantes et compétentes.

Une hallucination n’a pas toujours l’air fausse

Le NIST emploie aussi le terme de confabulation : un système génératif présente un contenu erroné ou faux, parfois avec assurance. L’erreur peut être externe — une date inexistante, un arrêt de justice inventé, une fonctionnalité obsolète — ou interne, lorsque deux passages de la même réponse se contredisent. Elle peut toucher le texte, les calculs, le code, l’interprétation d’une image et même la liste des références.

Trois qualités doivent être séparées. La fluidité décrit la forme ; la cohérence indique que les phrases s’enchaînent ; l’exactitude exige que les affirmations correspondent à des éléments vérifiables. Une réponse peut exceller sur les deux premières et échouer sur la troisième. Demander au modèle « Es-tu sûr ? » n’est pas une preuve : il peut confirmer une erreur ou la remplacer par une autre.

Le risque augmente lorsque la question porte sur un fait rare, récent, local, ambigu ou absent du contexte fourni. Il augmente aussi quand on exige une réponse à tout prix. Autoriser explicitement « information insuffisante » réduit l’incitation à deviner, sans garantir l’absence d’erreur. Pour une décision juridique, médicale, financière, de sécurité ou concernant une personne, la validation d’un professionnel et des sources applicables reste indispensable.

Quand utiliser l’IA, et quand ralentir

• Utilisez-la volontiers pour explorer un sujet, reformuler un texte déjà validé, proposer une structure ou repérer des points à contrôler.
• Ajoutez des sources pour une synthèse factuelle, une comparaison de règles ou une veille datée.
• Faites contrôler par un humain compétent toute sortie susceptible d’affecter des droits, de l’argent, la santé, la sécurité ou la réputation.
• Évitez de déléguer une décision irréversible à une réponse non tracée, sans critères ni possibilité de recours.

Avant / après : passer d’une réponse à une réponse auditée

Avant : « Quel est le délai légal pour répondre à cette demande ? Donne-moi une réponse ferme. » La demande pousse à choisir un chiffre, alors que le pays, le texte applicable, la date et le type de demande ne sont pas précisés.

Après : le prompt demande d’abord les informations manquantes, impose une date de référence, distingue les faits fournis des déductions et exige une source primaire pour chaque règle. La sortie devient un dossier de vérification, pas un verdict. Si les données ne suffisent pas, le modèle doit le dire et proposer la prochaine vérification.

Prompt copiable : réponse factuelle contrôlable

Objectif : répondre à la question ci-dessous sans combler les lacunes par une supposition.

Question : [QUESTION]
Contexte et date de référence : [CONTEXTE, PAYS, DATE]
Sources autorisées ou documents joints : [SOURCES]

1. Commence par signaler les informations indispensables qui manquent.
2. Réponds uniquement avec les éléments étayés par le contexte ou par une source consultable.
3. Pour chaque affirmation importante, indique : fait établi, déduction ou incertitude.
4. Donne le lien direct, le titre, l’organisme et la date de chaque source ; n’invente jamais de référence.
5. Cite le court passage ou la donnée qui soutient l’affirmation, sans longue reproduction.
6. Si deux sources se contredisent, expose le désaccord et ne tranche pas sans critère.
7. Termine par « Contrôles à effectuer » et une liste priorisée.

Format : réponse courte, tableau des affirmations et sources, puis contrôles.
Si la preuve est insuffisante, écris explicitement « information insuffisante ».

Le protocole de vérification en cinq passes

1. Surlignez les affirmations. Dates, nombres, noms propres, causalités, citations et obligations doivent être isolés.
2. Classez le risque. Une idée de titre n’a pas le même coût d’erreur qu’un conseil de santé ou un virement.
3. Remontez à la source primaire. Texte officiel, publication scientifique, documentation de l’éditeur ou donnée d’origine avant les résumés secondaires.
4. Refaites les opérations. Recalculez les chiffres avec un tableur ou un outil déterministe ; vérifiez unités, dénominateur et arrondis.
5. Conservez la trace. Notez modèle, date, prompt, documents, version produite, contrôleur et corrections.

Erreurs fréquentes

• Confondre confiance du ton et niveau de preuve.
• Accepter une source parce que son domaine ou son titre paraît crédible.
• Vérifier la conclusion sans contrôler les données intermédiaires.
• Utiliser le même modèle comme unique auteur, critique et arbitre.
• Oublier qu’une information exacte hier peut être périmée aujourd’hui.
• Publier une sortie sans responsable humain clairement identifié.