Hallucination

IA / LLM 🟢 Junior

Définition

Sortie fausse ou incohérente avec le contexte, produite avec assurance : chiffre inventé, API inexistante, citation fabriquée. C'est une conséquence directe de la prédiction de texte plausible. Les parades documentées par Anthropic : autoriser « je ne sais pas », exiger des citations mot pour mot, vérifier chaque affirmation, restreindre aux documents fournis.

Analogie

Un candidat qui invente une réponse plutôt que d'avouer qu'il ne sait pas.

Exemple de code

const msg = await client.messages.create({
  model: 'claude-sonnet-5', max_tokens: 800,
  system: `Réponds UNIQUEMENT à partir des documents fournis.
  Pour chaque affirmation, cite la phrase exacte entre guillemets.
  Si l'information n'y est pas, réponds : "Je n'ai pas cette information".`,
  messages: [{ role: 'user', content: `<documents>${docs}</documents>
  Quel est le délai de rétractation ?` }],
});
// Côté code : rejeter toute réponse sans citation trouvable dans docs
const quotes = [...msg.content[0].text.matchAll(/"([^"]{20,})"/g)];
const grounded = quotes.every(q => docs.includes(q[1]));

Cas d'usage

Tout usage où une erreur coûte : juridique, santé, facturation, documentation technique.

Anti-pattern

Publier une sortie de LLM sans vérification humaine ou automatique parce que « ça a l'air juste ».

Termes liés

#ia#fondamentaux#qualite#interview

En entretien

C'est quoi une hallucination pour un LLM ?
C'est une sortie fausse ou incohérente avec le contexte, produite avec assurance — un chiffre inventé, une API inexistante, une citation fabriquée. C'est une conséquence directe du fait que le modèle prédit du texte plausible, pas de la vérité.
Comment tu réduirais le risque d'hallucination dans une appli ?
En autorisant le modèle à dire « je ne sais pas », en exigeant des citations mot pour mot, et en restreignant les réponses aux documents fournis. Il faut aussi vérifier chaque affirmation plutôt que de faire confiance par défaut.
Quel est l'anti-pattern à éviter absolument ?
Publier une sortie de LLM sans vérification humaine ou automatique juste parce que « ça a l'air juste ». C'est particulièrement risqué dans le juridique, la santé ou la facturation.

Sources

platform.claude.com/docs/en/test-and-evaluate/strengthen-guardrails/reduce-hallucinations

Fiche mise à jour le 2026-09-27