Hallucination
Quand un modèle affirme quelque chose de faux avec une pleine assurance — le mode de défaillance que l'ancrage, les citations et les évaluations existent pour contenir.
L'IA de production est un système : contexte, outils, permissions, traces, évaluations et boucles de rétroaction autour du modèle.
Ce que c'est
Une hallucination est une réponse fluide, assurée et fausse : une politique inventée, une citation vers un document qui n'existe pas, un chiffre qui n'a jamais figuré dans la source. Elle survient parce que les modèles de langage génèrent du texte plausible ; plausibilité et vérité se recoupent la plupart du temps, et l'hallucination est là où elles divergent.
Pourquoi c'est important
Pour l'IA d'entreprise, c'est le mode de défaillance qui coûte la confiance le plus vite. Une politique de remboursement inventée racontée à un client pèse plus lourd que cent réponses correctes. L'objectif en production n'est pas un modèle qui ne se trompe jamais — il n'en existe pas — mais un système où les mauvaises réponses sont rares, détectables et peu coûteuses à corriger.
Concepts liés
RAG, Qualité des citations, Garde-fous, Évaluations.
Ressources connexes
Le patron où un agent IA récupère du contexte pertinent dans vos données avant de générer une réponse — au lieu de s'appuyer uniquement sur ce que le modèle a appris à l'entraînement.
Un patron de workflow IA de production relié aux données, aux agents, aux évaluations et aux opérations.
Les vérifications de sécurité et les applications de politiques qui entourent les entrées et les sorties d'un agent IA — filtres de contenu, contrôles de portée, caviardage des renseignements personnels, patrons de refus et validateurs d'appels d'outils.
De l'anglais « evals », pour évaluations — les cas de test et le harnais qui mesurent si un workflow d'IA fonctionne, avant et après chaque changement.
Comment nous le contenons
L'ancrage : les réponses puisent dans les documents récupérés, pas dans la mémoire du modèle. Les citations : chaque affirmation renvoie à sa source, et les citations invérifiables sont signalées plutôt qu'affichées. Le refus : l'assistant dit « je ne sais pas » quand le retrieval revient mince. Les évaluations : l'ancrage est noté en continu, si bien que les régressions apparaissent comme des chiffres plutôt que comme des incidents.