Alias
Confabulation. Le défaut d'ancrage documentaire est un contrôle complémentaire, pas un synonyme exact.
Définition
Un modèle peut produire un nom, un chiffre ou une explication crédible mais faux. Il peut aussi citer une pièce réelle qui ne soutient pas sa conclusion. Cette seconde situation révèle un défaut d'ancrage, même si l'affirmation se trouve être vraie ailleurs. Ici, les deux contrôles sont nécessaires : exactitude du fait et appui dans les pièces.
Pour préparer une décision, contrôlez le lien entre chaque affirmation importante et le passage invoqué. Séparez ce que la pièce dit, le calcul que vous en tirez et ce qui reste à confirmer. Un avertissement général en bas de page ne corrige pas une conclusion erronée.
Exemple
Exemple pédagogique : un compte-rendu indique que la recette est encore ouverte. La synthèse générée affirme « recette validée ». Le document existe, mais il ne justifie pas la validation. Corriger l'affirmation et rechercher si un procès-verbal ultérieur a réellement été fourni.
À ne pas confondre avec
Une hypothèse explicitement annoncée n'est pas présentée comme un fait. Une contradiction entre deux sources peut aussi être réelle. Il faut la conserver et l'instruire, pas décider automatiquement que l'une est une hallucination.
Voir aussi
Grand modèle de langage, ancrage dans les sources, évaluation IA.
Sources
LINC / CNIL — Sécurité des grands modèles de langage (nouvel onglet), rubrique sur les hallucinations. Le contrôle d'une synthèse de recette est une application originale.
Microsoft — GroundednessEvaluator (nouvel onglet), distinction entre une réponse factuellement correcte et une réponse étayée par le contexte.