Dérive de perception IA vs hallucination
Une hallucination est une sortie qui invente, déforme ou affirme sans source admissible. Elle peut être spectaculaire, facile à réfuter et parfois instable.
La dérive de perception IA est différente. Elle peut contenir des éléments vrais, mais les organiser de manière à produire une perception globale moins fidèle. Le problème n’est pas seulement une phrase fausse. Le problème est le portrait qui se stabilise.
Différence pratique
Une hallucination se reconnaît souvent par un fait inventé : une date inexistante, un client jamais servi, un diplôme fictif, une citation fabriquée.
Une dérive de perception se reconnaît plutôt par un cadrage : la mauvaise catégorie, le mauvais rôle, une différenciation effacée, une ancienne version qui revient, un concurrent utilisé comme modèle implicite, une recommandation formulée pour les mauvaises raisons.
L’hallucination contredit parfois le canon. La dérive de perception peut contourner le canon en produisant une version plausible, mais appauvrie.
Pourquoi la distinction compte
Corriger une hallucination demande souvent de renforcer ou de clarifier une preuve précise. Corriger une dérive de perception demande une intervention plus structurelle : canon, architecture sémantique, désambiguïsation, maillage, signaux de fraîcheur, hiérarchie des sources et observation des sorties.
Un audit qui ne cherche que les hallucinations peut donc manquer le problème principal. Il peut déclarer une réponse « correcte » parce qu’elle ne contient aucun fait inventé, tout en ignorant que la représentation de l’entité a glissé.
Règle de diagnostic
Parler d’hallucination lorsque l’erreur porte sur un fait non admissible. Parler de dérive de perception lorsque le cadre global de reconstruction change, se répète ou se stabilise.
Le test n’est pas seulement factuel. Il est interprétatif : la sortie donne-t-elle au lecteur ou à l’agent une représentation fidèle de ce que l’entité est, fait, limite et prouve ?