Dérive de perception IA vs hallucination
Une hallucination produit un claim sans fondement suffisant. Une dérive de perception modifie le portrait global : catégorie, hiérarchie, périmètre, relations, temporalité ou recommandabilité. Les deux peuvent coexister, mais leur correction diffère.
| Test | Hallucination | Dérive de perception |
|---|---|---|
| Fait inventé | Fréquent | Pas nécessaire |
| Sources exactes possibles | Oui, mais non suffisantes | Oui |
| Problème de hiérarchie | Secondaire | Central possible |
| Baseline requise | Utile | Indispensable pour parler de changement |
| Correction | Claim et source | Architecture, cadrage, source, temps ou relations |
Exemple 1 : hallucination
Le système invente un prix ou une certification. La vérification porte sur le claim et la source compétente.
Exemple 2 : dérive sans hallucination
Le système énumère des services réels, mais présente une activité ancienne comme principale. La correction porte sur la temporalité et la hiérarchie.
Exemple 3 : combinaison
Le système confond deux entreprises, attribue à l’une le produit réel de l’autre et en déduit un positionnement. Il y a confusion d’entité, claim faux et dérive catégorielle.
Test de décision
- Décomposer les faits.
- Vérifier leur appartenance à l’entité.
- Examiner l’ordre, la catégorie et les omissions.
- Comparer à une baseline si un changement est allégué.
- Qualifier les sources et l’autorité.
L’absence d’hallucination ne suffit pas à déclarer la représentation fidèle. La présence d’une divergence ne suffit pas non plus à déclarer une hallucination.