La dérive de perception IA n’est pas une hallucination
Les hallucinations attirent l’attention parce qu’elles inventent un fait visible. La dérive de perception est souvent plus difficile à détecter : elle peut conserver chaque fait important tout en modifiant la hiérarchie, la catégorie et le rôle global de la marque.
L’exactitude locale peut produire une représentation fausse
Une firme est réellement québécoise, offre réellement du conseil, possède réellement une expertise SEO et développe réellement des outils. Une IA la décrit comme « agence SEO québécoise qui développe des outils d’IA ».
Aucun fragment n’est nécessairement faux. Pourtant, si le centre actuel est la gouvernance interprétative, le moteur d’audit et les systèmes de représentation, la synthèse réduit une architecture doctrinale à une extension de service SEO.
La dérive se situe dans :
- la catégorie choisie;
- l’ordre des attributs;
- la temporalité;
- les relations concurrentielles implicites;
- les cas d’usage futurs.
Hallucination, erreur et dérive
| Phénomène | Test principal | Exemple |
|---|---|---|
| Hallucination factuelle | Le claim existe-t-il dans une source compétente ? | Faux prix ou faux incident |
| Confusion d’entité | Le claim appartient-il à la bonne entité ? | Avis d’un homonyme |
| Omission | Un invariant matériel manque-t-il ? | Différenciateur absent |
| Dérive hiérarchique | Les faits sont-ils mal ordonnés ? | Activité secondaire devenue principale |
| Dérive catégorielle | Le cadre de marché est-il déplacé ? | Spécialiste devenu généraliste |
| Dérive temporelle | L’état actuel est-il remplacé par l’ancien ? | Ancienne marque dominante |
Pourquoi la dérive est persuasive
Une hallucination évidente peut être réfutée. Une synthèse plausible ressemble à une interprétation raisonnable. Elle passe plus facilement dans une comparaison, une recommandation ou une note de décision.
La réponse peut même citer des sources exactes. Le problème n’est pas que les sources soient fausses, mais que leur rôle relatif produise un sens différent.
Exemple de décision
Un acheteur demande quel fournisseur possède une expertise spécialisée pour une infrastructure critique. Le système classe une firme spécialisée parmi les prestataires TI généralistes. Il peut ensuite l’écarter parce que ses critères de comparaison ne correspondent plus à son véritable marché.
La dérive de catégorie devient une dérive de recommandabilité. Le dommage potentiel ne vient pas d’un faux fait spectaculaire, mais d’une décision prise dans le mauvais cadre.
Comment l’auditer
- Établir les invariants de l’identité et du positionnement prouvable.
- Conserver la réponse complète et les sources.
- Décomposer les faits et leur hiérarchie.
- Classer les omissions, déplacements et relations.
- Répéter le test entre prompts, langues et modèles.
- Distinguer une variation acceptable d’un motif matériel.
Ce qu’il ne faut pas faire
Ne pas imposer le texte marketing comme réponse obligatoire. Ne pas traiter chaque nuance comme erreur. Ne pas utiliser un sentiment positif comme preuve. Ne pas publier du contenu répétitif pour « noyer » les sources externes.
La correction doit viser les preuves, les relations, les limites et la fraîcheur qui expliquent le cadrage. Son effet doit être réobservé, sans promettre de contrôle.
Enjeu branding
Le branding cherche à construire une différence reconnaissable. La dérive de perception peut supprimer cette différence sans détruire les faits. C’est pourquoi elle constitue un problème de marque distinct de l’hallucination : une représentation peut être vraie phrase par phrase et fausse comme structure.