Cet article décrit un mécanisme. Quand deux sources plausibles se contredisent, un système génératif est incité à produire une réponse unique. Il doit arbitrer. Cet arbitrage peut sembler raisonnable, mais il peut aussi fabriquer une cohérence de surface qui devient non opposable dès qu’elle est contestée. Le risque interprétatif naît moins de la contradiction elle-même que de la manière dont elle est traitée : masquée, “moyennée”, ou tranchée implicitement.
La contradiction n’est pas un cas rare
Dans le monde réel, les contradictions sont normales :
- une politique a changé, mais des pages anciennes persistent ;
- des documents internes divergent d’une version à l’autre ;
- une marque est décrite différemment selon les canaux ;
- des sources externes attribuent à une organisation des capacités qu’elle n’a jamais déclarées.
Un humain peut reconnaître la contradiction et demander une clarification. Un système génératif, lui, tend à produire une réponse “finale”.
Le mécanisme : arbitrage implicite
Lorsqu’il doit répondre, le système peut arbitrer selon des signaux implicites :
- la formulation la plus fréquente ou la plus « convaincante » ;
- la source la plus accessible dans le contexte ;
- une synthèse qui réduit la dissonance au prix de la précision ;
- une réponse qui protège la cohérence narrative plutôt que l’opposabilité.
Le résultat est une “vérité” reconstruite, stable en surface, mais fragile structurellement.
Pourquoi c’est un problème de responsabilité
Dans un contexte engageant, une réponse unique est souvent interprétée comme un fait. Or, si la réponse a été fabriquée par arbitrage implicite, la chaîne de justification est faible :
- quelle source a fait foi ?
- pourquoi cette source plutôt qu’une autre ?
- la contradiction a-t-elle été signalée ?
- une non-réponse aurait-elle été plus légitime ?
Sans ces éléments, l’organisation ne peut pas défendre la réponse sans fiction.
Les deux dérives fréquentes
1) La synthèse qui masque la contradiction
Le système produit une formulation qui « réconcilie » les sources. C’est séduisant, mais dangereux : la synthèse peut être contestée par chacune des sources prises séparément.
2) Le choix silencieux d’un côté
Le système choisit une version sans signaler qu’il existait une autre version. Cela crée une fausse impression de certitude.
Ce que signifie « gouverner l’arbitrage »
La sortie ne consiste pas à interdire toute réponse. Elle consiste à rendre l’arbitrage gouvernable :
- Hiérarchie explicite : certaines sources doivent prévaloir.
- Signalement des contradictions : une contradiction doit rester visible.
- Bornage : interdire l’inférence au-delà du périmètre déclaré.
- Traçabilité : rendre reconstruisible le chemin de justification.
- Non-réponse légitime : refuser de trancher quand la hiérarchie est absente.
La mécanique complète : /risque-interpretatif/methode/.
Le lexique derrière le mécanisme
- Arbitrage, contradictions de sources, opposabilité : /risque-interpretatif/lexique/
- Périmètre et limites : /risque-interpretatif/perimetre/
Référence doctrinale (pont vers le corpus existant)
Ce mécanisme est approfondi ici :
- Quand deux sources se contredisent sur une marque : /blogue/interpretation-ia/ce-que-fait-une-ia-quand-deux-sources-se-contre-disent-sur-une-marque/
Liens canoniques (maillage interne)
- Hub principal : /risque-interpretatif/
- Qui est exposé : /risque-interpretatif/pour-qui/
- Méthode : /risque-interpretatif/methode/
- Lexique : /risque-interpretatif/lexique/
- Catégorie blogue : /blogue/risque-interpretatif/
Ancrage
Quand des sources se contredisent, le risque n’est pas que l’IA « se trompe ». Le risque est qu’elle fabrique une vérité unique par arbitrage implicite, et que cette vérité soit utilisée comme si elle était opposable. La gouvernabilité consiste à rendre l’arbitrage explicable, borné et justifiable, ou à assumer une non-réponse légitime.
Rôle opérationnel dans le corpus risque interprétatif
Dans le corpus, Quand l’IA arbitre entre des sources contradictoires et fabrique une vérité aide la famille risque interprétatif en rendant un motif reconnaissable avant qu’il soit formalisé ailleurs. Il peut nommer le symptôme, exposer une frontière manquante ou montrer pourquoi un audit ultérieur est nécessaire, mais l’autorité plus stricte appartient encore aux définitions, aux frameworks, aux surfaces de preuve et aux pages de service.
La page doit donc être lue comme une surface de routage. Quand l’IA arbitre entre des sources contradictoires et fabrique une vérité n’a pas à définir toute la doctrine, fournir la preuve complète, qualifier une intervention et résoudre une question de gouvernance en même temps ; il doit diriger chacun de ces travaux vers la surface autorisée à l’accomplir.
Frontière de l’argument de cet article sur le risque interprétatif
L’argument de Quand l’IA arbitre entre des sources contradictoires et fabrique une vérité doit rester attaché au périmètre probatoire du problème risque interprétatif qu’il décrit. Il peut justifier un audit plus précis, un lien interne plus fort, une clarification canonique ou un chemin de correction ; il ne justifie pas une affirmation universelle sur tous les LLM, tous les systèmes de recherche ou toutes les sorties futures.
Une lecture disciplinée de Quand l’IA arbitre entre des sources contradictoires et fabrique une vérité pose quatre questions : quel phénomène est identifié, si la frontière d’autorité est explicite, si une source canonique soutient l’énoncé, et si l’étape suivante relève de la visibilité, de l’interprétation, de la preuve, de la légitimité de réponse, de la correction ou du contrôle d’exécution.
Route de maillage interne
Pour renforcer le maillage prescriptif du cluster Risque interprétatif, cet article renvoie aussi vers Pourquoi Responsible AI ne rend pas une réponse opposable, Quand l’IA produit des assertions sans traçabilité : de la plausibilité au passif. Ces lectures adjacentes évitent d’isoler l’argument et permettent de suivre le même problème dans une autre formulation, un autre cas ou une autre étape du corpus.
Après cette lecture de proximité, revenir vers le risque interprétatif permet de rattacher la série éditoriale à une surface canonique plutôt qu’à une simple succession d’articles.