Mécanique « canon vs inférence » (traçabilité et preuve de fidélité)
Dans un système d’IA, une réponse n’est pas seulement une restitution : c’est une construction. Sans séparation explicite entre ce qui est déclaré par le canon et ce qui est déduit par le modèle, l’inférence devient invisible, donc non gouvernable.
Ce framework formalise une mécanique simple : séparer, borner, tracer et prouver. L’objectif est de réduire l’écart canon-sortie et de rendre la production de sens opposable.
Définition opératoire
Mécanique canon vs inférence : ensemble de règles visant à distinguer, dans une sortie IA, ce qui provient directement de sources canoniques (canon) et ce qui provient d’une déduction probabiliste (inférence), afin d’imposer une frontière d’autorité, des conditions de réponse, une trace d’interprétation et une preuve de fidélité.
Pourquoi c’est critique
La plupart des dérives interprétatives ne viennent pas de “fausses sources”, mais d’une inférence non déclarée. Le modèle comble les interstices, généralise, extrapole, et stabilise une conclusion qui n’a jamais été autorisée.
Sans cette mécanique, tu obtiens :
- des réponses plausibles mais non prouvables
- un glissement progressif (lissage, inertie, rémanence)
- une dette interprétative difficile à résorber
- une impossibilité d’audit end-to-end.
Surfaces d’application
- Web ouvert : moteurs de réponse, résumés, citations, comparatifs, IA grand public.
- RAG : mélange de chunks, sources hétérogènes, attribution ambigüe.
- Agentique : décisions et actions déclenchées sur une inférence non bornée.
Concepts associés
- Frontière d’autorité : limite opposable entre déclaration et déduction.
- Périmètre d’interprétabilité : zone dans laquelle l’inférence est autorisée.
- Conditions de réponse : quand la réponse est permise, quand la non-réponse est obligatoire.
- Trace d’interprétation : empreinte minimale sources + règles + contexte.
- Preuve de fidélité : démonstration que la sortie respecte le canon.
Règles du framework (CVI-1 à CVI-8)
CVI-1 : séparation explicite
Une sortie doit distinguer ce qui est canonique de ce qui est inféré. L’inférence non déclarée est une dette.
CVI-2 : inférence bornée
Toute inférence doit rester dans le périmètre d’interprétabilité défini. Hors périmètre : non-réponse légitime.
CVI-3 : interdiction d’extrapolation normative
Le modèle ne doit pas étendre une règle au-delà de son périmètre légitime (extrapolation normative).
CVI-4 : condition de preuve pour attributs critiques
Pour certains attributs (prix, politiques, responsabilités, conformité), la réponse exige une preuve de fidélité ou un refus.
CVI-5 : traçabilité minimale
La trace d’interprétation doit inclure au minimum : sources, date, contexte, règles appliquées.
CVI-6 : résolution des conflits
En cas de conflit d’autorité entre sources, l’IA doit soit arbitrer selon une règle explicite, soit refuser.
CVI-7 : refus gouverné
Quand l’identité, la source ou la règle ne sont pas prouvables, la non-réponse est la sortie correcte.
CVI-8 : journalisation et version
Les cas d’écart canon-sortie doivent être versionnés, suivis et testés dans le temps.
Protocole d’implémentation (7 étapes)
Étape 1 : définir le canon
- sources canoniques, pages d’entité, règles, définitions, exclusions.
Étape 2 : définir le périmètre d’interprétabilité
- ce qui peut être inféré, ce qui est interdit, et ce qui exige une preuve.
Étape 3 : définir les conditions de réponse
- réponse permise, réponse conditionnelle, non-réponse légitime.
Étape 4 : outiller la trace d’interprétation
- sources, extraits, horodatage, règles CVI appliquées.
Étape 5 : produire une preuve de fidélité
- correspondances canon-sortie, absence de contradictions, justification des inférences.
Étape 6 : tests adversariaux
- requêtes ambiguës, comparatives, pièges, multi-tours, multi-langues.
Étape 7 : monitoring et correction
- mesure de l’écart canon-sortie, dérive de conformité, versions de correction.
Artefacts attendus
- Registre canon : sources, périmètres, exclusions, versions.
- Table des conditions de réponse : attributs critiques, preuves exigées, refus.
- Trace d’interprétation (format minimal) : sources, date, règles, contexte.
- Rapport de preuve de fidélité : correspondances, conflits, décisions.
- Batterie de tests : prompts, scénarios, résultats, écarts.
FAQ
Pourquoi une citation n’est-elle pas une preuve ?
Une citation peut être vraie tout en étant utilisée hors périmètre. La preuve exige aussi la légitimité de l’usage.
Est-ce que ça ralentit les systèmes ?
Oui, légèrement. Mais c’est le coût normal de la soutenabilité interprétative : gouverner l’inférence est plus efficace que corriger une dette stabilisée.
Quel est le gain principal ?
Rendre l’inférence visible, donc auditables, donc gouvernable. Sans ça, tu ne peux pas industrialiser l’intégrité.
Pages associées
- Frontière d’autorité
- Périmètre d’interprétabilité
- Conditions de réponse
- Trace d’interprétation
- Preuve de fidélité
- Écart canon-sortie