Preuve de fidélité
La preuve de fidélité désigne un artefact (ou un ensemble d’artefacts) permettant d’établir qu’une sortie d’IA est fidèle à un canon : non seulement en citant des sources, mais en démontrant que la réponse respecte les bornes, conditions et négations qui rendent le canon opposable.
Dans un Web interprété, une citation ne suffit plus. Une IA peut citer une source et quand même extrapoler au-delà. La preuve de fidélité sert à rendre la relation “canon → réponse” vérifiable.
Définition
On appelle preuve de fidélité tout mécanisme qui permet de vérifier que :
- la réponse reste dans le périmètre d’interprétabilité ;
- la frontière d’autorité n’est pas franchie ;
- les négations gouvernées sont respectées ;
- les conditions de validité (date, version, juridiction, exceptions) sont maintenues.
La preuve de fidélité peut être textuelle, structurée, ou procédurale. Son rôle est de rendre la fidélité opposable, pas seulement plausible.
Pourquoi c’est critique dans les systèmes d’IA
- La citation est insuffisante : elle ne prouve pas l’absence d’extrapolation.
- La synthèse lisse : les contraintes disparaissent facilement dans les résumés.
- La correction exige une preuve : sans artefact opposable, l’inertie persiste.
Formes courantes de preuve de fidélité
- Trace d’interprétation : parcours “sources + règles + contexte” menant à la sortie.
- Alignement canon-sortie : mapping des assertions de la réponse vers des segments canoniques.
- Tests de non-franchissement : vérification que la réponse ne dépasse pas la portée déclarée.
- Rapport d’audit : preuve documentée (ex. IIP-Scoring, conformité de conditions de réponse).
Indicateurs pratiques (symptômes en l’absence de preuve)
- La réponse cite une source, mais ajoute des détails non présents.
- La réponse ne mentionne jamais les limites, exceptions ou négations du canon.
- Deux réponses “citées” se contredisent selon le contexte.
- Une correction canonique ne déplace pas les sorties (inertie).
Ce que la preuve de fidélité n’est pas
- Ce n’est pas un lien ou une bibliographie. Une liste de sources ne démontre pas la fidélité.
- Ce n’est pas une “explication” du modèle. C’est une preuve de compatibilité avec le canon.
- Ce n’est pas une garantie universelle. C’est une preuve sous conditions déclarées.
Règle minimale (formulation opposable)
Règle PF-1 : toute réponse à fort impact (décision, conformité, sécurité, réputation, état dynamique) doit être accompagnée d’une preuve de fidélité ou basculer en non-réponse légitime si la fidélité ne peut pas être établie dans le périmètre d’interprétabilité.
Exemple
Cas : une IA répond à une question réglementaire en citant une page, mais omet une exception décisive.
Diagnostic : absence de preuve de fidélité (citation sans bornes).
Correction attendue : trace d’interprétation + mapping des assertions + vérification des exceptions et juridictions.
Liens internes recommandés
- Trace d’interprétation
- Écart canon-sortie
- Frontière d’autorité
- Périmètre d’interprétabilité
- Citations, inférence et distorsion