擁護可能な推論

擁護可能な推論

本ページは、解釈ガバナンス・コーパスにおける「擁護可能な推論」（defensible inference）という用語を所有する。

擁護可能な推論とは、宣言された境界の内側にとどまり、ソース階層を保持し、不確実性を明示し、異議を申し立てられたときに再構成できる推論である。

簡潔な定義

擁護可能な推論とは、そのソース上の根拠、前提、限界、応答条件が、レビューや異議申立てが可能な程度に明示されている、範囲を限定した推論である。

重要である理由

AIシステムは、近接性、例、不完全なソース、デフォルトのパターンから推論することが多い。ある程度の推論は必要である。ガバナンス上の問題は、許された推論と無許可の補完を区別することである。擁護可能な推論は、単にもっともらしいだけのものではない。それは宣言された根拠を持ち、カノンに照らして検証できる。

この用語が意味しないもの

擁護可能な推論は、自由推論でも、デフォルト推論でも、信頼度スコアでもない。それ自体で回答を執行可能にするものではない。それが意味するのは、回答が正当性、対抗可能性、手続き的妥当性について評価される前の段階で、推論のステップを擁護できるということだけである。

関連する正規の定義

• 推論境界
• 自由推論
• デフォルト推論
• 不確定性
• 解釈忠実性
• 回答の正当性

コーパスにおける役割と診断上の用途

コーパスにおいて、擁護可能な推論は、ガバナンス下の推論と制御されない補完を区別するために用いられる。AIシステムは回答するために推論しなければならないが、あらゆる推論が正当であるわけではない。中心的な問いは、その推論のステップが、宣言された境界の内側にとどまり、ソース階層を保持し、不確実性を明示し、異議を申し立てられたときに再構成できるかどうかである。

この定義は、生成された回答がソース間の隙間を埋める場合に特に有用である。回答は、流暢で、有用で、方向性としては正しくさえありうるが、欠けていたステップが一度も承認されていなければ、それでも失敗である。ガバナンス下のシステムは、自らが受け入れられた証拠から推論したのか、パターン認識によるデフォルトに頼ったのか、それとも欠けている前提を近接性によって補完したのかを示せるべきである。

検出すべき失敗パターン

主な失敗は、もっともらしい補完である。それは、モデルが沈黙を許可として、例をルールとして、隣接する概念を同等のものとして、部分的な証拠を完全な権威の連鎖として扱うときに現れる。その場合、問題はハルシネーションだけではない。擁護可能な推論境界が欠けていることが問題なのである。

読み方のルール

この定義は、推論の禁止、非推論レジーム、解釈忠実性、カノンと出力のギャップ、回答の正当性とあわせて用いる。この用語は、回答をいつ進めてよいのか、いつ回答が自らに留保を付けなければならないのか、そしていつ沈黙が正当な出力となるのかを判断する助けとならなければならない。

運用上の例

実務的な監査では、擁護可能な推論を三つの場面で用いることができる。第一に、正規ページと、語彙を再利用しながら統御するペリメーターを変えてしまうAIの回答とを比較するとき。第二に、生成された表現を安定した表現として受け入れるべきか、ガバナンス外の再構成として扱うべきかを判断するとき。第三に、内部リンク、サービスページ、定義、観察記録をマッピングし、最も権威あるルートが人間にも機械にも見えるようにするときである。

したがって、この用語は抽象的に定義するだけでなく、具体的な出力に照らしてテストしなければならない。有用なレビューは、次の四つを問う。どのソースがその言明を統御したのか、どのような推論が行われたのか、どのような不確実性が隠されていたのか、そしてどのページが最終的な表現に責任を負うべきか。これらの問いへの答えが不明確であれば、その出力は、より強い主張へと平滑化するのではなく、留保を付ける、リダイレクトする、記録する、または拒否するべきである。

実践上の境界

この定義は、順位づけ、引用、推奨に対する自動的な効果を生み出すものではない。その価値はアーキテクチャ上のものである。この定義は、特定の解釈上のコントロールポイントを名指し、テストするための、より精確な方法をコーパスに与える。この精確な命名こそが、その後の監査、修正サイクル、SERPルーティングの判断を一貫したものに保つことを可能にする。