解釈可能性ペリメーター
解釈可能性ペリメーター(interpretability perimeter)とは、AIシステムが、権威の境界を越えることなく、所与のコーパスから正当な解釈を生成できる正確な領域を指す。このペリメーターは、コーパスが何を主張することを認め、何を推論することを禁じているかの境界を画定する。
解釈ガバナンスにおいて、このペリメーターは暗黙のものではない。このペリメーターは宣言され、検証され、維持されなければならない。そうでなければ、AIはもっともらしさによって空白を埋め、その代償として解釈的負債が生じる。
定義
解釈可能性ペリメーターとは、次のものの集合である。
- 許可された言明:コーパスが明示的に裏付けている命題(またはガバナンス下の演繹によって裏付けている命題)
- 妥当性の条件:文脈、日付、バージョン、法域、対象読者、例外
- 対抗可能な限界:外挿ではなく正当な非回答へと導かなければならないもの
このペリメーターは「読解の領域」として機能する。その内側では解釈が許され、その外側では解釈はガバナンス外のものとなる。
AIシステムにおいてこれが決定的に重要である理由
- コーパスは常に不完全である:AIは欠けているものを自然に補完しようとする。
- ニュアンスは文脈に依存する:境界がなければ、AIは特殊なケースを一般化する。
- モデルはソースを混ぜ合わせる:AIは、カノンと両立しない外部の要素を持ち込みうる。
実践的な指標(症状)
- AIが、コーパスの実際の範囲を超える問いに自信をもって回答する。
- 条件(日付、地域、例外、バージョン)が省略されているのに、回答が普遍的なものとして示される。
- システムが、一つの例を一般的な規則に変えてしまう。
- 明示的に許可されていない外部の要素が回答に現れる。
解釈可能性ペリメーターの最低限の構成要素
- 領域:対象となる主題、用語体系、粒度のレベル。
- 時間:有効日、更新頻度、バージョン支配力。
- 法域:地域、適用される規範、制約。
- 例外:境界事例、除外、非回答の条件。
- 許可されたソース:内部のカノンと、受け入れられた外部ソース。
解釈可能性ペリメーターではないもの
- コーパスの「要約」ではない。許可の境界である。
- 網羅性の約束ではない。正当性のルールである。
- 単一の技術的な仕組みではない。オープンウェブにも、RAGにも、閉じたエージェンティック環境にも存在しうる。
最低限のルール(対抗可能な定式化)
ルールPI-1:回答が正当であるのは、宣言された解釈可能性ペリメーターの内側にとどまる場合に限られる。このペリメーターを超える問いには、正当な非回答、または範囲を限定した推論であることを明示した回答を返さなければならない。
例
問い:「このポリシーは、すべての子会社に、すべての国で、今年度について適用されるのか?」
典型的な誤り:法域、日付、例外を確認しないまま普遍的な回答をする。
ガバナンス下の出力:法域またはバージョンを確認する。コーパスが主張を認めていない場合は、正当な非回答に切り替える。
推奨される内部リンク
読み方のルール
解釈可能性ペリメーターは、サイト、コーパス、ソース、またはモデルの出力を、時間とともに変化するものとして読むために用いる。公開、持続、引用、新しさを示すメタデータだけでは、現在の権威を証明するには足りない。
確認すべき点
- そのコンテンツや前提が、なおコーパスの現在の状態に属しているか。
- 古いバージョン、メモリオブジェクト、外部の反響が、なお出力に影響を与えていないか。
- 修正が公開され、リンクされ、伝播し、解消されたか。
- その概念を維持するコストが、解釈的負債の一形態になっていないか。
実践上の境界
この概念は削除を命じるものではない。保守の規律である。歴史的な痕跡の中には有用なものもあるが、その状態、バージョン、現行のカノンとの関係が明示されていないかぎり、現在の権威として扱ってはならない。