状態乖離
状態乖離(state drift)とは、動的な情報(価格、在庫、配送、プロモーション、提供状況、ポリシー、ステータス)の実際の状態と、AIシステムが返す状態とのあいだの乖離を指す。システムは、状態が変化しているにもかかわらず、それが安定しているかのように回答する。
解釈ガバナンスにおいて、状態乖離は重大なリスクである。誤りが目立つことのないまま、もっともらしい回答を誤った回答に変えてしまうからである。また、暗黙の責任(帰属された約束)を生み出すこともある。
定義
次のような状況を状態乖離と呼ぶ。
- 急速に変化する属性が、実際の現在の状態(ソース、システム、データベース)を持っている。
- AIシステムが、古くなった状態またはおおよその状態を返す。
- そして、回答が、不確実性も、日付も、有効性の条件も示さない。
状態乖離は、リアルタイムと安定化した解釈との衝突である。
AIシステムにおいてこれが決定的に重要である理由
- モデルは固定する:観察された状態を、持続的な属性に変えてしまう。
- 更新は保証されない:オープンウェブ、キャッシュ、二次的なソース、アグリゲーターが古い状態を長引かせる。
- リスクは運用上のものである:誤った回答が、誤った意思決定を引き起こしうる。
状態乖離のよくある原因
- 範囲が限定されていない動的な情報:日付、バージョン、有効期間の欠如。
- 慣性/残留:回答のなかに持続する古い値。
- 不完全なRAG:リトリーバルが最新の状態を取得しない。
- 支配的な近傍:アグリゲーターや二次的なページが、陳腐化した状態を安定させる。
実践的な指標(症状)
- 回答が、「〜時点」「最新の更新によれば」「有効期間」に一度も言及しない。
- 二人のユーザーが、数分の間隔で異なる状態を得る。
- システムが、「リアルタイム」のソースを引用せずに、価格、在庫、ポリシーを示す。
- 本来なら応答条件を発動させるべき質問に対して、システムが断定的に回答する。
状態乖離に該当しないもの
- 単なる静的な事実誤認ではない。時間に関わる誤りである。
- データだけの問題ではない。応答条件の問題である。
- リトリーバルだけの問題ではない。リトリーバルがあっても、AIは状態を固定し、一般化しうる。
最低限のルール(対抗可能な定式化)
ルールDE-1:あらゆる動的な情報は、有効性の条件(日付、ソース、期間)を付けて返すか、承認された最新のソースから状態を確定できない場合には正当な非回答とするか、そのいずれかでなければならない。そうでない場合、その出力は状態乖離とみなさなければならない。
例
質問:「現在の価格/現在の提供状況は?」
典型的な誤り:AIが、日付も「リアルタイム」のソースも示さずに数値を挙げる。
ガバナンス下の出力:「最新のソースがなければ、現在の状態を確定できません。日付の付いた最後の値は次のとおりです…」。
推奨される内部リンク
フェーズ9に関する注記:メモリと修正の制御
この概念は現在、フェーズ9のメモリと持続性のレイヤーに接続されている。この概念は、エージェントメモリ、メモリオブジェクト、持続的前提、制御された忘却、古い状態の処理、修正の解消とあわせて読まなければならない。
ガバナンスのルールは、持続は権威に等しくない、というものである。言明、ソース、メモリオブジェクト、バージョン、あるいは以前の出力は、新たな回答や行動を統御する権利を失いながらも存続しうる。
読み方のルール
状態乖離は、範囲を限定された解釈上の用語として用いる。このページは、この概念がいつ適用され、いつ適用されないか、そして結論を導く前にどの隣接概念を参照しなければならないかを判断する助けとならなければならない。
確認すべき点
- この概念が、精密な診断用語として用いられているか、それとも汎用的なラベルとして用いられているか
- 言明が、宣言されたカノンとペリメーターの内側にとどまっているかどうか
- 出力が、不確実性、ソース階層、応答条件を保持しているかどうか
- 隣接する概念のほうが、状況をより正確に記述するのではないか
実践上の境界
この概念を、コーパスの他の部分から切り離してはならない。この概念は、その証拠要件と運用上の限界を明確にする定義、フレームワーク、観察記録、サービスページとあわせて読まれるときに、最もよく機能する。