エージェンティック：行動するAIのガバナンス（オープンウェブと閉鎖環境）

エージェンティック：行動するAIのガバナンス（オープンウェブと閉鎖環境）

このページは、意思決定者に向けた総合的な入口である。今日のAIエージェントとは何か、なぜリスクが変わるのか、従来のガバナンスはどこで失敗するのか、そして解釈ガバナンスはどこから始まるのかを説明する。ステータス：総合ページ（経営層向けの入口）。このページは、運用上の手法でも、成果の約束でもない。適用可能な枠組み（フレームワーク）と正規ソース（定義、ドクトリン）へと案内する。

今日のAIエージェントとは何か

AIエージェントは、単に「回答する」システムではない。ソースを選択し、状況を再構成し、判断を裁定し（回答する、拒否する、沈黙する）、行動（ワークフロー、API、チケット管理、CRM、ITSM）を起動しうるシステムである。言い換えれば、エージェントは情報を判断に変え、ときにはさらに行動に変える。この変換が存在した時点で、言語的な性能はもはや中心的な問題ではない。中心的な問題は監査可能性になる。すなわち、なぜこの出力が存在するのか、何に基づいているのか、どのペリメーター内にあるのか、どのような推論の禁止を伴っているのか、である。

リスクが変わる理由

目に見えるハルシネーションは、最初の警告だった。エージェンティックは、より目立たないリスクを持ち込む。もっともらしいが正当ではない判断である。回答は、整合的で慎重であっても、次のようなことをしうる。

• ペリメーターを踏み越える（サービス、保証、コンプライアンス、制裁、人事）
• ローカルな事例を規範へと一般化する
• 暗黙の義務を生み出す
• 不透明な拒否を生む（対抗可能なルールを伴わない）
• フレーミングによって判断を方向づける（暗黙の判断）

こうしたドリフトは、閉鎖環境においてしばしばより危険である。内部データは真実であるかのような印象を与える一方で、推論は境界のないままでありうる。

従来のガバナンスが失敗する場所

いくつかのアプローチは品質を向上させるが、エージェントを正当なものにするには十分ではない。

• ガバナンス下のRAG：コーパスとリトリーバルを安定させるが、結論を自動的に統御するわけではない。
• 内部ポリシー：拒否や慎重さを生み出すが、多くの場合、ルールのトレーサビリティを伴わない。
• 単発の人間による検証：事後的に修正するが、推論に事前（ex ante）の境界を設けるわけではない。
• エージェントによる説明：対抗可能な管轄を伴わないまま、監査を模倣（ナラティブによる正当化）しうる。

繰り返し現れる盲点は、推論する権限である。取得されたパッセージと判断とのあいだには、解釈の空間が存在する。統御されなければならないのは、まさにこの空間である。

解釈ガバナンスが始まる場所

正規の図式

ソース → 解釈 → 推論 → 判断 → 行動 ↑ ↑ ガバナンス 応答条件

解釈ガバナンスは、明示的な管轄を導入する。すなわち、何が許可され、何が禁止され、何が不確定のままでなければならず、いつ人間へのエスカレーションが義務となるのかを定める。解釈ガバナンスは、次の四つの不変条件に依拠する。

• ペリメーター：エージェントが扱えるもの、そしてペリメーター外であると宣言しなければならないもの。
• ソース階層：どのソースが優先され、どれが二次的で、どれが禁止されるか。
• 否定：高リスク領域における推論の禁止。
• 応答条件：対抗可能なルールに従って、回答する、拒否する、沈黙する、別の経路へ案内する、エスカレーションする。

目的：解釈の分散を減らし、各判断を、不透明な内因的慎重さではなく、ルールに帰属させられるようにすること。

推奨される入口

適用可能な枠組み：

• AIエージェントのための解釈ガバナンス（オープンウェブと閉鎖環境）
• AIエージェント向けの対抗可能な応答条件
• エージェンティックシステムにおける解釈ドリフトの類型

参考記事：

• ポストセマンティクス：AIが考え、判断し、テキストを踏み越えるとき（英語）
• 閉鎖環境におけるエージェンティック：クリーンなデータだけでは不十分な理由（英語）
• ガバナンス下のRAG、ガバナンス外の推論：業務エージェントの盲点（英語）

正規ソース：

• 定義と正規の概念
• ドクトリン
• フレームワーク