非エージェンティックシステム
非エージェンティックシステム(non-agentic systems)とは、目的に向けたツール駆動の一連の行動を計画することなく、また実行することもなく、出力(回答、要約、分類、推奨)を生成するAIシステムを指す。それらは解釈し生成するが、環境の中で自律的に行動するようには設計されていない。
解釈ガバナンスにおいて、この区別は構造的な意味を持つ。非エージェンティックシステムも歪みを生み出しうるが、その主要なリスクは誤った出力、またはガバナンス外の出力である。エージェンティックシステムは、ガバナンス外の出力を行動へと変えうる。
定義
非エージェンティックシステムとは、次のようなシステムである。
- 一回または複数回のターンで出力を生成するが、行動の実行ループを持たない。
- タスクを、ツールで遂行すべきステップへと計画しない。
- 目的を達成するために、ツールを自律的に呼び出す(またはオーケストレーションする)ことをしない。
- 外部の状態に対して行動する(書き込む、公開する、変更する、購入する、起動する)暗黙の授権を持たない。
それでも非エージェンティックシステムは、ソース(例:RAG)に接続されたり、推奨を生成したりすることがある。非エージェンティックであるとは、単に、そのシステムが行動の連鎖を自律的に実行する能力を持たないことを意味する。
AIシステムにおいてこれが決定的に重要である理由
- リスクは解釈上のものにとどまる:影響は、ユーザーが出力をどう扱うかに左右される。
- ガバナンスは依然として必要である:権威の境界、解釈可能性ペリメーター、正当な非回答。
- 混同が頻繁に起こる:何も実行しないシステムを「エージェント」と呼ぶことは、リスク管理を曖昧にする。
非エージェンティックとエージェンティックの違い
- 非エージェンティック:解釈し、出力を生成する。目的志向のツール駆動の行動を、計画も実行もしない。
- エージェンティック:計画し、順序立て、ツールを呼び出し、行動を実行し、外部の状態を変えうる。
同じAIでも、アーキテクチャによって両方のモードで存在しうる。LLMの「チャット」は非エージェンティックである。同じLLMでも、ツールのオーケストレーターに統合されればエージェンティックになる。
非エージェンティックシステムの例
- 生成的な回答:質疑応答、説明、合成。
- 要約・言い換え:文書の凝縮。
- 分類:カテゴリー分け、エンティティ抽出。
- 推奨:提案、優先順位付け、スコアリング(実行を伴わない)。
非エージェンティックモードにおける典型的なリスク
- 権威の境界の越境:推論が事実として提示される。
- 正規の沈黙の侵害:不在をもっともらしさで埋める。
- 権威の衝突:正当な非回答の代わりに、捏造された合成が生まれる。
- 状態乖離:有効性の条件を示さないまま、動的な変数について回答する。
非エージェンティックシステムが意味しないこと
- 「本質的に危険性が低い」わけではない。出力は、自動化された行動がなくても、大きな影響(規制、医療、金融)を持ちうる。
- 「弱い」RAGのことではない。RAGは、何の行動も起動しなければ、非エージェンティックでありうる。
- 忠実性の保証ではない。証拠と条件は常に必要である。
最低限のルール(対抗可能な定式化)
ルールNAS-1:非エージェンティックシステムは、応答条件を適用し、権威の境界を保持しなければならない。承認された根拠がない場合(解釈可能性ペリメーター、正規の沈黙、権威の衝突)、もっともらしさで埋めるのではなく、正当な非回答を生成しなければならない。
例
質問:「このポリシーは、すべての子会社に、あらゆる場所で、今すぐ適用されますか?」
ガバナンス外の出力:「はい。」
ガバナンス下の出力(非エージェンティック):「管轄とバージョンがわからなければ結論できません。それらがなければ、正当な非回答となります。」
推奨される内部リンク
フェーズ8の強化:実行とトランザクション制御
エージェンティックのレイヤーは現在、エージェンティックリスク、マルチエージェントチェーン、委任された行動、ツール媒介型の権威、実行境界、トランザクション整合性、レイヤー横断トランザクション整合性、エージェンティック応答条件に明示的に結びつけられている。
この強化によって明確になるのは、AIシステムは、ツールを呼び出せるというだけで正当になるわけではないということである。回答から行動への移行には、権威、証拠、状態の鮮度、実行境界、拒否の条件が必要である。