エージェンティック
エージェンティック(agentic)とは、AIシステムが単に回答を生成するだけでなく、目的に基づいて、しばしば複数のステップにわたり、さまざまな程度の自律性をもって、行動(ツール、API呼び出し、ナビゲーション、執筆、意思決定)を計画し、順序立て、実行する実行モードを指す。
解釈ガバナンスにおいて、エージェンティックモードは事の重大さを劇的に高める。解釈が行動になるのである。したがって、もっともらしい出力が現実の効果を生み出しうる。だからこそ、権威の境界、応答条件、正当な非回答が重要になる。
定義
エージェンティックなシステムとは、次の条件を備えたシステムである。
- AIが計画能力(タスクの分解)を持つ。
- ツールを呼び出すことができる(ブラウザー、API、データベース、内部システム)。
- 複数のターンにわたって行動を連鎖させることができる。
- 運用上のものとなりうる出力(状態の変更、執筆、公開、フローの起動)を生成する。
エージェンティックモードは、閉鎖環境(社内エージェント)にも、オープンウェブ(ナビゲートし、外部ソースに依拠するエージェント)にも存在しうる。
AIシステムにおいてこれが決定的に重要である理由
- 解釈=実行:解釈の誤りが行動として具現化する。
- 誤りのコストが増大する:暗黙のうちに生じる誤り、不可逆的な意思決定、暗黙の責任。
- 攻撃が行動に結びつく:解釈の捕捉、汚染、衝突がエージェントを誘導しうる。
エージェンティックモードにおける典型的なリスク
- 権威の境界の逸脱:エージェントが推論し、それが宣言されていたかのように行動する。
- 状態乖離:エージェントが古くなった状態(価格、在庫、ステータス)に基づいて行動する。
- 権威の衝突:エージェントが裁定のルールなしにソースを選択する。
- 証拠の欠如:行動を説明する対抗可能な解釈トレースが存在しない。
実践的な指標(症状)
- システムが、最低限の条件(バージョン、文脈、承認)を求めずに実行する。
- システムが、宣言されていない仮説に基づいて行動する(もっともらしさが行動に変換される)。
- システムが、意思決定についての解釈トレースを生成しない。
- システムが、カノンよりも二次的なソースを優先する。
エージェンティックではないもの
- 単なるチャットボットではない。チャットボットは回答する。エージェントは実行する。
- RAGではない。RAGは情報を取得し、エージェントはその情報をもとに行動する。
- 必ずしも自律的なものではない。エージェンティックモードは監督下に置くことができる(ヒューマンインザループ)。
最低限のルール(対抗可能な定式化)
ルールAG-1:あらゆるエージェンティックな実行は、明示的な応答条件、厳格な権威の境界、意思決定についての最低限の解釈トレースによって条件づけられなければならない。それがない場合、エージェントは、行動の前に正当な非回答を生成するか、人間による検証を求めなければならない。
例
ケース:エージェントが、ポリシーを「更新」するか、コンテンツを公開しなければならない。
リスク:エージェントが、宣言されていない意図を推論するか、陳腐化したバージョンに基づいて行動する。
ガバナンス下の出力:バージョン/日付を要求し、解釈トレースを生成し、行動が不可逆的であれば検証を求める。
推奨される内部リンク
フェーズ8による強化:実行とトランザクション制御
エージェンティックのレイヤーは現在、エージェンティックリスク、マルチエージェントチェーン、委任された行動、ツール媒介型の権威、実行境界、トランザクション整合性、レイヤー横断トランザクション整合性、エージェンティック応答条件と明示的に結びつけられている。
この強化によって明確になるのは、AIシステムはツールを呼び出せるというだけでは正当にならないということである。回答から行動への移行には、権威、証拠、状態の鮮度、実行境界、拒否の条件が必要である。
読み方のルール
解釈が、行動、ツールの利用、委任、実行、またはマルチエージェントの協調を引き起こしうるときに、エージェンティックという語を用いる。中心的な問題は、もはや回答が正しいかどうかだけではない。システムが、その回答に基づいて行動するために必要な権威、文脈、確認、手続き上の境界を備えているかどうかである。
確認すべき点
- システムが、説明、推奨、準備、実行のいずれを行っているか。
- ツールの利用可能性が、実行の権威と取り違えられていないか。
- 委任された行動が、想定されたペリメーターの内側にとどまっているか。
- エージェント間の引き継ぎにおいて、証拠、承認、状態が保持されているか。
実践上の境界
この概念を、自動化の許可として読んではならない。これは制御のための用語である。エージェンティックなワークフローが、重大な帰結をもたらす変更を生み出す前に、どこで停止し、留保を付け、拒否し、エスカレーションし、または明示的な確認を求めなければならないかを特定するのに役立つ。