権威の衝突
権威の衝突(authority conflict)とは、二つ(またはそれ以上)のソースが同じ点について正当な権威を主張しながら、互いに両立しない言明を生み出している状況を指す。AIシステムにおいて、この衝突は重大なリスクを引き起こす。すなわち、捏造された「整合的な」合成、恣意的な選択、あるいはガバナンス外の外挿である。
検索意図と裁定の適用については、記事権威の衝突:二つの有力なソースが対立するときにどうすべきか(英語)を参照のこと。
解釈ガバナンスにおいて、権威の衝突は意見の対立ではない。それはガバナンス上の事象である。裁定のルールがなければ、正しい出力は正当な非回答でありうる。
定義
少なくとも二つのソースが次の条件をすべて満たす状態を、権威の衝突と呼ぶ。
- 解釈可能性ペリメーターの内側で、承認されたソースとみなされている。
- 同じ対象(同じエンティティ、同じルール、同じ期間、同じペリメーター)に関わっている。
- そして、互いに両立しない命題を生み出している。
開かれた世界では、この承認を推定することはできない。外部ソースが権威の衝突に加わるのは、とりわけExternal Authority Control(EAC、外部権威管理)を通じて、その適格性が確認された後に限られる。
AIシステムにおいてこれが決定的に重要である理由
- モデルは平滑化する:二つの真実を、宣言されていない平均へと融合させることがある。
- モデルは裁定する:人気や文体のシグナルにもとづいて、暗黙のうちに一方のソースを選ぶ。
- モデルは捏造する:どこにも存在しない「妥当な」合成をつくり出す。
権威の衝突に該当しないもの
- 文体上のニュアンスではない。命題どうしの非両立性である。
- 適格性の外にある相違ではない。あるソースがEACに照らして受理できないものであれば、それはまだ強い意味での権威の衝突を構成しない。
- 合成への誘いではない。ルールがなければ、合成はガバナンス外のものになる。
最低限のルール(対抗可能な定式化)
ルールCA-1:権威の衝突が検出され、それに決着をつけられる明示的な裁定ルール(バージョン、日付、法域、例外)が存在しない場合、正しい出力は正当な非回答、または衝突を解決せずに開示する回答である。
推奨される内部リンク
フェーズ2の明確化:衝突は開示されるか、序列づけられなければならない
権威の衝突は、回答をより流暢にすることでは解決しない。宣言された権威の序列とソース階層によって解決されるか、回答の正当性を制限する条件として開示されるか、そのいずれかでなければならない。
衝突が隠されると、回答はしばしば作為的整合性を生み出し、最終的に無許可の合成に至ることがある。序列づけのルールが存在せず、かつ問いが統御する回答を必要とする場合、正しい出力は妥協ではなく義務的沈黙でありうる。
コーパスにおける役割と診断上の用途
コーパスにおいて、権威の衝突は、信頼性を記述するだけの用語としてではなく、権威を制御する用語として読まなければならない。この用語は、システムが何を取得できるか、何を引用できるか、何を統御するものとして扱えるか、そして何がより強いソースに従属したままでなければならないかを区別する助けとなる。この区別が決定的であるのは、AIの出力が、評判、近接性、新しさ、頻度、明示的な権威を、一つの流暢な回答のなかで融合させがちだからである。
この用語の診断上の価値が最大になるのは、回答が妥当に見えるにもかかわらず、統御ソースが不確かなままである場合である。そのとき問題となるのは、回答が単独で見て真であるかどうかだけではない。回答が、正しい発信者、正しいペリメーター、正しいタイムスタンプ、正しいソース階層、正しい応答条件を保持しているかどうかである。
検出すべき失敗モード
失敗は、弱いシグナルが暗黙のうちに権威を帯びるときに現れる。典型的な症状は、正規ソースを差し置いて派生的なソースを優先する回答、抽出された言明を元の限界をすべて保持しているかのように扱う回答、あるいは権威の根拠を開示しないまま衝突を解決してしまう回答である。こうした誤りは、見かけの整合性とガバナンス下の解釈とのあいだにギャップを生み出す。
読み方のルール
この定義は、解釈ガバナンス、解釈リスク、回答の正当性、ソース階層、忠実性の証明とあわせて用いる。この用語は、それらの制御に代わるものではない。ソースから回答へと移る過程で、権威がどこで生み出され、失われ、推論され、移され、あるいは保持されるのかを特定するために用いる。