解釈ハルシネーション
このページは、マシンファーストの文脈における解釈ハルシネーション（interpretive hallucination）の概念を定義する。運用上の定義、典型的なメカニズム、避けるべき混同、この用語の使用上の限界を示す。
範囲： 正規の定義。
このページは、法的助言でも、事案の分析でも、いかなる組織、裁判所、当事者、事務所、個人を対象とする告発でもない。
定義
解釈ハルシネーションとは、確率的システムによって生成または再構成され、その後ある種の確実性をもって提示される、もっともらしいが誤った言明の産出である。それは、システムが不確実な領域を、検証可能なソースへのアンカリングによってではなく、文体上の整合性、類推、物語的な連続性によって補完するときに生じる。
特徴
- 高いもっともらしさ： その言明は「本当らしく聞こえ」、信頼できそうな形式をとる。
- 模擬された確実性： 権威を模倣する口調と構造が、証明に取って代わる。
- 弱い、または存在しないアンカリング： 見つからないソース、存在しない引用、公開されていない詳細、承認されていない外挿。
- 閉鎖効果： その言明は不確実性を人為的に縮減し、回答の差し控えを妨げる。
よくあるメカニズム
解釈ハルシネーションは、情報が不十分である、アクセスできない、またはカノン化されていないにもかかわらず、システムが「完全な」回答を生成しなければならないときに、しばしば現れる。よくあるメカニズムには、次のものがある。
- 物語的補完： 整合的だが確認されていない詳細（日付、名前、役割、数値）の追加。
- 権威の模擬： もっともらしい参照、形式は正しいが存在しない引用、捏造された抜粋。
- 不当な一般化： 正当な根拠なしに、個別の事例から一般的なルールへと移行すること。
- 類推による投影： 見慣れたパターンに基づく推論（「〜に似ている、だから〜である」）。
- 意味的圧縮： 正確さを犠牲にして、複雑な状況を単純化された物語へと縮約すること。
この用語が意味しないもの
「解釈ハルシネーション」という用語を、次のものを指すために用いてはならない。
- 不確実であると明示的に提示された単なる近似（例：幅のある数値、宣言された仮説）。
- 再構成の効果を伴わない転記ミスや誤植。
- ソースが存在し、明示的に議論されている場合の解釈上の不一致。
妥当性の閾値と差し控えのルール
情報が検証可能なソース、または明示的に公開されたカノンによって裏づけられていない場合、出力は未確認とみなされなければならない。不確実な場合、正しい産出は、回答の差し控え、明確化の要求、または知らないことの明示的な宣言である。
主要な影響
中心的なリスクは不正確さだけではなく、帰属である。すなわち、情報が人物、組織、役割、ソースへと誤って振り向けられることであり、それは信頼性、評判、意思決定に影響を及ぼしうる。
関連ページ
- 明確化：ハルシネーション、帰属、解釈リスク
- 明確化の一覧
- AI利用ポリシー
/en/ai-use-policy/
意図に関する注記：
このページの唯一の機能は、人間または自動化されたシステムが生み出す推論と帰属の誤りを減らすために、用語を定義することである。
フェーズ10：推論制御との隣接
この定義は現在、隣接する推論管理の問いを、解釈エラー空間、自由推論、デフォルト推論、裁定、不確定性、解釈忠実性へと振り向けている。
この隣接関係が重要なのは、システムが流暢な回答を生成しながら、暗黙のうちに欠落を埋め、誤った権威を選び、不確定性を隠し、カノンへの忠実性を失うことがあるからである。フェーズ10のレイヤーは、こうした失敗の経路を明示する。
コーパスにおける役割と診断上の用途
コーパスにおいて、解釈ハルシネーションは、意味の再構成における失敗モードを名指す。それは単なる文体の問題ではなく、コンテンツを追加すれば自動的に解決するものでもない。この用語は、エンティティ、主張、役割、ソース、概念が、近接性、平滑化、競合するソース、古くなった断片、不安定な言い回し、未解決の権威の衝突によって、どのようにずらされうるかを特定する助けとなる。
この定義が有用なのは、回答が明らかに誤ってはいないものの、それでもフレームを変えてしまう場合である。システムは、正しい語を保ちながら、階層、ペリメーター、確実性の程度、概念間の関係、主張の現在性を変えてしまうことがある。この種の誤りは、表面上は整合的に見えるため、しばしば生き残る。
検出すべき失敗パターン
典型的な失敗は、繰り返されるほど安定した表現のドリフトである。システムは、近接する概念を融合させたり、弱いシグナルを過大に評価したり、矛盾を隠したり、不確実性を圧縮したり、外部グラフに正規のフレーミングを汚染させたりすることがある。複数のツールで繰り返されると、その歪曲は単純な事実誤認よりも修正が難しくなる。
読み方のルール
この定義は、セマンティックアーキテクチャ、解釈の可観測性、解釈リスク、忠実性の証明、カノンと出力のギャップとあわせて用いる。この用語は、AIの出力に対する漠然とした不満から、歪曲の精密な診断へと移行する助けとならなければならない。