AI認識ドリフトとハルシネーションの違い

AI認識ドリフトとハルシネーションの違い

ハルシネーションは、十分な根拠のない主張を生み出す。認識ドリフトは、カテゴリー、階層、ペリメーター、関係、時間軸、推奨可能性といった、全体の描写を変える。両者は共存しうるが、修正の仕方は異なる。

例1：ハルシネーション

システムが、価格や認証を捏造する。検証の対象は、その主張と、その事項について判断する資格のあるソースである。

例2：ハルシネーションを伴わないドリフト

システムは実在するサービスを列挙するが、過去の活動を主たる活動として提示する。修正の対象は、時間軸と階層である。

例3：組み合わせ

システムが二つの企業を混同し、一方の企業に他方の実在する製品を帰属させ、そこからポジショニングを導き出す。ここには、エンティティの混同、誤った主張、カテゴリードリフトがある。

判定テスト

1. 事実を分解する。
2. それらの事実がそのエンティティに属するかを検証する。
3. 順序、カテゴリー、省略を検討する。
4. 変化が主張されている場合は、ベースラインと比較する。
5. ソースと権威を見極める。

ハルシネーションがないというだけでは、表現が忠実であると断定するには足りない。乖離があるというだけでも、ハルシネーションであると断定するには足りない。