AI回答におけるブランドセーフティのリスクマトリクス

AI回答におけるブランドセーフティのリスクマトリクス

このマトリクスは、損害を与えるおそれのある主張に優先順位をつけるのに役立つ。このマトリクスは、その主張が法的に過失のあるものかどうかを判断するものではなく、法的助言に代わるものでもない。このマトリクスは、証拠の収集、エスカレーションの水準、比例的な対応を構造化する。

評価の軸

各軸には0から3の評点を付ける。全体の評点は数学的な真実ではない。それは、共通のプロトコルのもとでインシデントを比較するために用いられる。

対応のバンド

バンドA：記録して監視する

深刻度が低く、帰属が明確で、観察が孤立している。証拠を保全し、カノンを確認し、インシデントをモニタリングに組み込む。

バンドB：管轄をもつソースを修正する

アイデンティティ、日付、製品、ペリメーターについてのギャップが確認されている。カノン、第三者のソース、または曖昧性解消を更新する。再観察の期間を定める。

バンドC：部門横断的なエスカレーション

深刻な、繰り返される、または意思決定に近い主張。状況に応じて、コミュニケーション、法務、製品安全、コンプライアンス、または経営陣を関与させる。キャプチャを保全し、場当たり的な対応を避ける。

バンドD：重大インシデント

深刻な混同、危険となりうる主張、虚偽の告発、または高リスクの推奨が、繰り返され、帰属が示されていない。その出力に依存する社内利用を停止し、可能な場合はプロバイダーに報告し、適切な法的または規制上のプロトコルを開始する。

例1：古い情報

あるAIが、新しいバージョンが入手可能であるにもかかわらず、製品が販売終了したと断言する。深刻度は中程度でありうるが、意思決定は近く、時間性は誤っており、修正は比較的可逆的である。対応は通常、バンドBに該当する。すなわち、最新のソース、製品のスキーマ、リダイレクト、再観察である。

例2：誤った同名の主体に帰属された告発

ある回答が、ある企業を、似た名称の別会社を対象とする訴訟と結びつける。深刻度は高く、エンティティの混同は最大で、帰属は弱く、意思決定は近い可能性がある。反復と文脈に応じて、バンドCまたはDが正当化される。

例3：現実の外部からの批判

あるAIが、最近の不利な決定を要約し、そのソースを引用し、企業の公式な回答を提示する。センチメントは否定的だが、ソース、帰属、時間性は強い。誤った表現のリスクは低い可能性がある。この批判を削除しようとすることは、ブランドセーフティの誤用となる。

証拠記録

• 主張の全文
• 回答のキャプチャまたはエクスポート
• プロンプトと意図
• モデル、製品、日付、言語、地域、ブラウジング
• アクセス可能な引用とトレース
• 対象となるアイデンティティと曖昧性解消の識別子
• 管轄をもつソースと反証
• 軸ごとの評点
• エスカレーションの決定と担当者
• 再観察と結果

ガードレール

スコアを自動的に法的な結論へと変換してはならない。回答が不利であるという理由で深刻度を誇張してはならない。公式のソースを用いて外部の証拠を打ち消してはならない。比較のプロトコルなしに、修正によって問題が解決したと表明してはならない。

このマトリクスは、リスクをトリアージ可能にする。このマトリクスは、モデルに対する管理権限も、被った損害の自動的な証明も与えない。