確率的固定

確率的固定

確率的固定（stochastic fixation）とは、モデルの非決定的な出力の一つが配信レイヤーによって捕捉され、近接するクエリのクラスターに結びつけられ、あたかも参照回答を表しているかのように再配信される下位ケースを指す。

この用語は、ここでは、Mélanie Maquetが記述したメカニズムを引き継ぐ形で用いられる。セマンティックキャッシュは、必ずしも正規の回答を保存するわけではない。ありうる出力の分布から取り出された特定のサンプルを一つ保存し、そのサンプルを量産することがある。

簡潔な定義

確率的固定が現れるのは、呼び出しのたびに変動しえた出力が、より真になったからではなく、保存されたことによって安定するときである。

それは、確率的な変動をアプリケーションレベルの安定性へと変える。この安定性はコストやレイテンシーの面では役立ちうるが、最初の呼び出しの時点での不完全な、古い、誤ったカテゴリーに分類された、あるいは単に許容できる程度の再構成を固定してしまうおそれもある。

解釈の変動性との違い

解釈の変動性は、システム、文脈、時点のあいだでの回答のばらつきを観察する。確率的固定は、一つの出力を固定することによって、そのばらつきを人為的に減らしうるメカニズムを記述する。

したがって、再現性を忠実性と混同してはならない。安定した回答は、正しく統御されているために安定していることがある。しかし、キャッシュが同じ誤った再構成を配信し続けているために安定していることもある。

監査への含意

確率的固定は、モデル固有の再構成と、アプリケーションが配信する再構成とを区別することを求める。

モデルに直接問い合わせると、良好な整合が見られることがある。それでも、最終的なアプリケーションは古い回答を配信し続けることがある。逆に、配信される回答が非常に安定していても、配信レイヤーが目に見える分散を取り除いたために、モデル固有の不確実性が隠されていることがある。

この用語が意味しないもの

確率的固定を、プラットフォームに対する自動的な告発として用いてはならない。キャッシュのログ、技術文書、制御された反復、アプリケーションレベルのアクセスがなければ、それは証明ではなく、メカニズムに関する仮説にとどまる。

また、それはセマンティックキャッシュが悪いという意味でもない。経済的な最適化のレイヤーが、最良でも、最新でも、最も忠実でもない再構成のバージョンを固定しうることを示すにすぎない。

読み方のルール

確率的固定は、観察された安定性が、配信レイヤーにおける非決定的な出力の固定から生じている可能性があるときに用いる。

その仮説を立証できない場合は、より慎重な用語である配信レイヤーへの固定、または帰属不明の配信上の安定性を用いる。