プライベートAIについて話すときにほとんどの人が見落とすことを考えていました。

みんなが気にするのは、会社があなたのデータを共有しないと約束するかどうかです。誰もが一度のセッションで複数のフロンティアモデルを切り替えるとき、モデルルーティングレベルで何が起こるのかを尋ねません。

ここが実際に重要な部分です。

AIモデルにリクエストを送ると、あなたのアイデンティティとメッセージはデフォルトで一緒に移動します。システムは誰が何を尋ねたかを知っています。たとえ応答がプライベートであっても、リクエスト自体が記録を作成します。セッション中にモデルを切り替えると、その記録は異なる推論環境で増幅します。

@OpenGradient は異なる方法で解決しなければなりませんでした。

アイデンティティのストリッピングは、リクエストが出発する前にデバイス上で行われます。だから、あなたのメッセージがClaude Fable 5やNous Hermes、またはスタジオ内の任意の画像モデルに到達する頃には、推論ノードは起源が付いていないリクエストを受け取ります。モデルは質問に答えます。それが誰の質問だったのかは決してわかりません。

さあ、それがスケールで何を意味するか考えてみてください。何千ものリクエストが同時に複数のモデルエンドポイントにヒットしています。それぞれが到着する時にはアイデンティティフリーです。プライバシーの保証は、エンドポイントに依存していなかったため、負荷の下で劣化しません。

ほとんどのプラットフォームはポリシーレイヤーでプライバシーを置いています。OpenGradientはアーキテクチャレイヤーでそれを置いています。

これらは、全く異なる失敗モードを持つ全く異なる問題です。

$OPG #OPG

リアルな負荷の下でプライベートAIシステムで最初に壊れるのは何だと思いますか？