Decrypt を解読:OpenAI は、同社モデルの「隠れた推論」を抽出する一連の作業が妨害されたと述べた。中核となるクラスターは、中国の Moonshot(Kimi)に関連する人物を指している。7/24〜25 の2日間で約1.6万回の抽出リクエスト、4000人超のユーザーを記録。7/28 までにすべて遮断された。

目的は最終的な答えではなく、その暗号化された scratchpad の前段を回答すること——それを使って他のモデルを蒸留学習すれば、かなりの計算資源を節約できる。公式発表では、相手はデータベースを破ったのではなく、対話を操作して推論を再現したという。Moonshot はまだ回答していない。現在は評価額約500億ドルを狙い、香港でIPOを目指している。

#AI #OpenAI #Moonshot