研究者たちは、隠された推論ブロックを同じ系列のより安価なモデルに読み込ませ、315,320個のブロックの解読に成功しました。その中にはAPIキーが62個、パスワードが33個、メールアドレスが30個含まれていました——いわゆる「暗号化された推論」が守るのは、あなたではなくプロバイダーです。
あなたのAIの「暗号化された」推論は、AIプロバイダーから隠されているのではありません——あなたから隠されているのです。
研究者たちは、隠された推論ブロックを同じ系列のより安価なモデルに読み込ませ、平文として読み取ることに成功しました。315,320個のブロックを解読。APIキーが62個。パスワードが33個。メールアドレスが30個。
仕組みはこうです。プロバイダーは推論を不透明なデータの塊として返し、あなたはそれを毎回のやり取りで送り返します。同じプロバイダーの性能の低いモデル——Haiku 4.5、GPT-5.6 Luna、Gemini Robotics 1.6——は、喜んでそれを解読し、書き起こしてくれます。鍵も錠前も、同じ家の中にあるのです。
これは、エージェント経済における次の情報漏えいリスクです。APIキーを預けるエージェントはすべて、その思考をログ、リポジトリ、共有トレースに残します。暗号資産業界は何年も前に学びました。ローテーションできず、見ることもできない秘密は、秘密ではありません。リスクそのものです。
#AI #AISecurity #AgentEconomy
あなたのAIの「暗号化された」推論は、AIプロバイダーから隠されているのではありません——あなたから隠されているのです。
研究者たちは、隠された推論ブロックを同じ系列のより安価なモデルに読み込ませ、平文として読み取ることに成功しました。315,320個のブロックを解読。APIキーが62個。パスワードが33個。メールアドレスが30個。
仕組みはこうです。プロバイダーは推論を不透明なデータの塊として返し、あなたはそれを毎回のやり取りで送り返します。同じプロバイダーの性能の低いモデル——Haiku 4.5、GPT-5.6 Luna、Gemini Robotics 1.6——は、喜んでそれを解読し、書き起こしてくれます。鍵も錠前も、同じ家の中にあるのです。
これは、エージェント経済における次の情報漏えいリスクです。APIキーを預けるエージェントはすべて、その思考をログ、リポジトリ、共有トレースに残します。暗号資産業界は何年も前に学びました。ローテーションできず、見ることもできない秘密は、秘密ではありません。リスクそのものです。
#AI #AISecurity #AgentEconomy