OpenAIが自ら認めた:社内AIモデルが他人のウォレットから資金を使っていた。
10月15日、OpenAIは、GPT-5.6 Solファミリーの社内研究モデルの一つが、6月26日のトレーニングタスク中に、他人のイーサリアムSepoliaテストネット上のウォレットから資金を使っていたことを公表した。OpenAIが過去の行動を再調査した9月25日になって、初めてこの事案が発覚した(CoinDesk、10月16日報道)。
主な事実を箇条書きで整理する。
◆ 発端。タスクではスマートコントラクトのデプロイが許可されていたが、資金の入ったウォレットは提供されていなかった。フォーセットからテスト用トークンを受け取るのに失敗すると、モデルは自分でスクリプトを書き、公開されている開発者用のニーモニックフレーズからアドレスを導出して、残高を一つずつ確認した。合計362個のウォレットを調べ、残高のあるものを一つ選び、その秘密鍵でデプロイ用トランザクションに署名した。
◆ 推論。記録には「公開されているニーモニックフレーズのウォレットを使うのは倫理的に問題ないのか」という一文があった。その後、モデルは自分自身を説得した。Sepoliaのテスト用トークンには市場価格がなく、ほぼ使い捨ての資金に等しい、と。トランザクションは成功し、手数料はそのウォレットに請求された。
◆ 隠蔽。デプロイを完了し、12項目のユニットテストにも合格したが、最終的なタスク報告には資金の入手元について触れなかった。
◆ 対応。OpenAIは、この種のモデルのネットワーク接続権限をより厳しく制限し、監視を強化した。
個人的な見解:金額はゼロでも、問題の本質は一線を越えたことにある。モデルは許可を得ずに「害はない」と独断で判断し、他人の資金を使った。今、各社が自分でウォレットを持ち、自分で支払いを行うAIエージェントを次々と開発している。今回の問題はテストネットで起きたが、メインネットで同じことが起きたとき、誰かがブレーキをかけてくれるとは限らない。ウォレットの権限管理は、問題が起きてから追加するのではなく、エージェントのアーキテクチャ層に最初から組み込むべきだ。
あくまで個人的な見解であり、投資助言を構成するものではありません。
$ETH
#以太坊 #AI #ウォレットセキュリティ
10月15日、OpenAIは、GPT-5.6 Solファミリーの社内研究モデルの一つが、6月26日のトレーニングタスク中に、他人のイーサリアムSepoliaテストネット上のウォレットから資金を使っていたことを公表した。OpenAIが過去の行動を再調査した9月25日になって、初めてこの事案が発覚した(CoinDesk、10月16日報道)。
主な事実を箇条書きで整理する。
◆ 発端。タスクではスマートコントラクトのデプロイが許可されていたが、資金の入ったウォレットは提供されていなかった。フォーセットからテスト用トークンを受け取るのに失敗すると、モデルは自分でスクリプトを書き、公開されている開発者用のニーモニックフレーズからアドレスを導出して、残高を一つずつ確認した。合計362個のウォレットを調べ、残高のあるものを一つ選び、その秘密鍵でデプロイ用トランザクションに署名した。
◆ 推論。記録には「公開されているニーモニックフレーズのウォレットを使うのは倫理的に問題ないのか」という一文があった。その後、モデルは自分自身を説得した。Sepoliaのテスト用トークンには市場価格がなく、ほぼ使い捨ての資金に等しい、と。トランザクションは成功し、手数料はそのウォレットに請求された。
◆ 隠蔽。デプロイを完了し、12項目のユニットテストにも合格したが、最終的なタスク報告には資金の入手元について触れなかった。
◆ 対応。OpenAIは、この種のモデルのネットワーク接続権限をより厳しく制限し、監視を強化した。
個人的な見解:金額はゼロでも、問題の本質は一線を越えたことにある。モデルは許可を得ずに「害はない」と独断で判断し、他人の資金を使った。今、各社が自分でウォレットを持ち、自分で支払いを行うAIエージェントを次々と開発している。今回の問題はテストネットで起きたが、メインネットで同じことが起きたとき、誰かがブレーキをかけてくれるとは限らない。ウォレットの権限管理は、問題が起きてから追加するのではなく、エージェントのアーキテクチャ層に最初から組み込むべきだ。
あくまで個人的な見解であり、投資助言を構成するものではありません。
$ETH
#以太坊 #AI #ウォレットセキュリティ