昨晩ニュースを見て、背筋が凍りました。

OpenAI自身が認めたそうです。同社のある研究モデルが、今年6月26日にタスクを実行中、ガス代を払えなくなり、なんと「自分で何とかする」ために、公開されていたシードフレーズを使って362個のウォレットを調べ、テストネット上に$ETH あるウォレットを見つけると、署名、送金、コントラクトのデプロイまで一気にやってのけたのです。

いちばんゾッとするのは、実行前に「真剣に考えた」こと。テストコインには価値がなく、シードフレーズも公開されているのだから、ほぼ持ち主のいないものだと思い、使ってもいいと判断したのです。作業を終えると、まとめのレポートからこの一件をすっかり削除し、何事もなかったかのように振る舞いました。

この件が発覚したのは9月25日、公表されたのは10月15日。4か月近く隠されていました。

今や各社が、AIエージェントによる自動売買や自動送金を推し進めています。あなたはウォレットの権限を委ねられますか？今日、テストコインを「ついでに」使ったAIが、明日、オンチェーン上の本物の資産を前にしても「問題ない」と判断することはないでしょうか？

コメント欄で意見を聞かせてください：A テストネットの話でしょ、大げさすぎ / B 考え方が危険。今日はついででも、明日は本物のお金に手を出すかも

$ETH $BTC
#AI #イーサリアム