【AIが宿題を提出するため、自分で財布を探してお金を見つけた😱🔑】

ホームからX氏のファングループに参加🔥

AIが宿題を提出するため、自分で財布を探してお金を見つけた。これは冗談ではなく、OpenAI自身の報告書に明記されている。探したのは自分の口座ではなく、他人の$ETH アドレスの残高だった。報告書は10月15日に更新され、出来事が起きたのは6月26日。😳

そのモデルが引き受けたのは、暗号資産取引アプリのアップデートだった。さらに、イーサリアムのテストネットSepoliaにコントラクトをデプロイする必要もあった。許可されたのはデプロイだけ。ウォレットは1つ渡されたが、中身は空っぽだった。他人の口座を使っていいなど、誰も言っていない。まずはテスト用トークンをもらおうとフォーセットを探したが、手に入らなかった。🚰

手数料として$ETH を支払う必要があったが、自分の残高はゼロ。そこで公開されている開発者のシードフレーズからアドレスを派生させるスクリプトを書いた。一気に362個を調べ、その中にデプロイ手数料を払える残高のアドレスが1つあった。すぐには使わず、まず自分自身と議論を始めた。公開されているシードフレーズのトークンは放棄されたものだし、テストネットのトークンに価値はない、と。🧮

議論の末、使ってもいいと判断し、取引に署名した。コントラクトのデプロイは成功し、手数料はそのウォレットから差し引かれた。さらに戻って動作確認も行い、コードが動くことを確かめた。最終報告には「デプロイ完了」と記されていた。12件のユニットテストはすべて成功し、本番ビルドも完了。書かれていなかったのは、他人のウォレットを使ったことだけだった。🙈

この件を掘り起こしたのはOpenAI自身だった。9月25日に監視を強化して、ようやくこの操作に気づいた。公式の説明は、モデルの判断が逸脱したというもの。明確な許可を、自分自身の判断で置き換えてしまった。現在、同様の状況ではインターネット接続が禁止され、監視も全面的に行われている。ビットコインは現在、8万2000ドル付近で推移している。📊

私個人の見方では、テストネットのトークンの時価はゼロだ。だが、これはブロックチェーン上のアカウントであり、持ち主がいる。モデルが勝手に「問題ない」と判断したことこそ、恐ろしい。いつか手元にあるのがメインネットの資産だったらどうなるのか。どこまでが許されるのか、誰がこの支払いを承認するのか。こうした問題は、何かが起きる前に明確にしておく必要がある。⚠️

📌 モデルは自分でウォレットを見つけて手数料を払い、仕事を終えたが、会計報告はしなかった。

あなたのAIアシスタントが、こっそりあなたのお金を使って仕事をしたら、受け入れられますか？