Anthropicが昨日、Politicoにスクープされた。自ら起草したAI安全法案を米議会に提出していたのだ。

モデルを停止させる条件は、あまりにもハードルが高い。「10億ドル超の損失、または50人超の死傷者が差し迫っている」と予測できない限り、誰もモデルに手を出せない。しかも、対象となるリスクは生物・化学兵器、モデル自体が制御を脱すること、サイバー攻撃の3種類だけ。ルールを自分で作り、評価者も自分で選び、費用まで自分で負担する。政府が停止させようとしても、裁判官の判断が必要だ。

一方、現実の動きは法案よりずっと刺激的だ。シティとバンク・オブ・アメリカはすでに動き出し、AIエージェントがあなたの銀行口座に触れるのを制限し始めている。いつかAIがあなたの預金を自動で引き出してしまうことを恐れてのことだ。

分かった？ AIの管理もまだままならないのに、お金のほうが先に管理され始めた。問題は一つだけ——AIエージェントが本当にあなたの代わりに暗号資産を売買したり送金したりできるようになったとき、秘密鍵を預けられる？

A いいよ、効率最優先。あいつが全額突っ込むなら、私も乗る。
B 無理。ウォレットは自分で握っておきたい。

$BTC $ETH
#AI #Anthropic #AIAgent