3.1版は攻撃能力をばっさり削除。Vitalikがまさかの公開支持。

PANewsによると、Vitalikは今回、Kimiが訓練データから高度なサイバー攻撃能力を除外することを明確に支持した。その理由は、ユーザーを制限するより、利用シーンを制限するほうがよいからだという。また、社会にはシステムを強化し、古いコードを点検し、新しいコードに形式検証を行うための時間がまだ必要だとも指摘。初期のAIリスクへの対処を誤れば、その先には、極めて閉鎖的なモデルに全面的なKYCが加わり、身元や国籍に応じてアクセスを段階的に制限する事態が待っているかもしれない。

正直、この理屈には納得している。一方で、$ETH は直近24時間で2％超下落し、現在は2300ドル付近をうろうろしている。AIと暗号資産をめぐる一連のストーリーに安全性への疑問符がつけば、資金のリスク回避姿勢が強まり、短期的にはあと数日、息切れが続きそうだ。

モデルにまず自ら制約を課すのは、本当の安全対策なのか、それとも政治的な正しさなのか。引き続き見ていく必要がありそうだ。

#Vitalik #AI安全