AI の発展は本当に、一度ブレーキを踏む必要があるかもしれません。Anthropic のCEO ダリオ・アモデイは投稿で、AIが次世代モデルの構築に関わり始めており、今後6〜12か月でより強力なシステムが登場すると、深刻なサイバーセキュリティリスクにつながり得ると懸念していると述べています。そこで同氏は、第三者による継続的なセキュリティ評価を導入し、最先端のAI企業に統一基準を推進すること、そして中国への先進的なチップや機器の輸出を制限することを主張しています。全面的に最近の動きを一時停止するのは現実的ではない一方で、安全面でのアライメントにさらに時間を割く必要があると考えています。

私個人としては、安全性の検証を少し遅らせることは悪いことではないと思います。能力が強くなるほど、問題が起きた場合の代償も大きくなり得るからです。ただ、技術競争と安全のバランスをどのように取るべきかは、確かにとても難しいです。

あなたは、最先端のAIが今すぐ主導的に減速すべきだと思いますか？それとも、スピード競争を続けるほうがより現実的でしょうか？