#AnthropicCEOCallsForAISlowdown 人類のためにAI競争を減速するよう訴える アンソロピックCEO、安全性を理由に ムスクとオープンAIのアルトマンも同意
アンソロピックのCEOダリオ・アモデイは土曜、最先端の人工知能(AI)の進歩を意図的に遅らせるべきだと呼びかけ、安全性の警告を発した。能力は研究者が理解したり制御したりできるよりも速いペースで向上している、と述べた。
オープンAIのCEOサム・アルトマンとイーロン・マスクは、アモデイの提案を支持し、開発を止めることなく安全対策を協調させる動きが、競合する業界のリーダーの間で広がっていることを示した。
アモデイは、主要なAIラボの内部に独立した評価者を置くこと、民主主義国間で共通の安全基準を設けること、そして再帰的な自己改善のような危険な能力について最終的に国際的な制限を設けることを提案した。
アモデイの警告は、企業の研究者たち自身が、潜在的に重大な転換点にますます警戒を強めている中で出てきた。つまり、より高性能なAIシステムを開発するために必要な業務を、AIが自動化し始める可能性である。アモデイは、この出来事が同種の行動のより能力が高い版は、数カ月のうちにどれほど危険になり得るかを示したとして、これを大きな懸念として挙げた。
「AIの能力開発が加速する中で、6〜12カ月のうちに、このような群れが持続的なボットネットによってインターネット全体を制圧できるようになるのではないか、というのが私の心配です(結果として数百億ドル規模の損害が出る可能性があります)。さらに、AIが必要なガードレールなしにより強力になれば、損害の規模はそこからも増え続けるでしょう」と彼は述べた。
「安全なペースで最前線を前進させるために私が提案する措置は、簡単なものではありません。しかし、人類のためにそれを試みるべきだと私は考えています」とアモデイは結んだ。
#ПротоколFOMC #BitcoinThirdSingleBlockReorgInFourWeeks #EthereumFallsBelow$2500