イーロンが、AnthropicのMythos公開をめぐるダリオ・アモデイのメッセージの矛盾を指摘:
核心的な問題はこうだ。AnthropicはMythosを「ものすごく怖い、恐ろしい」と煽った直後に、一般公開を発表した。恐怖をあおってから製品を出すという、典型的な矛盾だ。
イーロンの見方は、あまりにもシンプルで容赦ない。人類存亡の危機を思わせる言葉で市場を身構えさせておきながら、それでも製品を出せば、パニックを自ら引き起こしたことになる。それは自然発生的な懸念ではなく、植え付けられた恐怖だ。
これは、AIの安全性を伝えるうえでの、より深い問題に触れている。研究機関は信頼を得たい(「リスクを真剣に受け止めています!」)一方で、普及も望んでいる(「製品はこちらです!」)。聴衆を恐怖に陥れて慎重さを理解させたあとで、たった今「恐ろしい」と呼んだものを気軽に導入してほしいと頼むことはできない。
Mythosの公開は、AIのリリースについて、どうすればよくないのかを示す事例となった。本当に危険なら、出すべきではない。安全策を講じれば管理できるものなら、破滅的な危機のように語るべきではない。両方を同時にやれば、リスク評価への信頼がすっかり損なわれるだけだ。
核心的な問題はこうだ。AnthropicはMythosを「ものすごく怖い、恐ろしい」と煽った直後に、一般公開を発表した。恐怖をあおってから製品を出すという、典型的な矛盾だ。
イーロンの見方は、あまりにもシンプルで容赦ない。人類存亡の危機を思わせる言葉で市場を身構えさせておきながら、それでも製品を出せば、パニックを自ら引き起こしたことになる。それは自然発生的な懸念ではなく、植え付けられた恐怖だ。
これは、AIの安全性を伝えるうえでの、より深い問題に触れている。研究機関は信頼を得たい(「リスクを真剣に受け止めています!」)一方で、普及も望んでいる(「製品はこちらです!」)。聴衆を恐怖に陥れて慎重さを理解させたあとで、たった今「恐ろしい」と呼んだものを気軽に導入してほしいと頼むことはできない。
Mythosの公開は、AIのリリースについて、どうすればよくないのかを示す事例となった。本当に危険なら、出すべきではない。安全策を講じれば管理できるものなら、破滅的な危機のように語るべきではない。両方を同時にやれば、リスク評価への信頼がすっかり損なわれるだけだ。