$WLD アメリカの企業が、ますます能力を高めるAIを開発するにあたり、責任ある行動を取るはずだという確信が世界には必要です。特に、進歩の軌道が加速している今こそ重要です。すべてのフロンティア・ラボはこの責務を果たさなければなりません。そして、私たちが果たせないのであれば、私たちの誰もが出勤して働くべきではないのです。

私たちは、フロンティアAIに対する一貫した安全要件を定める連邦の枠組みを歓迎します。しかし、この確信を提供する取り組みを始めるのに、独禁法の免除や立法を待つ必要はないと考えています。フロンティアのリスクを管理し、得られる利益を最大化できるようにするための一貫したルールは良い考えです（そして、独立した監査人のようなアイデアにも期待しています）。

何年も前、私たちのような企業は、責任あるスケーリング方針や準備状況のフレームワークといったものを開発しました。それらは当時においては良いものでしたが、主に完成したモデルの展開に焦点が当てられており、開発プロセスの途中で何が起きるかには主眼が置かれていませんでした。

今日の「安全な開発と評価」に焦点を移すには、新しいツールが必要です。たとえばOpenAIでは、フロンティア強化学習の実行に先立って、能力の大幅な向上が見込まれることに加え、私たちが長年にわたりモデル提供の前に行ってきた安全の取り組みに相まって、明示的な安全ケースを事前に策定しています。

私たちのアプローチを他の企業が学び、それぞれ独自の提案をしてくれることを期待しています。ミスアラインメント、モニタリング、安全に関する共有基準は、より良い結果につながると考えています。業界の同僚たちと協力して、これらの最良の形を構築していくことを楽しみにしています。

私たちが「ペーシング（進捗の調整）」について話すとき、私たちは「止まる」ことを意味していません。進歩は急速で、今後も続きます。ただし、そうでなければ可能だったよりも遅くすべきです。安全ケースやモニタリングのような介入には、重要なコストがかかるからです。

ペーシングにかかるこのコストは十分に見合うものになります。アメリカの競争圧力のどれほどの強さであっても、無謀さを正当化したり、能力がアラインメントやモニタリングに先行してしまうことを許したりできるはずはありません。

政府の協力が必要になるのは、国際的な調整の部分です。しかし、まずは私たち自身にできることをやるべきです。
#SamAltman #OpenAI #chatgpt