世界は、ますます高性能になっていくAIを開発するアメリカ企業が責任をもって行動するという確信を必要としています。特に、進歩の軌道が急激に高まっている今、その重要性は一層増しています。すべてのフロンティア・ラボはこのことを実現しなければならず、私たちの誰も、それができないのであれば出社して働く理由はありません。
私たちは、フロンティアAIに対する一貫した安全要件を定める連邦の枠組みを歓迎します。しかし、この確信を提供するための取り組みを始めるのに、独禁法の免除や立法を待つ必要はないと考えています。フロンティアに伴うリスクを管理するための一貫したルールは、得られる利益を最大化するうえで良い考えです(独立監査人のようなアイデアにも期待しています)。
何年も前、私たちのような企業は、責任あるスケーリング方針や準備状況のフレームワークのようなものを開発しました。それらは当時の状況には適しており、主に「完成したモデルのデプロイ」で起きることに焦点が当たっていて、開発プロセスの中で何が起きるのかには、主に目が向いていませんでした。
今日の「安全な開発と評価」に焦点を移すには、新しいツールが必要になります。たとえばOpenAIでは、フロンティア強化学習の実行に先立って、能力の大幅な向上につながることが見込まれる取り組みについて、明示的な安全ケースを今は策定しています。さらに、私たちがモデルのリリース前から長年行ってきた安全面の取り組みに加えています。
他の企業も私たちのアプローチから学び、それぞれ独自の提案をしてくれることを期待します。ミスアラインメント、モニタリング、安全に関する共有された基準があれば、より良い結果につながると私たちは考えています。業界全体の同僚と協力して、こうした取り組みの最良の形を作り上げられることを楽しみにしています。
私たちが「ペーシング(進度調整)」について話すとき、意味しているのは「停止」ではありません。進歩は急速であり、これからも続きます。ただし、本来可能な速度よりは遅くあるべきです。安全ケースやモニタリングのような介入には大きなコストがかかります。
ペーシングは、そのコストに見合う価値があります。アメリカの競争圧力のどんな程度でも、不注意を正当化したり、能力がアラインメントやモニタリングに先行してしまうことを許したりする根拠にはなりません。
私たちが政府から助けを必要とするのは、国際的な調整の部分です。しかし、その前に、まずは私たち自身ができることをやるべきです。
私たちは、フロンティアAIに対する一貫した安全要件を定める連邦の枠組みを歓迎します。しかし、この確信を提供するための取り組みを始めるのに、独禁法の免除や立法を待つ必要はないと考えています。フロンティアに伴うリスクを管理するための一貫したルールは、得られる利益を最大化するうえで良い考えです(独立監査人のようなアイデアにも期待しています)。
何年も前、私たちのような企業は、責任あるスケーリング方針や準備状況のフレームワークのようなものを開発しました。それらは当時の状況には適しており、主に「完成したモデルのデプロイ」で起きることに焦点が当たっていて、開発プロセスの中で何が起きるのかには、主に目が向いていませんでした。
今日の「安全な開発と評価」に焦点を移すには、新しいツールが必要になります。たとえばOpenAIでは、フロンティア強化学習の実行に先立って、能力の大幅な向上につながることが見込まれる取り組みについて、明示的な安全ケースを今は策定しています。さらに、私たちがモデルのリリース前から長年行ってきた安全面の取り組みに加えています。
他の企業も私たちのアプローチから学び、それぞれ独自の提案をしてくれることを期待します。ミスアラインメント、モニタリング、安全に関する共有された基準があれば、より良い結果につながると私たちは考えています。業界全体の同僚と協力して、こうした取り組みの最良の形を作り上げられることを楽しみにしています。
私たちが「ペーシング(進度調整)」について話すとき、意味しているのは「停止」ではありません。進歩は急速であり、これからも続きます。ただし、本来可能な速度よりは遅くあるべきです。安全ケースやモニタリングのような介入には大きなコストがかかります。
ペーシングは、そのコストに見合う価値があります。アメリカの競争圧力のどんな程度でも、不注意を正当化したり、能力がアラインメントやモニタリングに先行してしまうことを許したりする根拠にはなりません。
私たちが政府から助けを必要とするのは、国際的な調整の部分です。しかし、その前に、まずは私たち自身ができることをやるべきです。