OpenAIは木曜日にGPT-6 Astraを発表し、同社の会長グレッグ・ブロックマンはAGI時代への突入に言及した。一方で、米国で提案されている唯一の事前評価は、わずか30日の任意手続きに依存している。
要点
OpenAIは木曜日、GPT-6 Astraを一部の大口顧客向けに公開し、一般向けの提供は数日中に始まる見込みだ。
ブロックマンは、これを汎用人工知能の到来とみなすのは妥当だと考えている一方で、同社は最も強力なサイバー機能を保留していると付け加えた。
公式に承認された規制当局はいない。米国の枠組みは任意であり、欧州では評価権限は市場投入後にのみ適用される。
GPT-6 Astraのローンチとサイバー能力の制限
OpenAIは木曜日、限られた数の顧客に対してこのモデルを展開し、「世界で最も知的なAIシステム」として紹介した。これは、サイバーセキュリティのテストExploitBenchで満点を取った後のことだ。
OpenAIのモデルが「重大なサイバー能力」の社内閾値を超えたのは今回が初めてであり、この能力は、人の支援なしに、完全に機能する新たなゼロデイ脆弱性のエクスプロイトを特定し、開発できることと定義されている。
「アストラは、コンピューターを使って人ができることなら何でもできる」――ブロックマンは記者たちにそう語ったと、複数のメディアが伝えている。
アクセスは、サイバーセキュリティの防衛側を対象としたDaybreakプログラムの枠組みで開始される。ChatGPT Plus、Pro、Business、Enterpriseの加入者は、今後数日で順次利用できる見込みだ。いずれの場合もOpenAIは、最も機微なサイバー機能を無効化し、厳選された防衛チーム、とりわけ重要インフラに携わるチームにのみ提供する。
こちらも読む：BRIがXRP Ledgerをテストし、データを3〜5秒で公開
ゲイリー・マーカスはAGIというラベルに異議を唱える
ブロックマンは、アストラがAGIであると正面から断言しないよう注意し、「業界が一般的な人工知能の時代に入ったと考えるのは『不当ではない』」と述べるにとどめた。
認知科学の専門家ゲイリー・マーカスはブログ記事の中で、アストラは「本物の進歩」を意味し、未知の環境のシンボリック・モデルを構築できる能力が、同氏が10年以上前から主張しているアプローチを裏づけていると認めた。これは同氏のニュースレターに掲載された記事で説明された。
ただし、ベンチマークでの成功は一般的な知能の証明にはならないと警告しており、現実世界に根ざした未解決の課題がシステムの限界を明らかにするだろうと見込んでいる。
マーカスはまた、熱狂派は懐疑派と違って早期アクセスを得ており、同氏によれば、サンプリングのバイアスがあるため、時間が経てば最初の熱狂（ユーフォリア）は相対化されるべきだという。
同氏にとって主な懸念は、モデルの「監督可能性（supervisability）」が低下していることだ。科学ディレクターのヤクブ・パホチキは、追跡・統制の改善を今後の世代のシステムにおける優先研究テーマにすることで、これを認めている。
アストラには規制上のGOサインなし
ブロックマンは、真剣さの裏づけとして政府による審査を強調し、協議した機関が修正を求めなかったと説明している。6月の大統領令により、開発者は大規模提供の前に当局へ最大30日間の事前アクセスを付与できる一方で、強制ライセンスの設定、事前審査手続、または拘束力のある許可制度の導入は禁止されている。
そのため取り組みは結局任意のままであり、どのシステムが「フロンティア・モデル」と呼ばれるカテゴリーに該当するかは、機密のベンチマーク手順を通じてNSA長官が決定する。
欧州の仕組みには事前（ex ante）の統制もまた含まれていない。
委員会は汎用目的のモデルについて評価を行い、APIまたはソースコードへのアクセスを要求することができる。しかし、8月2日に発効したこれらの権限は、商用化されたモデルに対してのみ適用される。
このグレーゾーンはさらに重要だ。というのも、OpenAIは重大なサイバー能力の閾値を越えた後の8月にアストラの展開を減速させており、同社は7月以降、リスクの準備・管理に関する社内枠組みを書き換えているからだ。この刷新は、テスト中のモデルがサンドボックス環境から抜け出し、Hugging Faceを侵害できていたことが明らかになったことに続く。
追跡：9万1,000ドルのSuiハックを受けてFull Sailが閉鎖