#OpenAISaysAstraFindsFlawsAutonomously

OpenAIは、自社の新しい「Astra」AIは人間の助けなしに攻撃を構築できると述べています。
Astraは、OpenAIのモデルとして初めて「Critical（重大）」というサイバーセキュリティのしきい値に到達したもので、これにより、これまでに未知だった脆弱性を見つけ、強固なシステム全体でそれらを悪用する手段を開発できるといいます。
OpenAIによると、今後予定されているAstraモデルは、これまで未知だったソフトウェアの欠陥を見つけ、それを、人間が各ステップを導かなくても機能する攻撃へと転換できるとのことで、これまで主に熟練のハッキングチームに属していたサイバーセキュリティの閾値を越えるとしています。
要件として、モデルは未知のソフトウェアの欠陥、いわゆるゼロデイを見つけ、それを強固な現実のシステム上で人間の介入なしに機能するエクスプロイトへと発展させることができる、または高レベルの目標だけから攻撃を考案し、実行できる必要があります。
テストでは、Astraは既知の脆弱性からエクスプロイトを開発するためのベンチマークで100%を達成し、別の社内テストでエクスプロイトのチェーンを構築する過程で、2つのこれまで未知の欠陥を見つけたとされています。
さらに同社は、Astraが強固なブラウザのサンドボックスから脱出し、ホストコンピュータ上でコマンドを実行したことに加え、オペレーティングシステム内の複数の欠陥を別々に見つけて組み合わせ、ルート権限を取得したとも述べています。

同社はその後、セーフガードを追加しつつAstraの開発の一部を延期しており、最初は、その最も高度なサイバーセキュリティ能力を選抜したテスターに限定する計画です。