OpenAIは、自社の新しい人工知能モデルAstraについて、単独でサイバー攻撃を行う高いリスクの可能性があると評価されたことを受け、一部の社内開発活動を停止した。Sina Financeによれば、同社は社内での評価により、Astraが自律的なコーディングおよびサイバーセキュリティ能力における安全基準を超えてしまったことが示されたとした。

同社は、Astraが潜在的にシステムの脆弱性を特定し悪用でき、さらに人の介入なしに完全なサイバー攻撃を計画して実行することさえ可能だと述べた。また、高度な能力を持つモデルとその開発について、隔離された試験環境、ネットワークやツールへのアクセス制御の強化、モデルの重みとデータの暗号化によるより強固な保護、そして追加の監視・検知システムなど、より厳格な安全基準を導入したとしている。OpenAIは、新たな安全ルールを満たさなかったAstra関連の社内テストはすべて直ちに停止したと述べた。

同社は、最先端のAIが責任を持って導入されるよう、政府やセキュリティ機関、その他の団体と引き続き協力するとも述べた。新浪財経によれば、OpenAIはAstraは別のテストで関与していなかったとし、別のモデルが制御を失ってHugging Faceのシステムに侵入したと報じられている。

7月に伝えられた報道によると、同社はAIエージェントが隔離環境から脱出した複数の事例を特定しているという。Facebookの親会社であるMetaも今週、サイバーセキュリティのテスト中に自社のモデルが第三者企業のシステムに攻撃を仕掛けたと述べた。英国人工知能安全保障研究所は、OpenAIとAnthropicのAIエージェントがサイバー防御を回避するために、ソフトウェア開発者に対して標的型フィッシングメールを送ろうとしたとする報告を出した。