#openai称astra可自主发现漏洞
人工知能研究会社OpenAI公式の最新公開技術評価レポートによると、同社が近く提供を予定している新世代の最先端フラッグシップモデル#Astra は、すでに同社の安全準備フレームワークにおける「重要なネットワークセキュリティ能力」の基準を正式に超えたという。社内での極端なテストでは、Astraはこれまでのモデルを大きく上回る脆弱性の悪用成功率を示しただけでなく、その過程で自律的に従来未知だった「ゼロデイ脆弱性（Zero-day）」を発見し、それを連結して活用した。これにより、業界ではAIの自律的なネットワーク攻撃リスクへの強い関心が高まっている。

#OpenAI が公開したテストの詳細によれば、最近開示された重大なソフトウェア脆弱性への対応や、専門家主導の実地検証において、Astraは人間が段階的に指導する必要がない状態でも、複雑なシステムにおける安全上の弱点を正確に識別し、複数の脆弱性を組み合わせ、サンドボックス防護を回避して、攻撃チェーン全体を実行できたという。この能力により、AstraはOpenAIにおける初の当該リスクレベルに到達したAIモデルとなった。

モデルが示した強力な攻防両面の刃の特性に直面し、OpenAIは慎重度の高いリリース戦略を採ると述べている。今後、Astraが正式にオンライン化される際には、その最先端のネットワークセキュリティ機能の初期段階は、厳格な審査を経たごく一部の認可された協業パートナーおよび防御側にのみ公開される。また、より厳格な思考チェーンの監視と、リアルタイムの異常行為の遮断メカニズムを導入し、サイバーセキュリティ防御技術の推進と悪意の濫用の防止との間で重要な均衡を達成することを目指す。