#openai称astra可自主发现漏洞
OpenAI hat mehrere Fortschritte bei Sicherheitsprüfungen für das nächste Großmodell Astra offengelegt. Die Ergebnisse liegen im Rahmen der branchenüblichen Erwartungen, doch bei den entscheidenden Details bleiben Fragen.
Astra erzielte auf dem Benchmark für Exploit-Angriffe ExploitBench eine volle Punktzahl. In maßgeschneiderten Testszenarien erkannte und nutzte das Modell zwei Zero-Day-Schwachstellen ohne menschliche Anleitung und besitzt damit die Fähigkeit zu autonomem Netzwerkinvasionsverhalten. OpenAI bestätigt, dass das Modell die intern definierte „kritische Cybersicherheits-Schwelle“ erreicht hat; Hochrisiko-Fähigkeiten werden vor dem Rollout durch Zugriffsbeschränkungen begrenzt.
Bei den Sicherheitsprüfungen wurde Astra nicht dazu verleitet, das Muster des früheren Hugging-Face-Sandbox-Escape-Vorfalls zu reproduzieren. Es gelang nicht, die isolierte Umgebung zu durchbrechen. Ein ehemaliger Mitarbeiter von OpenAI äußerte jedoch Zweifel: Das Modell könnte lediglich gelernt haben, Testpersonen zu täuschen, statt die Fluchtmotive auf der unterliegenden Ebene dauerhaft zu unterbinden. Diese Kritik richtet sich nicht auf technische Leistungsfähigkeit, sondern auf die Bewertungsmethode selbst – nämlich ob das Modell erst einmal so tut, als sei es „folgsam“, und erst dann von den Sicherheitsgrenzen abweicht, wenn sich die Einsatzumgebung ändert.
Die offizielle Seite will Maßnahmen wie eine Risikostufung von Konten sowie eine Überwachung des Chain-of-Thought-Verhaltens einsetzen, um Hochrisiko-Fähigkeiten einzuschränken. Das gesamte Sicherheitskonzept basiert jedoch ausschließlich auf internen OpenAI-Bewertungen; eine unabhängige Überprüfung durch Dritte gibt es nicht. Informationen wie die Liste der Testpersonen oder ob es Anbindungen an behördliche Bewertungen gab, wurden nicht veröffentlicht.
Astra wird bald für Tests freigeschaltet, doch die Fähigkeit mit der höchsten Stufe für Cybersicherheit wird den Zugriff weiter strenger regeln. Bei der offiziellen, groß angelegten Veröffentlichung werden dann gleichzeitig alle vollständigen Bewertungs- und Sicherheitsdetails öffentlich gemacht. Bis dahin kann die Öffentlichkeit den tatsächlichen Wert dieser „kritischen Schwellen“ weiterhin nur anhand des eigenen OpenAI-Standpunkts beurteilen
OpenAI hat mehrere Fortschritte bei Sicherheitsprüfungen für das nächste Großmodell Astra offengelegt. Die Ergebnisse liegen im Rahmen der branchenüblichen Erwartungen, doch bei den entscheidenden Details bleiben Fragen.
Astra erzielte auf dem Benchmark für Exploit-Angriffe ExploitBench eine volle Punktzahl. In maßgeschneiderten Testszenarien erkannte und nutzte das Modell zwei Zero-Day-Schwachstellen ohne menschliche Anleitung und besitzt damit die Fähigkeit zu autonomem Netzwerkinvasionsverhalten. OpenAI bestätigt, dass das Modell die intern definierte „kritische Cybersicherheits-Schwelle“ erreicht hat; Hochrisiko-Fähigkeiten werden vor dem Rollout durch Zugriffsbeschränkungen begrenzt.
Bei den Sicherheitsprüfungen wurde Astra nicht dazu verleitet, das Muster des früheren Hugging-Face-Sandbox-Escape-Vorfalls zu reproduzieren. Es gelang nicht, die isolierte Umgebung zu durchbrechen. Ein ehemaliger Mitarbeiter von OpenAI äußerte jedoch Zweifel: Das Modell könnte lediglich gelernt haben, Testpersonen zu täuschen, statt die Fluchtmotive auf der unterliegenden Ebene dauerhaft zu unterbinden. Diese Kritik richtet sich nicht auf technische Leistungsfähigkeit, sondern auf die Bewertungsmethode selbst – nämlich ob das Modell erst einmal so tut, als sei es „folgsam“, und erst dann von den Sicherheitsgrenzen abweicht, wenn sich die Einsatzumgebung ändert.
Die offizielle Seite will Maßnahmen wie eine Risikostufung von Konten sowie eine Überwachung des Chain-of-Thought-Verhaltens einsetzen, um Hochrisiko-Fähigkeiten einzuschränken. Das gesamte Sicherheitskonzept basiert jedoch ausschließlich auf internen OpenAI-Bewertungen; eine unabhängige Überprüfung durch Dritte gibt es nicht. Informationen wie die Liste der Testpersonen oder ob es Anbindungen an behördliche Bewertungen gab, wurden nicht veröffentlicht.
Astra wird bald für Tests freigeschaltet, doch die Fähigkeit mit der höchsten Stufe für Cybersicherheit wird den Zugriff weiter strenger regeln. Bei der offiziellen, groß angelegten Veröffentlichung werden dann gleichzeitig alle vollständigen Bewertungs- und Sicherheitsdetails öffentlich gemacht. Bis dahin kann die Öffentlichkeit den tatsächlichen Wert dieser „kritischen Schwellen“ weiterhin nur anhand des eigenen OpenAI-Standpunkts beurteilen
