#openai称astra可自主发现漏洞
Laut dem neuesten technischen Bewertungsbericht der OpenAI-Research-Company zur künstlichen Intelligenz hat das Unternehmen mit dem unmittelbar bevorstehenden Start seines neuen Generation-Flaggschiffs #Astra offiziell die Schwelle für „zentrale Fähigkeiten der Netzwerksicherheit“ innerhalb des unternehmensinternen Sicherheitsvorbereitungsrahmens überschritten. In internen Extremtests zeigte Astra nicht nur eine deutlich höhere Erfolgsquote bei der Ausnutzung von Schwachstellen als frühere Modelle, sondern entdeckte im Verlauf auch eigenständig und verknüpfte bisher unbekannte „Zero-Day“-Schwachstellen. Dies hat in der Branche für hohes Aufsehen gesorgt und die Aufmerksamkeit auf das Risiko autonomer KI-basierter Cyberangriffe gelenkt.
Gemäß den von #OpenAI veröffentlichten Testdetails konnte Astra in Reaktionen auf kürzlich offengelegte, besonders kritische Software-Schwachstellen sowie in von Experten geleiteten Realtests komplexe Sicherheitslücken präzise identifizieren – ohne dass eine schrittweise menschliche Anleitung erforderlich war. Zudem führte es vollständige Angriffsketten aus, indem mehrere Schwachstellen kombiniert und Schutzmaßnahmen wie die Umgehung von Sandboxen eingesetzt wurden. Diese Fähigkeit macht es zum ersten KI-Modell von OpenAI, das dieses Risikoniveau erreicht.
Angesichts der starken „Doppelklinge“-Eigenschaften, die das Modell im Angriff und in der Verteidigung zeigt, erklärte OpenAI, dass es eine äußerst vorsichtige Veröffentlichungsstrategie verfolgen werde. Wenn Astra in Zukunft offiziell online geht, werden seine fortschrittlichsten Cybersecurity-Funktionen in der Anfangsphase lediglich für wenige, streng geprüfte autorisierte Kooperationspartner und Verteidiger freigegeben. Zusätzlich werden strengere Überwachungsmechanismen für die Denk-/Reasoning-Kette sowie Systeme zur sofortigen Erkennung und Abwehr anomalen Verhaltens eingeführt, um eine entscheidende Balance zwischen dem Vorantreiben von Sicherheitstechnologien im Cyberbereich und der Verhinderung böswilliger missbräuchlicher Nutzung zu erreichen.
Laut dem neuesten technischen Bewertungsbericht der OpenAI-Research-Company zur künstlichen Intelligenz hat das Unternehmen mit dem unmittelbar bevorstehenden Start seines neuen Generation-Flaggschiffs #Astra offiziell die Schwelle für „zentrale Fähigkeiten der Netzwerksicherheit“ innerhalb des unternehmensinternen Sicherheitsvorbereitungsrahmens überschritten. In internen Extremtests zeigte Astra nicht nur eine deutlich höhere Erfolgsquote bei der Ausnutzung von Schwachstellen als frühere Modelle, sondern entdeckte im Verlauf auch eigenständig und verknüpfte bisher unbekannte „Zero-Day“-Schwachstellen. Dies hat in der Branche für hohes Aufsehen gesorgt und die Aufmerksamkeit auf das Risiko autonomer KI-basierter Cyberangriffe gelenkt.
Gemäß den von #OpenAI veröffentlichten Testdetails konnte Astra in Reaktionen auf kürzlich offengelegte, besonders kritische Software-Schwachstellen sowie in von Experten geleiteten Realtests komplexe Sicherheitslücken präzise identifizieren – ohne dass eine schrittweise menschliche Anleitung erforderlich war. Zudem führte es vollständige Angriffsketten aus, indem mehrere Schwachstellen kombiniert und Schutzmaßnahmen wie die Umgehung von Sandboxen eingesetzt wurden. Diese Fähigkeit macht es zum ersten KI-Modell von OpenAI, das dieses Risikoniveau erreicht.
Angesichts der starken „Doppelklinge“-Eigenschaften, die das Modell im Angriff und in der Verteidigung zeigt, erklärte OpenAI, dass es eine äußerst vorsichtige Veröffentlichungsstrategie verfolgen werde. Wenn Astra in Zukunft offiziell online geht, werden seine fortschrittlichsten Cybersecurity-Funktionen in der Anfangsphase lediglich für wenige, streng geprüfte autorisierte Kooperationspartner und Verteidiger freigegeben. Zusätzlich werden strengere Überwachungsmechanismen für die Denk-/Reasoning-Kette sowie Systeme zur sofortigen Erkennung und Abwehr anomalen Verhaltens eingeführt, um eine entscheidende Balance zwischen dem Vorantreiben von Sicherheitstechnologien im Cyberbereich und der Verhinderung böswilliger missbräuchlicher Nutzung zu erreichen.
