OpenAI pausiert Astra-Modell wegen kritischem Cyber-Risiko
OpenAI setzte die interne Entwicklung seines Astra-Modells aus, nachdem Tests darauf hindeuteten, dass es eine kritische Cybersecurity-Fähigkeit erreichen könnte. Anlass waren jüngste KI-Sicherheitsvorfälle bei Hugging Face, Anthropic und Meta.
Wenn ein KI-Labor sein eigenes Modell aus Sorge pausieren kann, es könnte gehärtete Systeme allein hacken, wie viel Aufsicht bleibt dann bestehen, sobald ein solches Modell irgendwann veröffentlicht wird? Wer entscheidet, wann eine „kritische“ Fähigkeit weit genug ist, um ausgeliefert zu werden, und was passiert, wenn zwei Labore unterschiedlicher Meinung sind? Während immer mehr Unternehmen agentische Systeme entwickeln, die ohne ständige menschliche Überprüfung handeln, fehlt der Branche weiterhin eine gemeinsame Antwort.
https://www.bonuz.xyz/en/blog/openai-astra-model-cyber-pause
OpenAI setzte die interne Entwicklung seines Astra-Modells aus, nachdem Tests darauf hindeuteten, dass es eine kritische Cybersecurity-Fähigkeit erreichen könnte. Anlass waren jüngste KI-Sicherheitsvorfälle bei Hugging Face, Anthropic und Meta.
Wenn ein KI-Labor sein eigenes Modell aus Sorge pausieren kann, es könnte gehärtete Systeme allein hacken, wie viel Aufsicht bleibt dann bestehen, sobald ein solches Modell irgendwann veröffentlicht wird? Wer entscheidet, wann eine „kritische“ Fähigkeit weit genug ist, um ausgeliefert zu werden, und was passiert, wenn zwei Labore unterschiedlicher Meinung sind? Während immer mehr Unternehmen agentische Systeme entwickeln, die ohne ständige menschliche Überprüfung handeln, fehlt der Branche weiterhin eine gemeinsame Antwort.
https://www.bonuz.xyz/en/blog/openai-astra-model-cyber-pause