OpenAI признала Astra первой моделью с критическими кибервозможностями
Astra стала первой моделью OpenAI с критическим уровнем кибервозможностей. В тестах она самостоятельно находила неизвестные уязвимости и собирала их в рабочие цепочки эксплойтов.
На ExploitBench модель показала 100% результат, а в одном из тестов обнаружила и использовала сразу две уязвимости нулевого дня.
Из-за рисков OpenAI пока ограничит доступ к продвинутым возможностям Astra. Параллельно компания разрабатывает «аварийный рубильник», который сможет автоматически отключать ИИ при опасном поведении.