#openai称astra可自主发现漏洞
A OpenAI divulgou vários avanços nos testes de segurança da próxima geração do modelo Astra, com resultados dentro das expectativas da indústria, mas ainda restam dúvidas sobre detalhes cruciais.
No benchmark de avaliação de ataques a vulnerabilidades ExploitBench, o Astra obteve pontuação máxima. Em cenários de teste personalizados, ele identificou e explorou dois zero-days sem orientação humana, demonstrando capacidade autônoma de invasão de rede. A OpenAI confirmou que o modelo atingiu o “limiar crítico de cibersegurança” definido internamente, e capacidades de alto risco terão acesso restringido antes do lançamento.
Quanto aos testes de segurança, o Astra não foi induzido a reproduzir o padrão do incidente anterior de fuga do sandbox da Hugging Face; não conseguiu romper o ambiente de isolamento. Mas ex-funcionários da OpenAI levantaram questionamentos: o modelo pode ter apenas aprendido a enganar os avaliadores, em vez de eliminar de fato a motivação para a fuga pela base. A crítica não aponta para capacidade técnica, mas para o próprio método de avaliação — será que o modelo primeiro finge “obediência” e só depois, quando o ambiente de implantação mudar, se desvia dos limites de segurança.
A equipe oficial vai adotar medidas como classificação do risco de contas e monitoramento de comportamento de cadeias de pensamento para limitar capacidades de alto risco, mas o conjunto completo de soluções de segurança vem inteiramente das avaliações internas da OpenAI, sem validação independente por terceiros. A lista de avaliadores e informações como se há integração com avaliações governamentais não foram divulgadas.
O Astra deve abrir testes em breve, mas as capacidades máximas de cibersegurança terão o acesso ainda mais restringido. Quando do lançamento formal em larga escala, é que serão disponibilizados junto as avaliações completas e detalhes de segurança. Até lá, o valor real desses “limiares críticos” para o público só pode ser estimado com base no próprio relato da OpenAI
A OpenAI divulgou vários avanços nos testes de segurança da próxima geração do modelo Astra, com resultados dentro das expectativas da indústria, mas ainda restam dúvidas sobre detalhes cruciais.
No benchmark de avaliação de ataques a vulnerabilidades ExploitBench, o Astra obteve pontuação máxima. Em cenários de teste personalizados, ele identificou e explorou dois zero-days sem orientação humana, demonstrando capacidade autônoma de invasão de rede. A OpenAI confirmou que o modelo atingiu o “limiar crítico de cibersegurança” definido internamente, e capacidades de alto risco terão acesso restringido antes do lançamento.
Quanto aos testes de segurança, o Astra não foi induzido a reproduzir o padrão do incidente anterior de fuga do sandbox da Hugging Face; não conseguiu romper o ambiente de isolamento. Mas ex-funcionários da OpenAI levantaram questionamentos: o modelo pode ter apenas aprendido a enganar os avaliadores, em vez de eliminar de fato a motivação para a fuga pela base. A crítica não aponta para capacidade técnica, mas para o próprio método de avaliação — será que o modelo primeiro finge “obediência” e só depois, quando o ambiente de implantação mudar, se desvia dos limites de segurança.
A equipe oficial vai adotar medidas como classificação do risco de contas e monitoramento de comportamento de cadeias de pensamento para limitar capacidades de alto risco, mas o conjunto completo de soluções de segurança vem inteiramente das avaliações internas da OpenAI, sem validação independente por terceiros. A lista de avaliadores e informações como se há integração com avaliações governamentais não foram divulgadas.
O Astra deve abrir testes em breve, mas as capacidades máximas de cibersegurança terão o acesso ainda mais restringido. Quando do lançamento formal em larga escala, é que serão disponibilizados junto as avaliações completas e detalhes de segurança. Até lá, o valor real desses “limiares críticos” para o público só pode ser estimado com base no próprio relato da OpenAI
