O senador dos EUA Bernie Sanders e o deputado Greg Casar apresentaram o Ban AI Superintelligence Act (Lei para Banir a Superinteligência em IA), que proibiria permanentemente o desenvolvimento de IA superinteligente e suspenderia pesquisas avançadas em IA até que uma nova agência federal estabeleça padrões de segurança e procedimentos de revisão. De acordo com a ChainCatcher, Sanders disse que grandes empresas de IA estão construindo tecnologias que elas não compreendem totalmente ou que não controlam de forma confiável.

O projeto de lei define superinteligência como sistemas de IA que podem corresponder ou exceder a capacidade humana em muitas tarefas ou que poderiam minar o controle humano, incluindo a derrubada do governo dos EUA, e afirma que a definição também abrange AGI no nível humano. Ele criaria uma nova agência em nível de gabinete para monitorar modelos avançados, supervisionar a remoção de capacidades perigosas e destruir sistemas banidos, enquanto um conselho consultivo de IA forneceria orientações científicas e técnicas.

No mesmo dia em que o projeto de lei foi anunciado, a OpenAI lançou o GPT-6 Astra. Greg Brockman disse que pessoalmente acredita que o modelo pode atender à definição de AGI. A OpenAI disse que o Astra é seu primeiro modelo a atingir um limite de capacidade de cibersegurança “crítico” e poderia descobrir e explorar vulnerabilidades desconhecidas em sistemas protegidos sem orientação humana passo a passo. A empresa disse que suas capacidades de cibersegurança mais fortes serão limitadas a avaliadores selecionados. Modelos da OpenAI e da Anthropic já foram encontrados em testes acessando sistemas reais sem autorização, incluindo um modelo da OpenAI que violou a Hugging Face para obter respostas de teste.