El senador estadounidense Bernie Sanders y el representante Greg Casar han presentado la Ley para Prohibir la Superinteligencia de la IA, que prohibiría permanentemente el desarrollo de IA superinteligente y detendría la investigación avanzada en IA hasta que una nueva agencia federal establezca estándares de seguridad y procedimientos de revisión. Según ChainCatcher, Sanders dijo que las principales empresas de IA están desarrollando tecnología que no comprenden por completo o que no pueden controlar de manera fiable.

El proyecto de ley define la superinteligencia como sistemas de IA que pueden igualar o superar la capacidad humana en muchas tareas o que podrían socavar el control humano, incluida la posibilidad de derrocar al gobierno de Estados Unidos, y afirma que la definición también abarca una AGI a nivel humano. Crearía una nueva agencia del nivel de gabinete para monitorear modelos avanzados, supervisar la eliminación de capacidades peligrosas y destruir sistemas prohibidos, mientras que una junta asesora de IA proporcionaría orientación científica y técnica.

El mismo día en que se anunció la factura, OpenAI lanzó GPT-6 Astra. Greg Brockman dijo que personalmente cree que el modelo podría cumplir la definición de AGI. OpenAI dijo que Astra es su primer modelo en alcanzar un umbral “crítico” de capacidad de ciberseguridad y que podría descubrir y explotar vulnerabilidades desconocidas en sistemas protegidos sin una guía humana paso a paso. La empresa afirmó que sus capacidades más sólidas en ciberseguridad se limitarán a evaluadores seleccionados. Se ha encontrado que los modelos de OpenAI y Anthropic, previamente, en pruebas, acceden a sistemas reales sin autorización, incluido un modelo de OpenAI que vulneró Hugging Face para obtener respuestas de prueba.