Según Axios, Anthropic, OpenAI y otras empresas de IA están simulando en privado escenarios extremos en los que la inteligencia artificial causa daños graves en el mundo real. Según PANews, los ejercicios se centran en casos extremos como ciberataques a gran escala e interrupciones de los servicios financieros, la conectividad a internet y los sistemas de suministro eléctrico y de agua.
Participantes de la industria afirmaron que un incidente grave causado por una IA insegura podría desencadenar una reacción pública más intensa contra esta tecnología y aumentar la presión sobre las empresas de IA y sus directivos. Algunas figuras de la industria de la IA creen que podría ocurrir un suceso grave en los próximos 6 a 12 meses, lo que ha llevado a los directivos a empezar a hablar de antemano con legisladores estadounidenses.
El informe indicó que las empresas de IA están realizando pruebas de equipos rojos para simular los peores escenarios posibles y están acelerando sus esfuerzos para informar a los miembros del Congreso sobre la IA. Los ejecutivos creen que las condiciones actuales no son propicias para aprobar leyes importantes de regulación, pero un incidente grave podría cambiar el debate sobre las políticas y determinar el rumbo de las futuras leyes y normas estadounidenses.
El artículo señaló que algunos demócratas han propuesto prohibir la superinteligencia o pausar el desarrollo de IA avanzada, mientras que otras propuestas, como los interruptores de apagado de emergencia para sistemas de IA avanzada, han recibido apoyo bipartidista y el respaldo de algunas figuras del sector. Los expertos también cuestionaron si sería viable apagar todos los sistemas de IA.
El informe añadió que la amplia disponibilidad de modelos de pesos abiertos que se pueden descargar gratis complica la gestión de riesgos, y que muchos profesionales de la ciberseguridad consideran que usar la IA contra la IA maliciosa es una posible respuesta. Aunque un incidente importante relacionado con la IA provoque una reacción adversa, los responsables políticos estadounidenses aún podrían verse condicionados por la economía, las divisiones políticas y la magnitud de las inversiones en infraestructura de IA.