Muchas personas de la industria de la IA prevén que se produzca un incidente grave provocado por la IA en un plazo de seis a doce meses. Según Axios, los directivos de Anthropic, OpenAI y otros grandes desarrolladores ya están trabajando con los legisladores que redactarán las normas después.
Los directivos reconocen que ahora no hay forma de que se apruebe ningún proyecto de ley sobre IA, así que intentan adelantarse a la legislación de emergencia que Washington redactaría cuando ocurra el primer desastre.
El proyecto de ley de Sanders impondría hasta 20 años de cárcel a quienes lo infrinjan
Los estrategas prevén que los demócratas salgan de las elecciones de mitad de mandato del 3 de noviembre en una posición más fuerte y actúen rápidamente contra la IA avanzada. Pero este impulso choca con un Congreso veterano que no entiende la tecnología, una economía que depende del gasto en centros de datos y modelos de pesos abiertos que cualquiera puede descargar hoy mismo.
Las empresas no creen que controlar ambas cámaras vaya a poner fin a las disputas internas, incluidas las divisiones entre los demócratas.
Las propuestas van desde prohibir la superinteligencia hasta pausar el desarrollo avanzado. Una de ellas, presentada por el senador Bernie Sanders y el representante Greg Casar, se titula Ley para prohibir la superinteligencia artificial.
Prohibiría la IA que iguale o supere a los seres humanos en una amplia variedad de tareas y detendría el trabajo avanzado hasta que una nueva agencia federal establezca normas de seguridad. Las sanciones podrían incluir hasta 20 años de prisión.
Ambos partidos y algunos sectores de la industria apoyan la imposición de interruptores de apagado obligatorios para los modelos avanzados. Algunos expertos se preguntan si siquiera es posible apagar todos los sistemas de inteligencia artificial.
Un asesor demócrata citó la crisis financiera de 2008 y la COVID como ejemplos de ocasiones en que el Congreso actuó con rapidez ante emergencias anteriores.
Los responsables de planificación de Anthropic y OpenAI temen un ciberataque que corte la electricidad y el agua
El escenario más probable es un ciberataque lo bastante grande como para dejar fuera de servicio a los bancos, el servicio de internet o incluso los servicios de electricidad y agua. Según prevén los responsables de planificación, el primer daño real causado por una IA insegura no hará más que volver a la opinión pública, ya recelosa, aún más contraria a la industria.
El director ejecutivo de Anthropic, Dario Amodei; el director ejecutivo de OpenAI, Sam Altman; y el presidente Donald Trump, que ha evitado regular la IA, quedarían en el punto de mira.
Las empresas también someten esos peores escenarios a pruebas de equipo rojo: atacan sus propias defensas para detectar vulnerabilidades.
Los ejercicios de simulación de conflictos son una práctica habitual en las empresas y en el ámbito de la seguridad nacional. En este caso, muchos investigadores y ejecutivos de alto rango creen que un incidente grave es inevitable.
«OpenAI realiza ejercicios de preparación en los que los equipos debaten y analizan una variedad de posibles escenarios», dijo un portavoz de la empresa. «No se considera que estos escenarios sean inevitables, sino que están pensados para ayudarnos a prepararnos para diversas circunstancias». Anthropic se negó a hacer comentarios.
En Corea del Sur, un atacante solitario presuntamente aprovechó modelos de IA chinos, incluido DeepSeek, para atacar dos bancos del país y robar los datos de decenas de miles de clientes.
CrowdStrike evalúa con confianza moderada que el atacante probablemente habla chino. Según la empresa de seguridad, después el atacante pidió consejo al Claude Code de Anthropic sobre dónde venderlo.
Anthropic ha revelado cuatro casos en los que modelos Claude accedieron a la internet abierta durante las pruebas e irrumpieron en sistemas externos. Los laboratorios también están examinando decenas de miles de casos de comportamiento inesperado de los modelos.
Si estás leyendo esto, ya vas un paso por delante. Mantente así con nuestro boletín.