Los legisladores en Nueva York han aprobado un proyecto de ley para limitar los desastres causados por la inteligencia artificial. Según el proyecto de ley, el estado quiere prevenir que los modelos de IA creados por empresas como OpenAI, Google y Anthropic contribuyan a escenarios de desastre.
Según el proyecto de ley, estos escenarios incluyen la muerte o lesión de más de 100 personas o más de $1 mil millones en daños o pérdidas. El proyecto de ley, conocido como la Ley RAISE, representa una victoria para los movimientos que impulsan la seguridad de la IA. Los movimientos han perdido fuerza en los últimos años, ya que Silicon Valley y la administración Trump han continuado priorizando la velocidad y la innovación.
Los defensores enfocados en la seguridad, incluidos el laureado con el Premio Nobel Geoffrey Hinton y el pionero en investigación de IA Yoshua Bengio, están detrás de la Ley RAISE. Si finalmente se firma como ley, el proyecto de ley establecería el primer conjunto de estándares de transparencia legalmente obligatorios para los principales laboratorios de inteligencia artificial en los Estados Unidos de América.
Nueva York considera la Ley RAISE para limitar desastres provocados por IA
La Ley RAISE tiene algunas de las mismas disposiciones y objetivos que el controvertido proyecto de ley de seguridad de IA SB 1047 en California, que fue eventual veto.
Sin embargo, un co-patrocinador de la Ley RAISE, el senador del Estado de Nueva York Andrew Gounardes, mencionó en una entrevista que diseñó el proyecto de ley de manera que no ahogue la innovación entre las startups o los investigadores académicos, una crítica común que enfrentó el SB 1047. “La ventana para implementar salvaguardias se está reduciendo rápidamente dado lo rápido que está evolucionando esta tecnología”, dijo el senador Gounardes.
El senador también dijo que la mayoría de las personas que están bien versadas en el sector de la IA también han reconocido estos riesgos, un desarrollo que él llamó “alarmante”. Mientras tanto, la Ley RAISE está ahora en camino al escritorio de la gobernadora de Nueva York, Kathy Hochul, donde ella podría firmarla como ley o devolverla para enmienda. Otra opción sería que ella vete el proyecto de ley, lo cual es probable.
Si finalmente se firma como ley, la Ley RAISE requerirá que algunos de los mayores laboratorios de IA del mundo publiquen informes de seguridad y protección sobre sus modelos de IA de vanguardia. El proyecto de ley también obliga a los laboratorios de IA a informar sobre incidentes de seguridad relacionados con el comportamiento de los modelos de IA o actores maliciosos que roban un modelo de IA, si ocurre.
Si las empresas tecnológicas no cumplen con estos estándares, la Ley RAISE otorga al fiscal general de Nueva York el poder de imponer sanciones civiles de hasta $30 millones contra ellas.
La Ley RAISE busca regular los laboratorios de IA
La Ley RAISE fue diseñada para regular las mayores empresas de IA a nivel mundial, incluidas aquellas con sede en California como OpenAI y Google, y aquellas con sede en China, como DeepSeek y Alibaba. Los requisitos del proyecto de ley incluyen una cláusula obligatoria que se aplica a las empresas que utilizaron más de $100 millones en recursos informáticos para entrenar sus modelos de IA y están disponibles para residentes en Nueva York.
Aunque es similar al SB 1047 en algunos aspectos, la Ley RAISE aborda algunos de los proyectos de ley de seguridad de IA anteriores.
Por ejemplo, ninguna cláusula exige a los desarrolladores de modelos de IA tener un interruptor de emergencia en sus modelos, ni se responsabiliza a las empresas que post-entrenan sus modelos por daños críticos. Sin embargo, ha habido resistencia al proyecto de ley de Nueva York, según el co-patrocinador de la Ley RAISE, el miembro de la Asamblea del Estado de Nueva York, Alex Bores. Él llamó a la resistencia no sorprendente, pero añadió que la Ley RAISE no limitará la capacidad de desarrollo de las empresas tecnológicas de ninguna manera.
“La Ley RAISE de Nueva York es otro proyecto de ley de IA estúpido, estúpido a nivel estatal que solo perjudicará a EE. UU. en un momento en que nuestros adversarios están adelantándose”, dijo el socio general de Andreessen Horowitz, Anjney Midha, en una publicación del viernes en X.
Andreessen Horowitz y el incubador de startups Y Combinator se opusieron ferozmente al SB 1047. Además, el cofundador de Anthropic, Jack Clark, también compartió sus quejas sobre lo amplia que es la Ley RAISE, señalando que podría presentar riesgos para las empresas más pequeñas.
Tus noticias de cripto merecen atención - KEY Difference Wire te coloca en más de 250 sitios destacados