Los reguladores del Reino Unido están apresurándose a evaluar el peligro que plantea el último modelo de IA de Anthropic, después de que los funcionarios decidieran que su capacidad para encontrar fallos ocultos en el software podría convertirse en un riesgo directo para los bancos, aseguradoras, bolsas y el sistema financiero en general.
Según el Financial Times, las conversaciones involucran al Banco de Inglaterra, la Autoridad de Conducta Financiera, el Tesoro de Su Majestad y el Centro Nacional de Seguridad Cibernética, que están revisando las vulnerabilidades en los sistemas informáticos de las finanzas británicas.
Los bancos británicos, aseguradoras y bolsas serán advertidos dentro de las próximas dos semanas sobre los riesgos vinculados a Claude Mythos Preview, la última versión de Anthropic, que fue reportada anteriormente por Cryptopolitan. La respuesta británica sigue a una convocatoria del Secretario del Tesoro de EE. UU., Scott Bessent, quien convocó a líderes de los principales bancos de Wall Street para discutir el mismo tema.
La semana pasada, cuando Anthropic lanzó Mythos a clientes selectos, la start-up de San Francisco de $380 mil millones dijo que el sistema ya había encontrado “miles de vulnerabilidades de alta gravedad, incluyendo algunas en cada sistema operativo y navegador web principal”, incluyendo algunas que habían pasado desapercibidas durante décadas.
Los reguladores preparan advertencias bancarias a medida que el modelo cibernético de Anthropic saca a la luz fallas del viejo sistema.
El tema está programado para la próxima reunión del Grupo de Resiliencia Operativa Cross Market, o CMORG, donde los reguladores británicos y las empresas financieras discuten las amenazas al sector. CMORG es copresidido por Duncan Mackinnon, el director ejecutivo del Banco de Inglaterra para riesgos de supervisión, y David Postings, jefe de UK Finance.
El grupo incluye representantes senior de ocho de los bancos más grandes del Reino Unido, cuatro proveedores de infraestructura financiera, dos aseguradoras, además del NCSC, la FCA y el Tesoro de Su Majestad. The Telegraph informó primero sobre la agenda. El Banco de Inglaterra se negó a comentar.
Anthropic dijo: “No pasará mucho tiempo antes de que tales capacidades proliferen, potencialmente más allá de los actores que están comprometidos a desplegarlas de manera segura.” También advirtió que “las consecuencias para las economías, la seguridad pública y la seguridad nacional podrían ser graves.”
Los funcionarios están examinando si herramientas como esta podrían exponer puntos débiles en sistemas de pago, lugares de negociación, redes de seguros y otras partes fundamentales del mercado. David Raw, director gerente de resiliencia en UK Finance, dijo: “Estamos al tanto de los informes de prensa sobre el desarrollo de IA de Anthropic y los riesgos destacados.”
Agregó: “UK Finance se involucra con nuestros miembros y a través de nuestras asociaciones público/privadas sobre cualquier riesgo operativo significativo que podría afectar la resiliencia del sector de servicios financieros del Reino Unido.”
El Banco de Inglaterra también puede convocar al Grupo de Continuidad Empresarial Cross Market por separado dentro de una a dos horas durante una amenaza urgente, pero no lo ha hecho aquí.
OpenAI pausa Stargate UK mientras Gran Bretaña lucha con los costos de energía y la incertidumbre en las reglas de IA.
El panorama más amplio de la IA es difícil al mismo tiempo. OpenAI, un competidor de Anthropic, está pausando su proyecto de centro de datos en el Reino Unido de varios miles de millones de libras, Stargate UK. El plan incluía un gran sitio en el noreste de Inglaterra y acceso a chips potentes a través de asociaciones con Nvidia y Nscale.
Formaba parte de un paquete de inversión tecnológica del Reino Unido de £31 mil millones. El jueves, un portavoz de OpenAI dijo que la empresa avanzaría solo cuando las “condiciones adecuadas” pudieran “permitir una inversión en infraestructura a largo plazo.”
El portavoz dijo: “Vemos un enorme potencial para el futuro de la IA en el Reino Unido. Londres es el hogar de nuestro mayor centro de investigación internacional, y apoyamos la ambición del gobierno de ser un líder en IA.” Agregaron:
“El cálculo de IA es fundamental para ese objetivo. Continuamos explorando Stargate UK y avanzaremos cuando las condiciones adecuadas, como la regulación y el costo de la energía, permitan una inversión en infraestructura a largo plazo.”
Cuando OpenAI anunció el proyecto en septiembre, dijo que fortalecería las “capacidades de cálculo soberano” del Reino Unido y fomentaría el desarrollo nativo de IA. También dijo que el proyecto ayudaría a impulsar la economía futura, aumentar la competitividad y apoyar el Plan de Acción de Oportunidades de IA nacional.
Pero los precios de la energía en Gran Bretaña ya estaban muy por encima de los de EE. UU. antes de que la guerra en Irán hiciera que los costos aumentaran, y sigue habiendo incertidumbre sobre si la ley cambiará para permitir que las empresas de IA entrenen modelos sobre obras protegidas por derechos de autor a través de un sistema de “opt out” para creadores.
No solo leas noticias sobre criptomonedas. Entiéndelas. Suscríbete a nuestro boletín. Es gratis.
