Os reguladores do Reino Unido estão correndo para avaliar o perigo representado pelo mais recente modelo de IA da Anthropic, depois que funcionários decidiram que sua capacidade de encontrar falhas de software ocultas poderia se tornar um risco direto para bancos, seguradoras, bolsas e o sistema financeiro mais amplo.

De acordo com o Financial Times, as conversas envolvem o Banco da Inglaterra, a Autoridade de Conduta Financeira, o Tesouro de HM e o Centro Nacional de Segurança Cibernética, que estão revisando vulnerabilidades nos sistemas de TI em toda a finança britânica.

Bancos britânicos, seguradoras e bolsas serão avisados dentro das próximas duas semanas sobre os riscos ligados ao Claude Mythos Preview, o mais recente lançamento da Anthropic, que foi anteriormente relatado pelo Cryptopolitan. A resposta britânica segue uma convocação do Secretário do Tesouro dos EUA, Scott Bessent, que chamou líderes de grandes bancos de Wall Street para discutir a mesma questão.

Na semana passada, quando a Anthropic lançou o Mythos para clientes selecionados, a startup de $380 bilhões de San Francisco disse que o sistema já havia encontrado “milhares de vulnerabilidades de alta gravidade, incluindo algumas em todos os principais sistemas operacionais e navegadores da web,” incluindo algumas que haviam passado despercebidas por décadas.

Os reguladores preparam avisos para bancos, enquanto o modelo cibernético da Anthropic expõe falhas antigas do sistema.

A questão está prevista para a próxima reunião do Grupo de Resiliência Operacional Cross Market, ou CMORG, onde reguladores britânicos e empresas financeiras discutem ameaças ao setor. O CMORG é co-presidido por Duncan Mackinnon, diretor executivo de risco supervisionado do Banco da Inglaterra, e David Postings, chefe da UK Finance.

O grupo inclui representantes seniores de oito dos maiores bancos do Reino Unido, quatro provedores de infraestrutura financeira, dois seguradores, além do NCSC, da FCA e do HM Treasury. O Telegraph foi o primeiro a relatar a agenda. O Banco da Inglaterra se recusou a comentar.

A Anthropic disse: “Não demorará muito até que tais capacidades se proliferem, potencialmente além de atores que estão comprometidos em implantá-las de forma segura.” Também alertou que “as consequências para as economias, a segurança pública e a segurança nacional podem ser severas.”

Funcionários estão examinando se ferramentas como esta poderiam expor pontos fracos em sistemas de pagamento, locais de negociação, redes de seguros e outras partes essenciais do mercado. David Raw, diretor administrativo de resiliência da UK Finance, disse: “Estamos cientes dos relatos da imprensa sobre o desenvolvimento de IA da Anthropic e dos riscos destacados.”

Ele acrescentou: “O UK Finance se envolve com nossos membros e, por meio de nossas parcerias público/privadas, sobre quaisquer riscos operacionais significativos que possam afetar a resiliência do setor de serviços financeiros do Reino Unido.”

O Banco da Inglaterra também pode convocar o Grupo de Continuidade de Negócios Cross Market em uma a duas horas durante uma ameaça urgente, mas não fez isso aqui.

A OpenAI pausa o Stargate UK enquanto a Grã-Bretanha luta com os custos de energia e a incerteza das regras de IA

O cenário mais amplo da IA é difícil ao mesmo tempo. A OpenAI, rival da Anthropic, está pausando seu projeto de centro de dados no Reino Unido de vários bilhões de libras, o Stargate UK. O plano incluía um grande local no nordeste da Inglaterra e acesso a chips poderosos por meio de parcerias com a Nvidia e a Nscale.

Fazia parte de um pacote mais amplo de investimentos em tecnologia de £31 bilhões no Reino Unido. Na quinta-feira, um porta-voz da OpenAI disse que a empresa avançaria apenas quando as “condições certas” pudessem “permitir investimentos em infraestrutura a longo prazo.”

O porta-voz disse: “Vemos um enorme potencial para o futuro da IA no Reino Unido. Londres é o lar de nosso maior centro de pesquisa internacional, e apoiamos a ambição do governo de ser um líder em IA.” Eles acrescentaram:-

“A computação de IA é fundamental para esse objetivo. Continuamos a explorar o Stargate UK e avançaremos quando as condições certas, como regulamentação e o custo da energia, permitirem investimentos em infraestrutura a longo prazo.”

Quando a OpenAI anunciou o projeto em setembro, disse que fortaleceria as “capacidades de computação soberana” do Reino Unido e impulsionaria o desenvolvimento nativo de IA. Afirmou também que o projeto ajudaria a impulsionar a economia futura, aumentar a competitividade e apoiar o Plano de Ação de Oportunidades de IA nacional.

Mas os preços de energia da Grã-Bretanha já estavam muito acima dos dos EUA antes da guerra do Irã ter elevado os custos, e permanece a incerteza sobre se a lei mudará para permitir que as empresas de IA treinem modelos em obras protegidas por direitos autorais por meio de um sistema de “opt out” para criadores.

Não leia apenas notícias sobre criptomoedas. Entenda-as. Inscreva-se em nosso boletim informativo. É gratuito.