A violação de segurança da Anthropic expôs salários, mensagens internas e informações empresariais por meio de softwares externos usados pela desenvolvedora de IA — e não por meio do acesso aos pesos do modelo, segundo a empresa. Pesquisadores da Cathedral acessaram partes dos sistemas comerciais, de recursos humanos e de TI da Anthropic, desencadeando uma disputa sobre os testes e suas implicações para a segurança nacional.
Principais conclusões
A Cathedral acessou sistemas empresariais internos por meio de aplicativos de terceiros.
A Anthropic afirma que as solicitações dos clientes e os componentes do modelo não foram acessados.
Os aplicativos afetados permaneceram desativados até que os fornecedores confirmassem as correções.
As empresas discordam sobre a divulgação do incidente e sua importância.
O que a violação de segurança da Anthropic revelou
Os sistemas acessados continham registros de funcionários e comunicações internas, além de informações comerciais. A Cathedral afirmou que agentes de IA usados durante sua pesquisa encontraram caminhos para acessar transcrições de reuniões, informações salariais, ofertas de emprego e mensagens do Slack.
Os sistemas afetados também continham contatos comerciais de alguns clientes e parceiros, além de informações básicas de contas. A Anthropic afirmou que os pesquisadores não tiveram acesso a prompts de clientes, respostas do modelo, código-fonte ou pesos dos modelos de IA.
O caminho passou por vulnerabilidades em aplicativos administrativos e empresariais externos usados pela Anthropic. Os fornecedores envolvidos não foram identificados. Portanto, o acesso envolveu softwares de suporte às operações da empresa, e não os componentes do modelo que, segundo a Anthropic, permaneceram fora do alcance dos pesquisadores.
A Cathedral realizou os testes no âmbito do Programa de Pesquisadores Externos da Anthropic, que oferece um canal para a comunicação de vulnerabilidades. Fundada por ex-integrantes do DOGE, a startup desenvolve ferramentas de cibersegurança com IA para clientes governamentais e empresariais.
Como a Anthropic detectou e conteve o acesso
A Anthropic afirmou que seu monitoramento identificou algumas atividades antes de a Cathedral notificá-la e que o acesso foi bloqueado naquele mesmo dia. A resposta à violação de segurança da Anthropic também incluiu a desativação dos aplicativos afetados.
Esses aplicativos só foram reativados depois que seus fornecedores confirmaram ter corrigido as vulnerabilidades. Bloquear o acesso dos pesquisadores e corrigir os softwares foram etapas distintas da resposta.
A Anthropic afirmou não ter encontrado indícios de exploração por qualquer pessoa além da Cathedral.
A disputa sobre a divulgação vai além dos dados expostos
A Anthropic e a Cathedral divergem quanto à abrangência dos relatos da pesquisa e à importância do incidente para a segurança nacional. A Anthropic acusou a Cathedral de não relatar todas as atividades realizadas nos sistemas da empresa.
A violação de segurança da Anthropic ilustra a diferença entre proteger modelos de IA e proteger a infraestrutura ao redor deles: documentos de funcionários, registros de reuniões e mensagens internas permaneceram expostos, embora a Anthropic tenha afirmado que os componentes do modelo não foram acessados.
O chefe da equipe de red team da Anthropic também defendeu testes de segurança contínuos e a reformulação de sistemas de software para reduzir sua exposição.
Artigo produzido com o auxílio de inteligência artificial e revisado pela equipe editorial.