La brecha de seguridad de Anthropic expuso salarios, mensajes internos e información empresarial a través de software externo utilizado por la empresa desarrolladora de IA, pero no mediante el acceso a los pesos de su modelo, según la compañía. Investigadores de Cathedral accedieron a partes de los sistemas comerciales, de recursos humanos y de TI de Anthropic, lo que desató una disputa sobre las pruebas y sus implicaciones para la seguridad nacional.
Conclusiones clave
Cathedral accedió a sistemas empresariales internos a través de aplicaciones de terceros.
Anthropic afirma que no se accedió a las indicaciones de los clientes ni a los componentes del modelo.
Las aplicaciones afectadas permanecieron deshabilitadas hasta que los proveedores confirmaron que habían corregido las vulnerabilidades.
Las empresas discrepan sobre la notificación y la importancia del incidente.
Qué reveló la brecha de seguridad de Anthropic
Los sistemas a los que se accedió contenían registros del personal y comunicaciones internas, además de información comercial. Cathedral afirmó que los agentes de IA utilizados durante su investigación encontraron vías de acceso a transcripciones de reuniones, información salarial, ofertas de empleo y mensajes de Slack.
Los sistemas afectados también almacenaban contactos comerciales de algunos clientes y socios, así como información básica de cuentas. Anthropic afirmó que los investigadores no accedieron a las indicaciones de los clientes, las respuestas de los modelos, el código fuente ni los pesos de los modelos de IA.
La vía de acceso pasaba por vulnerabilidades en aplicaciones administrativas y comerciales externas utilizadas por Anthropic. No se nombró a los proveedores implicados. Por lo tanto, el acceso afectó a software que daba soporte a la empresa, y no a los componentes de los modelos que, según Anthropic, quedaron fuera del alcance de los investigadores.
Cathedral llevó a cabo las pruebas en el marco del Programa de Investigadores Externos de Anthropic, que ofrece un canal para informar sobre vulnerabilidades. Fundada por antiguos miembros de DOGE, la startup desarrolla herramientas de ciberseguridad con IA para clientes gubernamentales y empresariales.
Cómo Anthropic detectó y contuvo el acceso
Anthropic afirmó que sus sistemas de monitorización detectaron cierta actividad antes de que Cathedral se lo notificara, y que el acceso se cortó ese mismo día. La respuesta a la brecha de seguridad de Anthropic también incluyó la desactivación de las aplicaciones afectadas.
Esas aplicaciones solo se restauraron después de que sus proveedores confirmaran que habían corregido las vulnerabilidades. Cortar el acceso de los investigadores y corregir el software fueron dos medidas distintas de la respuesta.
Anthropic afirmó que no tenía pruebas de que alguien más que Cathedral hubiera explotado las vulnerabilidades.
La disputa sobre la notificación va más allá de los datos expuestos
Anthropic y Cathedral discrepan sobre la exhaustividad de los informes de la investigación y la importancia del incidente para la seguridad nacional. Anthropic acusó a Cathedral de no haber informado sobre toda la actividad que llevó a cabo en los sistemas de la empresa.
La brecha de seguridad de Anthropic pone de manifiesto la diferencia entre proteger los modelos de IA y proteger la infraestructura que los rodea: los documentos del personal, los registros de reuniones y los mensajes internos quedaron expuestos, aunque Anthropic afirmó que no se accedió a los componentes de los modelos.
El responsable del equipo de pruebas de intrusión de Anthropic también defendió la realización de pruebas de seguridad continuas y el rediseño de los sistemas de software para reducir su exposición.
Artículo elaborado con ayuda de inteligencia artificial y revisado por el equipo editorial.