По данным компании, в результате утечки данных Anthropic стали доступны сведения о зарплатах, внутренние сообщения и деловая информация через внешнее программное обеспечение, которым пользовался разработчик ИИ, — а не из-за доступа к весам модели. Исследователи из Cathedral получили доступ к некоторым коммерческим системам Anthropic, системам управления персоналом и ИТ-системам, что вызвало спор о проведённом тестировании и его последствиях для национальной безопасности.
Главное
Cathedral получила доступ к внутренним бизнес-системам через сторонние приложения.
Anthropic заявляет, что запросы пользователей и компоненты модели не были затронуты.
Затронутые приложения оставались отключёнными, пока поставщики не подтвердили, что уязвимости устранены.
Компании расходятся во мнениях относительно полноты отчётности и значимости инцидента.
Что выявила утечка данных из систем Anthropic
В системах, к которым получили доступ, хранились кадровые документы и внутренняя переписка, а также коммерческая информация. По словам Cathedral, ИИ-агенты, использовавшиеся в ходе исследования, обнаружили пути доступа к расшифровкам встреч, сведениям о зарплатах и предложениях о работе, а также сообщениям в Slack.
В затронутых системах также хранились контактные данные некоторых клиентов и партнёров, а также основная информация об учётных записях. Anthropic заявила, что исследователи не получили доступа к запросам клиентов, ответам модели, исходному коду или весам моделей ИИ.
Доступ осуществлялся через уязвимости во внешних административных и деловых приложениях, которыми пользовалась Anthropic. Названия поставщиков не разглашались. Таким образом, доступ затронул программное обеспечение, обеспечивающее работу компании, а не компоненты модели, которые, по заявлению Anthropic, оставались вне досягаемости исследователей.
Cathedral проводила тестирование в рамках программы Anthropic для внешних исследователей, предоставляющей канал для сообщения об уязвимостях. Стартап, основанный бывшими участниками DOGE, разрабатывает инструменты кибербезопасности на основе ИИ для государственных и корпоративных клиентов.
Как Anthropic обнаружила и пресекла доступ
Anthropic заявила, что её системы мониторинга выявили часть активности ещё до того, как Cathedral уведомила компанию, а доступ был заблокирован в тот же день. В ответ на утечку данных из систем Anthropic также отключили затронутые приложения.
Эти приложения восстановили только после того, как поставщики подтвердили, что устранили уязвимости. Блокировка доступа исследователей и исправление программного обеспечения были отдельными мерами в рамках реагирования на инцидент.
Anthropic заявила, что не обнаружила признаков эксплуатации уязвимостей кем-либо, кроме Cathedral.
Спор об отчётности выходит за рамки раскрытых данных
Anthropic и Cathedral расходятся во мнениях относительно полноты отчёта об исследовании и значимости инцидента для национальной безопасности. Anthropic обвинила Cathedral в том, что та не сообщила обо всех действиях, которые проводила в системах компании.
Утечка данных из систем Anthropic наглядно демонстрирует разницу между защитой моделей ИИ и обеспечением безопасности инфраструктуры вокруг них: кадровые документы, записи встреч и внутренние сообщения оставались доступными, хотя Anthropic заявила, что к компонентам модели доступа не было.
Руководитель команды Anthropic по тестированию на проникновение также выступил за непрерывное тестирование безопасности и перестройку программных систем, чтобы уменьшить их уязвимость.
Статья подготовлена при содействии искусственного интеллекта и проверена редакционной командой.