Компания VulnCheck, занимающаяся сбором данных об уязвимостях, недавно опубликовала третий анализ программы Anthropic по кибербезопасности Project Glasswing. Согласно опубликованному самой Anthropic реестру, по состоянию на 2 ноября за семь месяцев работы Glasswing было зарегистрировано 37 966 находок. Из них опубликованы только 7 349 — около 19,4%, а отмечены как исправленные лишь 217.
Когда Anthropic запустила Glasswing 7 апреля, компания сообщила, что обнаружила «тысячи уязвимостей высокого и критического уровня» и ответственно раскрывает информацию о них сопровождающим проектами с открытым исходным кодом. Автор статьи, сотрудник VulnCheck Патрик Гаррити, с середины апреля создавал базу данных открытых источников и отслеживал каждую уязвимость, которую можно отнести на счёт Anthropic.
За два месяца добавилось почти 12 000 находок, а число исправленных выросло всего на 15
VulnCheck сравнила реестры за 8 сентября и 2 ноября: общее число находок выросло с 26 153 до 37 966 — на 11 813; число исправленных увеличилось с 202 до 217 — всего на 15; число отозванных выросло с 245 до 419, а помеченных как дубликаты — с 2 до 1 670. За тот же период указанная в реестре доля истинно положительных результатов выросла с 91,4% до 94,2%.
По мнению Гаррити, число дубликатов и отозванных отчетов превышает число исправленных, однако доля истинно положительных результатов продолжает расти. Это может означать, что система классификации в реестре не отражает эти результаты. Он также выявил 442 номера CVE, которые можно отнести к заслугам Anthropic, — около 0,5% от всех 93 450 CVE за этот год. Лишь 2 из них попали в список уязвимостей, фактически использованных злоумышленниками.
Более половины отчетов, полученных curl, признали неуязвимостями
VulnCheck также приводит в пример ситуацию с curl — инструментом для загрузки файлов с открытым исходным кодом. Недавно сопровождающий проект Даниэль Стенберг сообщил, что проект получил от Anthropic 45 отчетов об уязвимостях. Сама Anthropic оценила один из них как уязвимость средней степени риска, а остальные — как низкой. На момент публикации анализа из 34 обнародованных отчетов 19 были признаны неуязвимостями, 6 подтвердились как уязвимости низкого риска, а еще 9 оставались на рассмотрении.
Вывод Гаррити таков: ИИ действительно полезен для поиска уязвимостей, однако данные за семь месяцев не соответствуют заявлениям, сделанным при запуске Glasswing, а бремя проверки перекладывается на сопровождающих проектов с открытым исходным кодом.
Anthropic ранее признавалась, что узким местом является проверка людьми
8 октября, представляя OSS Scanner — инструмент для самостоятельного сканирования проектов с открытым исходным кодом, — Anthropic сообщила в официальной публикации, что к тому моменту обнаружила более 29 000 предполагаемых уязвимостей, но вручную проверила лишь около 6 000. Компания признала, что ограничена «возможностями проверки силами людей», и уже по просьбе некоторых сопровождающих проектов разослала почти 5 000 непроверенных отчетов.
Anthropic также указала, что отчеты OSS Scanner «полностью создаются моделью и не проходят проверку или классификацию людьми»; они могут содержать ошибки или недостоверную информацию, и оценивать их должны сами сопровождающие проектов. Об этой инициативе сообщалось ранее: Anthropic бесплатно проверяет проекты с открытым исходным кодом на уязвимости с помощью своей самой мощной модели. На момент публикации Anthropic публично не прокомментировала этот анализ VulnCheck.
Эта статья «Программа Anthropic по поиску уязвимостей: за семь месяцев — 38 000 находок, исправлено лишь 217» впервые появилась на .
【Дополнительный анализ】
【Мои дополнительные выводы】
Этот случай показывает реальные ограничения генеративного ИИ в сфере кибербезопасности и аудита кода. ИИ способен чрезвычайно быстро сканировать весь интернет, но ему не хватает глубокого понимания контекста кода, поэтому высокого уровня ложных срабатываний (галлюцинаций) трудно избежать. «Проверка людьми» становится главным узким местом, превращая результаты сканирования из «инструмента повышения эффективности» в бремя, переложенное на сопровождающих проектов с открытым исходным кодом. Это показывает, что сейчас ИИ в сфере безопасности следует рассматривать лишь как вспомогательный инструмент первичного отбора: он пока не способен полностью заменить специалистов по безопасности.
【Влияние на рынок】
1. **Рынок акций США**:
- **Ключевые инвесторы Anthropic (Amazon, Alphabet)**: влияние **от нейтрального до слегка негативного**. Рынок может пересмотреть сроки коммерческого внедрения генеративного ИИ в задачах, требующих высокой точности, и оценить его окупаемость инвестиций (ROI).
- **Традиционные компании в сфере кибербезопасности (например, Palo Alto Networks и CrowdStrike)**: влияние **от нейтрального до умеренно позитивного**. Высокий уровень шума при сканировании исключительно с помощью ИИ подчеркивает незаменимость гибридной модели «ИИ + экспертные услуги» и ослабляет опасения рынка по поводу того, что генеративный ИИ быстро вытеснит традиционных поставщиков решений в области безопасности.
2. **Рынок акций Тайваня**:
- **Секторы информационной безопасности и системной интеграции (например, Systex и Zero One Tech)**: влияние **в целом нейтральное**. Воздействие на фактические финансовые показатели ограничено, однако, если компании начнут активнее внедрять инструменты кибербезопасности на базе ИИ, вырастет спрос на местные консультационные услуги и дополнительную проверку.
3. **Рынок криптовалют**:
- **Токены сектора ИИ (например, FET, TAO и другие)**: влияние **от слегка негативного до нейтрального**. «Автоматическое сканирование и исправление уязвимостей смарт-контрактов с помощью ИИ» — одна из ключевых идей применения ИИ в блокчейне. Этот случай может вернуть ожидания рынка относительно скорого внедрения автоматизированного аудита безопасности на базе ИИ к более реалистичному уровню.
【За чем следить】
Если в дальнейшем Anthropic сможет заметно снизить число ложных срабатываний благодаря обновлению моделей или усилению алгоритмов предварительной фильтрации, это поможет восстановить доверие рынка к ее инструментам безопасности на базе ИИ. В противном случае, если негативное отношение сообщества разработчиков открытого ПО к отчетам ИИ усилится, это может навредить репутации Anthropic.
【Предупреждение о рисках】
Технологии ИИ развиваются чрезвычайно быстро, и ограничения моделей могут быть преодолены в ближайшее время. Инвесторам не следует делать преждевременные выводы о долгосрочной конкурентоспособности компаний, опираясь лишь на один отчет об отслеживании.