Компания искусственного интеллекта Anthropic обвинила три фирмы ИИ в незаконном использовании своей большой языковой модели Claude для улучшения собственных моделей в технике, известной как атака «дистилляции».
В блоге в воскресенье Anthropic сообщила, что она выявила эти «атаки» от DeepSeek, Moonshot и MiniMax, которые включают обучение менее способной модели на выходах более сильной.
Anthropic обвинила тройку в создании «более 16 миллионов обменов» в совокупности с ИИ компании Claude на «примерно 24 000 мошеннических счетов».
“Дистилляция — это широко используемый и законный метод обучения. Например, передовые ИИ-лаборатории регулярно дистиллируют свои собственные модели, чтобы создать более мелкие и дешевые версии для своих клиентов,” — написал Anthropic, добавив:
“Но дистилляция также может использоваться в незаконных целях: конкуренты могут использовать ее для приобретения мощных возможностей от других лабораторий за короткий промежуток времени и за меньшую стоимость, чем потребовалось бы для их независимой разработки.”
Anthropic сказал, что атаки были сосредоточены на извлечении данных из Claude для широкого спектра целей, включая агентное рассуждение, кодирование и анализ данных, задания на основе рубрик и компьютерное зрение.
“Каждая кампания была нацелена на наиболее отличительные возможности Claude: агентное рассуждение, использование инструментов и кодирование,” — сказала компания с многомиллиардной капитализацией.
Источник: Anthropic
Anthropic сообщил, что смог идентифицировать тройку по "корреляции IP-адресов, метаданным запросов, показателям инфраструктуры и в некоторых случаях подтверждению от партнеров по отрасли, которые наблюдали за теми же актерами и поведением на своих платформах."
DeepSeek, Moonshot и Minimax — все это ИИ-компании, базирующиеся в Китае. Все три имеют оценочную стоимость в многомиллиардном диапазоне, причем DeepSeek является самой широко признанной на международном уровне из трех.
Помимо последствий для интеллектуальной собственности, Anthropic утверждал, что кампании дистилляции от иностранных конкурентов представляют собой реальные геополитические риски.
"Иностранные лаборатории, которые дистиллируют американские модели, могут затем передавать эти незащищенные возможности в военные, разведывательные и системы наблюдения — позволяя авторитарным правительствам развертывать передовые ИИ для наступательных киберопераций, кампаний дезинформации и массового наблюдения," — сказал представитель компании.
В дальнейшем Anthropic заявил, что будет защищать себя, усиливая системы обнаружения для помощи в выявлении сомнительного трафика, делясь разведывательной информацией о угрозах и ужесточая контроль доступа, среди прочего.
Связано: Отчет о гибели ИИ Citrini видит падение акций программного обеспечения и платежей
Компания также призвала к большему сотрудничеству со стороны участников внутренней индустрии и законодателей, чтобы помочь остановить иностранные ИИ-компании от атак на американские фирмы.
“Никакая компания не может решить эту проблему в одиночку. Как мы отметили выше, атаки дистилляции такого масштаба требуют скоординированного ответа со стороны ИИ-индустрии, поставщиков облачных услуг и политиков. Мы публикуем это, чтобы сделать доказательства доступными для всех, кто заинтересован в результате.”
Журнал: Crypto любит Clawdbot/Moltbot, оценки Uber для ИИ-агентов: AI Eye