📰 Антропик 10 сентября выпустила 154-страничный отчёт, в котором заявила, что выявила и заблокировала масштабную «недобросовестную дистилляцию» в адрес Claude со стороны семи китайских AI-лабораторий. Соответствующие аккаунты, как утверждается, массово регистрировались с украденными кредитными картами, логинами/учётными данными для входа и API-ключами, а также получали доступ к пользовательским диалогам через пересылку запросов и сторонние маршрутизирующие сервисы.
🔥 Здесь «дистилляция» — простыми словами: более мощная модель генерирует ответы высокого качества, а затем эти данные используют для обучения собственной модели. В особенности цепочки рассуждений (thinking chain) и траектории выполнения задач агентами — это очень дорогой тренировочный материал. В статье упоминается, что компании по продаже данных продают «долгие» цепочки рассуждений для задач; цена, как утверждается, достигает 800–1000 юаней за одну единицу.
💡 В настоящее время Anthropic в основном опирается на три уровня защиты: модель распознаёт подозрительные запросы и отказывает в ответе, скрывает или сжимает цепочки рассуждений, а затем с помощью внешних систем выявляет аномальные вызовы и блокирует аккаунты. В феврале 2026 года компания также утверждала, что DeepSeek, «Лунная тьма» и MiniMax используют около 24 тысяч фальшивых аккаунтов, что привело к более чем 16 миллионам взаимодействий с Claude.
Честно говоря, предотвратить атаки на аккаунты — не значит доказать, что оппонент действительно обучил модель данными Claude. По журналам вызовов, привязкам аккаунтов и инфраструктуре можно собрать достаточно сильные доказательства атрибуции, но получить подтверждение, извлекая данные напрямую из итоговых весов модели, — задача крайне сложная.
🤔 Поэтому так называемая «анти-дистилляция» больше похожа на повышение стоимости сбора данных и замедление противника, одновременно удерживая коммерческую ценность. Проблема в том, что чем строже работает детекция аномалий, тем выше риск ошибочно затронуть обычных пользователей. Как думаете, в этой схватке всё в итоге решит технология, или придётся просто тянуть время за счёт затрат и правил?
#人工智能 #AI蒸馏 #Claude #科技观察
🔥 Здесь «дистилляция» — простыми словами: более мощная модель генерирует ответы высокого качества, а затем эти данные используют для обучения собственной модели. В особенности цепочки рассуждений (thinking chain) и траектории выполнения задач агентами — это очень дорогой тренировочный материал. В статье упоминается, что компании по продаже данных продают «долгие» цепочки рассуждений для задач; цена, как утверждается, достигает 800–1000 юаней за одну единицу.
💡 В настоящее время Anthropic в основном опирается на три уровня защиты: модель распознаёт подозрительные запросы и отказывает в ответе, скрывает или сжимает цепочки рассуждений, а затем с помощью внешних систем выявляет аномальные вызовы и блокирует аккаунты. В феврале 2026 года компания также утверждала, что DeepSeek, «Лунная тьма» и MiniMax используют около 24 тысяч фальшивых аккаунтов, что привело к более чем 16 миллионам взаимодействий с Claude.
Честно говоря, предотвратить атаки на аккаунты — не значит доказать, что оппонент действительно обучил модель данными Claude. По журналам вызовов, привязкам аккаунтов и инфраструктуре можно собрать достаточно сильные доказательства атрибуции, но получить подтверждение, извлекая данные напрямую из итоговых весов модели, — задача крайне сложная.
🤔 Поэтому так называемая «анти-дистилляция» больше похожа на повышение стоимости сбора данных и замедление противника, одновременно удерживая коммерческую ценность. Проблема в том, что чем строже работает детекция аномалий, тем выше риск ошибочно затронуть обычных пользователей. Как думаете, в этой схватке всё в итоге решит технология, или придётся просто тянуть время за счёт затрат и правил?
#人工智能 #AI蒸馏 #Claude #科技观察
