Технологическое издание The Information 28-го числа со ссылкой на источники, непосредственно знакомые с ситуацией, сообщило, что китайские разработчики ИИ DeepSeek и Moonshot AI при обучении своих новейших моделей широко использовали ответы модели OpenAI GPT-6 Astra. Пересказывая эту публикацию, Reuters отметил, что OpenAI, DeepSeek и Moonshot AI не сразу ответили на запросы о комментариях.
Эта практика называется «дистилляцией»: более мощной модели задают множество вопросов, собирают её ответы, а затем используют их для обучения другой модели. На фоне обострения технологической конкуренции между США и Китаем дистилляция стала предметом споров среди крупнейших компаний в сфере ИИ.
Названы Kimi K3.1 Pro от Moonshot AI и DeepSeek V4.1-Flash 1017
По сообщениям, моделями, которые извлекли пользу из дистилляции GPT-6 Astra, стали Kimi K3.1 Pro, представленная на прошлой неделе компанией Moonshot AI, и обновлённая версия V4.1-Flash 1017, выпущенная DeepSeek 17 октября.
Как ранее сообщало издание Chain News, 23 октября Moonshot AI представила Kimi K3.1 Pro, заявив, что модель сравнялась с лучшими закрытыми моделями или приблизилась к ним в программировании и агентных задачах. По опубликованным компанией данным, результат в Terminal-Bench 4.0 составил 65,7% — выше, чем 58,2% у GPT-6 Astra. Полные веса модели планируется опубликовать до 4 ноября.
В прошлом месяце OpenAI уже обвинила Moonshot AI в масштабной кампании по дистилляции
Это не первый случай, когда OpenAI связывает Moonshot AI с дистилляцией. 30 сентября OpenAI опубликовала отчёт, в котором раскрыла сведения о кампании по враждебной дистилляции, начавшейся в июле, и приписала ключевую группу участников лицам, связанным с Moonshot AI.
Тогда OpenAI заявила, что 24 и 25 июля активность резко возросла: более 4 000 пользователей отправили 16 000 запросов, соответствующих шаблонам извлечения данных. 28 июля кампанию удалось полностью пресечь. OpenAI также отметила, что не может с уверенностью утверждать, будто все участники принадлежали к одной и той же стороне.
В сентябре Агентство национальной безопасности США, Федеральное бюро расследований и Агентство по кибербезопасности и защите инфраструктуры совместно выпустили предупреждение, в котором назвали шесть компаний — DeepSeek, Moonshot AI, Alibaba, MiniMax, StepFun и Z.AI, — занимающихся промышленной дистилляцией американских моделей, таких как Claude, GPT, Gemini и Grok. Ранее Moonshot AI отрицала, что создала Kimi K3 путём дистилляции.
Anthropic заявила, что защитные меры сократили объём извлекаемых данных для дистилляции более чем на 90%
Anthropic, OpenAI и Google утверждают, что дистилляция позволяет конкурентам быстрее и дешевле копировать передовые возможности.
12-го числа этого месяца Anthropic сообщила, что после запуска новых мер защиты от дистилляции объём данных, извлекаемых дистилляторами из Claude, сократился примерно на 90–99%. Однако Anthropic признала, что пока не знает, как долго продлится эффект, и ожидает, что дистилляция останется непрекращающейся игрой в кошки-мышки.
Эта статья перепечатана с разрешения источника: (Chain News)
Оригинальный заголовок: (По сообщениям, DeepSeek и Moonshot AI обучали новейшие модели с помощью дистилляции моделей OpenAI)
Автор оригинала: Elponcrab
Статья «По слухам, DeepSeek и Moonshot AI широко использовали модели OpenAI для обучения, вновь разгорелся спор о дистилляции» впервые опубликована в «Криптогороде»