В прошлый раз это был праздничный период, а сейчас разве не время праздника труда? Так тоже неплохо, каждое празднование приносит новые ожидания.
На днях поступила информация о том, что компания DeepSeek собирается выпустить новое поколение большой модели DeepSeek R2.
Согласно сообщениям в социальных сетях, ключевые моменты следующие:
Инновация архитектуры: использует собственную архитектуру Hybrid MoE 3.0, динамические параметры активации достигают 1,2 триллиона, фактические вычислительные затраты составляют всего 78 миллиардов, эффективность значительно возросла;
Локализация аппаратного обеспечения: обучение на кластере чипов Huawei Ascend 910B с коэффициентом использования вычислительных мощностей до 82%, производительность близка к 91% кластера NVIDIA A100;
Мультимодальный прорыв: точность в задаче сегментации изображений COCO достигла 92,4%, что на 11,6 процентных пункта выше модели CLIP;
Применение в вертикальных областях: точность медицинской диагностики превышает 98%, уровень ложных срабатываний в промышленной проверке качества снижен до 7,2 на десять миллионов, практическая применимость технологии достигает новых высот.
Стоит отметить, что три месяца назад выпуск DeepSeek R1 привел к тому, что рыночная капитализация NVIDIA сократилась на 600 миллиардов долларов всего за один день, а комбинация "низкой стоимости + высокой производительности" R2 безусловно принесет еще более сильный удар для американских технологических гигантов, зависящих от высокомаржинальных чипов.
Технологический прорыв
Параметры большой модели DeepSeek R2 составляют поразительные 1,2 триллиона, что почти вдвое больше по сравнению с предыдущим поколением R1, имеющим 671 миллиард параметров. Эта цифра близка к уровням международных ведущих моделей, таких как GPT-4 Turbo и Google Gemini 2.0 Pro. Резкий рост количества параметров означает значительное увеличение способности модели к обучению и обработке сложных задач.
DeepSeek R2 использует архитектуру смешанных экспертов (MoE), которая распределяет задачи между несколькими «малыми экспертами». Проще говоря, модель автоматически выбирает самого подходящего «эксперта» для обработки различных задач, что повышает эффективность и снижает потери вычислительных ресурсов.
По слухам, динамические параметры активации R2 составляют 78 миллиардов, фактические затраты на вычисления составляют лишь 6,5% от общего количества параметров. Такой дизайн позволяет модели сохранять высокую производительность, одновременно значительно снижая эксплуатационные расходы.
В отношении обучающих данных DeepSeek R2 использует 5,2 ПБ (1 ПБ = 1 миллион ГБ) высококачественных данных, охватывающих такие области, как финансы, право и патенты. Благодаря технологии многослойной семантической дистилляции точность соблюдения инструкций модели повысилась до 89,7%. Это означает, что она лучше понимает сложные команды человека, например, анализируя юридические документы или генерируя финансовые отчеты.
Снижение затрат на 97,3%
Главным прорывом DeepSeek R2 остается значительное снижение затрат. Согласно слухам, его единичная стоимость вывода по сравнению с GPT-4 снизилась на 97,3%. Например, для генерации статьи объемом 5000 слов использование GPT-4 требует около 1,35 доллара, в то время как DeepSeek R2 всего 0,035 доллара.
Основной причиной снижения затрат является оптимизация аппаратного обеспечения. DeepSeek R2 обучался на кластере чипов Huawei Ascend 910B с коэффициентом использования чипов до 82%. В то же время, эффективность аналогичного кластера NVIDIA A100 составляет 91%.
Это означает, что отечественные чипы в области обучения ИИ уже близки к международному уровню, и, возможно, смогут избавиться от зависимости от NVIDIA.
Мультимодальные возможности
Еще одной значительной особенностью DeepSeek R2 является улучшение мультимодальных возможностей. В модуле визуального понимания он использует смешанную архитектуру ViT-Transformer, достигнув 92,4% точности в задаче сегментации объектов на наборе данных COCO, что на 11,6 процентных пункта выше по сравнению с традиционной моделью CLIP.
Проще говоря, она может более точно распознавать объекты на изображениях, например, различать пешеходов, автомобили и дорожные знаки на уличном фото.
Кроме того, R2 поддерживает 8-битную квантовую компрессию, что уменьшает объем модели на 83%, а потеря точности составляет менее 2%. Это означает, что в будущем мобильные телефоны и устройства умного дома также смогут локально запускать высокопроизводительный ИИ без необходимости полагаться на облачные серверы.
Глобальная игра ИИ
Слухи о DeepSeek R2 уже вызвали резкую реакцию на фондовом рынке. Благодаря преимуществу в стоимости и технологической независимости, он может представлять угрозу для американских технологических компаний, зависящих от GPU NVIDIA.
Аналитики прогнозируют, что если производительность R2 подтверждена, акции NVIDIA могут столкнуться с краткосрочными колебаниями, в то время как связанные с ИИ компании в Китае могут пережить новый виток роста.
Это событие также отражает новую структуру глобальной гонки в области ИИ. DeepSeek R2 доказывает, что через инновации в архитектуре и адаптацию отечественного аппаратного обеспечения также можно добиться прорыва. Данные о коэффициенте использования чипов Huawei Ascend (82%) показывают, что отечественная инфраструктура вычислительных мощностей уже обладает международной конкурентоспособностью.
Хотя информация с слухами обнадеживает, некоторые эксперты указывают на противоречия в данных. В обсуждениях в интернете возникли случаи, когда сообщения из неофициальных китайских источников были переведены и распространены, что еще больше увеличивает неопределенность.
Официально DeepSeek еще не подтвердил дату выпуска, но в сочетании с недавней коллективной учебой по искусственному интеллекту от ZZJ, поддержка со стороны политики и технологические прорывы могут ускорить выход R2.
От чипов до алгоритмов, от данных до приложений, каждый этап китайской цепочки поставок ИИ ускоряет свою автономизацию. Замена NVIDIA на чипы Huawei Ascend, создание вертикальных барьеров на основе 5,2 ПБ китайского корпуса - за этими действиями стоит гонка за технологическим влиянием на ближайшие десять лет.
