La dernière fois c'était pendant les vacances du Nouvel An, cette fois-ci est-ce pour les vacances du 1er mai ? C'est aussi bien, chaque jour férié a de belles attentes.
Récemment, diverses sources ont révélé que DeepSeek s'apprête à lancer le nouveau modèle de grande taille DeepSeek R2.
Selon les rumeurs sur les réseaux sociaux, les points clés sont les suivants :
Innovation architecturale : adoption de l'architecture hybride MoE 3.0 auto-développée, avec des paramètres d'activation dynamique atteignant 12 000 milliards, la consommation réelle de calcul n'étant que de 780 milliards, l'efficacité a donc été considérablement améliorée.
Nationalisation du matériel : entraînement basé sur un cluster de puces Huawei Ascend 910B, avec un taux d'utilisation de la puissance de calcul de 82 %, des performances proches de celles du cluster Nvidia A100 (91 %) ;
Saut multimodal : précision de 92,4 % dans la tâche de segmentation d'images COCO, dépassant le modèle CLIP de 11,6 points.
Mise en œuvre dans des domaines verticaux : précision de diagnostic médical supérieure à 98 %, taux de fausse détection dans le contrôle qualité industriel réduit à 7,2 millions, la praticité de la technologie atteint de nouveaux sommets.
Il faut savoir qu'il y a trois mois, le lancement de DeepSeek R1 avait entraîné une perte de 600 milliards de dollars de la valeur boursière de Nvidia en une seule journée, et la combinaison « coût bas + haute performance » de R2 ne manquera pas d'avoir un impact encore plus fort sur les géants technologiques américains dépendant de puces à forte prime.
Percée technologique
La taille des paramètres du modèle DeepSeek R2 a été révélée atteindre un incroyable 12 000 milliards, presque le double des 6710 milliards de paramètres de la génération précédente R1. Ce chiffre est comparable aux modèles de pointe internationaux tels que GPT-4 Turbo et Google Gemini 2.0 Pro. L'augmentation explosive du nombre de paramètres signifie que la capacité d'apprentissage du modèle et sa capacité à traiter des tâches complexes se sont considérablement améliorées.
DeepSeek R2 adopte une architecture de modèle d'expert mixte (MoE), une technologie qui distribue les tâches à plusieurs modules de « petits experts ». En d'autres termes, le modèle sélectionne automatiquement le « meilleur expert » pour traiter chaque tâche, ce qui améliore l'efficacité tout en réduisant le gaspillage des ressources de calcul.
Selon les rumeurs, le paramètre d'activation dynamique de R2 est de 780 milliards, et la quantité de calcul réellement consommée ne représente que 6,5 % du paramètre total. Ce design permet au modèle de maintenir une haute performance tout en réduisant considérablement les coûts d'exploitation.
En matière de données d'entraînement, DeepSeek R2 utilise un corpus de haute qualité de 5,2PB (1PB = 1 million de Go) couvrant des domaines tels que la finance, le droit et les brevets. Grâce à une technologie de distillation sémantique en plusieurs étapes, le taux de précision de suivi des instructions du modèle a été porté à 89,7 %. Cela signifie qu'il est mieux équipé pour comprendre des instructions humaines complexes, telles que l'analyse de documents juridiques ou la génération de rapports financiers.
Réduction des coûts de 97,3 %
La plus grande avancée de DeepSeek R2 reste la réduction drastique des coûts. Selon les rumeurs, son coût unitaire de raisonnement a diminué de 97,3 % par rapport à GPT-4. Pour générer un article de 5000 mots, GPT-4 nécessite environ 1,35 USD, tandis que DeepSeek R2 n'en nécessite que 0,035 USD.
La raison principale de la baisse des coûts réside dans l'optimisation de l'adéquation matérielle. DeepSeek R2 est entraîné sur un cluster de puces Huawei Ascend 910B, avec un taux d'utilisation des puces atteignant 82 %. En comparaison, l'efficacité des clusters Nvidia A100 similaires est de 91 %.
Cela signifie que les puces nationales dans le domaine de la formation de l'IA sont désormais proches du niveau international de pointe, et pourraient même se libérer de la dépendance à Nvidia.
Capacités multimodales
Une autre grande innovation de DeepSeek R2 est l'amélioration de ses capacités multimodales. Dans le module de compréhension visuelle, il adopte une architecture hybride ViT-Transformer et atteint un taux de précision de 92,4 % dans la tâche de segmentation d'objets du dataset COCO, soit une augmentation de 11,6 points par rapport au modèle CLIP traditionnel.
En termes simples, il peut mieux identifier les objets dans les images, par exemple, en distinguant les piétons, les véhicules et les panneaux de signalisation à partir d'une photo de paysage urbain.
De plus, R2 prend en charge la compression quantique 8 bits, réduisant la taille du modèle de 83 %, avec une perte de précision inférieure à 2 %. Cela signifie que dans le futur, les téléphones portables et les appareils de maison intelligente pourront également exécuter localement des IA performantes, sans dépendre des serveurs cloud.
Jeu mondial de l'IA
Les rumeurs concernant DeepSeek R2 ont déjà provoqué une réaction intense sur le marché des capitaux. En raison de son avantage de coût et de son autonomie technologique, il pourrait représenter une menace pour les entreprises technologiques américaines dépendantes des GPU de Nvidia.
Les analystes prédisent que si la performance de R2 est réelle, le prix des actions de Nvidia pourrait connaître des fluctuations à court terme, tandis que les entreprises de la chaîne industrielle de l'IA en Chine pourraient connaître une nouvelle vague de croissance.
Cet événement reflète également un nouveau paysage dans la compétition mondiale de l'IA. DeepSeek R2 prouve qu'il est possible de faire des percées grâce à l'innovation architecturale et à l'adéquation du matériel national. Les données sur le taux d'utilisation des puces Ascend de Huawei (82 %) montrent que l'infrastructure de calcul nationale est désormais compétitive à l'international.
Bien que le contenu des rumeurs soit enthousiasmant, certains professionnels de l'industrie soulignent des incohérences dans les informations. Des discussions sur des forums externes ont révélé que des informations non officielles en chinois ont été traduites et diffusées, augmentant ainsi l'incertitude.
DeepSeek n'a pas encore confirmé la date de sortie, mais compte tenu des récentes initiatives collectives d'apprentissage de l'intelligence artificielle par ZZJ, le soutien politique et les percées technologiques pourraient accélérer l'arrivée de R2.
De la puce à l'algorithme, des données à l'application, chaque étape de la chaîne industrielle de l'IA en Chine s'accélère vers l'autonomie. Les puces Ascend de Huawei remplacent celles de Nvidia, et la construction d'un corpus de données en chinois de 5,2PB crée des barrières verticales — derrière ces actions se joue une course mortelle pour le pouvoir de parole technologique des dix prochaines années.
