Lần trước là kỳ nghỉ Tết Nguyên Đán, lần này có phải là kỳ nghỉ 1/5 không? Thế cũng tốt, mỗi kỳ nghỉ đều có những kỳ vọng tốt đẹp.
Gần đây, nhiều nguồn tin rò rỉ cho biết, công ty DeepSeek sắp ra mắt mô hình lớn thế hệ mới, DeepSeek R2.
Theo thông tin rò rỉ trên mạng xã hội, các điểm chính như sau:
Đổi mới kiến trúc: Sử dụng kiến trúc Hybrid MoE 3.0 tự phát triển, tham số kích hoạt động đạt 1,2 triệu tỷ, lượng tính toán thực tế chỉ 780 tỷ, hiệu suất cải thiện đáng kể;
Địa phương hóa phần cứng: Được đào tạo dựa trên cụm chip Huawei Ascend 910B, tỷ lệ sử dụng công suất đạt 82%, hiệu suất gần bằng cụm Nvidia A100 là 91%;
Bước nhảy vọt đa phương thức: Đạt độ chính xác 92,4% trong nhiệm vụ phân đoạn hình ảnh COCO, vượt qua mô hình CLIP 11,6 điểm phần trăm;
Triển khai trong lĩnh vực cụ thể: Độ chính xác chẩn đoán y tế vượt quá 98%, tỷ lệ lỗi trong kiểm tra chất lượng công nghiệp giảm xuống chỉ còn 7,2 phần triệu, tính thực dụng công nghệ lại vươn lên đỉnh cao mới.
Cần biết rằng, ba tháng trước, việc phát hành DeepSeek R1 đã khiến giá trị thị trường của Nvidia giảm 6000 tỷ đô la trong một ngày, trong khi sự kết hợp “chi phí thấp + hiệu suất cao” của R2 chắc chắn sẽ mang lại cú sốc lớn hơn cho các gã khổng lồ công nghệ Mỹ phụ thuộc vào chip có giá cao.
Đột phá công nghệ
Quy mô tham số của mô hình lớn DeepSeek R2 được tiết lộ đạt mức đáng kinh ngạc 1,2 triệu tỷ, gần gấp đôi so với thế hệ trước R1 có 6710 tỷ tham số. Con số này gần với mức của các mô hình hàng đầu quốc tế như GPT-4 Turbo và Google Gemini 2.0 Pro. Sự bùng nổ về số lượng tham số có nghĩa là khả năng học hỏi và xử lý nhiệm vụ phức tạp của mô hình được nâng cao đáng kể.
DeepSeek R2 áp dụng kiến trúc mô hình chuyên gia hỗn hợp (MoE), là một công nghệ phân công nhiệm vụ cho nhiều mô-đun “chuyên gia nhỏ”. Nói đơn giản, mô hình sẽ tự động chọn “chuyên gia” phù hợp nhất để xử lý nhiệm vụ khác nhau, vừa nâng cao hiệu suất vừa giảm lãng phí tài nguyên tính toán.
Theo thông tin rò rỉ, tham số kích hoạt động R2 đạt 780 tỷ, lượng tính toán thực tế chỉ chiếm 6,5% tổng tham số. Thiết kế này giúp mô hình duy trì hiệu suất cao trong khi giảm đáng kể chi phí hoạt động.
Về dữ liệu đào tạo, DeepSeek R2 sử dụng kho dữ liệu chất lượng cao 5,2PB (1PB = 1 triệu GB) bao phủ các lĩnh vực tài chính, pháp lý, bằng sáng chế, v.v. Nhờ công nghệ chưng cất ngữ nghĩa nhiều giai đoạn, độ chính xác tuân thủ chỉ dẫn của mô hình đã nâng lên 89,7%. Điều này có nghĩa là nó giỏi hơn trong việc hiểu các chỉ dẫn phức tạp của con người, chẳng hạn như phân tích tài liệu pháp lý hoặc tạo báo cáo tài chính.
Giảm chi phí 97,3%
Đột phá lớn nhất của DeepSeek R2 vẫn là sự giảm mạnh chi phí. Theo thông tin rò rỉ, chi phí suy luận đơn vị của nó giảm 97,3% so với GPT-4. Ví dụ, để tạo ra một bài viết 5000 từ, GPT-4 cần khoảng 1,35 đô la, trong khi DeepSeek R2 chỉ cần 0,035 đô la.
Nguyên nhân chính của sự giảm chi phí là do tối ưu hóa phần cứng. DeepSeek R2 được đào tạo dựa trên cụm chip Huawei Ascend 910B, với tỷ lệ sử dụng chip đạt 82%. So với đó, hiệu suất của cụm Nvidia A100 tương tự là 91%.
Điều này có nghĩa là chip nội địa trong lĩnh vực đào tạo AI đã gần đạt đến mức dẫn đầu quốc tế, thậm chí có thể thoát khỏi sự phụ thuộc vào Nvidia.
Khả năng đa phương thức
Một điểm nổi bật khác của DeepSeek R2 là khả năng đa phương thức được cải thiện. Trong mô-đun hiểu biết hình ảnh, nó sử dụng kiến trúc kết hợp ViT-Transformer, đạt được độ chính xác 92,4% trong nhiệm vụ phân đoạn đối tượng trên tập dữ liệu COCO, tăng 11,6 điểm phần trăm so với mô hình CLIP truyền thống.
Nói đơn giản, nó có thể nhận diện chính xác hơn các đối tượng trong hình ảnh, chẳng hạn như phân biệt người đi bộ, xe cộ và biển báo giao thông từ một bức ảnh cảnh đường.
Ngoài ra, R2 hỗ trợ nén định lượng 8bit, giảm kích thước mô hình xuống 83%, với tổn thất độ chính xác dưới 2%. Điều này có nghĩa là trong tương lai, điện thoại di động và thiết bị nhà thông minh cũng có thể chạy AI hiệu suất cao tại chỗ, không cần phụ thuộc vào máy chủ đám mây.
AI toàn cầu
Thông tin rò rỉ về DeepSeek R2 đã gây ra phản ứng mạnh mẽ trên thị trường vốn. Do lợi thế về chi phí và tính tự chủ công nghệ, nó có thể trở thành mối đe dọa đối với các công ty công nghệ Mỹ phụ thuộc vào GPU Nvidia.
Các nhà phân tích dự đoán, nếu hiệu suất R2 là chính xác, giá cổ phiếu Nvidia có thể đối mặt với biến động ngắn hạn, trong khi các doanh nghiệp trong chuỗi công nghiệp AI Trung Quốc có thể đón nhận một làn sóng tăng trưởng mới.
Sự kiện này cũng phản ánh cấu trúc mới của cuộc cạnh tranh AI toàn cầu. DeepSeek R2 chứng minh rằng thông qua đổi mới kiến trúc và thích ứng phần cứng nội địa, vẫn có thể đạt được đột phá. Dữ liệu tỷ lệ sử dụng chip Huawei Ascend (82%) cho thấy cơ sở hạ tầng tính toán nội địa đã có sức cạnh tranh quốc tế.
Mặc dù nội dung rò rỉ gây phấn khích, nhưng một số người trong ngành chỉ ra rằng thông tin có mâu thuẫn. Trong thảo luận trên mạng, xuất hiện hiện tượng tin tức từ kênh không chính thức tiếng Trung bị dịch và phát tán, làm tăng thêm sự không chắc chắn.
DeepSeek vẫn chưa xác nhận ngày phát hành, nhưng với động thái học tập tập thể gần đây về trí tuệ nhân tạo của ZZJ, sự hỗ trợ từ chính sách và sự đột phá công nghệ có thể thúc đẩy R2 ra mắt nhanh chóng.
Từ chip đến thuật toán, từ dữ liệu đến ứng dụng, mọi khâu trong chuỗi công nghiệp AI Trung Quốc đều đang tăng tốc tự chủ hóa. Huawei Ascend thay thế Nvidia, xây dựng rào cản lĩnh vực dọc với 5,2PB kho dữ liệu tiếng Trung - những hành động này đang diễn ra trong một cuộc đua sống còn về quyền phát ngôn công nghệ trong 10 năm tới.
