Terakhir kali adalah liburan Tahun Baru Imlek, kali ini apakah liburan Hari Buruh? Ini juga cukup baik, setiap liburan memiliki harapan yang indah.
Baru-baru ini, banyak berita bocor bahwa perusahaan DeepSeek akan segera merilis model besar generasi baru, DeepSeek R2.
Menurut kebocoran di media sosial, poin inti adalah sebagai berikut:
Inovasi arsitektur: mengadopsi arsitektur Hybrid MoE 3.0 yang dikembangkan sendiri, dengan parameter aktivasi dinamis mencapai 1,2 triliun, konsumsi komputasi sebenarnya hanya 78 miliar, efisiensi meningkat secara signifikan;
Kemandirian perangkat keras: dilatih berdasarkan kluster chip Huawei Ascend 910B, dengan tingkat pemanfaatan komputasi mencapai 82%, kinerjanya mendekati kluster Nvidia A100 yang sebesar 91%;
Lompatan multimodal: dalam tugas segmentasi gambar COCO, akurasi mencapai 92,4%, melampaui model CLIP sebesar 11,6 poin persentase;
Penerapan di bidang vertikal: akurasi diagnosis medis melebihi 98%, tingkat kesalahan pemeriksaan kualitas industri ditekan menjadi 7,2 per sepuluh juta, utilitas teknologi mencapai puncaknya.
Perlu diketahui, tiga bulan lalu, peluncuran DeepSeek R1 menyebabkan kehilangan nilai pasar Nvidia sebesar 600 miliar dolar dalam satu hari, dan kombinasi 'biaya rendah + kinerja tinggi' R2, tanpa diragukan lagi, akan memberikan dampak yang lebih besar pada raksasa teknologi Amerika yang bergantung pada chip dengan premi tinggi.
Terobosan teknologi
Skala parameter model besar DeepSeek R2 dilaporkan mencapai angka mengejutkan 1,2 triliun, hampir dua kali lipat dibandingkan dengan generasi sebelumnya R1 yang memiliki 671 miliar parameter. Angka ini mendekati level model terkemuka internasional seperti GPT-4 Turbo dan Google Gemini 2.0 Pro. Lonjakan jumlah parameter ini berarti kemampuan pembelajaran model dan kemampuannya untuk menangani tugas yang kompleks meningkat secara signifikan.
DeepSeek R2 mengadopsi arsitektur model ahli campuran (MoE), yaitu teknik yang membagi tugas kepada beberapa modul 'ahli kecil'. Singkatnya, model akan secara otomatis memilih 'ahli' yang paling cocok untuk menangani tugas yang berbeda, yang tidak hanya meningkatkan efisiensi, tetapi juga mengurangi pemborosan sumber daya komputasi.
Menurut rumor, parameter aktivasi dinamis R2 adalah 78 miliar, sementara jumlah komputasi yang sebenarnya dikonsumsi hanya 6,5% dari total parameter. Desain ini memungkinkan model untuk mempertahankan kinerja tinggi sambil secara signifikan mengurangi biaya operasional.
Dalam hal data pelatihan, DeepSeek R2 menggunakan korpus berkualitas tinggi 5,2PB (1PB=100 juta GB) yang mencakup bidang keuangan, hukum, paten, dan sebagainya. Melalui teknologi distilasi semantik multistage, akurasi kepatuhan instruksi model meningkat menjadi 89,7%. Ini berarti bahwa ia lebih mahir dalam memahami instruksi kompleks manusia, seperti menganalisis dokumen hukum atau menghasilkan laporan keuangan.
Biaya turun 97,3%
Terobosan terbesar DeepSeek R2 tetap adalah penurunan biaya yang signifikan. Menurut kebocoran, biaya inferensi per unit dibandingkan dengan GPT-4 turun sebesar 97,3%. Untuk menghasilkan artikel 5000 kata, penggunaan GPT-4 memerlukan biaya sekitar 1,35 dolar, sementara DeepSeek R2 hanya membutuhkan 0,035 dolar.
Alasan utama penurunan biaya terletak pada optimasi adaptasi perangkat keras. DeepSeek R2 dilatih berdasarkan kluster chip Huawei Ascend 910B, dengan tingkat pemanfaatan chip mencapai 82%. Sebagai perbandingan, efisiensi kluster Nvidia A100 sejenis adalah 91%.
Ini berarti bahwa chip domestik di bidang pelatihan AI sudah mendekati tingkat internasional, bahkan mungkin dapat mengurangi ketergantungan pada Nvidia.
Kemampuan multimodal
Salah satu sorotan lain dari DeepSeek R2 adalah peningkatan kemampuan multimodal. Dalam modul pemahaman visual, ia menggunakan arsitektur campuran ViT-Transformer, mencapai akurasi 92,4% dalam tugas segmentasi objek di dataset COCO, meningkat 11,6 poin persentase dibandingkan dengan model CLIP tradisional.
Singkatnya, ia dapat lebih tepat mengenali objek dalam gambar, misalnya membedakan pejalan kaki, kendaraan, dan tanda lalu lintas dari foto pemandangan jalan.
Selain itu, R2 mendukung kompresi kuantisasi 8bit, ukuran model menyusut 83%, dan kehilangan akurasi kurang dari 2%. Ini berarti bahwa perangkat seluler dan perangkat rumah pintar di masa depan juga dapat menjalankan AI berkinerja tinggi secara lokal, tanpa bergantung pada server cloud.
Permainan AI global
Kebocoran tentang DeepSeek R2 telah memicu reaksi hebat di pasar modal. Karena keuntungan biaya dan kemandirian teknologi, ini mungkin menjadi ancaman bagi perusahaan teknologi Amerika yang bergantung pada GPU Nvidia.
Analis memprediksi bahwa jika kinerja R2 terbukti, harga saham Nvidia mungkin akan menghadapi fluktuasi jangka pendek, sementara perusahaan terkait rantai industri AI di China mungkin akan memasuki putaran pertumbuhan baru.
Peristiwa ini juga mencerminkan pola baru dalam perlombaan AI global. DeepSeek R2 membuktikan bahwa melalui inovasi arsitektur dan adaptasi perangkat keras domestik, terobosan juga dapat dicapai. Data pemanfaatan chip Huawei Ascend (82%) menunjukkan bahwa infrastruktur komputasi domestik telah memiliki daya saing internasional.
Meskipun konten kebocoran sangat menggembirakan, beberapa orang dalam industri menunjukkan bahwa informasi tersebut memiliki kontradiksi. Dalam diskusi di internet, muncul fenomena berita dari saluran tidak resmi berbahasa Mandarin yang diterjemahkan dan disebarluaskan, semakin menambah ketidakpastian.
DeepSeek secara resmi belum mengonfirmasi tanggal rilis, tetapi mengingat arah belajar kolektif terbaru ZZJ dalam bidang kecerdasan buatan, dukungan kebijakan dan terobosan teknologi bisa mendorong R2 untuk segera muncul.
Dari chip hingga algoritma, dari data hingga aplikasi, setiap tautan dalam rantai industri AI China sedang mempercepat kemandirian. Huawei Ascend menggantikan Nvidia, pembangunan korpus bahasa China 5,2PB menciptakan penghalang vertikal - di balik tindakan ini, ada perlombaan hidup dan mati yang berkaitan dengan kekuasaan teknologi selama sepuluh tahun ke depan.
