Kartu baru Intel 350W diklaim 5,9 kali lebih cepat dari Nvidia; ada detail penting yang tersembunyi di catatan kaki

Intel merilis serangkaian hasil benchmark: D270 350W diklaim memiliki performa hingga 5,9 kali lebih cepat dibanding RTX PRO 6000 Blackwell 600W dari Nvidia.

Sekilas, angka ini terdengar sulit dipercaya. Namun, setelah menelusuri laporan pengujian dan catatan kakinya, terlihat bahwa Intel memilih arena dengan cermat—dan memang menyoroti titik lemah Nvidia.

Pertama, dari mana angka 5,9 kali itu berasal?

Beberapa pengujian dengan keunggulan terbesar semuanya menggunakan floating point presisi ganda (FP64), yang umum dipakai di keuangan kuantitatif untuk menentukan harga opsi. Simulasi Monte Carlo Eropa 5,9 kali lebih cepat, Black-Scholes 5,6 kali lebih cepat, dan penentuan harga dengan pohon binomial 4,6 kali lebih cepat.

Akar dari selisih sebesar ini ada pada Nvidia sendiri. Demi menjaga keuntungan dari kartu pusat data seperti B200 dan H200, kemampuan komputasi FP64 pada kartu workstation andalan RTX PRO 6000 Blackwell dipangkas hingga 1:64. D270 menggunakan arsitektur Xe3P, dengan FP64 berkecepatan penuh secara native dan 64 FMA FP64 per inti. Jika dibandingkan pada tugas yang sengaja dibatasi oleh pesaing, tentu peluang menangnya besar.

Ada detail lain di catatan kaki. Mesin uji Intel dipasangi 1 kartu D270 dan 3 kartu Arc Pro B70, sedangkan mesin Nvidia dipasangi 8 kartu RTX PRO 6000. Laporan tidak menyebutkan berapa kartu yang digunakan masing-masing pihak saat menjalankan pengujian finansial. Jadi, anggap saja hasil 5,9 kali ini sebagai tontonan menarik.

Beralih ke inferensi model besar, hasilnya lebih konkret.

Saat menjalankan Qwen3-30B-A3B (FP8) dengan satu kartu, throughput keluaran D270 mencapai 1,12 kali RTX PRO 6000 Blackwell. Untuk Drex 2.0, latensinya 29% lebih rendah.

Angka 1,12 kali terlihat biasa saja, tetapi konsumsi daya juga perlu diperhitungkan. Dengan daya 350W dibanding 600W, D270 menggunakan sedikit lebih dari setengah daya, tetapi mampu mengungguli kartu workstation kelas tertinggi Blackwell pada model MoE kelas 30B. Efisiensi energinya patut diperhitungkan.

Yang paling menarik adalah kapasitas memori.

RTX PRO 6000 mengonsumsi daya 600W, tetapi hanya memiliki memori 96GB GDDR7. Intel tidak berebut HBM yang mahal dan sulit didapat; mereka langsung memasang LPDDR5X dalam jumlah besar pada kartu PCIe berpendingin udara 350W. Model referensi memiliki kapasitas awal 160GB dengan bandwidth 1,5 TB/s. Versi kustom dari produsen kartu bisa mencapai 480GB per kartu.

Apa artinya menjejalkan 480GB ke dalam satu kartu berpendingin udara? Dulu, untuk memuat bobot model besar berukuran sangat besar dalam konfigurasi penuh, kita harus merangkai satu lemari penuh kartu atau menggunakan klaster berharga selangit. Sekarang, satu kartu 350W saja sudah cukup. Bagi mereka yang ingin menjalankan model besar secara lokal, kapasitas ini jauh lebih berguna daripada angka kelipatan benchmark mana pun.

Intel juga sudah menunjukkan cara penggunaannya. Di SC26, Intel dan SambaNova merancang sistem dengan pembagian tugas. D270 berkapasitas memori besar menangani Prefill (pengisian awal) untuk konteks dalam jumlah besar, lalu menyerahkan tugasnya kepada SambaNova SN50 yang memiliki bandwidth tinggi untuk menghasilkan Token. Kapasitas dan bandwidth menangani bagian masing-masing—pembagian tugasnya sangat jelas.

Selama bertahun-tahun, Nvidia sangat ketat membatasi kapasitas memori, dengan membagi tingkatan produk secara presisi satu per satu. Jika terus mengikuti jalur ini, bagian menggiurkan dari pasar inferensi bermemori besar bisa saja direbut sebagian oleh produk seperti milik Intel yang mengandalkan LPDDR5X untuk meningkatkan kapasitas.