Samsung Electronics telah memperkenalkan zHBM, sebuah teknologi memori yang dapat ditumpuk langsung di atas chip AI dalam format 3D. Menurut Sina Finance, Samsung mengatakan terobosan ini ditujukan untuk meningkatkan kecepatan respons sistem AI yang sudah ada lebih dari 10 kali.

Pada 16 September, Kim Indong, kepala perencanaan produk memori di Samsung America Semiconductor Division (DSA), menyampaikan pidato utama pada AI Infrastructure Summit di Santa Clara Convention Center, California, untuk menguraikan pergeseran paradigma pada chip penyimpanan AI. Kim mengatakan sistem AI percakapan saat ini memiliki batas kecepatan respons per pengguna sekitar 100 token per detik, dan Samsung menargetkan menaikkannya menjadi 1.000 token per detik untuk era agen AI yang akan datang.

Samsung juga merilis peta jalan teknologi untuk zNAND-O, solusi penyimpanan 3D berbasis NAND flash untuk pasar edge AI. Kim mengatakan bahwa pada tahun 2030, penerapan lokal model besar berparameter triliunan pada perangkat seperti workstation AI akan menjadi hal yang umum, dan bahwa menggunakan zNAND-O alih-alih DRAM untuk membangun memori bagi model berparameter triliunan hanya akan menelan biaya satu per enam kali. Samsung berencana mulai memasok sampel zNAND-O kepada pelanggan dalam skala besar mulai tahun 2028.