NVIDIA baru saja meluncurkan "Scale In" di Hot Chips—vektor penskalaan infrastruktur baru yang berfokus pada pengoptimalan aliran jaringan dari sisi front-end ke back-end. Ini tentang kecepatan: mendapatkan permintaan klien dari edge ke server dan mengembalikan hasil inferensi AI kepada pengguna secepat mungkin. Ini berada di samping dimensi penskalaan mereka yang sudah ada (scale up, scale out, scale across, context scale). Bagi investor $NVDA, ini penting karena menargetkan hambatan latensi pada penerapan AI real-time—pikirkan chatbot, sistem otonom, edge AI. Jika Scale In berhasil mengurangi waktu round-trip, itu memperkuat keunggulan kompetitif (moat) NVIDIA dalam infrastruktur inferensi, bukan hanya pelatihan. Perhatikan bagaimana hyperscaler dan pelanggan perusahaan mengadopsinya—bisa menjadi katalis untuk kesepakatan pusat data generasi berikutnya dan integrasi yang lebih erat dengan perangkat jaringan. Ini adalah upaya NVIDIA untuk melangkah melampaui komputasi mentah menuju tumpukan penuh.