MiniCPM-V 4.7 yang baru dirilis OpenBMB, versi 35B-A3B, mampu menghasilkan lebih dari 13 token per detik di iPhone 17 Pro Max dalam pengujian yang diumumkan tim, dengan penggunaan memori sekitar 3 GB.
Angka 3 GB ini merujuk pada memori saat dijalankan; file model masih memerlukan ruang penyimpanan tersendiri. Model ini akan memuat terlebih dahulu bobot model yang kemungkinan akan digunakan berikutnya, sehingga waktu tunggu untuk memuat data lebih singkat.
Angka 3 GB ini merujuk pada memori saat dijalankan; file model masih memerlukan ruang penyimpanan tersendiri. Model ini akan memuat terlebih dahulu bobot model yang kemungkinan akan digunakan berikutnya, sehingga waktu tunggu untuk memuat data lebih singkat.