$PHA
Bobot resmi FP8: 755 GB
Bobot Phala W4AFP8: 368 GB
Ini membebaskan 387 GB untuk cache KV, grafis CUDA, buffer runtime, serta sisa layanan di bawah jendela 1M token penuh.
Bobot resmi FP8: 755 GB
Bobot Phala W4AFP8: 368 GB
Ini membebaskan 387 GB untuk cache KV, grafis CUDA, buffer runtime, serta sisa layanan di bawah jendela 1M token penuh.

