SemiAnalysis tin rằng chế độ Ultrafast mới của OpenAI, có thể đạt khoảng 300 token/giây, KHÔNG chạy trên Cerebras.
Thay vào đó, họ cho rằng OpenAI đang phục vụ nó với kích thước batch rất nhỏ trên các GPU NVIDIA, có khả năng là phần cứng thuộc lớp Blackwell của $NVDA như GB300.
Thay vào đó, họ cho rằng OpenAI đang phục vụ nó với kích thước batch rất nhỏ trên các GPU NVIDIA, có khả năng là phần cứng thuộc lớp Blackwell của $NVDA như GB300.