Считается, что SemiAnalysis считает, что новый режим OpenAI Ultrafast, который может достигать примерно 300 токенов/с, НЕ работает на Cerebras.
Вместо этого они полагают, что OpenAI обслуживает его при очень небольших размерах батчей на графических процессорах NVIDIA, потенциально на аппаратной платформе класса Blackwell, такой как GB300, принадлежащей $NVDA .
Вместо этого они полагают, что OpenAI обслуживает его при очень небольших размерах батчей на графических процессорах NVIDIA, потенциально на аппаратной платформе класса Blackwell, такой как GB300, принадлежащей $NVDA .