SemiAnalysis glaubt, dass der neue Ultrafast-Modus von OpenAI, der etwa 300 Tokens pro Sekunde erreichen kann, NICHT auf Cerebras läuft.
Stattdessen glauben sie, dass OpenAI ihn mit sehr niedrigen Batch-Größen auf NVIDIA-GPUs bereitstellt, möglicherweise auf der Blackwell-ähnlichen Hardware wie GB300 von $NVDA .
Stattdessen glauben sie, dass OpenAI ihn mit sehr niedrigen Batch-Größen auf NVIDIA-GPUs bereitstellt, möglicherweise auf der Blackwell-ähnlichen Hardware wie GB300 von $NVDA .