DeepSeekのCEOである梁文峰氏は、投資家に対し、同社は2兆パラメータのモデルを学習しており、その後8兆パラメータのモデルを開発する計画だと語った。ChainCatcherによれば、同社の現在のフラッグシップであるV4-Proは総パラメータが1.6兆だ。

公開されている大型モデルの中で、Moonshot AIのKimi K3は2.8兆パラメータに到達している。Kimi K3はMoE（Mixture of Experts）アーキテクチャを採用しており、総パラメータ2.8兆のうち、トークンごとに1040億パラメータを活性化する。DeepSeekが計画している8兆パラメータモデルは、この規模のほぼ3倍になる見込みだ。

DeepSeekは7月に50 0億人民元を超える資金調達を完了し、評価額は500億ドル超でした。V4-Proは、総パラメータ1.6兆、起動（アクティブ）パラメータ4.90億のもとでオープンソース化されました。