HuaweiのAscend 950PRは、テストでNvidiaのH100の43%に相当する行列演算速度を達成した。ChainCatcherによると、半導体調査会社SemiAnalysisは、大規模AIモデルで一般的に使われる1,055種類の行列演算をテストした。Huaweiの低レベルソフトウェアにより、950PRは達成可能な演算性能の86%に到達した一方、H100は75.5%だった。しかし、950PRの実際の速度は、より新しいB300の21%にとどまった。このベンチマークには、DeepSeekが最近移植した演算子は含まれていなかった。

DeepSeekは、データ転送と待ち時間を減らすため、ソフトウェアの変更に取り組んでいます。FlashMLAは、アテンション計算におけるデータの保存方法を変更し、これまで別々に読み込む必要があった2つのデータセットをまとめて読み込めるようにします。TileLangを使うと、チップは計算中に次のデータバッチを先読みできます。SemiAnalysisによると、自動スケジューリングによって、一部の小規模な計算タスクの所要時間が最大で約40%短縮されました。DeepSeekは、混合エキスパート（MoE）モデル間の通信を担うDeepEPも移植しましたが、通信と計算は依然としてメモリ帯域幅を奪い合っています。Huaweiは、さらなるファームウェアの改善を計画しています。

昨年、DeepSeekはHuawei AscendチップでR2の学習を試みましたが、Huaweiのエンジニアが現地で支援したにもかかわらず、成功しませんでした。報告された課題には、チップの安定性、チップ間の通信、ソフトウェアのサポートが含まれていました。今年も協力は続いており、DeepSeekは9月下旬にAscend向けの適応コードを6セット公開しました。また、10月の報道によると、HuaweiはDeepSeekのモデル要件を満たすため、次世代チップの設計を調整していました。

950PRは主に推論用の入力を処理するために設計されています。DeepSeekは早ければ年末にも、大規模な事前学習に950DTを使用する計画です。両社は1,000チップ規模でテストを実施しましたが、数万個のチップを使って大規模モデルの学習サイクル全体を継続的に実行するには、より複雑な連携や安定性の課題に対処する必要があります。