GoogleとAmazon、新たなPyTorchツールでNvidiaのAIチップ支配に挑む

Nvidiaが人工知能のコンピューティング分野で支配的な地位を築いてきたのは、GPUだけのおかげではありません。
10年以上にわたり、同社はCUDAを中心とするソフトウェアエコシステムを構築し、開発者が同社のハードウェアをより簡単に使い、最適化し、大規模に展開できるようにしてきました。このソフトウェア面での優位性は、AIアクセラレーター市場への参入を狙う競合他社からNvidiaを守る、最も強力な障壁の一つとなっています。
いま、GoogleとAmazonはその障壁に直接挑んでいます。
両社は、開発者が自社のAIプロセッサ上でPyTorchのワークロードをより自然に実行できるよう設計された、新たなオープンソースツールを公開しました。GoogleはTensor Processing Unit向けにTorchTPUを公開し、Amazon Web ServicesはTrainiumチップ向けにTorchNeuronをリリースしました。
狙いは明快だ。Nvidiaのハードウェアから乗り換える際の負担を大幅に軽減することだ。
Google、TorchTPUをPyTorch開発者向けに公開
Googleは10月20日、TorchTPUをオープンソース化し、同社のTPUインフラでネイティブなPyTorchサポートを提供すると発表した。
PyTorchはAIモデルの開発とデプロイに広く使われているフレームワークの一つであり、Nvidiaと競おうとする企業にとって互換性の重要性は高まっている。
Googleによると、既存のPyTorchワークロードは、使い慣れたAPIや開発ツールを維持したまま、コードをほとんど変更せずにTPU上で実行できる。
TorchTPUは、Hugging Face、vLLM、SGLang、Ray、TorchTitanなど、広く使われているAIソフトウェアとも連携する。
開発者にとって、この変化の重要性は単なる技術的なものではない。
既存の機械学習ワークロードをあるハードウェアエコシステムから別のものへ移すには、従来、エンジニアリング作業や互換性テスト、最適化が必要だった。こうした移行コストがハードウェアへのロックインを生み出している。
Googleはこの障壁を下げようとしている。
ソフトウェアスタックの大部分を作り直すことなく、開発者がGPUとTPUの間でモデルを移行できるなら、ハードウェアの選択はソフトウェア互換性だけでなく、価格、利用可能性、性能をより重視したものになる。
AmazonもTorchNeuronで同様の戦略
Amazon Web Servicesも、TorchNeuronを通じてほぼ同じ戦略を進めている。
AWSは、TrainiumシリーズのAIアクセラレーター向けに、PyTorchのネイティブなオープンソースバックエンドであるTorchNeuronのパブリックベータ版を公開した。
AWSによると、開発者は別のフレームワークに合わせてモデルを書き直すのではなく、設定を変更するだけでPyTorchのコードをTrainium上に移行できる。
TorchNeuronは標準のPyTorch API、eager実行、torch.compileに対応し、開発者がTrainiumハードウェアに合わせてワークロードを最適化することも可能にする。
このソフトウェアは現在、Trainium2およびTrainium3チップを搭載したAmazon EC2インスタンスに対応している。
これは、AWSがAIコンピューティング能力のすべてを外部のチップ供給元から購入するのではなく、代替手段としてカスタムプロセッサーに多額の投資をしてきたため重要だ。
Trainiumにより、Amazonはクラウドインフラのコスト構造をより自在にコントロールできる。しかし、顧客にこれらのプロセッサーを使ってもらうには、競争力のあるハードウェアだけでは足りない。
開発者には、既存のワークフローに合ったソフトウェアが必要だ。
TorchNeuronは、そのギャップを埋めるために設計されている。
AIチップ競争でPyTorchが重要な理由
AIハードウェアをめぐる現在の競争は、ますますソフトウェアをめぐる競争になっている。
Nvidiaは長年をかけて、CUDAを機械学習開発に深く組み込んできた。ライブラリー、最適化ツール、開発者の専門知識はすべて、そのエコシステムを中心に発展した。
その結果、経済学でよく「スイッチングコスト」と呼ばれるものが生じる。
競合するアクセラレーターは、理論上は魅力的な性能や低コストを実現できるかもしれない。しかし、ワークロードの移行に何週間ものエンジニアリング作業が必要なら、企業はそれでもNvidiaを選ぶ可能性がある。
PyTorchのネイティブサポートは、その状況を変える。
GoogleとAmazonはいずれも、自社ハードウェアを独立した別のプラットフォームではなく、使い慣れたPyTorch環境内で選べる別の実行先のように感じられるよう取り組んでいる。
膨大なワークロードを扱う大手AI企業にとって、ハードウェアの柔軟性がわずかに向上するだけでも、大きな経済的効果をもたらし得る。
すべてのワークロードを一つのアクセラレーターアーキテクチャに委ねるのではなく、その時点で最もコスト面の利点が大きいインフラに、モデルごとに振り分けられるようになる可能性がある。
NvidiaのCUDAの堀に、これまでとは異なる競争が迫る
Nvidiaはいまも大きな優位性を保っている。
同社のGPUはAIの学習と推論で広く使われており、CUDAエコシステムには長年にわたって最適化されたソフトウェア、ドキュメント、開発者の知見が蓄積されている。
そのため、GoogleやAmazonが一夜にしてNvidiaのソフトウェア面の優位性を取り除くことは難しいだろう。
しかし、競争の性質は変わりつつある。
これまで、競合各社は主にハードウェアの仕様でNvidiaを上回ろうとしてきた。だが現在、ハイパースケーラー各社は、競争力のある半導体だけでは不十分だと理解し始めている。
移行も容易にしなければならない。
ロイター通信は以前、AmazonのTorchNeuronは開発者がTrainiumを試すまでに必要な手順を減らすことを目的としていると報じた。一方、Googleは、すでにPyTorchを使っている開発者がTPUをより利用しやすくする取り組みを進めている。
これにより、開発者体験が戦略的な武器となる。
AI推論の拡大でハードウェア選びの重要性が増す可能性
AI市場が巨大な基盤モデルの学習にとどまらず拡大するなか、これはとりわけ重要なタイミングだ。
推論、つまりAIシステムを実際に動かしてユーザーのリクエストに応える処理は、コンピューティング需要のなかで重要性を増している。
推論ワークロードは、規模、レイテンシ要件、コストへの敏感さが大きく異なることがある。
そこに代替プロセッサーの機会が生まれる。
最先端モデルを学習させる企業は、最大限の性能と成熟したソフトウェアエコシステムを優先するかもしれない。一方、小規模な推論リクエストを何百万件も処理する企業は、トークン当たりのコスト、消費電力、インフラの利用可能性をより重視する可能性がある。
AIワークロードの幅が広がるほど、単一のチップアーキテクチャがあらゆる用途で優位に立つのは難しくなるだろう。
大手テクノロジー企業が独自のアクセラレーターを開発している理由の一つはそこにある。
GoogleにはTPUがある。
AmazonにはTrainiumがある。
MetaはMTIAプロセッサーを開発した。
インフラ支出が増え続けるなか、ほかのAI企業もカスタム半導体を模索している。
Nvidiaは依然として市場をリードしているが、業界はより異種混在型のコンピューティング環境へと向かっている。
オープンソースが変化を加速させる可能性
TorchTPUとTorchNeuronのもう一つの注目すべき点は、オープンソースソフトウェアとして公開されることだ。
これにより、開発者はツールをより詳しく把握できるようになり、外部からの貢献も可能になる。
また、GoogleやAmazonは、自社のハードウェアを使っても別の閉鎖的なソフトウェアエコシステムに囲い込まれるわけではないと、企業に安心してもらいやすくなる可能性がある。
AWSによると、Trainiumを使って学習させたモデルは標準的なチェックポイント形式で保存でき、対応するほかのハードウェアに移行できる。
Googleも同様に、既存のAIツールとのハードウェア選択肢や互換性を軸にTorchTPUを位置づけている。
この位置づけは重要だ。
Nvidiaから乗り換えることで、別の形のロックインに置き換わるだけなら、開発者がハードウェアの多様化を受け入れる可能性は低い。
ハイパースケーラー各社は、PyTorchとの互換性やオープンなツールを強調し、独自アクセラレーターを相互に置き換え可能なインフラとして提示している。
AI開発者にとっての意味
AIチームにとって、ハードウェア競争の激化は最終的に選択肢の増加につながる可能性がある。
ソフトウェア依存のために一つのプラットフォームにとどまらざるを得ないのではなく、開発者は個々のワークロードの特性に応じて、NvidiaのGPU、GoogleのTPU、AWSのTrainiumを比較できるようになるかもしれない。
影響が及ぶ可能性のある分野：
AIの学習コスト
推論の料金
クラウドインフラの利用可能性
エネルギー効率
導入の柔軟性
クラウドプロバイダーに対する交渉力
また、ハイパースケーラー各社が独自ハードウェアにワークロードを呼び込もうとするなかで、より積極的な価格設定が促される可能性もある。
AWSはすでに、特定のAIワークロードではTrainiumが魅力的なコスト面のメリットを提供できると主張している。一方、GoogleはGoogle Cloudを通じてTPUの利用機会を拡大し続けている。
こうしたチップが使いやすくなるほど、代替手段を検討する開発者にとって、各社の主張はより説得力を増す。
GoogleとAmazonは本当にNvidiaを脅かせるのか？
競合他社がPyTorchとの互換性を高めたからといって、Nvidiaがその地位を失う可能性は低い。
同社のハードウェアロードマップ、ソフトウェアライブラリー、開発者コミュニティは、依然として大きな競争優位性だ。
しかし、市場を変えるためにGoogleやAmazonがNvidiaに取って代わる必要はないかもしれない。
自社のクラウドプラットフォーム内でより多くのワークロードを獲得するだけでも、Nvidiaのハードウェアへの依存を減らし、AIインフラ分野で有意義な競争を生み出せる。
さらに重要なのは、AI開発者が単一のハードウェアエコシステムを前提に開発しなければならないという考えを弱めることだ。
したがって、AIチップ競争の次の局面は、プロセッサーの生の性能だけでなく、ソフトウェアの移植性によっても左右される可能性がある。
GoogleのTorchTPUとAmazonのTorchNeuronは、その変化の初期事例だ。
Nvidiaにとって、競争上の課題は明確になりつつある。競合他社は、より優れたチップを作ることだけを目指しているのではない。
Nvidiaから離れやすくすることを目指しているのだ。
免責事項：本記事は情報提供のみを目的としており、法律、税務、投資、金融その他の助言として提供または利用されることを意図したものではありません。