データセンターでは、部屋いっぱいに一列ずつライトが点いています。

 

サーバーは壊れていないし、ファンも通常どおり回っている。電力も普段どおり消費されている。帳簿上では、届くはずのGPU(グラフィックス処理装置)も揃い、組み込むべきマシンも組み込まれた。ところが、学習タスクはいまだに思ったほど速く走らないし、推論サービスも時々、信じられないほど遅い。

機械は何をしているの?

待っています....

別のノードが作業を終えるのを待つ。モデルの状態同期を待つ。混雑した回線からデータが押し出されてくるのを待つ。いったん一時的に遅れたサーバーが再び追いついてくるのを待つ。多数のGPUはそれぞれの仕事をすでに終えているのに、少数のノードがまだ到着していないだけで、タスク全体がそこで止まってしまう。

1枚のGPUの性能は、パラメータ表にきちんと書けます。

1万枚のGPUでどれだけ出せるのかは、1枚のカードの数字に1万を掛けた値ではありません。

装置が増えるほど、互いに相談すべきことも増えます。ある区間の接続が遅くなり、どこかの流量が詰まれば、高価なチップはそこに座り続け、消費電力を払い続け、発熱し続け、待ち続けます。

このコストは普段あまり目立ちませんが、AIファクトリの実際の生産量を一口ずつ食い尽くします。

ここで言うAIファクトリは、GPUが並ぶだけの一室ではありません。計算、メモリ、ネットワーク、電力、冷却、そしてスケジューリングを1つの仕組みとして組み合わせ、トレーニングと推論能力を継続的に生産するシステムです。

チップは理論上限を決め、システム全体が、どれだけの能力が本当に引き出せるかを決めます。

AIネットワークを理解するなら、ここから始めるべきです。

過去にAIネットワークの話をすると、まず思い浮かぶのは光モジュールです。

400Gから800G、さらに1.6Tへ。速度がどんどん上がり、単位データ転送あたりの消費電力も下げられています。光モジュールは確かに、現時点で最初に注文と納品へ落ちていく層です。

しかしそれは、次の1つの質問に答えるだけです。あるリンクで、データを最大どれだけの速度で送れるのか。

しかし、もう一つの致命的な問題には答えられません:

クラスタ全体の流量はどう流すべきか?

誰が先に行き、誰が後に行く? どの道が渋滞し、タイミングよく迂回できるか? サーバはどうネットワークに接続するのか? 一度の短い揺らぎが、なぜ数千枚ものGPUを遅くしてしまうのか? 推論サービスの平均速度は悪くないのに、なぜいつも少数のリクエストがあまりにも遅くて苛立つのか。

これらの問題がGPU利用率に影響し始めると、ネットワークは“伝送設備”という古い境界を越えていきます。

それはすでに、AIファクトリの生産効率層に入っています。

光モジュールは依然として重要です。

それは“ドアの向こう側”にあるだけで、もはや単純な通路ではありません。

1万枚のGPUは、1万台がそれぞれ勝手に働くマシンではありません

個人用PCの計算は、大半が1台の中で完結します。

プロセッサ、メモリ、ストレージがかなり近いところに並び、データはマザーボードや内部の相互接続を行ったり来たりするので、経路は短く、関係も比較的シンプルです。

大規模AIクラスタは、そんなに気楽にはいきません。

モデルが大きすぎて1枚のGPUには収まらない。データが多すぎて1台のサーバでは計算しきれない。モデルを分解し、データも分解し、タスクも分解して、それを別々のサーバや別々のラックへ、さらには別々の建物にある大量のアクセラレータへ割り当てる必要があります。

あるGPUは異なるデータを処理し、あるものはモデルの別の部分を担当し、いくつかの装置はストレージ、ネットワーク、あるいはスケジューリングの仕事を担います。

表向きは各自が勝手に働いているように見えても、実際には四六時中会話しています。

データを交換し、中間結果を交換し、パラメータ更新を交換し、モデル状態を交換する。

こうした通信は、タスクが終わったときの一度きりの“提出”ではありません。計算ループの中に常に存在し、しばらく計算し、しばらく交換し、また計算を続けます。

分散トレーニングでよくあるAllReduce(全規約通信)は、典型的な操作です。各計算ノードがまず自分の局所結果を出し、システムがそれを集約し、そして整合した結果をすべてのノードに返します。同期トレーニングでは、次のラウンドの計算は、この同期が完了した後でなければ進められません。NVIDIAのNCCLドキュメントは、このプロセスを明確に定義しています。

これは一見ネットワーク工学の話ですが、実際には計算過程にまで入っています。

GPUが計算を担当します。

ネットワークが、これらの計算に接続してくれなければなりません。

どちら側かが追いつけなければ、タスク全体が巻き込まれます。

だからこそ、大規模GPUクラスタは、無数のサーバとラックに広げられた巨大な計算機のように見えるのです。ネットワークは、この計算機の外側に付属するものではありません。ネットワーク自体が内部接続の一部です。

ラック内部の近距離相互接続と、ラック間・リージョン間のバックエンドネットワークは、同じ課題ではありません。前者は極低レイテンシと極高密度を追求し、後者は拡張性、フォールトトレランス、配線、保守まで考慮する必要があります。距離が伸びれば、消費電力、経路、故障、そしてスケジューリングが段階的に積み重なっていきます。

これが、大規模プラットフォームがAIクラスタを構築するときに、ネットワークがサーバ調達の完了後にのんびり後追いできない理由を説明しています。

トポロジ、スイッチング装置、ネットワークインタフェース、流量制御、ソフトウェアスタックは、GPU、メモリ、ラックと一緒に設計しなければなりません。

MetaはRoCE(融合イーサネット上の遠隔ダイレクトメモリアクセス)ネットワークの構築について公開しています。関連するシステムは、プロトタイプから複数の本番クラスタへ進んでおり、各クラスタは数千枚のGPUを収容して、推薦、コンテンツ理解、自然言語処理、生成AIなどのトレーニングタスクを支えています。エンジニアリング面の議論の中心も、「リンクが十分に速いかどうか」だけではなくなり、トポロジ、ルーティング、エンドポイント、輻輳制御、スケジューリングが協調して本番タスクの安定を維持できるかへと変わっています。Metaのエンジニアリングチームの公開資料は、この変化をかなり率直に語っています。

信号はすでに十分に明確です:

AIネットワークの競争は、高速接続があるかどうかから、クラスタ全体が安定して稼働できるかへ移っています。

道をいくら広くしても、渋滞は交差点で起きる

帯域幅は理解しやすい。

道が広ければ、同じ時間に通れる車の数が増えます。ポートの速度が高ければ、理論上送れるデータ量も増えます。

厄介なのは、道幅が広いことが、一路が通行可能であることと同じではない点です。

都市の道路をいくら広く作っても、すべての車が同じ分に1つの交差点へ殺到すれば、やはり渋滞します。前方で小さな事故が起き、信号機の調整が不適切だったり、皆が同じ道が最速だと思い込んだりしても、片側には空白ができ、もう片側は動けなくなります。

AIクラスタのトラフィックは、まさにあまりおとなしくありません。

多くのノードは、近いタイミングで1ラウンドの計算を終え、その後同時にデータを送ります。トラフィックは平穏にやって来るのではなく、集団で一気に突進していきます。GoogleによるAIネットワーク負荷の公開説明では、このパターンを「同期バースト」と呼んでいます。多数のノードがミリ秒級の時間で協調して高強度のトラフィックを発生させ、システムは遅延の揺らぎに非常に敏感になります。Google Cloudのネットワーク説明では、従来の低頻度監視ではこうしたマイクロバーストを見えにくいことも特に強調されています。

このとき、ピーク帯域幅は単なる最低条件にすぎません。

データはどこへ向かい、どの道が先に詰まり、詰まった後どう分散させるか。タスク同士で互いに道を奪い合うのか。大きな流量が他のリクエストを押しつぶすのか。こうした問題が、帯域幅が結局どれだけ“使い物になる”のかを決めます。

紙の上の帯域幅が非常に高いネットワークもあります。

実際に動かしてみると、経路配分が不均一で、輻輳のフィードバックが遅く、サーバ側のエンドポイント処理が間に合わないため、クラスタ全体を安定して満杯に稼働させられません。

そして、少しばかり荒唐無稽な光景が生まれたのです。

ポートはすぐに用意でき、機器は高い。GPUは依然として待っています。

従来の企業ネットワークも渋滞しますが、1つの業務リクエストが少し遅れる程度なら、通常は数千台のサーバが一斉に停止することはありません。

分散AIトレーニングのノードは、協調性がより強いです。彼らは、必ず足並みをそろえて進まなければならない隊列のようなものです。ネットワークの揺らぎが1箇所で起きると、設備の一群が同時にリズムを失うかもしれません。

だからAIネットワークに必要なのは、単に太い“水道管”ではありません。

さらに、より良い経路設計、より安定したレイテンシ、より速い輻輳フィードバック、そしてGPUにより近いデータチャネルが必要です。

トレーニングで最も恐いのは、遅刻する人がいること。

大規模トレーニングには、きわめて厳格な秩序があります。

多くのノードがそれぞれ一部を計算し、肝心の手順では必ず合流します。大多数のノードはすでにいまの計算を終えていますが、少数のノードがデータ待ちをしているだけで、タスク全体が次のラウンドにうまく進みにくくなります。

この種のノードは、よく“テールノード”と呼ばれます。

いつもずっと遅いわけではありません。

たまたまある瞬間に渋滞に遭うのかもしれません。再送が一度起きるのかもしれません。経路が他より数歩多く迂回しているのかもしれません。普段は、この程度の差は大したことではありません。しかし同期トレーニングの中へ入れると、短い遅刻がクラスタ全体に増幅されてしまうことがあります。

1人が5分遅れて来ると、損をするのは自分です。

一隊の人が必ず同時に出発しなければならない。遅れる人がいれば、全員が待つことになります。

そのため、トレーニングネットワークは特に次の3つを重視します。通信が十分に速いか、遅延が安定しているか、大量のノードがほぼ同じテンポで前へ進めるか。

ポート番号を大きくするだけでは、問題の一部しか解決できません。

トポロジも非常に重要です。

トポロジとは、サーバ、スイッチ、そしてリンクがどう組み立てられるかです。機器の数が同じでも、接続の仕方が違えば、データが通る距離、選べる経路、故障後に迂回できる力などが変わります。

スイッチングプラットフォームも、ここで前面に出てきます。

switch ASIC(スイッチチップ)が、多数のポート間で転送し、流量を組織化します。それはスイッチング容量とポート密度を決め、負荷分散、経路選択、輻輳管理にも影響します。

公開製品はすでに、1つのスイッチチップの容量を102.4Tb/s級まで押し上げ、さらに大規模なAIクラスタを明確に狙っています。BroadcomのTomahawk 6の製品資料が示しているのは、顧客が全面的な切り替えを終えたことではなく、ネットワークの圧力が光ポートからスイッチプラットフォームの内部へ一路伝わっているということです。

サーバ側も手を抜けません。

NIC(ネットワークインタフェースカード)は、サーバとネットワークのデータ受け渡しの場所です。GPU内のデータが外へ出るにも、ネットワーク内のデータが入ってくるにも、エンドポイントを経由します。

従来のデータ搬送はしばしばプロセッサの関与が必要で、データが異なるメモリ領域間で何度もコピーされることもあります。RDMA(リモートダイレクトメモリアクセス)がやりたいのは、この道を短縮し、あるサーバが別のサーバのメモリへより直接的にアクセスできるようにして、不必要なソフトウェアの遠回りを減らすことです。

GPUDirect RDMAは、この道をさらに短くし、ネットワーク機器がGPUメモリとより直接的なデータ交換パスを作れるようにします。省けるのは単なる技術手順ではなく、時間、プロセッサの占有、そしてGPUの待ちです。NVIDIAの公式技術ドキュメントは、このデータパスの動作方式を示し、同時にプラットフォームやシステムの制約も列挙しています。

ネットワークが忙しくなった後も、誰かが秩序を維持しなければなりません。

それが輻輳制御です。

大量のノードが一斉にデータを送ると、一部の経路が先に詰まります。システムが反応に遅れると、データはキューに並び、失われ、再送され、テールのノードがますます増えていきます。システムが過度に慎重すぎると、今度は大量の経路をアイドルのままにして使わないこともあり得ます。

良い輻輳制御は、両端の間で“さじ加減”をつかむ必要があります:

道をふさぐことはできませんし、渋滞が怖いからといって車を走らせないこともできません。

Ultra Ethernet Consortium(超イーサネット連合)が発表したUEC 1.0シリーズ規格は、伝送、輻輳制御、ダイレクトメモリアクセス、ネットワークインタフェース、スイッチ、光学、ケーブル、運用保守、テストを、同一のAIおよび高性能計算向けイーサネット体系にまとめています。UECの公式リリース情報自体が、AIネットワークがすでに単一モジュールや単一のスイッチの範囲を超えていることを示しています。

ここで、イーサネットとInfiniBandを“今すぐ勝敗を決めるべき戦争”にする必要もありません。顧客が最終的に気にするのはクラスタの効果です。自分たちの規模、負荷、ソフトウェアスタック、保守体制の中で、どのネットワークがより安定していて効率的で、そしてより拡張しやすいのか。プロトコルの路線は併存できます。スローガンのせいで製造結果が譲られることはありません。

トレーニングネットワークで最後に見るべきものも、“何G走ったか”だけではありません。

より実感のある問題は次のとおりです:

1回のトレーニングで、どれだけの時間が本当に計算に使われていますか?

同期と待ちにどれだけの時間がかかるのか?

ジョブ全体がどれくらいで終わるのか?

ネットワークで異常が起きた後、タスクは安定して復旧できるのか?

ネットワークの効率が上がれば、トレーニング時間は短くなり、GPUの利用率も高まります。

ネットワーク効率が落ちれば、チップは1枚も減っていないのに、生産が少しずつ漏れていきます。

推論で最も怖いのは、たまにひどく遅くなることです

トレーニングは長い工事のようなものです。

推論は、毎日ずっと開いている商売のようなものです。

ユーザーが質問し、企業システムがリクエストを出し、エージェントがツールを呼び出し、モデルが回答を生成します。リクエストは絶え間なく届きます。長さも違えば難しさも違い、持ち込まれるコンテキストも異なります。

短い答えだけで済むものもあります。

1つの会社が、一式のドキュメントを抱え込んでいる。

資料をめくり、ツールを調整し、外部システムにアクセスする必要がある人もいます。

学習ネットワークで最も怖いのは、全員が足並みをそろえるときに誰かが脱落することです。

推論ネットワークが最も恐れるのは、流量が急に増減することと、少数のリクエストがひどく遅くなることです。

ここでテールレイテンシーについて触れます。

たとえば100件のリクエストのうち、90件以上はすぐ終わり、遅いのは数件だけだとします。平均値だけを見ると、システムはうまく動いているように見える。しかし実際にユーザーの手元に届くと、なぜかその“数件の遅いリクエスト”にぶつかってしまうことが起き得ます。

テールレイテンシーが語っているのは、この一群の最も遅いリクエストです。

チャットツールがなかなか文字を出さず、コードアシスタントが生成で止まり、カスタマーサポートのシステムが顧客の目の前で突然フリーズする。平均レイテンシが良く見えても、その“待たされている人”を安心させるのは難しい。

推論にはさらにもう一層、スケジューリングの難題があります。

同じモデルは通常、多くのサーバにデプロイされます。

リクエストが来たら、システムは判断しなければなりません。どのマシンがより空いているのか。

どのマシンはすでに処理しすぎのタスクを抱えている? どのマシンには再利用できるコンテキストが保存されている? リクエストをどこへ送れば、計算を1回分減らせて、待ち時間も少し減らせる?

配分がうまくいけば、GPUは継続して働けます。

配分が悪ければ、一方は忙しすぎて息もできないのに、もう一方は暇であまっている。

Google CloudのGKE Inference Gateway(推論ゲートウェイ)は、リクエストキュー、アクセラレータの利用率、そしてKV cache(キー・バリューキャッシュ)のヒット状況まで、ルーティング判断に組み込んでいます。システムは共有コンテキストのリクエストを、キャッシュにヒットしやすいモデルのレプリカへ送ります。また、キューが長すぎたり負荷が高すぎたりするノードは避けます。Google Cloudの公式ドキュメントでは、推論ネットワークの役割が「リクエストを送り届ける」から「より適切な場所へリクエストを届ける」へ進んだと説明されています。

KV cacheは、モデル推論の過程で生成されるコンテキスト状態を保存します。

コンテキストが長いほど、多ラウンドの対話が増え、キャッシュの量も大きくなります。キャッシュが一度ノードをまたいで共有されたり、移行されたり、遠隔アクセスされたりすると、ネットワークは推論パスの奥深くまで入り込むことになります。

データをどこに置くか、リクエストをどこへ送るか、キャッシュをどの経路から読み出すか――これらはすべて、応答速度と単位コストに影響します。

この部分の仕組みは、後でさらに別途分解します。

ここでは覚えておけば十分です。トレーニングも推論も高性能ネットワークが必要ですが、主な矛盾はまったく同じではありません。

トレーニングは、大規模な同期とジョブ完了時間を重視します。

推論は、継続的なスループット、動的ルーティング、応答の安定性を重視します。

それを一言に圧縮すると:

トレーニングは待つのが怖く、推論は揺らぐのが怖い。

これは絶対的な区切りではありません。トレーニングも揺らぎが怖いですし、推論も大帯域が必要です。

しかしそれは、負荷の中でも特に2種類の“露出しやすい問題”を捉えているのです。

光モジュールは入口にある。中には一式の秩序がある。

光モジュールは依然として重要で、なお相当長い期間にわたって重要でしょう。

電気信号は、あらゆる距離・あらゆる速度で効率よく伝送できるわけではありません。GPUサーバがラックをまたぎ、データセンターをまたぐことになると、高速な光接続はデータ搬送の現実的な選択になります。

着脱可能な光モジュールはすでに成熟した形を持ち、取り付けや交換が比較的分かりやすく、サプライチェーンも比較的整っています。ポートの速度が上がると、最初に需要を受け止めるのは、往々にしてそこです。

光モジュールをAIネットワークの現時点で最も明確なデリバリー層と見なすのに問題はありません。

問題は、デリバリー層を価値のすべてとして扱ってしまったことです。

1つの光モジュールは、あるリンクをより速く伝送できますが、クラスタ全体の流量の組織化を決める責任は負いません。すべてのキューイングを解決できず、ノード同期も制御できず、単独では故障の切り分けや運用スケジューリングもできません。

完全なAIネットワークとは、GPUから物理データセンターまで伸びる長い鎖です。

計算に近い側は、GPU、サーバのメモリ、そしてネットワークインタフェースです。データはできるだけ遠回りせず、少しでもコピーを減らし、プロセッサの占有を減らす必要があります。

ネットワークの中間部は、交換チップと交換装置です。経路を組み立て、トラフィックを配分し、タスクを隔離し、高負荷時には輻輳を処理します。

さらに外側には、光モジュール、光ファイバ、ケーブル、そしてコネクタがあります。それらが信号を安定して“本物のデータセンター”へ通します。

その上には、プロトコル、管理、observability(可観測性)がかぶさっています。システムは、どこで詰まっているのか、どのリンクが不安定なのか、どのタスクが他を遅らせているのか、そしてどう対処すべきかを知らなければなりません。

NVIDIAがSpectrum-Xの製品をどう組織しているかを見ると、スイッチ装置、SuperNIC(スーパー・ネットワークインタフェースカード)、RoCE、輻輳制御、エンドツーエンド telemetry(テレメトリ)、そしてソフトウェアチューニングを、同じAIイーサネットプラットフォームの中にまとめています。メーカーが提示する“何倍の性能”という倍率は、テスト条件とセットで見なければなりませんが、このアーキテクチャ自体が顧客の需要の変化を物語っています。顧客が解決したいのはクラスタ効率であり、互いに無関係な部品をただ大量に買うことを望む人はいません。Spectrum-Xの公式製品説明も、フルスタックのチューニング、輻輳制御、可観測性を同じ物語の中で語っています。

これは、産業価値をどう観測するかを変えます。

昔、光通信を見るときに使われがちな言葉は、レート、出荷量、単価、そして世代更新でした。

AIファクトリに入ったら、さらにいくつか質問があります:

スイッチングプラットフォームは、より大きなGPUクラスタを支えられるのか?

ネットワークのエンドポイントは、データの迂回を減らせていますか?

プロトコルは同期バーストのトラフィックを受け止められるのか?

運用保守チームは、遅くしているリンクを迅速に見つけられるのか?

高速ネットワーク自体の消費電力と熱。ラックが耐えられるのか?

製品世代の重要性は依然としてあります。ただし、顧客がクラスタ効率をそれ以上に重視し始めたということです。

1つのスイッチチップは、もはや多くのポートの寄せ集めではありません。ネットワーク全体がどう振り分けを行うかに影響します。

1枚のネットワークインタフェースカードも、単なるサーバの付属品ではありません。GPUのデータがどう出入りするかに影響します。

一式のプロトコルは、一見バックグラウンドに隠れているようで、実は忙しい時間帯に秩序が崩れるかどうかを決めています。

テストや可観測性は、そもそもサポートの“おまけ”ではありません。クラスタが大きくなるほど、問題を見つける速度は上がり、そして生産能力そのものにより近づきます。

一部のハードルは目立たないのに、ちゃんと人を困らせる

高速ネットワークで最も目立つのは、いつもチップとモジュールです。

本当に製品を展示台から数万台の装置へ運ぶのは、たいてい“映えない”ものです。

コネクタは何度も抜き差しに耐える必要があり、さらに高密度で長期間高温の環境でも安定していなければなりません。光ファイバが増えるほど、配線、曲げ半径、番号付け、保守スペースなど、あれこれが面倒になります。

速度が高いほど、小さな誤差にも容赦がなくなる。

ほんの少しの信号損失、ほんの少しの温度変化、ほんの少しの製造ばらつき。高速リンクではそれらが増幅されることもあります。

テストも難しくなります。

実験室でリンク1本を通せたとしても、それは管理された条件下で使えることを示すだけです。

工場へ入ると、バッチ製造の一致性を検証します。

機械室に入ったら、モジュール、スイッチ装置、配線、プロトコル、そして実際の負荷が“そろって”動くことを検証する必要があります。

製品をリリースするのは一つのことです。

数千もの高速リンクを、何年も同じように安定して稼働させ続けるのは、別の話です。

その間には、製造テスト、システム検証、現場診断、そして保守プロセスがあります。

それゆえ可観測性も、もはや“きれいなダッシュボード”ではありません。

大規模AIクラスタの異常は、毎日起きるとは限りません。ふだんはすべて正常に見えていても、学習タスクを立ち上げると、ある経路が突然詰まります。あるいは、あるポートが特定のトラフィックの組み合わせのときだけ遅くなることもあります。

システムが「タスクが遅い」ということしか知らず、遅い場所が見えないなら、エンジニアは1日かけて調査している間、GPUはそれに連れて1日待つ可能性があります。

Googleの公開資料では、高解像度のテレメトリを使って、従来の低頻度監視では見落としがちなネットワークの“マイクロバースト”を識別します。UECの規格も、運用保守とテストを、完全な通信体系に組み込みます。ネットワーク規模が大きくなるほど、“見えること”と“速く運ぶこと”の両立がますます難しくなります。

ただし、産業の判断はここで興奮し始めてはいけません。

テストは重要です。ただし、すべてのテスト工程が高い利益を生むわけではありません。

コネクタは欠かせません。ただし、数量が増えれば自動的に価格支配力を得られるというわけでもありません。

能力の重要性は、その能力がクリティカルパスに入ったことを示すだけです。

重要性を産業価値に変えるには、顧客の認証、技術的な参入障壁、供給競争、置き換えの難しさ、そして問題が起きたとき誰が責任を負うかまで見なければなりません。

重要なのは、出発点です。

希少で、納品でき、代替が難しい――それがその先の話です。

顧客が買うのは、いつだって“ポート番号”ではありません

顧客側に立てば、ネットワーク購入の目的は実のところとても素朴です。

トレーニングが早く終わる。

GPUを少しだけ待たせる。

推論では、より多くのリクエストを処理します。

最も遅いリクエストよ、遅すぎるほど遅くならないで。

システムが問題を起こしたとき、エンジニアができるだけ早く原因を見つけられること。

だから、AIネットワークが最終的に目指すべき4つの結果は次のとおりです。GPU利用率、トレーニングの待ち時間、推論スループット、テールレイテンシー。

ポート速度は製品パラメータです。

ジョブ完了時間とサービスの安定性――それこそが顧客の成果です。

ネットワークのアップグレードがポート番号をより高く押し上げる一方で、デバッグがより複雑になり、故障復旧が遅くなり、消費電力や冷却の負荷が明らかに増えるなら、顧客は発表会のパラメータだけを見て納得しません。

逆に言えば、ある技術が十分に新しくなくても、供給が安定していて、保守が容易で、既存のデータセンターに素早く組み込めるなら、長い寿命を保つこともできます。

産業の現場には、地図がきれいに描かれていることなど決してありません。

新旧の方式が併存する。

規模や負荷、そしてデータセンター環境の違いが、顧客を異なる選択へ導きます。超大規模の学習クラスタは、高度なアーキテクチャを試したがるかもしれません。中規模システムは、依然として成熟した方式を好む傾向があります。推論クラスタは、リクエストの形、コンテキスト長、キャッシュ配置に応じてさらに別の判断をします。

価値もまた、平均に分配されません。

光モジュールの需要が増えれば、高速接続の需要が本物だと証明できますが、すべてのサプライヤが同じ利益を得られることは保証できません。

スイッチングプラットフォームがクリティカルパスに入ると、交換チップの産業上の比重を高められます。顧客の大規模購買量が、その逆に値下げ圧力をかける可能性もあります。

プロトコルとソフトウェアの重要性がますます増し、一部の価値は完全なプラットフォームに回収され、独立したサプライヤには残らないかもしれません。

コネクタ、テスト、運用保守が前面に出てくるだけでなく、標準化の後には新しい競争も始まります。

資本支出は産業の拡張を示します。

市場の余地は、需要が大きいことを示せます。

この2つはどちらも、直接利益の代わりにはなりません。

需要から利益へは、供給能力の拡張、価格の伝播、顧客の値引き交渉、認証、納品の間に様々な段が介在します。

ここで最も起こりやすい誤りは、「ネットワークはますます重要になる」と言い換えて、そのまま「ネットワークのあらゆる工程が一緒に儲かる」と翻訳してしまうことです。

そんなに楽な産業はありません。

より確実な判断は次のとおりです:

ネットワークが有効な計算能力を制限し始めたとき、本当にトレーニング時間を短縮し、推論サービスを安定させ、システム納品の責任を引き受けることのできる段階で、産業の比重は上へ移っていきます。

そこは高速な光接続に落ちるかもしれませんし、スイッチングプラットフォーム、ネットワークエンドポイント、輻輳制御、テスト、運用管理に落ちるかもしれません。

結局どこに落ちるのかは、最後は実際のデプロイメントを見ないと分かりません。“誰が先に新しい用語を叫んだか”を見るのではありません。

いかに強い主軸でも、反証には耐える必要がある

AIネットワークが生産性の領域に入ると、構造的な変化が起きます。

それは、ハードウェア需要がこれから一直線に上がっていくことを意味しません。

ソフトウェアが、その一部の負荷を吸収します。

より合理的なモデル並列は無駄な通信を減らし、より良いタスクスケジューリングは計算と通信を重ね合わせられます。より賢い流量配分なら、古いネットワークでももう少し役割を果たせます。

トポロジ設計を直せば、顧客が同じハードウェアを使っても、より多くのタスクを完了できます。

モデル自体も変化します。

モデル効率が向上して同種のタスクに必要な計算量が減れば、クラスタ規模や通信リソースに対する追加需要の伸びが鈍化する可能性があります。一部の推論タスクは、より小さく、より専用のモデルに任せられるかもしれず、すべてを超大規模クラスタに押し込む必要はありません。

資本支出のテンポも、ネットワークのアップグレード速度を変えます。

大規模プロジェクトの延期、学習クラスタの拡張の鈍化、あるいは顧客の重点が集中トレーニングからより分散された推論へ移ることは、光モジュール、スイッチ装置、エンドポイントの需要の組み合わせを変えます。

供給の拡張は利益を変える。

高速製品が品薄のとき、供給業者は価格支配力を持ちやすくなります。新しい生産能力が一度急速に投入されると、顧客は同時に複数の供給業者を導入し、製品価格や利益率が需要より先に反転してしまう可能性があります。

成熟したロードマップには、それなりの重みがあります。

着脱可能な光モジュールには明確な保守手順、成熟したサプライチェーン、そして長年の顧客の習慣があります。より深い光電融合アーキテクチャには理論上の利点があっても、信頼性、修理方法、歩留まり、そして責任分界が解決されるまでは、顧客が成熟した方式を継続して採用する可能性もあります。

標準のリリースが、そのまま受注につながるわけではありません。

UEC規格の発表は、オープンイーサネットがAIネットワークの需要に対して体系的に応答していることを示しています。しかし、すべての顧客が同じ仕様で既にデプロイを完了したことを意味するわけではありません。

交換チップの容量が次の段階に上がったことは、技術力がそこに到達したことを示します。しかし、すべてのデータセンターがすでに機器を入れ替えたことを意味するわけではありません。

新しい光学システムが公開されて、ルートが研究に値することは示されました。しかし、大規模で保守可能、かつ利益を生むデリバリーまでには、まだ長い技術工程が必要になる可能性があります。

ロードマップは方向を示すだけです。

生産システムが最終的に帳尻を合わせます。

だからこそ、AIネットワークの主軸はとても強くなり得ますが、具体的なルートには余地を残す必要があります。

AIファクトリにおけるネットワークの位置づけは、今後も上がり続けます。

利益プールがどこへ移るのか、移る速さはどれくらいか、最終的に誰の手に集まるのかは、同程度に確定していません。

光がチップへ近づき始めると

機械室の中に並ぶ、明かりがついた一列のマシンたちに戻りましょう。

GPUが届き、電源も通りました。どれだけ出せるかは、結局、実際に計算している時間がどれだけあるか、そして待ち時間がどれだけあるかに左右されます。

光モジュールはデータを高速でリンク上に通します。

スイッチングチップが、流量の流れ方を決めます。

ネットワークエンドポイントは、データのサーバとの入出力にかかる距離を短くします。

プロトコルと輻輳制御が、忙しい時間帯の秩序を維持します。

テストと可観測性が、このシステムを製造できること、デプロイできること、そして問題が起きたときに“見える”ことを保証します。

それらが合わさって、初めてGPUクラスタの実際の生産量になります。

これが、AIネットワークが伝送チャネルから生産性の層へ入るという意味です。

そして、ポート速度、スイッチング容量、ラック密度がさらに上がっていくと、別のより難しい問題も姿を現します:

電気信号がスイッチチップと光モジュールの間をより速く進むほど、距離、消費電力、空間、そして冷却を処理しにくくなります。

その段階では、着脱可能なモジュールをより速くするだけでは、必ずしも十分ではありません。

光学的な能力は交換チップにより近い位置へ押し出され、その交換装置の形態もそれに伴って変化します。CPO(共封入光学)と silicon photonics(シリコンフォトニクス)は、この圧力のもとで前面に出てきました。

本当に答えるべき問いは、「次世代の光モジュールがどんな姿か」でははるかにありません。

より深い問題は次のとおりです:

ネットワークが計算の領域に入ったなら、光とチップは、結局どのように“再び一緒になる”べきなのか。

本稿は、テクノロジー産業の動向およびサプライチェーンのメカニズムのみを議論し、投資助言、証券の推奨、または外部の行動に関する結論を構成しません。