【なぜMarlは2日で半ETH分の時価総額が上がった?黄氏が語る:AI データセンターの次のボトルネックは connectivity / interconnect、つまり相互接続(互聯)、光インターコネクト、スイッチング、そしてカスタムXPUで定義される】
1. connectivity /interconnect = 相互接続(ボトルネックの核心)
AI 大規模モデルの学習は、単体のGPUで回すものではなく、数百〜数万枚のGPUを束ねてはじめて1つのクラスターになる。
計算能力は GPU/XPU、データは相互接続回線を使って行き来する。
以前のボトルネックは:GPU が足りない、チップ性能が不十分。
今のボトルネックは:GPU 同士でデータをやり取りするのが遅すぎる、ネットワークが詰まる → つまり相互接続(インターコネクト)のボトルネック。
2. 光インターコネクト(光モジュール)
従来は電線で電気信号を伝送していたが、通信速度の上限が低く、発熱も大きい。
光インターコネクト = 光ファイバー内で光を使ってデータを伝える。現在のスーパーコンピュータ/AI データセンター高速相互接続の唯一の方案:
サーバー → スイッチ間は光モジュールで接続し、AI クラスターの大規模ネットワーク構築はすべてそれに依存する。
計算能力を積み上げるほど、光モジュールの需要は急増し、仕様の進化も非常に速い。まさに必須のボトルネック。
3. スイッチ(スイッチング機器)
家庭のルーターに例えると、データセンターは巨大な10Gbps/100Gbps級のスイッチである。
すべてのGPUのデータを集約し、転送はスイッチ経由で行う。AIの大量データのスループットは、スイッチの帯域幅とレイテンシに対する要求を爆発的に押し上げる。
スイッチが追いつかなければ、GPUがいくら増えても回らず、計算能力を使い切れない。
4. カスタム XPU
GPU:エヌビディアの汎用グラフィックスカード
XPU:各種のカスタム化された専用演算チップ(DPU/TPU/ASIC など)
相互接続の混雑を解消するため、メーカーはもはや単に汎用GPUを積むだけではなくなっている。
DPU(データ処理プロセッサ)を作り、ネットワーク相互接続の業務を専任で引き受けてGPUをデータ送受信から解放し、AI計算に集中させる。
自社開発のTPU/ASICカスタムチップを用意し、チップ内部に高速相互接続インターフェースを直接統合。
ハードウェアの基盤レベルから、カスタムチップで相互接続効率を最適化する。