rajend1986

GPUの相互運用性は、将来のAIインフラに不可欠になる
はじめに
AIインフラは、ますます異種混在型になっています。
現代のコンピューティング環境には、異なる世代のGPU、CPU、AIアクセラレーター、ネットワークデバイス、メモリシステム、そして専用プロセッサが混在していることがあります。
この多様性は、新たな機会を生み出します。
一方で、複雑さも増します。
各アクセラレーターにまったく異なるソフトウェア環境、プログラミングモデル、インフラスタックが必要となれば、組織は特定のアーキテクチャに縛られる可能性があります。

次世代GPUの優位性を左右するメモリアーキテクチャ
はじめに
GPUの性能は、計算スループットの観点から語られることがよくあります。
コア数の増加。
1秒あたりの演算数の増加。
より特化したAIエンジン。
しかし、AIモデルの大規模化と計算ワークロードの複雑化に伴い、別の要素がますます重要になっています。
GPUがどれだけ効率的にデータにアクセスできるか。
必要なデータを十分な速さで計算エンジンに届けられなければ、強力なプロセッサも効率的に動作できません。
そのため、メモリアーキテクチャは将来のGPU設計における中核的な要素となります。

エネルギーとAI
次世代AIインフラの優位性は、エネルギーから計算への変換効率で測られる可能性があります
人工知能の成長により、新たなインフラ上の課題が生まれています。
電力を有用な計算へ、どれだけ効率的に変換できるでしょうか？
この問いは、従来のデータセンターの電力効率という枠を超えています。
冷却システムと電力システムの効率が非常に高い施設でも、アクセラレーターの稼働率が低い、ワークロードが非効率である、あるいはソフトウェアが利用可能なハードウェアを効果的に活用できない場合、有用な計算処理の量は比較的少なくなり得ます。

エネルギー＆AI
次世代のAIエネルギーシステムは、計算負荷のシェイピングを中心に構築される
AIインフラは、電力とコンピューティングの関係を変えつつあります。
何十年もの間、電力システムは主に、比較的予測しやすい需要パターンを前提に設計されてきました。データセンターはコンピューティングシステムを稼働させるために電力を消費していましたが、計算処理のワークロード自体は、一般に内部的な要件として扱われていました。
AIはこの関係を変えます。
大規模な計算ワークロードは、大きく変動し、地理的に分散し、ソフトウェアを通じてますます制御可能になっています。これにより、コンピューティングのワークロードがエネルギー管理に積極的に関わるという新たな可能性が生まれます。

データセンター & インフラ
THE FUTURE DATA CENTER WILL OPERATE AS A SELF-DIAGNOSING PHYSICAL SYSTEM
現代のデータセンターには、すでに膨大な量の監視技術が含まれています。
温度センサーは環境条件を測定します。
電力システムは電気的特性を測定します。
サーバーはハードウェアの状態を報告します。
ネットワークはトラフィックを報告します。
冷却システムは運用状態を監視します。
しかし次の段階は、より重要です。
データセンターは、ますます自らの物理的状態を理解できるようになります。

データセンター＆インフラストラクチャ
データセンターデザインは、ラックの容量から計算密度へと移行します。
何十年もの間、データセンターの容量は、ラック台数、床面積、電気容量、サーバー台数といった馴染みのある指標で語られることがよくありました。
AIインフラストラクチャの時代は、もう一つの重要な指標を導入しています。
計算密度。
数千台のサーバーを収容する施設が、、高度に集約されたアクセラレータ・システムを備えたより小規模な施設よりも、必ずしも計算能力が高いとは限りません。

GPUテクノロジー
GPUサプライチェーンは戦略的なテクノロジーシステムになる
GPUだけを見ても、GPU技術の未来は理解できません。
高度なアクセラレーターは、半導体設計、先端製造、パッケージング、メモリ、基板、インターコネクト、テスト、ソフトウェア、ネットワーク、データセンターのインフラを含む、ますます複雑なエコシステムに依存しています。
つまり、GPUサプライチェーンそのものが戦略的なテクノロジーシステムになりつつあります。
高度なアクセラレーターには、極めて高度な製造プロセスと特殊なパッケージング技術が必要となる場合があります。また、高性能メモリ、先端基板、精密製造、専門的なテスト、大規模なソフトウェアエコシステムにも依存する可能性があります。

GPUテクノロジー
次世代GPUアーキテクチャはチップレットベースのコンピューティングを中心に構築される
GPUテクノロジーの未来は、単一のシリコン片によって決まるとは限りません。
人工知能モデルの大規模化と、計算ワークロードの専門化が進むなか、アクセラレーターメーカーは、複雑なプロセッサーを相互接続された複数の部品に分割するアーキテクチャをますます模索しています。この流れは、チップレットベースのGPUアーキテクチャへとつながります。そこでは、演算処理、メモリーインターフェース、I/O、キャッシュ、そして専用のアクセラレーション機能を、モジュール型のシリコン部品として構成できる可能性があります。

コンピューティングインフラ
コンピューティングインフラは自律的な能力発見へと進化する
従来のコンピューティングでは、必要なリソースを人が把握していることが前提とされていました。
エンジニアがサーバーを選択します。
アーキテクトがクラスターを設計します。
チームがGPUを割り当てます。
管理者がネットワークを設定します。
アプリケーションがリソースを要求します。
インフラが大規模化し、異種混在が進むにつれて、このモデルの維持はますます困難になります。
したがって、次世代のコンピューティングインフラは、自律的な能力発見へと向かう可能性があります。

計算インフラストラクチャ
次の計算アーキテクチャは、リソースグラフを中心に構築される
従来の計算インフラストラクチャは、通常は階層で説明されます。
サーバーはネットワークに接続されます。
プロセッサはメモリに接続されます。
ストレージはサーバーに接続されます。
データセンターはインターネットに接続されます。
しかし、ますます複雑になっているAIおよび高性能計算システムは、単純な階層では理解しにくいのです。
最新のワークロードは、同時に多くの異なるリソースと相互作用します。
単一のアプリケーションは、アクセラレータ、メモリ、ストレージ、ネットワーキング、専用プロセッサ、エネルギー容量、地理的制約、セキュリティポリシーを必要とする場合があります。

計算インフラストラクチャ
計算インフラストラクチャは、機械から計算資本へと進化している
次の段階のコンピューティングは、単により多くのプロセッサを所有することによって定義されるわけではありません。
それは、エネルギー、データ、アルゴリズム、メモリ、ネットワーク、そして特殊なハードウェアを、有用な計算へと変換する能力を制御することで定義されます。
この区別は、計算インフラストラクチャの意味を変える。
サーバーは物理的なマシンです。
コンピュートクラスターとは、複数のマシンの集合です。
計算インフラストラクチャのシステムとは、もっと大規模なものです。つまり、複数の物理的およびデジタル資源を、測定可能な計算出力へと変換できるように調整されたアーキテクチャのことです。

未来技術と産業ビジョン
次の技術フロンティアは、古典計算、量子システム、AIの収束となるでしょう
コンピューティング業界は重要なアーキテクチャ移行期に近づいています。
数十年にわたり、進歩はますます高性能な古典計算システムによって主導されてきました。
CPUは高速化しました。
GPUは大規模並列処理を導入しました。
専用アクセラレータはAIワークロードを変革しました。
高速ネットワーキングは、ますます大規模な計算システムを接続しました。
次の段階は、1つの代替技術によって定義されるとは限りません。

未来のテクノロジー & 産業ビジョン
身体性のあるAIは計算知能を物理インフラへと変えるだろう
人工知能は主にデジタル環境の中で発展してきた。
モデルはテキストを分析する。
システムは画像を処理する。
エージェントはソフトウェアを運用する。
アルゴリズムは出来事を予測する。
しかし次の大きな転換は、知能が物理世界に深く統合されるときに訪れる。
これが身体性のあるAIの出現である。
身体性のあるAIは、計算知能とセンサー、ロボット工学、機械、モビリティシステム、産業用設備、そして物理的な環境を組み合わせる。

未来のテクノロジーと産業の展望
次のテクノロジー時代は、機械ネイティブ経済を中心に築かれる
デジタル経済は、もともと人間のために設計されていました。
人々はアカウントを作成し、情報を検索し、サービスを購入し、ソフトウェアを操作し、意思決定を行いました。
機械は、そうした活動を支援する道具でした。
次のテクノロジー時代は、その関係を逆転させる可能性があります。
ますます高性能になるAIシステム、自律型ロボット、ソフトウェアエージェント、接続されたインフラ、そして機械間通信によって、人間の介入を限定しながら、機械がますます複雑な経済活動を行える環境が生まれつつあります。

クラウドとネットワーク
データ移動はコンピューティングの中核リソースになる
コンピューティングの歴史の大半において、注目はプロセッサに集まってきました。
より高性能なCPU。
より高性能なGPU。
より多くのメモリ。
より多くのストレージ。
しかし、AIシステムが大規模化し、分散化するにつれて、もう一つのリソースがますます重要になっています：
データ移動。
計算リソース間でデータを高速、効率的、安全、かつインテリジェントに移動させる能力は、未来のインフラを特徴づける重要な要素の一つになる可能性があります。
最新のAIシステムは、膨大なデータセットを処理できます。

クラウドとネットワーキング
次世代ネットワークがつなぐのは、デバイスだけではなくコンピューティング
初期のインターネットは、主にコンピューターを接続し、それらの間で情報をやり取りすることを目的に設計されました。
次世代のネットワーキングがつなぐようになるのは、ますます価値の高いものです。
コンピューティング。
クラウドリージョン、エッジ施設、AIデータセンター、プライベートインフラ、専用アクセラレーター、そして新たな分散コンピューティング環境にまたがってコンピューティングが分散するにつれて、この違いは重要になります。

CLOUD & NETWORKING
THE FUTURE CLOUD WILL BECOME A SELF-OPTIMIZING COMPUTE NETWORK
クラウド・コンピューティングは、物理サーバーをアクセス可能なデジタル資源へ変換することから始まりました。
次の変革は、はるかに深いものになります。
将来のクラウドは、ワークロード、インフラ状況、ネットワーク容量、エネルギーの利用可能性、ハードウェア性能、そしてユーザー要件を継続的に分析できる、インテリジェントな計算ネットワークのようにますます振る舞うようになります。
単に仮想マシン、ストレージ、ネットワークを提供するのではなく、クラウド・プラットフォームは、計算リソースをどのように組み立て、運用すべきかをますます自ら判断するようになります。

エネルギー＆AI
エネルギー・プロヴナンスは、AI計算のための新しいデジタル・レイヤーになる
人工知能が産業規模の技術になるにつれ、組織は、計算インフラが消費するエネルギーの量だけでなく、それ以外の点にもますます関心を高めるでしょう。
さらに、そのエネルギーがどこから来たのか、いつ生成されたのか、どのように届けられたのか、そして特定の計算ワークロードとどのように紐づけられているのかを理解したいとも考えるでしょう。
これにより、創発的なインフラストラクチャの概念が生まれます：
エネルギー・プロヴナンス。
エネルギー・プロヴナンスとは、電力の発電、エネルギーの消費、計算活動の間に、追跡可能な関係を確立できることです。

次のエネルギーの優位性は、計算（コンピュート）を意識した電力市場から生まれるでしょう
電力と人工知能の関係は、新たな段階に入っています。
何十年もの間、電力市場は主として物理的な消費を前提に設計されてきました。家庭、工場、オフィス、交通システム、商業施設は、比較的予測可能なパターンに従って電力を消費していました。系統運用者は、信頼性を維持しながら、発電と需要のバランスを取ることに注力していました。
AIは方程式を変える。

将来のAIグリッドは、電力・コンピュート・ストレージ・インテリジェンスを接続する
従来の電力システムは、主に一方向を前提に設計されていました：
生成 → 送電 → 配電 → 消費。
消費者は電力を使用した。
そのグリッドがそれを供給した。
計算インフラは、単に電力消費の一つのカテゴリでした。
AIは、この単純なモデルに挑戦し始めています。
大規模な計算施設は、莫大で高度に変動する電力需要を表し得ます。
同時に、再生可能発電とエネルギー貯蔵が、より変動性の高い供給を生み出しています。