エージェント型AIは、メモリ容量を次のボトルネックに変えるかもしれません。
Astera Labsは、新しいLeoコントローラがハイパースケーラーでサンプリングを行っており、AIラボ、ハイパースケーラー、ネオクラウドにまたがる設計採用(デザイン・ウィン)を確保したと述べています。
Leo Xは、長いコンテキストやKVキャッシュのワークロードに向けて、メモリをAIファブリックに直接接続します。
Asteraが示したテスト構成では、Leo Xは初回トークンまでの時間を最大62%短縮し、トークン処理スループットは22%向上したと報告されています。
Leo 2は、DDR5に加えてDDR4も再利用できるため、クラウド事業者が、設置済みのすべてのDIMMを交換せずにメモリを拡張できるようになります。
それによって $ALAB には、価値への明確な道筋があります:
より多くのメモリ階層とプーリングには、より高性能な接続(コンネクティビティ)用シリコンが必要になる場合があります。
しかし、設計採用は売上ではありません。
顧客名は明かされておらず、生産のタイミング、見込まれる販売、マージンも開示されていません。
私は、指名された導入事例、量産開始、そしてLeoの売上がガイダンスに入ってくるのを注視します。
AIメモリのボトルネックは、メモリメーカーだけに恩恵があるわけではないかもしれません。
その一方で、メモリを計算(コンピュート)に接続する企業には追い風になる可能性もあります。
Astera Labsは、新しいLeoコントローラがハイパースケーラーでサンプリングを行っており、AIラボ、ハイパースケーラー、ネオクラウドにまたがる設計採用(デザイン・ウィン)を確保したと述べています。
Leo Xは、長いコンテキストやKVキャッシュのワークロードに向けて、メモリをAIファブリックに直接接続します。
Asteraが示したテスト構成では、Leo Xは初回トークンまでの時間を最大62%短縮し、トークン処理スループットは22%向上したと報告されています。
Leo 2は、DDR5に加えてDDR4も再利用できるため、クラウド事業者が、設置済みのすべてのDIMMを交換せずにメモリを拡張できるようになります。
それによって $ALAB には、価値への明確な道筋があります:
より多くのメモリ階層とプーリングには、より高性能な接続(コンネクティビティ)用シリコンが必要になる場合があります。
しかし、設計採用は売上ではありません。
顧客名は明かされておらず、生産のタイミング、見込まれる販売、マージンも開示されていません。
私は、指名された導入事例、量産開始、そしてLeoの売上がガイダンスに入ってくるのを注視します。
AIメモリのボトルネックは、メモリメーカーだけに恩恵があるわけではないかもしれません。
その一方で、メモリを計算(コンピュート)に接続する企業には追い風になる可能性もあります。