AI推論、カーブを曲がる

長年にわたり、NVIDIAはAIチップの分野で独占的な地位を占めてきました。他の企業が絶えず挑戦してきましたが、依然としてその支配的地位を揺るがすことはできませんでした。
しかし、現在、状況は変わりつつあります。「推論計算」がこのAI技術革命のキーワードになっています。
テクノロジーの巨人から小規模なスタートアップまで、AI開発のためにカスタマイズされたチップのレースに注目しています。たとえば、GroqやCerebras Systemsなどです。
Metaはその典型的なケースです。彼らはNVIDIAチップを使用してLlama3.1 405Bを訓練しましたが、実際にユーザーにサービスを提供する際には、AMD MI300sチップを使用しています。