ChatGPTのCEO、サム・アルトマン:「PCのRAMが5%の時間しか使われていないのは、かなりひどいことです」
概要
ポッドキャスト「Cheeky Pint」に出演したOpenAIのCEO、サム・アルトマンは、オープンモデルを使ったAIのローカル推論の進展を批判しました。アルトマンによれば、パソコンでAIを動かすのは、世界的に不足している資源だと考えるDRAMを非効率に浪費することになります。ユーザーのハードウェアは日常的に十分活用されていないのに対し、データセンターに処理を集中させるほうが賢明だと主張しています。
概要
ポッドキャスト「Cheeky Pint」に出演したOpenAIのCEO、サム・アルトマンは、オープンモデルを使ったAIのローカル推論の進展を批判しました。アルトマンによれば、パソコンでAIを動かすのは、世界的に不足している資源だと考えるDRAMを非効率に浪費することになります。ユーザーのハードウェアは日常的に十分活用されていないのに対し、データセンターに処理を集中させるほうが賢明だと主張しています。
