OpenAIのCEO、@samaは、家庭用コンピューターに搭載されているメモリチップは、希少な資源の使い方として好ましくないと主張している。ASI Alliance($FET)のCEO、@bengoertzelもメモリが無駄になっている点には同意するが、解決策は必ずしも大規模データセンターに移すことではないと述べている。

家庭用PCのメモリについてアルトマンが語ったこと

YouTubeチャンネル「Cheeky Pint」とのインタビューで、アルトマンはローカル推論、ひいては家庭のコンピューターにDRAMを搭載することについて、「かなりひどい」と述べた。このポッドキャストの司会は、Stripeの共同創業者ジョン・コリソンが務める。発言は、世界のチップとメモリの供給がAI需要に追いついていない理由についての会話の中で飛び出した。エピソードは10月29日に公開された。

Altman氏は、世界全体への資源配分という観点から見ると、世界で限られているDRAM供給の大部分が各自のコンピューターに搭載され、稼働時間の5%しか使われていないのは、誰にとっても非常に好ましくないと述べた。BigGo Financeによると、同氏は5%という数字を裏付けるデータを示していない。また、「クラウドでは最大限の稼働率を実現したい」とも述べた。

この発言はオンラインで広く反発を招いた。Elon Musk(@elonmusk)はXへの投稿で、「人々にも自分のRAMを持つ権利がある」と反論した。一部の論者は、Altman氏の会社自体が大量のメモリを備えたデータセンターを運営していると指摘した。Altman氏がPCからRAMをなくしたいと考えていると報じたメディアはなく、その主張は確認されていない。

Goertzel氏、分散型ネットワークを提案

Goertzel氏は、使われていないメモリが無駄になるという点には同意しつつも、そのすべてを大規模なサーバーファームに集める必要はないと主張した。分散型ネットワークを通じて、誰もがノートPCの余ったメモリや処理能力を貸し出し、その見返りにトークンを得られるようにすべきだと述べた。

同氏は、@SingularityNETから生まれたコンピューティングネットワークNuNetと、同アライアンスのブロックチェーンであるASI:Chainを挙げた。ASI:Chainはまだメインネットに到達していない。NuNetのウェブサイトによると、同プロジェクトは2018年にSingularityNET内でGoertzel氏の主導によりインキュベートされた。NuNetは、自らを分散型インフラ全体のコンピューティング資源を検出、調整、精算するピアツーピア・プロトコルと説明している。Goertzel氏によると、NuNetは3月に稼働を開始した。

このアライアンスにとって、この発想は目新しいものではない。Cointelegraphは以前、NuNetが接続されたコンピューターのアイドル状態のCPUとGPUの処理能力を利用していると報じた。同記事はまた、この方式の根本的な制約にも触れている。大規模モデルの実行は、集中管理された機器を使うほうがはるかに簡単で安価だという。Goertzel氏も、同アライアンスは「OpenAIやGoogleと同じ規模のハードウェアを保有するには、まだかなり遠い」と認めている。

このやり取りは、AI時代のハードウェア不足を、超大規模施設に資源を集中させて解決すべきか、それともトークンで利用を促すネットワークを通じて消費者向けデバイスを共有することで解決すべきかという、より広範な議論を浮き彫りにしている。現時点でASI:Chainはメインネット上で稼働しておらず、このようなシステムを支えるアライアンス独自のブロックチェーン層は未完成のままだ。

出典:

  • Decrypt:Elon Musk、家庭用PCがRAMを無駄にしているという主張をめぐりSam Altmanを嘲笑

  • Tom's Hardware:OpenAI CEO、PCにRAMがあるのは「非常に好ましくない」と発言

  • NuNet:分散型世界のためのコンピューティング・オーケストレーション