$ETH 多くのAIスタートアップが、立ち上げ後に静かに消えてしまう。通常、問題はモデルの品質ではなく、インフラの燃焼だ。
みんな「オープンAIエコシステム」について話すのが大好きだけど、GPUの請求書が届くと現実が見えてくる。1つのファインチューニングされたモデルが5つになり、次に20になって、突然小規模なチームがオンラインを維持するためだけにエンタープライズレベルのコンピュートコストを支払うハメになる。
だからこそ、OpenLedgerのインフラストラクチャスタックは多くの人が思っている以上に重要だと感じる。
最近ModelFactoryをテストしたけど、一番の収穫はノーコードUIではなかった。その部分はすでに期待されている。真の変化は、誰でも専用のハードウェアや機械学習チームなしで専門的なAIモデルを作成できるようになったときに起こる。
OpenLoRAは経済を完全に変えてしまう。
各LoRAバリアントに別々のGPUを割り当てる代わりに、複数のモデルが共有GPUアロケーションを通じて実行される。標準的なクラウドセットアップとOpenLedgerインフラを介した共有インファレンスのデプロイメント数を比較したが、効率の差は膨大だ。
#TrumpSaysIranDealLargelyNegotiated #BitcoinRisesOnIranPeaceDeal #RussiaExpandsMinerInfoRequirements #StablRDepegsAfterAttack #BitcoinBreaksBelow75KAsWarshTakesFedHelm
みんな「オープンAIエコシステム」について話すのが大好きだけど、GPUの請求書が届くと現実が見えてくる。1つのファインチューニングされたモデルが5つになり、次に20になって、突然小規模なチームがオンラインを維持するためだけにエンタープライズレベルのコンピュートコストを支払うハメになる。
だからこそ、OpenLedgerのインフラストラクチャスタックは多くの人が思っている以上に重要だと感じる。
最近ModelFactoryをテストしたけど、一番の収穫はノーコードUIではなかった。その部分はすでに期待されている。真の変化は、誰でも専用のハードウェアや機械学習チームなしで専門的なAIモデルを作成できるようになったときに起こる。
OpenLoRAは経済を完全に変えてしまう。
各LoRAバリアントに別々のGPUを割り当てる代わりに、複数のモデルが共有GPUアロケーションを通じて実行される。標準的なクラウドセットアップとOpenLedgerインフラを介した共有インファレンスのデプロイメント数を比較したが、効率の差は膨大だ。
#TrumpSaysIranDealLargelyNegotiated #BitcoinRisesOnIranPeaceDeal #RussiaExpandsMinerInfoRequirements #StablRDepegsAfterAttack #BitcoinBreaksBelow75KAsWarshTakesFedHelm