moe

🚨 TENCENT SHARPSHOOTS AI EFFICIENCY AS MOE NARRATIVE HEATS UP $AI 💥

Tencent just patched the major bottleneck on its 770B MoE titan, Hy4 preview, slicing token consumption and execution cycles across WorkBuddy without sacrificing raw compute power. 💡 When tech heavyweights trim systemic friction on massive 1M context models, smart capital takes notice of the underlying efficiency pivot.

📊 Efficiency upgrades like this usually serve as the leading indicator for the next algorithmic momentum wave across decentralized compute protocols. ⚡ Smart money tracks technical execution over empty noise, and these compute optimizations are building serious structural momentum. 🤔 Is the market sleeping on this AI efficiency catalyst or are you positioning ahead of the breakout? 👇

⚠️ Not financial advice. Always manage your risk. 🛡️

🏷️ #AI #Crypto #ArtificialIntelligence #MoE #Tech

🔥 💎

$KIMI K3 8GB RAM に 2.78T パラメータを詰め込む — GPUなし、純CPU！⚡

話題をさらっている 176KB の C99 スクリプト？メモリに保持するのではなく、NVMe から Kimi K3 の 1.56TB 分の重みをストリーミングします。🔍 典型的な MoE（Mixture of Experts）のスパース活性化で、各レイヤーの 896 エキスパートのうち実際に発火するのは 16 だけ。💡

これは逆方向の流動性スイープです。システムが“注文書”から取引するかのように、必要に応じて重みを引っ張ってくる。🦈 コストは 1 トークンあたり 32.7 秒。これはプロトタイプであって、本番運用ではない──開発者本人がそう言っています。

しかし AI×クリプトを追う人にとっては羅針盤になる。ディスク・ストリーミングで 8GB でも推論できるなら、計算コストがボトルネックでなくなる──そして物語が変わる。📊 では、この波に最初に乗る AI インフラのプレイはどれ？👇

⚠️ 金融アドバイスではありません。常にリスクを管理してください。🛡️

🏷️ #KIMI #AI #MoE #Innovation #CryptoAI

🚀 ⚡

🚨 $KIMI はGPUなしで、2.78Tのパラメータを8GB RAMに圧縮 — 💥

🔍 このオープンソースの実験は、推論のスケーリングに関するあらゆる前提に挑戦します。176KBの純粋なC99プロジェクトが、NVMeストレージから必要に応じてエキスパートの重みをストリーミングすることで、Kimi K3の1.56TB重みセットをわずか8GBのメモリで動かします。💡

魔法の鍵はMoE（Mixture of Experts）によるスパースな活性化 — 各層で896人のエキスパートのうち稼働するのは16だけです。つまり開発者は、RAMのためにフラッシュストレージの帯域を引き換えにし、ディスクをメモリの遅い拡張のように扱っています。📊 トレードオフは苛烈です。1トークンあたり32.7秒。これは実運用に耐えるものではありませんが、超低コストな推論インフラのための構造的な設計図にはなっています。

より大きなシグナルは方向性です。📉 ハードウェアのボトルネックが創造的なエンジニアリングを強いるとき、効率性が次の物語になります。私たちは、分散型AIの次の波のための配管（基盤）を作っているのでしょうか？💬

⚠️ 投資助言ではありません。常にリスクを管理してください。🛡️

🏷️ #KIMI #AI #MoE #OpenSource #Crypto

💡 🔥

ステップ星辰がオープンソースの新世代フラッシュモデルStep 3.7フラッシュを正式にリリース。Apache 2.0ライセンスを採用。モデルは196Bの言語バックボーンと1.8Bの視覚トランスフォーマーからなるスパースMoEアーキテクチャを使用し、総パラメータは198B、アクティベーションはわずか11B。256Kのコンテキストと3段階の推論をサポートし、プロダクションレベルのエージェント、コード、オンライン検索、マルチモーダルワークフローを最適化。

なぜ重要か：中国のAIチームはオープンソースのマルチモーダルMoE大モデル分野で重要なブレイクスルーを達成。低アクティベーションパラメータと高能力密度のアーキテクチャ設計は、効率的な推論の産業方向性を示している。

#AI #开源 #大模型 #MoE #人工知能