moe

🚨 MoE narrativi qızışarkən TENCENT süni intellektin səmərəliliyini dəqiq hədəfə alır $AI 💥

Tencent indicə 770B parametrli MoE nəhəngi Hy4-ün ilkin versiyasındakı əsas darboğazı aradan qaldırdı; xam hesablama gücündən güzəştə getmədən WorkBuddy üzrə token istehlakını və icra dövrlərini azaltdı. 💡 Texnologiya nəhəngləri 1M kontekstli böyük modellərdə sistem səviyyəsindəki əngəlləri azaltdıqda, ağıllı kapital səmərəlilikdəki bu əsaslı dəyişikliyə diqqət yetirir.

📊 Bu cür səmərəlilik təkmilləşdirmələri adətən mərkəzləşdirilməmiş hesablama protokollarında növbəti alqoritmik yüksəliş dalğasının qabaqcıl göstəricisi olur. ⚡ Ağıllı investorlar boş səs-küyə deyil, texniki icraya diqqət yetirir və bu hesablama optimallaşdırmaları ciddi struktur impulsu yaradır. 🤔 Bazar bu süni intellekt səmərəliliyi katalizatorunu gözdən qaçırır, yoxsa siz sıçrayışdan əvvəl mövqe tutursunuz? 👇

⚠️ Bu, maliyyə məsləhəti deyil. Riskinizi həmişə idarə edin. 🛡️

🏷️ #AI #Crypto #ArtificialIntelligence #MoE #Tech

🔥 💎

🚨 $KIMI 2.78T PARAMETRİ 8GB RAM-ə — GPU OLMADAN! 💥

🔍 Bu açıq mənbəli eksperiment inferens miqyası ilə bağlı hər fərziyyəni sınayır. 176KB-lıq saf C99 layihəsi Kimi K3-ün 1.56TB-lıq çəkilər dəstini sadəcə 8GB yaddaşla işlədərək NVMe yaddaşından tələb üzrə ekspert çəkilərini axın (streaming) kimi ötürür. 💡

Sehr MoE sərin aktivasiya mexanizmindədir — hər qat üzrə 896 ekspertdən yalnız 16-sı aktiv olur. Yəni developer RAM üçün yan yaddaş (flash) bant genişliyini qurban verir, diski isə yaddaşın yavaş uzantısı kimi davranaraq. 📊 Mübadilə amansızdır: hər 32.7 saniyədə bir token. Bu, istehsal səviyyəli (production-ready) deyil, amma ultra-aşağı xərcli inferens infrastrukturu üçün struktur planıdır.

Əsas siqnal isə istiqamətdir. 📉 Avadanlıq bottleneck-ləri yaradıcı mühəndisliyə məcbur etdikcə, səmərəlilik növbəti narrativ olur. Biz növbəti dalğa üçün desentralizə edilmiş AI-nin “boru kəmərini”mi qururuq? 💬

⚠️ Maliyyə məsləhəti deyil. Həmişə riskinizi idarə edin. 🛡️

🏷️ #KIMI #AI #MoE #OpenSource #Crypto

💡 🔥

Addım Ulduzları açıq mənbə Step 3.7 Flash: 198B parametrləri ilə MoE böyük modeli, istehsal səviyyəli Agentə yönəlib

Addım Ulduzları rəsmi olaraq yeni nəsil Flash böyük modelini Step 3.7 Flash olaraq təqdim etdi və açıq mənbə etdi, Apache 2.0 lisenziyası altında. Model 196B dil əsaslı + 1.8B vizual Transformer-dən ibarət səpələnmiş MoE arxitekturasını istifadə edir, ümumi parametrlər 198B, aktivləşdirmə yalnız 11B-dir. 256K konteksti və 3 səviyyə irəliləmə dəstəkləyir, istehsal səviyyəli Agent, kod, onlayn axtarış və multimodal iş axınlarını optimallaşdırmışdır.

Niyə əhəmiyyətlidir: Çin AI komandası açıq mənbə multimodal MoE böyük modeli sahəsində əhəmiyyətli irəliləyiş əldə edib, aşağı aktivləşdirmə parametrləri + yüksək qabiliyyət sıxlığı arxitektura dizaynı effektiv irəliləmənin sənaye istiqamətini təmsil edir.

#AI #开源 #大模型 #MoE #süni zəka

$KIMI K3 2.78T PARAMETRLƏRİ 8GB YADDAŞA YIĞIR — TAM MƏRKƏZİ PROSESSOR, GPU YOX! ⚡

Başlıqlara düşən o 176KB-lıq C99 skripti? Kimi K3-ün 1.56TB çəkilərini yaddaşda saxlamır — NVMe-dən axıtır. 🔍 Klassik MoE sparse aktivləşmə — hər qat üçün 896 ekspertdən yalnız 16-sı həqiqətən işə düşür. 💡

Bu, tərsinə çevrilmiş likvidlik ovudur: sistem ağırlqları ehtiyac duyduqda bir treyderin sifarişləri kitaba salması kimi “çağırır”. 🦈 Qiymət? Hər token üçün 32.7 saniyə. Bu, prototipdir — istehsal deyil; dev bunu özü deyir.

Amma AI-kripto izləyiciləri üçün bu, kompasdır. Əgər disk axını ilə 8GB-da inferens işləyə bilirsə, hesablama xərcləri darğa kimi önəmli olmur — və bu, narrativ dəyişikliyidir. 📊 Hansı AI infrastrukturu bu dalğanı ilk gəmiyə çevirər? 👇

⚠️ Maliyyə məsləhəti deyil. Həmişə riskinizi idarə edin. 🛡️

🏷️ #KIMI #AI #MoE #Innovation #CryptoAI

🚀 ⚡