شيء مضحك. كنت متفائلًا جدًا بشأن الذكاء الاصطناعي الوكيل منذ أكثر من عام، وهو أحد الأسباب الرئيسية التي تجعلني أحتفظ بالأسهم التي أمتلكها؛ الذاكرة فوق كل شيء، وذاكرة NAND تحديدًا.
قامت TrendForce للتو برفع توقعاتها لأسعار NAND.
ارتفاع كبير في طلبات وحدات SSD المؤسسية، وتراجع عند مستوى المستهلك.
لا تزال طلبات وحدات SSD المؤسسية في طريقها إلى الربع الرابع بدعم الطلب على سحابة أمريكا الشمالية، ويوجد دافعان رئيسيان تسميهما: الذكاء الاصطناعي الوكيل و تفريغ ذاكرة KV cache.
الوكلاء يولّدون حالة.
كل مهمة ينفّذها الوكيل تترك وراءها نتائج الاسترجاع وملفات العمل والـخطوات الوسيطة، ولا بد من تخزين كل ذلك في مكان ما، بسرعة كافية ليكون مفيدًا وبكلفة منخفضة بما يكفي للاستمرار. لهذا تقوم مزودات السحابة بتوسيع استخدام محركات SSD من نوع QLC، التي تجمع أكبر عدد من البتات لكل دولار ضمن أي شيء بواجهة سريعة بما يكفي لخدمة الاستدلال.
تفريغ KV cache هو الطرف الآخر.
تحتاج النماذج إلى الاحتفاظ بالسياق، وحتى الآن كان ذلك يعيش في HBM وDRAM، وهما من أندر وأغلى الأماكن في العالم لتخزين أي شيء. ادفع الأجزاء التي لا تحتاجها كل «مللي ثانية» إلى SSDs، وستُفرغ الطبقات الأكثر تكلفة لأجل العمل الذي يحتاج إليها فعلًا.
تقول TrendForce إن الصناعة تقوم ببناء أطر عمل خصيصًا للقيام بذلك، وأن بنيات الاستدلال في الصين تميل بالفعل إلى الاعتماد عليها.
والشيء المضحك أن التقرير نفسه يقول إن NAND الخاص بالمستهلك يعاني من فائض في المعروض، مع قيام YMTC بإضافة سعة، وظهور هيكل تسعير على مسارين في عام 2027.
أما NAND الخاصة بالشركات فأصبحت منتجًا مختلفًا عن الموجود في هاتفك، مع إمداداتها الخاصة ومشتريها الخاصين وسعرها الخاص.
الجزء من السوق الذي يحتاجه الوكلاء هو الجزء الذي يعاني من نقص، والجزء الذي يعاني من فائض المعروض هو الجزء $SNDK لا يعتمد عليه.
متفائل $SNDK
قامت TrendForce للتو برفع توقعاتها لأسعار NAND.
ارتفاع كبير في طلبات وحدات SSD المؤسسية، وتراجع عند مستوى المستهلك.
لا تزال طلبات وحدات SSD المؤسسية في طريقها إلى الربع الرابع بدعم الطلب على سحابة أمريكا الشمالية، ويوجد دافعان رئيسيان تسميهما: الذكاء الاصطناعي الوكيل و تفريغ ذاكرة KV cache.
الوكلاء يولّدون حالة.
كل مهمة ينفّذها الوكيل تترك وراءها نتائج الاسترجاع وملفات العمل والـخطوات الوسيطة، ولا بد من تخزين كل ذلك في مكان ما، بسرعة كافية ليكون مفيدًا وبكلفة منخفضة بما يكفي للاستمرار. لهذا تقوم مزودات السحابة بتوسيع استخدام محركات SSD من نوع QLC، التي تجمع أكبر عدد من البتات لكل دولار ضمن أي شيء بواجهة سريعة بما يكفي لخدمة الاستدلال.
تفريغ KV cache هو الطرف الآخر.
تحتاج النماذج إلى الاحتفاظ بالسياق، وحتى الآن كان ذلك يعيش في HBM وDRAM، وهما من أندر وأغلى الأماكن في العالم لتخزين أي شيء. ادفع الأجزاء التي لا تحتاجها كل «مللي ثانية» إلى SSDs، وستُفرغ الطبقات الأكثر تكلفة لأجل العمل الذي يحتاج إليها فعلًا.
تقول TrendForce إن الصناعة تقوم ببناء أطر عمل خصيصًا للقيام بذلك، وأن بنيات الاستدلال في الصين تميل بالفعل إلى الاعتماد عليها.
والشيء المضحك أن التقرير نفسه يقول إن NAND الخاص بالمستهلك يعاني من فائض في المعروض، مع قيام YMTC بإضافة سعة، وظهور هيكل تسعير على مسارين في عام 2027.
أما NAND الخاصة بالشركات فأصبحت منتجًا مختلفًا عن الموجود في هاتفك، مع إمداداتها الخاصة ومشتريها الخاصين وسعرها الخاص.
الجزء من السوق الذي يحتاجه الوكلاء هو الجزء الذي يعاني من نقص، والجزء الذي يعاني من فائض المعروض هو الجزء $SNDK لا يعتمد عليه.
متفائل $SNDK