تعمل شركة جوجل على تطوير حلول برمجية وأجهزة لمعالجة اختناقات الذاكرة، وفقًا لما قاله نيكيل تشيريان، المدير التنفيذي الأول للبنية التحتية لسلسلة الإمداد. ووفقًا لـ ChainCatcher، تقوم الشركة أيضًا بتفكيك الخوادم المتقاعدة لاستعادة مكونات DDR4 وبناء سلسلة إمداد لإعادة التدوير داخلية.

قال تشيريان إن صناعة الذكاء الاصطناعي انتقلت بسرعة من كونها مقيدة بالحوسبة إلى كونها مقيدة بالذاكرة، مع وجود ذاكرة عالية الأداء تمثل نحو 75% من تكلفة قائمة المواد (Bill of Materials) لخادم ذكاء اصطناعي معين. وقالت غولدمان ساكس إن أسعار الذاكرة متوقع أن تستمر في الارتفاع في الربع الثالث، حيث تتوقع أن تزيد أسعار ذاكرة DRAM الخاصة بالكمبيوترات الشخصية بنسبة 18% إلى 23%، وأن ترتفع أسعار ذاكرة DRAM الخاصة بالخوادم بنسبة 13% إلى 18%.

أظهرت بيانات Trendforce أنه في أغسطس، ارتفعت الأسعار الفورية لذاكرة DDR4 سعة 8GB وDDR5 سعة 8GB إلى 142 دولارًا و133 دولارًا على التوالي. كما صممت Google محولات أجهزة خاصة تربط جيلًا سابقًا من DDR4 بخوادم الذكاء الاصطناعي من الجيل التالي، وتستورد خوادم متقاعدة لإزالة وحدات DDR4 لديها وإعادة تدويرها.

قالت الشركة إن اثنين من رقائق TPU ASIC التي تم إطلاقها هذا العام تم تحسينهما للذاكرة ويمكن أن تقلل الطلب على الذاكرة إلى سدس مستوياتها السابقة. تستخدم شريحة TPU8i تصميم ذاكرة طبقي مخصص، وتعتمد على بنية ذاكرة DDR5 عالية السرعة للمهام على مستوى المضيف، وتضم 288 جيجابايت من ذاكرة HBM3e عالية النطاق الترددي لكل شريحة.