تتجه شركة Groq الناشئة لرقائق الذكاء الاصطناعي، التي استحوذت عليها NVIDIA، إلى إعادة تصميم ذاكرة رقائقها، وفقًا لتقارير صدرت مؤخرًا. ففي 20 أكتوبر، أفاد موقع ZDNet الكوري الجنوبي بأن Groq تدرس إدخال تقنية التغليف ثلاثي الأبعاد في رقائق الجيل التالي، واستبدال ذاكرة SRAM التي تشكل أساس تصميمها الحالي بذاكرة DRAM، بهدف زيادة سعة الذاكرة في كل رقاقة بشكل كبير.

تحوّل في تصميم رقائق Groq من الجيل التالي! خطط لاستبدال SRAM بذاكرة DRAM

أفاد موقع ZDNet، نقلًا عن مصدرين مجهولين في قطاع أشباه الموصلات، بأن Groq تراجع إمكانية استخدام تقنية التغليف ثلاثي الأبعاد في رقائقها من الجيل التالي، عبر استبدال ذاكرة SRAM المستخدمة في التصميم الحالي بذاكرة DRAM. وقال أحد المصدرين إن Groq تخطط لاستخدام التغليف ثلاثي الأبعاد في رقائقها الجديدة، من خلال تكديس ذاكرة DRAM بدلًا من مواصلة استخدام SRAM.

التغليف ثلاثي الأبعاد هو تكديس عدة قوالب أشباه موصلات (Die) عموديًا، بحيث تعمل كأنها شريحة واحدة. وتشير التقارير إلى أن هذه الطريقة، مقارنةً بالتصميم المسطّح التقليدي ثنائي الأبعاد، تقلّص المساحة وقد تسهم أيضًا في تحسين كفاءة الطاقة.

أسّس جوناثان روس، أحد مصممي وحدات TPU لدى Google، شركة Groq عام 2016، وقد استحوذت عليها Nvidia العام الماضي. وتشير الأنباء السابقة عن دخول منتجها «Groq 3 LPX» مرحلة الإنتاج الضخم إلى أن خط منتجات Groq يواصل التقدم ضمن منظومة Nvidia.

ما تقنية 3DS؟ وكيف تختلف عن HBM من حيث السعة؟

تشير التقارير إلى أن Groq تستخدم، بحسب ما يُتداول، تقنية 3DS (الذاكرة المكدسة ثلاثية الأبعاد)، التي توصل قوالب DRAM عموديًا باستخدام الثقوب النافذة عبر السيليكون (TSV)، لتشكيل حزمة ذات سعة كبيرة. وتستخدم هذه التقنية، مثل ذاكرة النطاق الترددي العالي (HBM)، تقنية TSV، لكن لكل منهما هدف تصميم مختلف. فـHBM تركّز على سرعة نقل البيانات، بينما تحافظ 3DS على واجهة DRAM الحالية وتركّز على توسيع السعة.

ليست Groq وحدها التي تعمل على تطوير تقنيات تكديس الذاكرة. فقد أفادت Chain News سابقًا بأن SK Hynix بدأت خطوات تجارية لتقنية DRAM-on-Logic المكدسة ثلاثيًّا، التي تكدّس DRAM مباشرةً فوق شريحة منطقية. ومن خلال تقليص المسافة المادية وزيادة قنوات نقل البيانات، تهدف التقنية إلى تجاوز قيود حزم PoP الحالية من حيث عرض النطاق الترددي واستهلاك الطاقة، مع التركيز أساسًا على الذكاء الاصطناعي على الأجهزة المحمولة.

يكمن الاختلاف بينهما في البنية؛ فالمعروف حاليًا عن Groq 3DS هو تكديس DRAM لتوسيع السعة، من دون توضيح ما إذا كانت DRAM تُكدّس فوق قالب المعالجة.

(هل يُعد تكديس DRAM ثلاثي الأبعاد شرطًا لتطبيق الذكاء الاصطناعي على الأجهزة؟ يُقال إن SK Hynix تتعاون مع Apple لدخول مجال ذاكرة الجيل التالي)

لماذا DRAM؟ مفاضلة السعة تلائم احتياجات استدلال الذكاء الاصطناعي

تشير ZDNet إلى أن تصاميم Groq السابقة اعتمدت على SRAM، التي تتميز بالسرعة لكن سعتها صغيرة؛ أما DRAM فأبطأ نسبيًا، لكنها أنسب لتحقيق سعات كبيرة. وترى التقارير أن هذه الخطوة من Groq تهدف إلى التخلص من قيود السعة في تصاميمها الحالية. كما يرى أحد العاملين في القطاع أن السوق ككل يتجه نحو شرائح أكبر، ولذلك اختارت Groq ذاكرة DRAM التي تتمتع بميزة أكبر من حيث السعة.

ومن منظور استدلال الذكاء الاصطناعي، تبدو هذه المفاضلة منطقية إلى حد كبير. فمع استمرار نمو معلمات النماذج اللغوية الكبيرة (LLM) وطول السياق، تزداد سعة الذاكرة المطلوبة، ما يجعل الاعتماد على SRAM وحدها عرضة للقيود.

لكن ميزة SRAM تكمن في السرعة وزمن الاستجابة، ولا يزال من غير المؤكد ما إذا كان بالإمكان الحفاظ على هاتين الميزتين بعد التحول إلى DRAM. ولا يمكن تقييم مدى صحة هذا التحول في التصميم وتأثيره الفعلي إلا بعد توضيحات من Groq أو Nvidia.

(إعادة ترتيب هرم الذاكرة في عصر استدلال الذكاء الاصطناعي: شرح الفروق بين HBF وSSD POD وSRAM)

نُشر هذا المقال «Nvidia تتجه نحو شرائح ذاكرة الجيل التالي! يُقال إن Groq ستعتمد DRAM مكدسة ثلاثيًّا لتلبية احتياجات استدلال الذكاء الاصطناعي» أولًا على Chain News ABMedia.