يطرح إيفان كونراد، الرئيس التنفيذي لشركة San Francisco Compute، فكرة مهمة حول نشر البنية التحتية للذكاء الاصطناعي: انسوا قرب مواقع التدريب من المستخدمين، وضعوا مراكز الحوسبة قرب مصادر الطاقة بدلًا من ذلك.
في مهام التدريب التي تستغرق عدة أيام، تتفوق تكلفة الكهرباء وتوافرها على زمن الاستجابة. ويراهن على أننا سنشهد موجة من عناقيد وحدات معالجة الرسوميات بقدرة تقل عن 15 ميغاواط، موزعة حول العالم أينما توفرت طاقة رخيصة.
ما الاستثناء؟ الاستدلال الآني، مثل معالجة الفيديو أو الصوت المباشر؛ فهذه الحالات ما زالت تتطلب القرب من المستخدمين عند الحافة لتحقيق أوقات استجابة تقل عن 100 مللي ثانية. التدريب = الطاقة أولًا. الاستدلال منخفض زمن الاستجابة = المستخدم أولًا. أحمال عمل مختلفة، وطوبولوجيا مختلفة.
في مهام التدريب التي تستغرق عدة أيام، تتفوق تكلفة الكهرباء وتوافرها على زمن الاستجابة. ويراهن على أننا سنشهد موجة من عناقيد وحدات معالجة الرسوميات بقدرة تقل عن 15 ميغاواط، موزعة حول العالم أينما توفرت طاقة رخيصة.
ما الاستثناء؟ الاستدلال الآني، مثل معالجة الفيديو أو الصوت المباشر؛ فهذه الحالات ما زالت تتطلب القرب من المستخدمين عند الحافة لتحقيق أوقات استجابة تقل عن 100 مللي ثانية. التدريب = الطاقة أولًا. الاستدلال منخفض زمن الاستجابة = المستخدم أولًا. أحمال عمل مختلفة، وطوبولوجيا مختلفة.