🚨 عاجل:
استحوذت $NBIS على Inferize، وهي شركة ناشئة متخصصة في تحسين استدلال نماذج الذكاء الاصطناعي (AI inference)، وذلك لتعزيز مكدس الاستدلال الخاص بإنتاج Token Factory.
تم تصميم تقنية Inferize لتقليل ما يُعرف بـ“الاستدعاءات الباردة” للنماذج، أي الوقت الذي تستغرقه نماذج الذكاء الاصطناعي للتحميل قبل أن تتمكن من بدء تقديم الطلبات. وقد يؤدي ذلك إلى بقاء وحدات معالجة الرسومات (GPUs) غير مستغلة خلال فترات الزيادة في الطلب، أو عند إطلاق مثيلات جديدة، أو عند تحديث النماذج.
ومن خلال دمج تقنية Inferize وفريقها الهندسي ضمن Token Factory، تقول Nebius إنها تهدف إلى تحسين الاستفادة من وحدات GPU، وجعل السعة أكثر مرونة، وتقليل تكاليف الاستدلال، وتلبية طلبات عملاء أكثر من نفس البنية التحتية.
استحوذت $NBIS على Inferize، وهي شركة ناشئة متخصصة في تحسين استدلال نماذج الذكاء الاصطناعي (AI inference)، وذلك لتعزيز مكدس الاستدلال الخاص بإنتاج Token Factory.
تم تصميم تقنية Inferize لتقليل ما يُعرف بـ“الاستدعاءات الباردة” للنماذج، أي الوقت الذي تستغرقه نماذج الذكاء الاصطناعي للتحميل قبل أن تتمكن من بدء تقديم الطلبات. وقد يؤدي ذلك إلى بقاء وحدات معالجة الرسومات (GPUs) غير مستغلة خلال فترات الزيادة في الطلب، أو عند إطلاق مثيلات جديدة، أو عند تحديث النماذج.
ومن خلال دمج تقنية Inferize وفريقها الهندسي ضمن Token Factory، تقول Nebius إنها تهدف إلى تحسين الاستفادة من وحدات GPU، وجعل السعة أكثر مرونة، وتقليل تكاليف الاستدلال، وتلبية طلبات عملاء أكثر من نفس البنية التحتية.
