Intel заявляет о значительном преимуществе процессоров Xeon в пропускной способности для агентного ИИ 🤖
По данным Intel, в новых тестах, разработанных для рабочих нагрузок агентного ИИ, процессоры Xeon 6 обеспечили существенно более высокую пропускную способность, чем конкурирующие платформы. В 60-минутном тестировании Terminal-Bench система на базе Xeon 6 показала пропускную способность до 1,66 раза выше, чем система на базе AMD EPYC пятого поколения, и до 4,5 раза выше, чем система на базе Arm.
Тестирование охватило реалистичные сценарии работы в здравоохранении, банковской и финансовой сферах, а также производстве, включая задачи рассуждения, обработки данных, безопасности и управления. ⚙️ Intel использовала одинаковые рабочие нагрузки и параллельное выполнение 24 задач, чтобы сравнить, какой объём работы способна выполнить каждая система.
Результаты подчёркивают стремление Intel позиционировать процессоры Xeon как инфраструктуру для ИИ-агентов, производительность которых зависит не только от инференса моделей. Для таких рабочих нагрузок также необходимы возможности памяти, хранения данных, ввода-вывода и оркестрации, поскольку агенты снова и снова извлекают информацию, вызывают инструменты и выполняют задачи. 🚀
По данным Intel, в новых тестах, разработанных для рабочих нагрузок агентного ИИ, процессоры Xeon 6 обеспечили существенно более высокую пропускную способность, чем конкурирующие платформы. В 60-минутном тестировании Terminal-Bench система на базе Xeon 6 показала пропускную способность до 1,66 раза выше, чем система на базе AMD EPYC пятого поколения, и до 4,5 раза выше, чем система на базе Arm.
Тестирование охватило реалистичные сценарии работы в здравоохранении, банковской и финансовой сферах, а также производстве, включая задачи рассуждения, обработки данных, безопасности и управления. ⚙️ Intel использовала одинаковые рабочие нагрузки и параллельное выполнение 24 задач, чтобы сравнить, какой объём работы способна выполнить каждая система.
Результаты подчёркивают стремление Intel позиционировать процессоры Xeon как инфраструктуру для ИИ-агентов, производительность которых зависит не только от инференса моделей. Для таких рабочих нагрузок также необходимы возможности памяти, хранения данных, ввода-вывода и оркестрации, поскольку агенты снова и снова извлекают информацию, вызывают инструменты и выполняют задачи. 🚀