Intel первый и единственный, кто добился полной поддержки NPU в бенчмарке MLPerf Client v0.6

Процессоры Intel Core Ultra Series 2 демонстрируют непревзойдённую производительность в задачах искусственного интеллекта, охватывая CPU, GPU и NPU.

Intel объявила, что стала первой и пока единственной компанией, обеспечившей полную поддержку нейропроцессора (NPU) в новом бенчмарке MLPerf Client v0.6. Этот результат стал первым в отрасли стандартным тестированием производительности клиентских NPUs при работе с большими языковыми моделями (LLM). Согласно замерам Intel, процессоры Intel® Core™ Ultra Series 2 выдают результат на GPU и NPU быстрее, чем человек успевает прочитать.

«Мы гордимся тем, что первыми обеспечили полное ускорение на базе NPU и достигли рекордной производительности GPU для ИИ-задач на клиентских ПК. Это — результат глубокой аппаратно-программной оптимизации и стремления Intel сделать искусственный интеллект доступным каждому пользователю ПК», — Дэниел Роджерс, вице-президент и руководитель по маркетингу продуктов для ПК, Intel.

Почему это важно

С выходом процессоров Intel Core Ultra Series 2 компания укрепила свои позиции лидера в развитии ИИ-ПК, предложив уникальную вычислительную производительность, охватывающую центральный процессор (CPU), графику (GPU) и нейропроцессор (NPU).

Бенчмарк MLPerf Client v0.6 оценивает производительность в четырёх сценариях генерации и краткого изложения контента на основе модели Llama 2 7B. Intel показала лидирующие результаты как на встроенной графике Intel® Arc™, так и на NPU.

Intel достигла самой быстрой скорости отклика NPU: первый токен (слово) генерируется всего за 1,09 секунды после получения запроса, что обеспечивает практически мгновенное начало ответа. Кроме того, компания показала наивысшую пропускную способность — 18,55 токенов в секунду, что позволяет системе формировать текст в реальном времени без задержек. Также Intel продемонстрировала преимущество своей встроенной графики: GPU начинает генерацию первого токена быстрее конкурентов, подчёркивая эффективность комплексного ускорения задач ИИ с участием и NPU, и GPU.

О бенчмарке NPU в MLPerf

Бенчмарк MLPerf Client v0.6 создан в рамках инициативы консорциума MLCommons, в который входят Intel, AMD, Microsoft, Nvidia, Qualcomm и другие. В отличие от предыдущих тестов, сосредоточенных на GPU, новая версия включает отдельное тестирование NPU.

Процессоры Intel Core Ultra стали единственными, кто прошёл финальный бенчмарк с полным соответствием требованиям для NPU, благодаря тесной работе команд по аппаратуре NPU и ПО OpenVINO™.

Тестирование конфигурации

^{Все данные приведены по состоянию на 28 апреля 2025 года. Полные сведения о тестовых сценариях и конфигурациях доступны в пресс-ките.}

Примечания и отказ от ответственности

^{Производительность зависит от сценариев использования, конфигурации и других факторов. Подробнее на intel.com/performanceindex. Данные получены в ходе тестирования на указанные даты и могут не учитывать все обновления. Ни один продукт или компонент не гарантирует абсолютную безопасность. Фактические результаты могут отличаться.}