Intel MLPerf Client v0.6 бенчмаркінде NPU-ны толық қолдауға қол жеткізген алғашқы және жалғыз компания

Intel Core Ultra Series 2 процессорлары жасанды интеллект міндеттерінде теңдессіз өнімділікті көрсетеді, оған CPU, GPU және NPU кіреді.

Intel компаниясы жаңа MLPerf Client v0.6 бенчмаркінде нейропроцессорды (NPU) толық қолдауды қамтамасыз еткен алғашқы және әзірге жалғыз компания болғанын жариялады. Бұл нәтиже үлкен тілдік модельдермен (LLM) жұмыс істеу кезінде клиенттік NPU өнімділігін стандартты тестілеудегі салалық алғашқы жетістік болды. Intel өлшемдері бойынша, Intel® Core™ Ultra Series 2 процессорлары GPU және NPU-да адам оқып үлгергенше жылдамырақ нәтиже береді.

«Біз NPU негізінде толық жеделдетуді қамтамасыз еткен алғашқы болып, клиенттік ДК-дегі AI міндеттері үшін рекордтық GPU өнімділігіне қол жеткізгенімізді мақтан тұтамыз. Бұл — терең аппараттық-бағдарламалық оңтайландырудың және Intel-дің жасанды интеллектті әрбір ДК пайдаланушысына қолжетімді етуге ұмтылысының нәтижесі», — деді Дэниел Роджерс, Intel компаниясының ДК өнімдерін маркетинг бойынша вице-президенті және жетекшісі.

Неліктен бұл маңызды?

Intel Core Ultra Series 2 процессорларының шығуымен компания жасанды интеллект ДК дамуындағы көшбасшылық позициясын нығайтты, орталық процессорды (CPU), графикті (GPU) және нейропроцессорды (NPU) қамтитын бірегей есептеу өнімділігін ұсынды.

MLPerf Client v0.6 бенчмаркі Llama 2 7B моделі негізінде контентті генерациялау және қысқаша мазмұндаудың төрт сценарийіндегі өнімділікті бағалайды. Intel Intel® Arc™ кірістірілген графикасында да, NPU-да да жетекші нәтижелер көрсетті.

Intel NPU-ның ең жылдам жауап беру жылдамдығына қол жеткізді: бірінші токен (сөз) сұраныс алғаннан кейін бар болғаны 1,09 секунд ішінде генерацияланады, бұл жауаптың іс жүзінде лезде басталуын қамтамасыз етеді. Сонымен қатар, компания ең жоғары өткізу қабілетін — секундына 18,55 токенді көрсетті, бұл жүйеге мәтінді нақты уақыт режимінде кешігусіз қалыптастыруға мүмкіндік береді. Сондай-ақ, Intel өзінің кірістірілген графикасының артықшылығын көрсетті: GPU бірінші токенді генерациялауды бәсекелестерінен жылдамырақ бастайды, бұл NPU және GPU қатысуымен AI міндеттерін кешенді жеделдетудің тиімділігін көрсетеді.

MLPerf-тегі NPU бенчмаркі туралы

MLPerf Client v0.6 бенчмаркі MLCommons консорциумының бастамасы аясында құрылған, оған Intel, AMD, Microsoft, Nvidia, Qualcomm және басқа да компаниялар кіреді. Алдыңғы GPU-ға бағытталған тесттерден айырмашылығы, жаңа нұсқа NPU-ны жеке тестілеуді қамтиды.

Intel Core Ultra процессорлары NPU аппараттық құралдары және OpenVINO™ бағдарламалық қамтамасыз ету командаларының тығыз жұмысының арқасында NPU үшін талаптарға толық сәйкестікпен соңғы бенчмарктен өткен жалғыз процессорлар болды.

Конфигурацияны тестілеу

^{Барлық деректер 2025 жылдың 28 сәуіріндегі жағдай бойынша берілген. Тест сценарийлері мен конфигурациялары туралы толық мәліметтер пресс-китте қолжетімді.}

Ескертпелер мен жауапкершіліктен бас тарту

^{Өнімділік пайдалану сценарийлеріне, конфигурацияға және басқа факторларға байланысты. Толығырақ intel.com/performanceindex мекенжайынан қараңыз. Деректер көрсетілген күндердегі тестілеу барысында алынған және барлық жаңартуларды ескермеуі мүмкін. Ешбір өнім немесе компонент абсолютті қауіпсіздікке кепілдік бермейді. Нақты нәтижелер әр түрлі болуы мүмкін.}