Intel Xeon 6 обеспечивает до 17-кратного прироста производительности ИИ за 4 года результатов MLPerf
Недавно MLCommons опубликовала результаты своего стандартного в отрасли набора тестов производительности ИИ, MLPerf Inference v4.1. Компания Intel представила результаты по шести тестам MLPerf для процессоров Intel® Xeon® Scalable 5-го поколения и впервые для процессоров Intel® Xeon® 6 с производительными ядрами (P-cores). Процессоры Intel Xeon 6 с P-cores достигли примерно 1,9-кратного улучшения средней геометрической производительности ИИ по сравнению с процессорами Xeon 5-го поколения.
Intel Xeon предлагает отличное решение для задач ИИ-инференса, включая классическое машинное обучение и векторный поиск.
В рамках MLPerf Inference v4.1 компания Intel представила процессоры Xeon 5-го поколения и Xeon 6 с P-cores на таких задачах, как ResNet50, RetinaNet, 3DUNet, BERT, DLRM v2 и GPT-J. В сравнении с Intel Xeon 5-го поколения, Xeon 6 обеспечивает в среднем 1,9-кратное улучшение производительности ИИ-инференса по этим шести тестам. Intel остается единственным поставщиком серверных процессоров, представившим результаты ЦП в MLPerf.
За последние четыре года Intel значительно улучшила производительность ИИ на своих процессорах с момента первой публикации результатов в MLPerf. По сравнению с процессорами Intel® Xeon® Scalable 3-го поколения 2021 года, Xeon 6 демонстрирует до 17-кратного улучшения в задачах обработки естественного языка (BERT) и до 15-кратного улучшения в задачах компьютерного зрения (ResNet50). Intel продолжает инвестировать в развитие ИИ на основе ЦП, внедряя инновации через Intel® Advanced Matrix Extensions (AMX) с новыми типами данных и повышенной эффективностью.
Последние бенчмарки MLCommons подчеркивают, как процессоры Xeon обеспечивают мощные серверные решения для ИИ на основе ЦП для производителей оригинального оборудования (OEM). Поскольку спрос на вычисления для ИИ растет, и многие клиенты выполняют задачи ИИ параллельно с корпоративными рабочими нагрузками, OEM-производители уделяют особое внимание MLPerf, чтобы поставлять своим клиентам высокопроизводительные системы Xeon, оптимизированные для ИИ-нагрузок.
Intel поддержала пять OEM-партнеров – Cisco, Dell Technologies, HPE, Quanta и Supermicro – в их заявках на MLPerf в этом раунде. Каждый партнер представил результаты MLPerf с процессорами Xeon 5-го поколения, продемонстрировав поддержку своих систем для различных задач ИИ и рабочих нагрузок.