Intel Xeon, Core™ Ultra және AI компьютерлері GenAI жұмыс жүктемелерін жылдамдатады
Intel корпорациясы Intel® Gaudi® үдеткіштерін, Intel® Xeon® процессорларын, Intel® Core™ Ultra процессорларын және Intel® Arc™ графикасын қолданатын алғашқы Meta Llama 3 8B және 70B үлгілерін AI портфолиосының дайындығын растады.
AI-ны барлық жерге жеткізу миссиясының бөлігі ретінде Intel компания өнімдерінің динамикалық AI кеңістігіндегі соңғы инновацияларға дайын болуын қамтамасыз ету үшін AI бағдарламалық жасақтамасы мен экожүйесіне инвестициялайды. Деректер орталығында Intel® Advanced Matrix Extension (Intel® AMX) жеделдетілген Intel Gaudi және Intel Xeon процессорлары тұтынушыларға динамикалық және әртүрлі талаптарды қанағаттандыруға мүмкіндік береді.
Intel Core Ultra процессорлары мен Intel Arc графикасы жан-жақты бағдарламалық жүйелер мен құралдарды қолдау арқылы миллиондаған құрылғыларға жергілікті әзірлеуге және орналастыруға мүмкіндік береді; соның ішінде PyTorch және PyTorch® үшін Intel® кеңейтімі, жергілікті зерттеулер мен әзірлемелер үшін пайдаланылады және OpenVINO™ үлгіні әзірлеу мен қорытынды жасауға арналған құралдар жинағы.
Llama 3 8B және 70B үлгілерінің бастапқы сынақтары мен өнімділік нәтижелерінде Intel соңғы бағдарламалық құралды оңтайландыруды қамтамасыз ету үшін PyTorch, DeepSpeed, Intel Optimum Habana кітапханасы және PyTorch үшін Intel кеңейтімі сияқты ашық бастапқы бағдарламалық құралды пайдаланады.
Intel Xeon процессорлары күрделі AI жұмыс жүктемелерін өңдеуге арналған және Intel кідірістерді азайту үшін LLM нәтижелерін оңтайландыруға инвестициялауда. Performance-cores ядролары бар Intel® Xeon® 6 процессорлары (код атауы Granite Rapids) 4-ші буындағы Intel® Xeon® процессорларымен салыстырғанда Llama 3 8B шығыс кідірісін 2 есеге дейін жақсартады. Сонымен қатар Llama 3 70B сияқты үлкенірек тіл үлгілерін жасалған әрбір таңбалауыш үшін 100 мс-ден азырақ іске қосуға мүмкіндік береді.
Intel Core Ultra және Intel Arc Graphics Llama 3 үшін әсерлі өнімділікті қамтамасыз етеді. Тестілеудің бірінші кезеңінде Intel Core Ultra процессорлары адамның әдеттегі оқу жылдамдығынан жылдамырақ мәтін шығарады. Сонымен қатар, Intel® Arc™ A770 графикалық процессорында XE Matrix eXtensions (XMX) AI үдеуі және 16 Гбайт арнайы жады бар, бұл LLM жұмыс жүктемелері үшін ерекше өнімділікті қамтамасыз етеді.