Платформы Intel AI ускоряют модели Microsoft Phi-3 GenAI
Intel проверила и оптимизировала свой портфель продуктов в области искусственного интеллекта для клиентов, периферийных устройств и центров обработки данных для нескольких открытых моделей семейства Phi-3 от Microsoft. Небольшие открытые модели семейства Phi-3 могут работать на более дешевом вычислительном оборудовании, легче настраиваются под конкретные требования и позволяют разработчикам создавать приложения, запускаемые локально. Поддерживаемые Intel продукты включают ускорители Intel® Gaudi® AI и процессоры Intel® Xeon® для центров обработки данных, а также процессоры Intel® Core™ Ultra и графику Intel® Arc™ для клиентов.
В рамках своей миссии по внедрению ИИ повсеместно Intel постоянно инвестирует в экосистему программного обеспечения для ИИ, сотрудничая с лидерами и новаторами в области ИИ.
Intel сотрудничала с Microsoft, чтобы обеспечить поддержку модели Phi-3 для своих центральных процессоров (CPU), графических процессоров (GPU) и ускорителей Intel Gaudi в день запуска. Intel также участвовала в разработке абстракции ускорителя в DeepSpeed, который является простым в использовании программным пакетом для оптимизации глубокого обучения, и расширила автоматическую поддержку тензорного параллелизма для Phi-3 и других моделей в Hugging Face.
Размер моделей Phi-3 хорошо подходит для использования в выводах на устройствах и делает возможной легкую разработку моделей, такую как тонкая настройка или кастомизация, на ПК с искусственным интеллектом и устройствах с пограничным доступом. Ускорение работы клиентского оборудования Intel достигается за счет комплексных программных фреймворков и инструментов, включая PyTorch и Intel® Extension for PyTorch, используемые для локальных исследований и разработок, а также OpenVINO™ Toolkit для развертывания моделей и выводов.
Intel стремится удовлетворить потребности своих корпоративных клиентов в генеративном ИИ и будет продолжать поддерживать и оптимизировать программное обеспечение для Phi-3 и других ведущих современных языковых моделей.