В Alibaba поделились опытом использования собственного нейропроцессора
Практические результаты эксплуатации нейропроцессора (NPU) Hanguang 800 представил директор по разработке продуктов для гетерогенных вычислений в операционной системе Aliyun компании Alibaba Cloud Лонг Синь. Об этом 19 сентября сообщил портал ИТ-новостей из Китая cnTechPost.
Плату расширения для ускорения работы искусственных нейросетей Hanguang 800 компания представила еще в феврале 2019 года. Более года спустя у Alibaba Cloud (сервис облачных вычислений Alibaba Group) накопился опыт реального применения NPU собственной разработки.
Синь сообщил, что в зависимости от конкретного вычислительного узла с двумя или четырьмя картами Hanguang 800 и задачи, производительность обеспечивалась от 4 до 11 раз большая, нежели при использовании аналогичных решений с серверными видеокартами.
Все описанные представителем Alibaba задачи относятся к потоковой обработке видео. В частности, в задачах обнаружения пешеходов производительность была примерно в четыре раза выше, а при классификация коротких видеороликов производилась в 11 раз быстрее. В ряде других задач разница находилась в тех же рамках.
Hanguang 800 не предназначен для свободной продажи. Карты на базе NPU устанавливаются в сервера Alibaba в количестве до восьми на один сервер. Ранее клиенты компании использовали результаты работы облачной инфраструктуры. Теперь, по словам Синя, могут быть арендованы виртуальные вычислительные мощности в облаке на базе серверов с NPU.
