Alibaba заменила сеть Nvidia на собственную в кластере для приложений ИИ

Замену высокопроизводительной сети между узлами центра обработки данных производства американской Nvidia заменила на собственное решение китайская компания Alibaba Cloud, 29 июня сообщает американское интернет-издание о компьютерных технологиях Tom’s Hardware.

Решение было применено в центре обработки данных (ЦОД) с 15 тыс. графическими профессорами. Всего в системе 1875 серверов. Этот ЦОД используется для обучения и работы больших языковых моделей (LLM).

Характерной нагрузкой для LLM являются периодические всплески обмена информацией со скоростью до 400 Гбит/с. Это накладывает высокие требования на внутреннюю сеть ЦОД.

Китайская компания успешно заменила широко используемое решение американской Nvidia на собственную сеть HPN (High Perfomance Network — высокопроизводительная сеть).

По словам инженера компании Эннана Чжая, сеть имеет «двухуровневую двухплоскостную архитектуру», позволяющую снизить вероятность неравномерного распределения трафика внутри ЦОД. Совокупная пропускная способность сети составила 3,2 Тбит/с.