NVIDIA Mellanox MCX4121A-ACAT Server Adapter в действии.

NVIDIA Mellanox MCX4121A-ACAT Server Adapter в действии.

Опыт и вызов: когда 25GbE встречает стену задержки

Провайдер облачных услуг среднего размера - назовем их CloudNova - столкнулся с знакомым, но болезненным узким горлом.но производительность приложений рассказала другую историюРепликация баз данных задерживается, распределенные задачи машинного обучения задерживаются на градиентной синхронизации, а массивы хранения NVMe никогда не доставляют обещанные IOPS.Традиционный TCP/IP стек наполняет более 25% CPU ядра на своих вычислительных узлов, а существующим NIC не хватало аппаратного обеспечения для RDMA.используемыйИх поиск привел их кNVIDIA Mellanox MCX4121A-ACATКарта, разработанная специально для этих современных проблем с центрами обработки данных.

Решение: развертывание карты адаптера MCX4121A-ACAT Ethernet

Архитектурная команда CloudNova заменила свои 10GbE NIC наКарта адаптера MCX4121A-ACAT Ethernetв 120 вычислительных узлах, каждый из которых оснащен двумя портами SFP28.устранение необходимости отдельных тканей InfiniBandКлючом к решению былоMCX4121A-ACAT ConnectX-4 Lx с двумя портами 25GbE SFP28дизайн, который позволил активную связь активной связи для 50 Гбит/с совокупной пропускной способности на сервер.The team configured PFC (Priority Flow Control) and ECN (Explicit Congestion Notification) at the switch level (Команда сконфигурировала PFC (Приоритетный контроль потока) и ECN (Прямое уведомление о перегрузке) на уровне переключателя), что гарантирует, что трафик RoCE остается без потерь даже при пиковых нагрузках.вся структура хранения и вычисления работала на RDMA переход, сделанный плавным совместимостью адаптера с существующими кабелями SFP28 и коммутаторами Mellanox Spectrum.

С операционной точки зрения,Совместимость MCX4121A-ACATКарты были безупречно интегрированы с серверами CloudNova на базе Ubuntu и кластером Kubernetes, требуя только стандартной установки драйверов.Лист данных MCX4121A-ACATчтобы отрегулировать распределение буфера и прерывать настройки слияния, достигая оптимальной производительности для их смешанной среды нагрузки и обучения TensorFlow.

Измеримые результаты: пропускная способность, задержка и эффективность процессора

Улучшение производительности было немедленным и количественным.NVIDIA Mellanox MCX4121A-ACAT, резервный конец хранилища видел NVMe-oF чтение задержки снижение с 85μs до всего 12μs ¢ 7x улучшение.позволяет практически синхронный отказДля рабочих нагрузок машинного обучения время синхронизации для обучения ResNet-50 сократилось на 62%, сократив общее время обучения эпохи с 4,2 часов до 1,6 часов.

Помимо задержки, выигрыш пропускной способности сервера был столь же убедительным.и VLAN-тегирование Это освободило более 20 ядер процессора на сервер для логики приложений, напрямую увеличивая плотность контейнеров на 40%.Спецификации MCX4121A-ACAT, карта обеспечивает линейную скорость 25 Гбит/порт с задержкой менее 1 мкс, и внутренние показатели CloudNova подтвердили эти цифры в производстве.

Операционные выгоды: TCO и готовность к будущему

В то время как показатели необработанной производительности говорят убедительную историю, операционные выгоды были не менее значительными.Раствор карты адаптера Ethernet MCX4121A-ACATснизила общую стоимость владения, устранив необходимость в отдельной ткани RDMA (сэкономив более $ 180K в инфраструктуре коммутатора).Потребление энергии на сервер снизилось на 8 Вт по сравнению с предыдущими NICКроме того, конструкция адаптера с двумя портами обеспечивала естественную избыточность, когда одно звено переживало обморок.Traffic automatically failed over to the secondary port with zero packet loss (трафик автоматически отказался перейти на вторичный порт с нулевой потерей пакетов), как подтверждено телеметрическими записями адаптера.

Для ИТ-менеджеров, оценивающихЦена MCX4121A-ACATПо сравнению с альтернативными решениями, финансовый директор CloudNova отметил, что период окупаемости составляет менее 10 месяцев, в основном из-за увеличения использования серверов и сокращения сроков завершения работы.The team also appreciated the forward-looking architecture ¢ the same - команда также оценила архитектуру ¢ the sameMCX4121A-ACAT для продажисегодня поддерживает 25GbE сегодня, но может быть перепрофилирован для 10GbE или 40GbE среды с соответствующей оптикой, обеспечивая защиту инвестиций для будущих обновлений.

Резюме и перспективы: проект для готовых к RDMA дата-центров

Путешествие CloudNova сNVIDIA Mellanox MCX4121A-ACATдемонстрирует четкий план для организаций, стремящихся раскрыть весь потенциал инфраструктуры 25GbE.и бесшовная интеграция с существующими экосистемами, вКарта адаптера MCX4121A-ACAT Ethernetпреобразует сетевые вводы и выводы из узкого горла в способ повышения производительности.и на 62% быстрее обучение машинному мастерству, что говорит о способности адаптера обеспечивать измеримые результаты бизнеса.

В перспективе, поскольку рабочие нагрузки ИИ и аналитика в реальном времени продолжают стимулировать спрос на детерминированные сети,MCX4121A-ACAT ConnectX-4 Lx с двумя портами 25GbE SFP28Для архитекторов и ИТ-лидеров, планирующих их следующее обновление инфраструктуры, этот адаптер представляет собой не просто компонент,но стратегическим активомПодробные параметры настройки и лучшие практики развертывания доступны в официальномЛист данных MCX4121A-ACAT∙ an essential reference for any serious deployment. ∙ an essential reference for any serious deployment. ∙ an essential reference for any serious deployment. ∙ an essential reference for any serious deployment. ∙ an essential reference for any serious deployment.