InfiniBand коммутатор Mellanox (NVIDIA Mellanox) 920-9B210-00FN-0D0 в производстве

Ведущий исследовательский институт ИИ в Восточной Азии столкнулся с общим, но критическим узким горлом.Уровень работы уменьшился.Основной причиной было наследие 100Gb / s Ethernet ткани, где TCP / IP накладные расходы и потеря пакетов во время инкаст событий вызвали время бездействия GPU до 35%.Ткань с ультранизкой задержкой, которая может поддерживать RDMA и масштабироваться до тысяч узлов без ущерба для детерминированной производительностиПосле оценки нескольких решений они выбралиMellanox (NVIDIA Mellanox) 920-9B210-00FN-0D0InfiniBand переключатель как ядро их новой архитектуры позвоночника.

Развертывание было сосредоточено вокруг920-9B210-00FN-0D0как основной слой, с 32 переключателями, соединяющими 512 графических процессоров NVIDIA A100 через адаптеры ConnectX-7.920-9B210-00FN-0D0 MQM9790-NS2F 400 Гбит/с NDRПо словам официального представителя компании, это позволит удвоить пропускную способность предыдущих решений HDR при сохранении задержки коммутации до микросекунды.920-9B210-00FN-0D0 InfiniBand переключатель OPNВ результате сетевые инженеры использовали подробную информацию, полученную в ходе исследования, чтобы обеспечить упрощение закупок и обеспечить согласованность прошивки во всех подразделениях.920-9B210-00FN-0D0 лист данныхиСпецификации 920-9B210-00FN-0D0Для проверки мощности и тепловых требований, что позволяет бесшовную интеграцию в существующие 19" стойки.920-9B210-00FN-0D0 совместимыкак с существующей инфраструктурой HDR, так и с новыми конечными точками NDR, что позволяет осуществлять поэтапную миграцию.

• Уровень эффективности RDMA:СNVIDIA Mellanox 920-9B210-00FN-0D0ГПУ-директная РДМА (GDR) стала полностью эффективной, устраняя узкие места в памяти процессора.
• Ускорение применения HPC:Ключевой код моделирования погоды (на основе MPI) показал улучшение производительности в 2,7 раза из-за адаптивного маршрутизации переключателя и коллективных выгрузок SHARP v2.
• Пропускные способности обучения ИИ:Для работы по обучению LLM стоимостью 175 миллиардов долларов новая ткань сократила время сжатия на 68%, улучшив общую эффективность GPU с 62% до 91%.
• Операционная простота:В920-9B210-00FN-0D0 InfiniBand Switch OPN решениеИТ-менеджеры сообщили о сокращении времени на устранение неполадок в сети на 50%.

При оценке проекта научно-исследовательский институт провел сравнительную оценку920-9B210-00FN-0D0 ценаНесмотря на более высокую первоначальную стоимость, общая стоимость владения (TCO) предпочитала InfiniBand из-за более высокого использования GPU и меньшей мощности на Гбит / с.Устройства легко доступны как:920-9B210-00FN-0D0 для продажиПосредством каналов распространения NVIDIA, с значительно более короткими сроками выполнения, чем другие коммутаторы NDR.Спецификации 920-9B210-00FN-0D0также подтвердили поддержку избыточных источников питания и вентиляторов, которые могут быть заменены на горячие, что отвечает требованиям института к надежности для исследовательских операций в области ИИ 24/7.

Исследовательский институт искусственного интеллекта в настоящее время стандартизировал920-9B210-00FN-0D0Для всех будущих расширений кластеров, включая запланированную 2,048-GPU NDR200 ткань.NVIDIA Mellanox 920-9B210-00FN-0D0это не просто переключатель это фундаментальный компонент для достижения линейного масштабирования производительности в средах ИИ и HPC. Для архитекторов и ИТ-менеджеров, которые хотят устранить узкие места в сети,- Да.920-9B210-00FN-0D0 InfiniBand Switch OPN решениепредлагает проверенный, готовый к производству путь вперед.