Серверный адаптер NVIDIA Mellanox MCX623106AN-CDAT | Запуск продукта и ключевые особенности

NVIDIA Mellanox MCX623106AN-CDAT Server Adapter. Запуск продукта и основные функции

Основная информация: Новые проблемы сетей в эпоху гипермасштаба и ИИ

С распространением генерирующего ИИ, обучением больших языковых моделей и массово распределенными базами данных сетевые трафики в центрах образуют фундаментальную трансформацию.Традиционные сети 25GbE и 40GbE больше не могут удовлетворять требованиям связи All-to-All между кластерами GPUСетевые архитекторы сталкиваются с идеальным штормом: потребности в полосе пропускания удваиваются каждые 18 месяцев,В то время как требования к задержке ужесточаются до под-5μs для критических транзакций.NVIDIA Mellanox MCX623106AN-CDATприходит как специально построенное решение, разработанное для решения этих конвергирующих давлений,предоставление 200GbE подключения и расширенных возможностей выгрузки в самых требовательных корпоративных и облачных средах.

Какие проблемы решает MCX623106AN-CDAT?

ВNVIDIA Mellanox MCX623106AN-CDATрешает три критические проблемы, которые стали эндемичными в современных дата-центрах. Во-первых, он устраняет налог на ЦП, связанный с высокоскоростной сетью на 200GbE,программная обработка пакетов может потреблять до 40% ядер процессораMCX623106AN-CDAT отгружает протоколы транспорта, безопасности и хранения непосредственно на аппаратное обеспечение, восстанавливая эти циклы для вычислительных интенсивных нагрузок.Он решает проблемы с перегрузкой и темпом движения в условиях высокой плотности посредством передовой телеметрии и динамического контроля перегрузки., обеспечивая предсказуемую производительность даже в условиях перегруженного движения.адаптер обеспечивает будущие инвестиции в инфраструктуру, поддерживая не только сегодняшние 200GbE ткани, но и обеспечивая бесшовный путь к 400GbE и далее благодаря своей передовой архитектуре кремния.

Для ИТ-менеджеров, осуществляющих надзор за кластерами ИИ/МЛ,Карта адаптера Ethernet MCX623106AN-CDATУскорение коллективных коммуникационных моделей (all-reduce, all-gather), которые доминируют в распределенном обучении.Совместимость MCX623106AN-CDATс платформами NVIDIA GPU (HGX, DGX) и ведущими CPU-серверами от Dell, HPE и Supermicro.

Основные технические характеристики

В самом сердцеMCX623106AN-CDAT ConnectX адаптер PCIe сетевая картаВ основе карты лежит ASIC ConnectX-7, самый продвинутый сетевой кремний NVIDIA на сегодняшний день.Ниже приведено резюме основных спецификаций, извлеченных из официальногоФайл данных MCX623106AN-CDAT:

Внедрение адаптера с аппаратным ускорением RoCE обеспечивает беспроигрышный Ethernet-транспорт с поддержкой PFC (Priority Flow Control) и ECN (Explicit Congestion Notification),в то время как расширенные функции, такие как GPUDirect, позволяют напрямую получить доступ к памяти между графическими процессорами и сетью без вмешательства процессора.Спецификации MCX623106AN-CDATтакже включают в себя всеобъемлющую внутриполосную телеметрию сети (INT), позволяющую получить детальную информацию о задержках по потоку и точках перегрузки по всей ткани.

Сценарии развертывания и интеграция экосистем

ВNVIDIA Mellanox MCX623106AN-CDATпредназначен для самых требовательных сред, включая гипермасштабных облачных провайдеров, финансовые биржи и исследовательские учреждения, расширяющие границы ИИ и HPC.адаптер ускоряет распределенное обучение до 3x по сравнению с адаптерами предыдущего поколенияДля среды хранения карта позволяет использовать NVMe-oF с задержкой менее 10 мкс.преобразование совместного хранилища в критически важный ресурс для работы с базами данных и аналитикой.

При оценкеMCX623106AN-CDAT ценапротив альтернативных решений организации должны учитывать общую стоимость владения: расширенные отгрузки адаптера уменьшают расселение сервера, позволяя увеличить плотность VM и контейнеров,в то время как его энергоэффективный дизайн (обычно менее 20 Вт) минимизирует расходы на охлаждение.MCX623106AN-CDAT для продажичерез глобальных партнеров NVIDIA включает в себя всеобъемлющую гарантию и поддержку обновления прошивки, обеспечивая долгосрочную надежность в критически важных условиях.

Для архитекторов, планирующих строительство нового поколения центров обработки данныхMCX623106AN-CDAT Ethernet решение для карты адаптераинтегрируется с коммутаторами NVIDIA Spectrum-4 и более широким сетевым стеком NVIDIA, обеспечивая полную видимость и автоматизированную конфигурацию с помощью таких инструментов, как NVIDIA Air и NetQ.Адаптер также совместим с оптикой 100GbE и 50GbE., предлагающий гибкий путь миграции для поэтапного обновления.

Резюме: Стратегическая инвестиция в будущее, основанное на ИИ

ВNVIDIA Mellanox MCX623106AN-CDATС помощью комбинирования двойного порта 200GbE пропускной способности, интерфейса хоста PCIe 5.0 и аппаратно-ускоренной RDMA с поддержкой GPUDirect,MCX623106AN-CDAT ConnectX адаптер PCIe сетевая картапредоставляет производительность, масштабируемость и эффективность, которые требуют первые центры обработки данных ИИ.или модернизация облачной инфраструктуры, этот адаптер обеспечивает свободное пространство и защиту инвестиций, которые требуют инженеры сети и ИТ-менеджеры.

Подробные рекомендации по интеграции, показатели производительности и матрицы совместимости приведены в официальномФайл данных MCX623106AN-CDATдоступны через портал документации NVIDIA.NVIDIA Mellanox MCX623106AN-CDATэто больше, чем сетевая карта ∙ это основной строительный блок для интеллектуального, высокопропускного, малозадержного дата-центра завтрашнего дня.