Сетевые адаптеры NVIDIA: анализ производительности адаптации и разгрузки с высокой пропускной способностью и низкой задержкой

В современных вычислительных средах с интенсивным использованием данных производительность сети стала критическим узким местом для приложений, начиная от обучения искусственному интеллекту и заканчивая высокопроизводительными вычислениями. Сетевые адаптеры NVIDIA, в частности серии ConnectX, разработаны для решения этих задач с помощью передовых технологий аппаратной разгрузки и оптимизации.

Современные рабочие нагрузки требуют от сетевой инфраструктуры больше, чем когда-либо прежде. Традиционные сетевые интерфейсные карты (NIC) с трудом справляются с требованиями:

• Возможности полосы пропускания Multi-100GbE
• Задержка менее микросекунды для распределенных приложений
• Разгрузка ЦП для освобождения ресурсов процессора для вычислений
• Надежная, без потерь передача данных в масштабе

Адаптеры NVIDIA реализуют технологию RDMA, обеспечивая прямой доступ к памяти между системами без участия операционной системы ни одного из компьютеров. Это позволяет обойти накладные расходы традиционного сетевого стека и обеспечивает значительные преимущества в производительности:

• Уменьшение задержки за счет исключения участия ядра в передаче данных
• Снижение загрузки ЦП, освобождение процессоров для рабочих нагрузок приложений
• Более высокая скорость передачи сообщений за счет оптимизированных путей связи

RoCE расширяет возможности RDMA до стандартных сетей Ethernet, делая высокопроизводительные сети доступными без необходимости специализированной инфраструктуры. Реализация RoCE от NVIDIA обеспечивает:

• Ethernet без потерь с помощью управления приоритетным потоком (PFC)
• Улучшенная поддержка RoCEv2 для маршрутизируемых сетей
• Совместимость с существующим сетевым оборудованием центров обработки данных

Сетевые адаптеры NVIDIA включают в себя сложные механизмы разгрузки, которые обрабатывают задачи сетевой обработки непосредственно на NIC:

В ходе тестирования производительности адаптеры NVIDIA ConnectX-7 демонстрируют замечательные характеристики:

• Задержка всего 600 наносекунд для операций RDMA
• Пропускная способность на скорости линии 400 Гбит/с с нулевой потерей пакетов
• Загрузка ЦП ниже 5% при тестировании максимальной пропускной способности
• Поддержка до 256 миллионов очередей и соединений

Эти возможности напрямую приводят к повышению производительности приложений в обучении ИИ, финансовой торговле, научных вычислениях и облачной инфраструктуре.

Сетевые адаптеры NVIDIA разработаны для бесперебойной работы в комплексных средах высокопроизводительных сетей, включая:

• Коммутационную инфраструктуру NVIDIA Spectrum для сквозной оптимизации
• NVIDIA BlueField DPU для комбинированной обработки сетей, безопасности и хранилища
• Основные операционные системы и гипервизоры через стандартизированные драйверы
• Популярные платформы оркестровки, включая Kubernetes и OpenStack

Распределенное обучение на нескольких серверах GPU требует эффективной синхронизации параметров. Сочетание RDMA и RoCE в адаптерах NVIDIA минимизирует накладные расходы на связь, ускоряя время обучения для больших моделей.

Финансовые приложения требуют минимально возможной задержки. Адаптеры NVIDIA обеспечивают задержку менее микросекунды, сохраняя при этом надежность и гарантии упорядочения сообщений.

Поставщики облачных услуг используют возможности разгрузки адаптеров NVIDIA для повышения плотности и снижения общей стоимости владения за счет снижения требований к ЦП.

NVIDIA продолжает внедрять инновации в технологию сетевых адаптеров, включая разработки:

• Оптику с совместной упаковкой для повышения энергоэффективности и плотности
• Более тесная интеграция с вычислениями на GPU для ускорения работы сети
• Улучшенные функции безопасности, включая встроенное шифрование и применение политик
• Поддержка новых стандартов и более высоких скоростей портов

Поскольку рабочие нагрузки центров обработки данных продолжают развиваться, важность интеллектуальных сетевых адаптеров с поддержкой разгрузки будет только возрастать. Дорожная карта технологий NVIDIA предвосхищает эти потребности, продолжая инвестировать в высокопроизводительные сетевые решения.

Для организаций, стремящихся максимизировать свои инвестиции в инфраструктуру, сетевые адаптеры NVIDIA обеспечивают основу для приложений следующего поколения, требующих как высокой пропускной способности, так и низкой задержки.Узнайте больше о том, как эти адаптеры могут преобразовать производительность вашей сети.