Решения NVIDIA Switch: Часто задаваемые вопросы - Сегментация и высокая доступность от доступа до ядра

Коммутаторы NVIDIA поддерживают несколько подходов к сегментации для оптимизации производительности и безопасности центров обработки данных ИИ:

• Сегментация на основе VLAN для логической изоляции трафика обучения, вывода и хранения ИИ
• Виртуализация сети обеспечивающая несколько виртуальных сетей на общей физической инфраструктуре
• Разделение качества обслуживания (QoS) для приоритизации трафика рабочих нагрузок ИИ
• Разделение зон безопасности между доступом пользователей, управлением и плоскостями данных

Высокопроизводительная сетевая архитектура NVIDIA поддерживает стабильную производительность за счет:

• Неблокирующих коммутационных матриц для всех плотностей портов
• Усовершенствованного управления трафиком с глубокими буферами для всплесков рабочих нагрузок ИИ
• Возможностей Ethernet без потерь, предотвращающих перегрузку в средах RoCEv2
• Линейной производительности на всех портах одновременно, независимо от сегментации

Коммутаторы NVIDIA предоставляют комплексные возможности высокой доступности, необходимые для центров обработки данных ИИ:

• Аппаратное резервирование с двойными источниками питания, вентиляторами и модулями управления
• Бесперебойное переключение протоколы, обеспечивающие непрерывную работу при сбоях компонентов
• Агрегирование каналов с несколькими шасси для конфигураций восходящей линии связи active-active
• Бесперебойные обновления системы без прерывания обслуживания
• Мониторинг сети с диагностикой состояния в реальном времени и прогнозной аналитикой

Поддержание низкой задержки при реализации сегментации достигается за счет:

• Архитектуры коммутации с прямой передачей, минимизирующей задержки обработки
• Аппаратного ускорения сегментации, снижающего нагрузку на ЦП
• Оптимизированных путей пересылки для трафика внутри сегмента и между сегментами
• Управления потоком на основе приоритетов, предотвращающего скачки задержки, вызванные перегрузкой
• Выделенных классов трафика ИИ с ускоренной пересылкой

Для оптимальной производительности от уровней доступа до основных уровней мы рекомендуем:

• Внедрить иерархическую сегментацию, соответствующую организационным и прикладным границам
• Использовать последовательные политики на коммутаторах доступа, агрегации и ядра
• Развернуть инструменты автоматизированного предоставления для управления сегментами в масштабе
• Контролировать показатели производительности, специфичные для сегментов, для рабочих нагрузок ИИ
• Планировать рост сегментов и меняющиеся требования безопасности

Решения NVIDIA высокой доступности для центров обработки данных ИИ включают:

• Архитектуры активной-активной фабрики, исключающие единые точки отказа
• Механизмы автоматического переключения для резервирования сетевых путей
• Интегрированный мониторинг работоспособности во всех сетевых сегментах
• Комплексные возможности аварийного восстановления
• Проактивные функции обслуживания, сокращающие запланированное время простоя

NVIDIA предоставляет расширенные инструменты для управления сегментированными сетями:

• Централизованные консоли управления с информационными панелями, учитывающими сегменты
• Мониторинг производительности в реальном времени для каждого сетевого сегмента
• Автоматизированное предоставление сегментов и применение политик
• Комплексное ведение журналов и аналитика для устранения неполадок
• Интеграция с популярными платформами управления сетью