Высокопроизводительные вычислительные (HPC) сетевые решения: InfiniBand обеспечивает прорыв в производительности суперкомпьютеров

Границы науки, инженерии и искусственного интеллекта раздвигаются высокопроизводительными вычислениями (HPC). От моделирования климатических моделей и открытия новых лекарств до обучения массивных генеративных моделей ИИ — сложность и масштаб этих рабочих нагрузок растут в геометрической прогрессии. Этот всплеск создает огромное давление на сетевых подключений суперкомпьютеров, которая должна эффективно перемещать огромные наборы данных между тысячами вычислительных узлов, не становясь узким местом. Взаимосвязь больше не просто компонент сантехники; это центральная нервная система современного суперкомпьютера.

Традиционные сетевые архитектуры часто не успевают за потребностями вычислений в эксамасштабе и ИИ. Архитекторы и исследователи HPC сталкиваются с несколькими постоянными проблемами:

• Чувствительность к задержкам: Тесно связанные параллельные приложения, использующие Message Passing Interface (MPI), очень чувствительны к задержкам. Микросекунды задержки могут резко замедлить общее время решения.
• Непредсказуемая пропускная способность: Перегрузка сети может вызывать нестабильную производительность, приводя к тому, что вычислительные узлы простаивают в ожидании данных, тратя ценные вычислительные ресурсы и увеличивая время выполнения заданий.
• Неэффективные коллективные операции: Операции, такие как редукции и барьеры, которые включают несколько узлов, могут потреблять значительное количество ресурсов ЦП хоста, отвлекая циклы от основных вычислительных задач.
• Пределы масштабируемости: Многие сети испытывают трудности с поддержанием производительности и постоянной задержки при масштабировании кластеров до десятков тысяч узлов, что препятствует переходу к эксамасштабным вычислениям и далее.

NVIDIA Mellanox InfiniBand предоставляет специализированную комплексную сетевую платформу, разработанную специально для преодоления этих HPC узких мест. Это больше, чем просто сетевой адаптер; это целостная структура, которая интеллектуально ускоряет перемещение данных и вычисления.

• Вычисления в сети (NVIDIA SHARP™): Это революционная функция, которая отличает InfiniBand. Scalable Hierarchical Aggregation and Reduction Protocol (SHARP) разгружает коллективные операции (например, MPI Allreduce, Barrier) с ЦП в коммутационную сеть. Это резко снижает задержку и освобождает ресурсы ЦП хоста для вычислений приложений.
• Прямой удаленный доступ к памяти (RDMA): Mellanox InfiniBand имеет встроенную поддержку RDMA, позволяющую перемещать данные непосредственно из памяти одного узла в другой, не задействуя ЦП. Эта техника «обхода ядра» имеет основополагающее значение для достижения сверхнизкой задержки и высокой пропускной способности.
• Адаптивная маршрутизация и управление перегрузками: Структура динамически направляет трафик в обход горячих точек, обеспечивая равномерное использование сети и предотвращая перегрузку до того, как она повлияет на производительность приложений. Это приводит к предсказуемой и стабильной производительности.
• Бесшовная интеграция GPU (GPUDirect®): Такие технологии, как GPUDirect RDMA, позволяют данным течь напрямую между памятью GPU разных серверов через структуру InfiniBand, что имеет решающее значение для ускорения многопроцессорного и многоузлового обучения ИИ и рабочих нагрузок научных вычислений.

Развертывание Mellanox InfiniBand в ведущих суперкомпьютерных центрах и исследовательских институтах привело к драматическим, измеримым результатам:

Mellanox InfiniBand зарекомендовал себя как золотой стандарт для сетевых подключений суперкомпьютеров, обеспечивая необходимую производительность, масштабируемость и интеллект, требуемые самыми требовательными в мире HPC и рабочими нагрузками ИИ. Решая критические узкие места сети с помощью таких инноваций, как вычисления в сети, он позволяет исследователям и ученым быстрее добиваться прорывных результатов. Это не просто взаимосвязь; это важный ускоритель человеческих знаний и инноваций.