NVIDIA Mellanox MQM8790-HS2F InfiniBand Switch uruchomiony: budowa 200Gb/s High-Speed Interconnect Foundation

NVIDIA Mellanox MQM8790-HS2F InfiniBand Switch uruchomiony: Budowa 200Gb/s High-Speed Interconnect Foundation dla klastrów HPC i AI

Ponieważ obliczenia o wysokiej wydajności (HPC) i szkolenia modeli sztucznej inteligencji na dużą skalę nadal przekraczają granice rozproszonych obliczeń, podstawowa struktura sieci stała się krytycznym wąskim gardłem.Tradycyjne rozwiązania oparte na sieci Ethernet często mają trudności z zapewnieniem bardzo niskiego opóźnienia, deterministycznej wydajności i możliwości obliczeniowych w sieci wymaganych przez nowoczesne obciążenia przyspieszone przez procesor graficzny.Architekci sieci i menedżerowie IT coraz częściej zwracają się do InfiniBand jako do interkonekcji wyboru dla wdrożeń klastrów o kluczowym znaczeniu.

Odpowiadając na to rosnące zapotrzebowanie, NVIDIA Mellanox oficjalnie wprowadziłaMQM8790-HS2F przełącznik InfiniBand nowej generacji specjalnie zaprojektowany do sieci HDR (High Data Rate) o szybkości 200 Gb/s.i zaawansowanych funkcji potrzebnych do budowy skalowalnych, wysokiej wydajności tkaniny centrum danych dla najbardziej wymagających środowisk obliczeniowych.

Temat: Dlaczego nowy przełącznik InfiniBand ma znaczenie

Współczesne klastry szkoleniowe AI często składają się z tysięcy węzłów GPU, z których każdy wymaga trwałej komunikacji o niskim opóźnieniu dla operacji zbiorowych, takich jak all-reduce i all-gather.W takich warunkachW tym przypadku, nawet w przypadku trzęsienia nerwowego na poziomie mikrosekundy, można znacząco wydłużyć czas ukończenia szkolenia.wielkość danych wymiany pomiędzy węzłami obliczeniowymi wzrasta wykładniczo, stawiając bezprecedensowe obciążenie na kręgosłupie sieci.

W sprawieNVIDIA Mellanox MQM8790-HS2Frozwiązuje te wyzwania, zapewniając architekturę przełączania o wysokim zasięgu, nie blokującą, która gwarantuje, że wszystkie 40 portów może działać z pełną przepustowością 200 Gb/s jednocześnie.Wyeliminuje to nadmierne subskrypcje często występujące w przełącznikach niższej klasy, gwarantując, że każdy połączony węzeł ma stały dostęp do pełnej przepustowości tkaniny.

Główne cechy i szczegóły techniczne

Na podstawie wstępnychArkusz danych MQM8790-HS2F, przełącznik ten wykorzystuje architekturę InfiniBand siódmej generacji NVIDIA i obejmuje kilka możliwości odróżniających:

Poza surową wydajnością,MQM8790-HS2F 200Gb/s HDR 40-port QSFP56konstrukcja podkreśla efektywność energetyczną i prostotę działania.umożliwiające elastyczne wdrażanie w różnych środowiskach chłodzenia centrów danychJego gorąco wymienne zasilanie i moduły wentylatorów ułatwiają konserwację i minimalizują zakłócenia w obsłudze podczas wymiany komponentów.

W przypadku inżynierów sieci planujących duże budowy klastrów,MQM8790-HS2F Przełącznik InfiniBandoferuje bezproblemową kompatybilność z NVIDIA ConnectX-6 i ConnectX-7 HDR / HDR100 adapterami kanału hosta.MQM8790-HS2F Rozwiązanie przełącznika InfiniBandzapewnia przewidywalność wydajności od końca do końca, eliminując obawy dotyczące interoperacyjności występujące często w sieciach z wieloma dostawcami.

Scenariusze zastosowań i wartość wdrożenia

W sprawieNVIDIA Mellanox MQM8790-HS2Fwyróżnia się w różnych scenariuszach rozmieszczenia:

• Grupy szkoleniowe sztucznej inteligencji:Zapewnia niską opóźnienie, bez strat tkanki wymaganej do synchronicznego SGD i równoległego szkolenia danych na tysiącach GPU.
• Superkomputery HPC:Zapewnia deterministyczną wydajność dla symulacji opartych na MPI, zapewniając spójne czasy zakończenia pracy nawet w warunkach silnej konkurencji.
• Infrastruktura sztucznej inteligencji przedsiębiorstwa:Umożliwia menedżerom IT konsolidację wielu obciążeń roboczych na jednym, wydajnym systemie z gwarantowaną jakością usług.

Przy ocenieCena MQM8790-HS2Fi całkowity koszt posiadania, biorąc pod uwagę, że jego architektura nieblokowania często zmniejsza liczbę przełączników wymaganych dla danej wielkości klastra,obniżenie zarówno wydatków inwestycyjnych, jak i złożoności okablowaniaPonadto wsparcie przełącznika dla HDR 200Gb/s umożliwia płynne przejście z istniejących wdrożeń EDR 100Gb/s, chroniąc wcześniejsze inwestycje w infrastrukturę.

W przypadku organizacji gotowych do wdrożeniaMQM8790-HS2F na sprzedażPonadto, potencjalni nabywcy mogą poprosić o szczegółowe informacje na temat produktów, które są dostępne w sieci.Specyfikacje MQM8790-HS2Foraz macierzy kompatybilności w celu weryfikacji interoperacyjności z ich istniejącym zapasem sprzętu.

Podsumowanie: Strategiczny sprzyjający dla centrów danych nowej generacji

W sprawieMQM8790-HS2Fstanowi znaczący postęp w technologii przełączania InfiniBand, łącząc wysoką gęstość portów, ultra niską opóźnienie i przyspieszenie obliczeniowe w sieci w jednym podwoziu 1U.Dla architektów sieciW celu zwiększenia wiedzy o technologii komputerowych, inżynierów i menedżerów IT tworzących infrastrukturę HPC i AI nowej generacji, przełącznik ten oferuje niezawodną, skalowalną i opłacalną podstawę dla najbardziej wymagających obciążeń roboczych.Wraz z dalszym rozwojem komputerowego wykorzystania danych,NVIDIA Mellanox MQM8790-HS2Fjest gotowy do zapewnienia wydajności i prostoty operacyjnej wymaganej przez nowoczesne centra danych.