Wprowadzenie na rynek przełącznika NVIDIA Mellanox MQM8790-HS2F InfiniBand — najważniejsze funkcje i spostrzeżenia techniczne

Ponieważ klastry sztucznej inteligencji i środowiska obliczeniowe o wysokiej wydajności (HPC) nadal się skalowują, zapotrzebowanie na infrastrukturę przełączania o bardzo niskim opóźnieniu i wysokiej przepustowości nigdy nie było bardziej krytyczne.Rozwiązywanie tej potrzeby, NVIDIA oficjalnie ustawiłaNVIDIA Mellanox MQM8790-HS2FTen 40-portów przełącznik InfiniBand zapewnia prędkość 200Gb/s na jeden port przy użyciu technologii HDR,wypełnianie luk pomiędzy obciążeniami roboczymi sterowanymi przez GPU a wąskimi gardłami sieci.

Dlaczego MQM8790-HS2F ma dziś znaczenie

Tradycyjne tkaniny Ethernet często borykają się z wzorcami incast i wrażliwością opóźnienia rozproszonego szkolenia AI.MQM8790-HS2F Przełącznik InfiniBandW przypadku architektów projektujących superkomputery na dużą skalę lub chmury sztucznej inteligencji dla przedsiębiorstwMQM8790-HS2F 200Gb/s HDR 40-port QSFP56W tym celu należy zapewnić, aby wszystkie węzły GPU komunikowały się z prędkością przewodów bez upuszczania pakietów.

Szczegóły techniczne i specyfikacje

• Gęstość portu i przepustowość:40 portów QSFP56 obsługujących HDR do 200 Gb/s w każdym kierunku; łączna pojemność przełączania 16 Tb/s bez blokowania.
• Niski czas opóźnienia:Opóźnienie w przełączaniu poniżej 100 ns, krytyczne dla operacji zbiorowych, takich jak all-reduce.
• Zaawansowane funkcje:SHARP (Scalable Hierarchical Aggregation and Reduction Protocol) do obliczeń w sieci, adaptive routing i rozszerzonego zarządzania zatłoczeniami.
• KompatybilnośćPełna kompatybilność wsteczna z połączeniami HDR100, EDR i FDR.Arkusz danych MQM8790-HS2Fa takżeSpecyfikacje MQM8790-HS2Fdla szczegółowego wsparcia kabli i nadajników.

Kluczowe scenariusze rozmieszczenia

W przypadku dużych klastrów sztucznej inteligencji wykorzystujących procesory graficzne NVIDIAMQM8790-HS2F Rozwiązanie przełącznika InfiniBandTypowe przypadki zastosowania obejmują:

• Szkolenie dużych modeli językowych (LLM) wymagających tysięcy węzłów GPU.
• Symulacje HPGe i modelowanie nauki o Ziemi przy użyciu ogromnych obciążeń pracy MPI.
• Hyperconverged HPC storage backends wykorzystujące NVMe over Fabrics (NVMe-oF).

Przy ocenie zamówień menedżerowie IT często poszukująCena MQM8790-HS2Fa takżeMQM8790-HS2F na sprzedażW tym czasie inżynierowie muszą potwierdzićKompatybilny z MQM8790-HS2FW przypadku tych, które migrują z poprzednich pokoleń,MQM8790-HS2Foferuje płynną ścieżkę modernizacji do HDR przy jednoczesnej ochronie istniejących inwestycji w okablowanie (np. wykorzystanie kabli rozdzielających dla niższych prędkości).

Dostępność i streszczenie

Wraz z szybkim wdrażaniem połączeń HDR o prędkości 200 Gb/sNVIDIA Mellanox MQM8790-HS2FOficjalna opcja jest bardzo popularna w Europie, ponieważ zapewnia zrównoważony wybór pomiędzy gęstością portu, efektywnością energetyczną (typowo ~330W) i bogactwem funkcji.Arkusz danych MQM8790-HS2FProjekty i projekty referencyjne są teraz dostępne za pośrednictwem portalu partnerskiego NVIDIA.MQM8790-HS2F Przełącznik InfiniBandoznacza infrastrukturę sztucznej inteligencji odporną na przyszłość o deterministycznej wydajności i przyspieszeniu obliczeń w sieci.