NVIDIA Mellanox 920-9B210-00FN-0D0 Ogłoszono: Redefinicja Ultra-Scale AI Network Foundation z 400Gb/s NDR

NVIDIA Mellanox 920-9B210-00FN-0D0 ogłoszony: Redefinicja Fundamentów Sieci AI na Skalę Ultra z 400 Gb/s NDR

W miarę jak modele językowe skalują się od setek miliardów do bilionów parametrów, tradycyjne sieci HDR o przepustowości 200 Gb/s pokazują swoje ograniczenia w gęstych scenariuszach komunikacji zbiorowej, takich jak all-to-all, gdzie wykorzystanie GPU często spada z powodu zatorów sieciowych. NVIDIA oficjalnie zaprezentowała NVIDIA Mellanox 920-9B210-00FN-0D0, przełącznik InfiniBand NDR o przepustowości 400 Gb/s, zaprojektowany w celu zapewnienia przepustowości, gęstości i inteligencji sieciowej wymaganej dla najbardziej wymagających obciążeń AI i HPC.

Wyzwanie: Kiedy HDR Staje się Wąskim Gardłem

Dla organizacji skalujących swoje klastry GPU powyżej 2000 węzłów, ograniczenia 200 Gb/s HDR stają się coraz bardziej widoczne. Podczas operacji all-reduce i all-to-all—które są fundamentalne dla rozproszonego treningu—zatory sieciowe mogą zmniejszyć wykorzystanie GPU z 85% do poniżej 50%, skutecznie marnując miliony dolarów inwestycji w moc obliczeniową. Architekci sieci stają przed podwójnym wyzwaniem zapewnienia deterministycznej latencji poniżej mikrosekundy przy jednoczesnym utrzymaniu bezstratnej wydajności dla tysięcy punktów końcowych.

920-9B210-00FN-0D0 InfiniBand switch OPN (Numer Części Zamówienia) odpowiada na te wyzwania, wprowadzając wydajność 400 Gb/s NDR na platformie OSFP z 64 portami, zapewniając przestrzeń i inteligencję potrzebną do wyeliminowania przestojów spowodowanych przez sieć nawet w najbardziej wymagających środowiskach treningowych AI.

Kluczowe Cechy Techniczne

Zbudowana na tym samym krzemie co szeroko stosowany MQM9790-NS2F, platforma 920-9B210-00FN-0D0 MQM9790-NS2F 400Gb/s NDR oferuje kompleksowy zestaw funkcji zaprojektowanych dla wdrożeń klasy exascale. Zgodnie z arkuszem danych 920-9B210-00FN-0D0, przełącznik oferuje:

• 64 porty 400 Gb/s NDR: Każdy port OSFP obsługuje dwukierunkowe 400 Gb/s z korekcją błędów do przodu (FEC), zapewniając łączną przepustowość przełączania 51,2 Tb/s.
• Bardzo niska latencja: Latencja cut-through poniżej 100 ns, zgodnie z dokumentacją w specyfikacjach 920-9B210-00FN-0D0, zapewnia minimalny narzut dla operacji RDMA i MPI.
• Zintegrowany SHARPv3: Odciąża operacje zbiorcze (all-reduce, all-to-all, broadcast) bezpośrednio na strukturę przełącznika, zmniejszając latencję komunikacji nawet o 40% dla zadań na dużą skalę.
• Routing adaptacyjny i kontrola zatorów: Dynamicznie przekierowuje ruch, aby unikać gorących punktów, utrzymując przewidywalną wydajność nawet przy niekorzystnych wzorcach ruchu.
• Zaawansowana telemetria: Liczniki dla każdej ścieżki i każdego portu, wraz z monitorowaniem zajętości bufora, zapewniają głęboki wgląd w celu proaktywnego zarządzania.

kompatybilny z 920-9B210-00FN-0D0 obejmuje szeroką gamę certyfikowanych przez NVIDIA kabli OSFP, nadajników-odbiorników optycznych i narzędzi programowych, zapewniając bezproblemową integrację z istniejącymi środowiskami HDR lub nowymi NDR. Dla organizacji planujących swoją infrastrukturę nowej generacji, przełącznik obsługuje mieszane struktury HDR/NDR, umożliwiając stopniowe modernizacje bez zakłócania bieżących obciążeń produkcyjnych.

Odpowiedź na Potrzeby Realnych Wdrożeń

Dla architektów sieci projektujących nowe klastry treningowe AI lub modernizujących istniejące struktury HDR, rozwiązanie 920-9B210-00FN-0D0 InfiniBand switch OPN solution oferuje kilka znaczących zalet. Jego gęstość 64 portów umożliwia wdrożenia top-of-rack z maksymalnie 64 serwerami z podwójnymi portami na przełącznik, zmniejszając liczbę wymaganych przełączników i kabli w porównaniu do alternatyw z 40 portami. W topologiach leaf-spine przekłada się to na mniej warstw spine, niższą latencję i niższy całkowity koszt posiadania.

Przełącznik dziedziczy również solidne możliwości zarządzania z portfolio InfiniBand firmy NVIDIA. Dzięki NVIDIA Unified Fabric Manager (UFM) administratorzy mogą uzyskać głęboki wgląd w stan struktury, automatyzować aprowizację i proaktywnie wykrywać anomalie, zanim wpłyną one na bieżące obciążenia produkcyjne. Podwójne redundantne zasilacze przełącznika i moduły wentylatorów z możliwością wymiany podczas pracy zapewniają dostępność na poziomie 99,999% dla aplikacji krytycznych.

Przy ocenie ceny 920-9B210-00FN-0D0 i całkowitego kosztu posiadania, przełącznik oferuje atrakcyjną ekonomię dla wdrożeń na dużą skalę. Chociaż koszt początkowy jest wyższy niż w przypadku alternatyw HDR, koszt na port i koszt sieci na GPU są znacznie niższe po amortyzacji na duży klaster, co czyni NDR coraz bardziej opłacalnym wyborem dla projektów exascale. Przełącznik 920-9B210-00FN-0D0 na sprzedaż jest już dostępny u partnerów handlowych NVIDIA, a pierwsze wysyłki do klientów są już w toku.

Podsumowanie: Fundament NDR dla AI Nowej Generacji

NVIDIA Mellanox 920-9B210-00FN-0D0 stanowi znaczący krok naprzód w sieciach o wysokiej wydajności, dostarczając przepustowość, gęstość i inteligencję wymaganą dla następnej generacji klastrów AI i HPC. Łącząc prędkość 400 Gb/s NDR z gęstością 64 portów OSFP i obliczeniami w sieci SHARPv3, ten przełącznik umożliwia architektom budowanie skalowalnych, deterministycznych struktur, które nadążają za najbardziej wymagającymi obciążeniami z bilionem parametrów.

Dla organizacji planujących swoją infrastrukturę nowej generacji, 920-9B210-00FN-0D0 oferuje jasną, wysokowydajną ścieżkę naprzód—czy to jako wdrożenie od podstaw, czy jako strategiczna modernizacja istniejących struktur HDR. Dzięki swojemu bogatemu zestawowi funkcji, zarządzaniu klasy korporacyjnej i bezproblemowej kompatybilności z szerszym ekosystemem NVIDIA, ten przełącznik ma stać się kamieniem węgielnym sieci klasy exascale.