NVIDIA Mellanox MCX4121A-ACAT Server Adapter w akcji.

NVIDIA Mellanox MCX4121A-ACAT Server Adapter w akcji.

Temat i wyzwanie: Kiedy 25GbE spotyka się ze ścianą opóźnienia

Średni dostawca usług w chmurze, nazwijmy go CloudNova, stał w obliczu znajomego, ale bolesnego wąskiego gardła.Ale wydajność aplikacji opowiada inną historię.Replikacja bazy danych się opóźniała, rozproszone uczenie maszynowe wstrzymało synchronizację gradientów, a matryce pamięci masowej NVMe nigdy nie dostarczyły obiecanego IOPS.Tradycyjny TCP/IP stack overhead zużywał ponad 25% rdzeni CPU na swoich węzłach obliczeniowych, a istniejące NIC nie posiadały sprzętu do RDMA.użyteczneIch poszukiwania doprowadziły ich doNVIDIA Mellanox MCX4121A-ACAT- Karta zaprojektowana specjalnie dla nowoczesnych problemów z centrami danych.

Rozwiązanie: Wykorzystanie karty MCX4121A-ACAT Ethernet Adapter

Zespół architektoniczny CloudNova zastąpił swoje starsze NIC 10GbEKarta adaptera MCX4121A-ACAT Ethernetw 120 węzłach obliczeniowych, z których każdy jest wyposażony w podwójne porty SFP28.wyeliminowanie potrzeby oddzielnych tkanin InfiniBandKluczem do rozwiązania byłoMCX4121A-ACAT ConnectX-4 Lx podwójny port 25GbE SFP28Projekt umożliwiający aktywne połączenie łącza aktywnego dla łącznej przepustowości 50Gb/s na serwer.Zespół skonfigurował PFC (Priority Flow Control) i ECN (Explicit Congestion Notification) na poziomie przełącznika, zapewniając, że ruch RoCE pozostaje bez strat nawet w warunkach szczytowych obciążeń.cała struktura pamięci masowej i obliczeniowej działała na RDMA przejście wykonane bezproblemowo przez zgodność adaptera z istniejącymi przewodami SFP28 i przełącznikami Mellanox Spectrum.

Z punktu widzenia operacyjnegoKompatybilny z MCX4121A-ACATW tym samym czasie, wraz z nowym systemem obsługi oprogramowania, systemy obsługi oprogramowania i systemy obsługi oprogramowania okazały się nieocenione.Arkusz danych MCX4121A-ACATw celu precyzyjnego dostrojenia alokacji buforów i przerywania ustawień koalesowania, osiągając optymalną wydajność w środowisku mieszanego obciążenia pracą, który obejmował klastry MySQL, analityki Spark,i prace szkoleniowe TensorFlow.

Wyniki mierzalne: przepustowość, opóźnienie i wydajność procesora

Zwiększenie wydajności było natychmiastowe i wymierne.NVIDIA Mellanox MCX4121A-ACAT, w backendze pamięci masowej opóźnienie odczytu NVMe-oF spadło z 85 μs do zaledwie 12 μs, co oznacza 7x większą poprawę.umożliwiające niemal synchroniczne przejście awaryjneW przypadku obciążeń roboczych z zakresu uczenia maszynowego czas całkowitej synchronizacji dla szkolenia ResNet-50 zmniejszył się o 62%, zmniejszając ogólny czas szkolenia z 4,2 godziny do 1,6 godziny.

Oprócz opóźnienia, zyski przepustowości serwera były równie przekonujące.i oznaczanie VLAN To uwolniło ponad 20 rdzeni CPU na serwer dla logiki aplikacji, bezpośrednio zwiększając gęstość kontenera o 40%.Specyfikacje MCX4121A-ACAT, karta zapewnia prędkość linii 25GbE na port z opóźnieniem poniżej 1 μs, a wewnętrzne wskaźniki referencyjne CloudNovy potwierdziły te liczby w produkcji.

Korzyści operacyjne: TCO i gotowość na przyszłość

Podczas gdy dane dotyczące wyników na surowcu mówią przekonującą historię, zyski operacyjne były równie znaczące.Rozwiązanie karty adaptera Ethernet MCX4121A-ACATzmniejszyła całkowity koszt posiadania poprzez wyeliminowanie potrzeby oddzielnej tkaniny RDMA (oszczędzanie ponad 180 000 USD w infrastrukturze przełącznika).Zużycie energii na serwer zmniejszyło się o 8 W w porównaniu z poprzednimi NIC, co przekłada się na roczne oszczędności w zakresie chłodzenia w wysokości około 15%.ruch automatycznie zawiódł na drugi port z zerową stratą pakietów, co potwierdziły dane telemetryczne adaptera.

Dla menedżerów IT oceniającychCena MCX4121A-ACATCFO CloudNovy zauważył, że okres zwrotu wynosił mniej niż 10 miesięcy, głównie ze względu na zwiększone wykorzystanie serwerów i skrócone czasy zakończenia pracy.Zespół docenił również przyszłościową architekturę MCX4121A-ACAT na sprzedażObecnie obsługuje 25GbE, ale może być przerobiony na środowiska 10GbE lub 40GbE z odpowiednią optiką, zapewniając ochronę inwestycji w przypadku przyszłych ulepszeń.

Podsumowanie i perspektywy: Plan dla centrów danych gotowych do RDMA

Podróż CloudNovy zNVIDIA Mellanox MCX4121A-ACATpokazuje jasny plan dla organizacji, które chcą wykorzystać pełny potencjał infrastruktury 25GbE.i bezproblemowej integracji z istniejącymi ekosystemami,Karta adaptera MCX4121A-ACAT EthernetW rezultacie 7 razy niższa opóźnienie pamięci masowej, 83% redukcja kosztów procesora,i 62% szybsze szkolenie w zakresie maszynowania ̇ wskazuje na zdolność adaptera do dostarczania mierzalnych wyników biznesowych.

W przyszłości, gdy obciążenia pracą AI i analityka w czasie rzeczywistym będą nadal napędzać popyt na deterministyczne sieci,MCX4121A-ACAT ConnectX-4 Lx podwójny port 25GbE SFP28dla architektów i liderów IT planujących kolejną modernizację infrastruktury, adapter ten stanowi nie tylko komponent,ale strategicznym atutemSzczegółowe parametry dostosowania i najlepsze praktyki wdrażania dostępne są w oficjalnymArkusz danych MCX4121A-ACAT niezbędne odniesienie do wszelkich poważnych działań.