Karta serwerowa NVIDIA Mellanox MCX623106AN-CDAT | Wprowadzenie produktu na rynek i najważniejsze funkcje

NVIDIA Mellanox MCX623106AN-CDAT Server Adapter PowerPoint Wprowadzenie produktu i kluczowe funkcje

Temat: Nowe wyzwania związane z siecią w erze hiperskali i sztucznej inteligencji

Wraz z rozprzestrzenianiem się generowanej sztucznej inteligencji, szkoleniem dużych modeli językowych i masowo rozproszonymi bazami danych, wzorce ruchu sieciowego w centrach danych przechodzą fundamentalną transformację.Tradycyjne sieci 25GbE i 40GbE nie mogą już spełniać wymagań komunikacji All-to-All między klastrami GPUArchitekci sieci stoją w obliczu idealnej burzy: zapotrzebowanie na przepustowość podwaja się co 18 miesięcy.Podczas gdy wymagania dotyczące opóźnienia są ściślejsze do sub-5μs dla krytycznych transakcji.NVIDIA Mellanox MCX623106AN-CDATPrzychodzi jako specjalnie zaprojektowane rozwiązanie, zaprojektowane w celu rozwiązania tych zbliżających się presji,wprowadzenie łączności 200GbE i zaawansowanych możliwości obciążenia w najbardziej wymagających środowiskach przedsiębiorstw i chmury.

Jakie problemy rozwiązuje MCX623106AN-CDAT?

W sprawieNVIDIA Mellanox MCX623106AN-CDATrozwiązuje trzy krytyczne problemy, które stały się endemiczne w nowoczesnych centrach danych. Po pierwsze, eliminuje podatek od procesora związany z sieciami dużych prędkości przetwarzanie pakietów oparte na oprogramowaniu może pochłaniać do 40% rdzeni procesoraMCX623106AN-CDAT odładowuje protokoły transportu, bezpieczeństwa i przechowywania bezpośrednio do sprzętu, odzyskując te cykle do obciążeń obliczeniowych.rozwiązuje problemy związane z zatłoczeniem i tempem w środowiskach o wysokiej gęstości poprzez zaawansowaną telemetrię i dynamiczną kontrolę zatłoczenia, zapewniając przewidywalną wydajność nawet w warunkach napięcia ruchu.Adapter zabezpiecza inwestycje w infrastrukturę, wspierając nie tylko dzisiejsze tkaniny 200GbE, ale również zapewniając płynną ścieżkę do 400GbE i dalej dzięki zaawansowanej architekturze krzemowej.

W przypadku menedżerów IT nadzorujących klastry AI/MLKarta adaptera MCX623106AN-CDAT EthernetZmiany w zakresie kształcenia i szkolenia w zakresie kształcenia i szkolenia w zakresie kształcenia i szkolenia w zakresie kształcenia i szkolenia w zakresie kształcenia i szkolenia w zakresie kształcenia i szkolenia w zakresie kształcenia i szkolenia w zakresie kształcenia i szkolenia w zakresie kształcenia i szkolenia w zakresie kształcenia i szkolenia w zakresie kształcenia i szkolenia w zakresie kształcenia i szkolenia w zakresie kształcenia i szkolenia w zakresie kształcenia.Kompatybilny z MCX623106AN-CDATz platformami NVIDIA GPU (HGX, DGX) i wiodącymi serwerami CPU od Dell, HPE i Supermicro.

Kluczowe cechy techniczne

W samym sercuMCX623106AN-CDAT ConnectX adapter PCIe karta sieciowaNa karcie znajduje się ConnectX-7 ASIC, najbardziej zaawansowany silikon sieciowy NVIDIA do tej pory.Poniżej znajduje się streszczenie głównych specyfikacjiArkusz danych MCX623106AN-CDAT:

Wdrożenie RoCE z przyspieszeniem sprzętowym adaptera zapewnia bezstratny transport Ethernet z obsługą PFC (Priority Flow Control) i ECN (Explicit Congestion Notification),podczas gdy zaawansowane funkcje, takie jak GPUDirect umożliwiają bezpośredni dostęp do pamięci między GPU a siecią bez interwencji procesora.Specyfikacje MCX623106AN-CDATobejmują również kompleksową telemetrię sieci wewnątrzpasmowej (INT), umożliwiającą szczegółową widoczność opóźnień w przepływie i punktów zatłoczenia w całej tkance.

Scenariusze wdrożenia i integracja ekosystemów

W sprawieNVIDIA Mellanox MCX623106AN-CDATjest zaprojektowany dla najbardziej wymagających środowisk, w tym dostawców chmury hiperskałowej, giełd finansowych i instytucji badawczych posuwających granice sztucznej inteligencji i HPC.adapter przyspiesza rozproszone szkolenie nawet o 3x w porównaniu z poprzednimi adapteramiDla środowisk pamięci masowej karta umożliwia NVMe-oF z opóźnieniem poniżej 10 μs,przekształcanie wspólnego pamięci masowej w aktyw o kluczowym znaczeniu dla wydajności dla obciążeń prac w zakresie baz danych i analityki.

Przy ocenieCena MCX623106AN-CDATw stosunku do alternatywnych rozwiązań organizacje powinny rozważyć całkowity koszt posiadania: zaawansowane obciążenia adaptera zmniejszają rozmieszczenie serwerów poprzez umożliwienie większej gęstości VM i kontenerów,w czasie gdy jego energooszczędna konstrukcja (zwykle poniżej 20W) minimalizuje wydatki na chłodzenie.MCX623106AN-CDAT na sprzedażW przypadku, gdy NVIDIA nie jest w stanie zapewnić niezawodności w środowiskach krytycznych dla misji, firma NVIDIA zapewnia, że systemy NVIDIA są niezawodne.

Dla architektów planujących budowę nowej generacji centrów danych,MCX623106AN-CDAT rozwiązanie karty adaptera Ethernetłączy się bezproblemowo ze przełącznikami NVIDIA Spectrum-4 i szerszym stackem sieciowym NVIDIA, zapewniając pełną widoczność i zautomatyzowaną konfigurację za pośrednictwem narzędzi takich jak NVIDIA Air i NetQ.Adapter jest również kompatybilny z optyką 100GbE i 50GbE, oferując elastyczną trasę migracji dla stopniowych modernizacji.

Podsumowanie: Inwestycja strategiczna w przyszłość opartą na sztucznej inteligencji

W sprawieNVIDIA Mellanox MCX623106AN-CDATPołączenie podwójnej przepustowości 200GbE, interfejsu hosta PCIe 5.0 i akceleracji sprzętowej RDMA z wsparciem GPUDirect,MCX623106AN-CDAT ConnectX adapter PCIe karta sieciowadostarcza wydajności, skalowalności i wydajności wymaganych przez centra danych z wykorzystaniem sztucznej inteligencji.lub modernizacji infrastruktury chmury, ten adapter zapewnia przestrzeń i ochronę inwestycji wymaganą przez inżynierów sieci i menedżerów IT.

Szczegółowe wytyczne dotyczące integracji, wskaźniki osiągów i macierze kompatybilności znajdują się w oficjalnymArkusz danych MCX623106AN-CDATdostępne za pośrednictwem portalu dokumentacji NVIDIA.NVIDIA Mellanox MCX623106AN-CDATjest czymś więcej niż kartą sieciową. To fundament budowlany inteligentnego, o dużej przepustowości i niskim opóźnieniu centrum danych jutra.