NVIDIA DGX B300 — serwer z 8× Blackwell Ultra SXM

Do czego służy ta maszyna

NVIDIA DGX B300 na wynajem to węzeł Blackwell Ultra w obudowie 10U przystosowanej po raz pierwszy do szaf NVIDIA MGX. Osiem modułów SXM daje 2,1 TB pamięci GPU, sieć klastrowa jest podwojona względem poprzednika i opiera się na ośmiu portach OSFP z kartami ConnectX-8 po 800 Gb/s, a maszyna występuje w dwóch wariantach zasilania: przemiennoprądowym z dwunastoma zasilaczami 3,2 kW albo na szynie stałoprądowej 54 V. Tę pozycję prowadzimy w trybie wyceny indywidualnej — stawki nie publikujemy, dopóki nie potwierdzimy jej dla konkretnego terminu i wariantu zasilania.

Blackwell Ultra powstał pod zadania, w których granicą jest pojemność pamięci i przepustowość łączy między węzłami. 2,1 TB w jednej obudowie i osiem portów po 800 Gb/s przesuwają obie te granice jednocześnie.

• Modele o skali bilionów parametrów — praca z modelami, których nawet skwantyzowana postać nie mieści się w węzłach poprzedniej generacji.
• Klastry o dużej liczbie węzłów — podwojona liczba portów sieciowych skraca czas synchronizacji przy treningu rozproszonym na wielu maszynach.
• Inferencja z rozumowaniem wieloetapowym — gęsta wydajność w formacie FP4 rośnie tu ze 72 do 108 petaFLOPS względem poprzednika, co przekłada się na liczbę tokenów wygenerowanych w jednostce czasu przy długich łańcuchach wnioskowania.
• Przygotowanie do infrastruktury MGX — organizacje planujące przejście na szafy referencyjne NVIDII mogą sprawdzić docelową topologię na jednym węźle, zanim zamówią całą instalację.

Wariant na szynie stałoprądowej waży 123 kg wobec 168 kg wersji przemiennoprądowej i wymaga szafy przygotowanej pod zasilanie 54 V — to rozstrzygnięcie zapada przed zamówieniem, ponieważ przesądza o sposobie instalacji.

NVIDIA DGX B300 — porównanie z innymi maszynami

Wobec DGX B200. Obie maszyny zajmują 10U i korzystają z przełączników NVLink piątej generacji o przepustowości 14,4 TB/s. B300 podnosi pamięć GPU z 1 440 GB do 2,1 TB, podwaja przepustowość sieci klastrowej: z ośmiu kart ConnectX-7 po 400 Gb/s do ośmiu kart ConnectX-8 po 800 Gb/s i zwiększa gęstą wydajność FP4 ze 72 do 108 petaFLOPS. Wydajność w formacie FP8 pozostaje na tym samym poziomie, więc przy treningu prowadzonym w FP8 różnicę zrobi przede wszystkim pamięć i sieć. Zobacz DGX B200.

Wobec generacji Hopper z tego katalogu. Względem DGX H200 pamięć rośnie prawie dwukrotnie, a przepustowość łączy międzywęzłowych dwukrotnie w przeliczeniu na maszynę. Obie maszyny mieszczą się w szafie 19-calowej, ale B300 zajmuje 10U zamiast 8U i wymaga przydziału mocy rzędu 14 kW (wobec 10,2 kW) oraz chłodzenia dobranego pod ten pobór. Porównaj z DGX H200.

Wobec stacji DGX Station GB300. Nazwy są mylące, a maszyny — zupełnie inne. B300 to węzeł rackowy z ośmioma modułami SXM na wspólnej płycie. DGX Station GB300 to konstrukcja biurkowa z jednym superchipem Grace Blackwell Ultra i 748 GB pamięci koherentnej, o poborze rzędu 1,6 kW. Różnią się skalą, ceną i przeznaczeniem. Zobacz DGX Station GB300.

Najczęstsze pytania

Więcej o karcie: NVIDIA B300 — serwer Blackwell Ultra do AI na największą skalę