NVIDIA GB300 NVL72 — wynajem infrastruktury rack-scale AI

GB300 to superchip łączący procesor NVIDIA Grace z układami Blackwell Ultra we wspólnej, koherentnej przestrzeni adresowej. W wersji rack-scale NVL72 siedemdziesiąt dwa układy graficzne pracują w jednej domenie NVLink, czyli zachowują się wobec oprogramowania jak jeden bardzo duży akcelerator. W naszym katalogu klasa GB300 występuje dziś także w formie biurkowej — jako DGX Station GB300 i pokrewne stacje z 748 GB pamięci koherentnej. Obie ścieżki wyceniamy indywidualnie, bo różnią się skalą wdrożenia o dwa rzędy wielkości.

Przeglądaj katalog →
AI Supercomputers 5

Do czego to służy

Domena NVLink obejmująca 72 układy zmienia sposób pisania kodu treningowego: model, którego wagi nie mieszczą się w jednym węźle, nie musi być dzielony na fragmenty komunikujące się przez sieć klastrową, bo cała szafa udostępnia spójną przestrzeń pamięci. To scenariusz dla modeli fundamentowych oraz dla inferencji rozumującej, w której długość łańcucha tokenów decyduje o opóźnieniu odpowiedzi.

Stacja na tym samym superchipie ma inne zastosowanie: 748 GB pamięci koherentnej (496 GB LPDDR5X po stronie procesora Grace i 252 GB HBM3e po stronie układu Blackwell Ultra) oraz 72 rdzenie Arm Neoverse V2. Mieści się pod biurkiem albo w szafie, pobiera 1 600 W i chłodzona jest cieczą. Zespół przygotowuje na niej model i pipeline danych, zanim projekt trafi na infrastrukturę rack-scale.

Wspólny mianownik obu form to pamięć koherentna: procesor i układ graficzny widzą tę samą przestrzeń adresową, więc etap przygotowania danych nie wymaga jawnego kopiowania buforów. Dzięki temu kod napisany na stacji uruchamia się później w skali szafy bez przepisywania warstwy wejścia-wyjścia.

Porównanie i dobór

Szafa NVL72 a stacja GB300: pierwsza łączy 72 układy graficzne w jednej domenie NVLink i jest przedmiotem wdrożenia projektowego, druga to jeden superchip, 748 GB pamięci koherentnej i pobór 1 600 W. Różnica dotyczy nie tylko mocy, ale i sposobu pracy — szafa wymaga przygotowanego zasilania i chłodzenia, stacja pracuje w naszej serwerowni pod zasilaniem awaryjnym i jest dostępna zdalnie.

Wobec pojedynczego węzła B300: węzeł ma osiem modułów Blackwell Ultra i 2,1 TB pamięci graficznej w obudowie 10U, a jego skalowanie opiera się o sieć ConnectX-8 po 800 Gb/s. W NVL72 rolę tej sieci przejmuje NVLink w obrębie szafy, co skraca drogę danych między układami, ale wiąże całą konfigurację w jedną jednostkę wdrożeniową.

Wobec klasy kompaktowej GB10, którą też mamy w katalogu: 128 GB pamięci zunifikowanej i 240 W poboru wobec 748 GB i 1 600 W w GB300. GB10 służy do nauki i prototypów, GB300 — do pracy na modelach, które w 128 GB się nie mieszczą.

Najczęstsze pytania

Czym różni się GB300 NVL72 od pojedynczej stacji GB300?

Skalą i sposobem łączenia. NVL72 spina 72 układy graficzne w jednej domenie NVLink w obrębie szafy, stacja to jeden superchip Grace Blackwell Ultra z 748 GB pamięci koherentnej. Model, który mieści się w stacji, uruchomi się w szafie bez zmian w kodzie; odwrotna droga wymaga podziału modelu.

Ile prądu i chłodzenia potrzebuje taka infrastruktura?

Stacja GB300 pobiera 1 600 W i chłodzona jest cieczą w obudowie wieżowej. Konfiguracja rack-scale to zupełnie inny rząd wielkości — wymaga szafy z przygotowanym zasilaniem i odbiorem ciepła, dlatego traktujemy ją jako wdrożenie projektowe, a nie pozycję z półki.

Czy można wynająć część szafy NVL72?

Domena NVLink jest zaprojektowana jako całość i jej wartość bierze się właśnie ze spójności pamięci wszystkich układów. Gdy potrzebna jest mniejsza jednostka, sensowniejszy jest węzeł B300 albo stacja GB300 — obie pozycje pracują na tej samej generacji Blackwell Ultra.

Jak liczona jest stawka: za układ czy za szafę?

Za maszynę. Stacja GB300 ma ratę miesięczną jak każda pozycja katalogu, a konfiguracja rack-scale wyceniana jest jako całe wdrożenie, bo obejmuje przygotowanie infrastruktury, sieć i uruchomienie. W obu przypadkach rata pozostaje stała przez okres umowy.

Co dostaję z klasy GB300 od razu, a co wymaga projektu?

Stacje na superchipie GB300 są pozycjami katalogowymi z ratą miesięczną i zdalnym dostępem z naszej serwerowni. Konfiguracja NVL72 to wdrożenie projektowe: ustalamy zakres, harmonogram i warunki zasilania przed podpisaniem umowy.

Jak wygląda integracja z istniejącą infrastrukturą?

Stacja ma dwa porty 400 GbE i port 10 GbE, więc wpina się w istniejącą sieć bez pośredników. Przy wdrożeniu rack-scale ustalamy osobno łącze do magazynu danych i sposób synchronizacji zbiorów treningowych, bo to one wyznaczają realny czas startu projektu.

Jaki jest typowy czas dostawy?

Sprzęt tej klasy kompletowany jest pod zamówienie, więc termin potwierdzamy w ofercie razem z ceną. Przy stacjach mówimy o pozycji katalogowej, przy konfiguracji rack-scale — o harmonogramie wdrożenia uzgadnianym z góry.

Czym GB300 różni się od układu B300 w węźle serwerowym?

GB300 to superchip: procesor Grace i układ Blackwell Ultra w jednej, koherentnej przestrzeni pamięci. B300 w węźle serwerowym to osiem modułów graficznych obok procesorów Intel Xeon, z pamięcią rozdzieloną między procesor a karty. Różnica widoczna jest przede wszystkim w kodzie przygotowującym dane.