Wynajem serwerów GPU NVIDIA DGX i HGX — bare metal, 8 modułów SXM w węźle

Karty GPU w tej kategorii: NVIDIA A100 80 GB, NVIDIA A100 SXM4, NVIDIA B200, NVIDIA B300, NVIDIA H100 SXM5 80 GB, NVIDIA H200, NVIDIA H200 SXM5

Ceny najmu serwerów DGX i HGX

• NVIDIA DGX A100 320 GB — od 14 875 zł netto/mies. (18 296 zł brutto)
• NVIDIA DGX A100 640 GB — od 47 614 zł netto/mies. (58 565 zł brutto)
• NVIDIA DGX H100 — od 79 992 zł netto/mies. (98 390 zł brutto)
• NVIDIA DGX H200 — od 190 199 zł netto/mies. (233 945 zł brutto) — potwierdzenie w ofercie
• NVIDIA DGX B200 — od 250 633 zł netto/mies. (308 279 zł brutto) — potwierdzenie w ofercie
• NVIDIA DGX B300 — wycena indywidualna
• ASUS ESC N8-E11 — od 123 453 zł netto/mies. (151 847 zł brutto; cena zawiera 4 TB RAM)
• ASUS ESC N8-E11V — wycena indywidualna
• GIGABYTE G593-SD0 — od 152 402 zł netto/mies. (187 454 zł brutto; cena zawiera 8 TB RAM)
• GIGABYTE G593-SD1 — od 130 720 zł netto/mies. (160 786 zł brutto; cena zawiera 8 TB RAM)
• Supermicro SYS-821GE-TNHR — od 206 411 zł netto/mies. (253 886 zł brutto; cena zawiera 8 TB RAM)
• Supermicro AS-8125GS-TNHR — od 134 877 zł netto/mies. (165 899 zł brutto; cena zawiera 6 TB RAM)

Kwota „od” to opłata miesięczna netto przy umowie na 12 miesięcy, a kwota brutto zawiera VAT 23%. Stawki dla okresów 1 i 6 miesięcy są na karcie maszyny z opublikowaną ceną. Przy pozycjach z dopiskiem „potwierdzenie w ofercie” kwotę potwierdzamy w ofercie przed zawarciem umowy. Przy platformach partnerskich HGX podajemy, ile pamięci RAM obejmuje cena (4–8 TB wobec 2 TB w systemie NVIDIA DGX), co podnosi kwotę.

Do czego to służy

Ta klasa maszyn jest przeznaczona do zadań, które przekraczają możliwości jednej karty, a których podział na osobne serwery jest nieopłacalny. Typowe są trzy scenariusze.

• Trening modeli dużej skali. Osiem układów pracuje jak jedna pula pamięci połączona NVLinkiem, więc model rozłożony na wszystkie karty wymienia gradienty bez wąskiego gardła magistrali płyty.
• Modele przekraczające pojemność serwera PCIe. Węzeł B200 z 1 440 GB pamięci GPU przyjmuje modele, których nie można rozłożyć na osiem kart PCIe bez podziału między maszyny.
• Blok konstrukcyjny klastra. Płyta HGX jest jednostką, z której NVIDIA składa konfiguracje BasePOD i SuperPOD, więc pojedynczy węzeł stanowi naturalny punkt startu dla większego środowiska.

Ten sam projekt płyty trafia do obudów kilku producentów. Katalog obejmuje systemy ASUS ESC N8-E11, Gigabyte G593 oraz Supermicro SYS-821GE-TNHR, które różnią się topologią PCIe dla kart dodatkowych, układem zasilania i wysokością obudowy. Rdzeń obliczeniowy pozostaje ten sam, bo pochodzi z jednego projektu referencyjnego.

Porównanie i dobór

Różnica wobec działu serwerów GPU PCIe sprowadza się do sposobu połączenia kart. W obudowie PCIe każda karta komunikuje się z pozostałymi przez magistralę płyty głównej. W obudowie SXM układy łączy NVLink z przełącznikiem NVSwitch, zapewniający do 900 GB/s pasma na kartę, dzięki czemu osiem GPU zachowuje się jak jeden akcelerator o wspólnej pamięci.

Wybór działu zależy od charakteru zadania. Jeśli praca dzieli się na niezależne procesy, na przykład wiele modeli inferencyjnych albo kolejka renderu, serwer PCIe wykonuje ją taniej. Jeśli jedno obliczenie musi objąć całą pamięć ośmiu kart, sensowny jest węzeł SXM. Stacje robocze z pojedynczymi kartami znajdują się w dziale Stacje robocze, a systemy Grace Blackwell z pamięcią koherentną — w dziale AI Supercomputers. Dobór klasy maszyny do inferencji, trenowania i RAG opisuje poradnik jaki serwer do AI wybrać.

Najczęstsze pytania