cała maszyna
ASUS ESC8000-E12 · TRDC-RACK-H200-4
TR DC Rack H200 4
- Karty
- 4× H200 NVL 141 GB
- Rdzenie
- 64 fizyczne
- RAM
- 1 024 GB · 8,00 TB NVMe
na zamówienie
50 500zł netto / mies.
Zobacz szczegóły Serwery GPU PCIe 2
cała maszyna
ASUS ESC8000-E12 · TRDC-RACK-H200-8-2048
TR DC Rack H200 8 (2 TB)
- Karty
- 8× H200 NVL 141 GB
- Rdzenie
- 96 fizycznych
- RAM
- 2 048 GB · 28,00 TB NVMe
na zamówienie
100 300zł netto / mies.
Zobacz szczegóły Do czego to służy
Konfiguracja czterokartowa to 564 GB pamięci graficznej, 64 rdzenie fizyczne, 1 TB pamięci systemowej i 8 TB NVMe. Taki węzeł prowadzi produkcyjne serwowanie modelu klasy 405B w FP8 albo kilku mniejszych modeli z osobnymi kolejkami żądań, bez rozbijania pracy na kilka maszyn i bez ruchu przez sieć klastrową.
Konfiguracja ośmiokartowa daje 1 128 GB pamięci graficznej, 96 rdzeni, 2 TB pamięci systemowej i 28 TB NVMe. Te 28 TB to najważniejsza różnica praktyczna: mieści zbiór treningowy, punkty kontrolne i indeksy wektorowe na tej samej maszynie, więc pipeline dostrajania i wyszukiwania semantycznego nie czeka na transfer danych z zewnętrznego magazynu.
Typowy scenariusz najmu to inferencja wielodzierżawna dla zespołu produktowego: jedna maszyna, kilka kart przypisanych do różnych usług, przewidywalny rachunek. Przy pracy ciągłej powyżej mniej więcej stu trzydziestu godzin miesięcznie stała rata wypada korzystniej niż rozliczenie z licznikiem godzin.
Porównanie i dobór
Wobec H100 NVL zmienia się pojemność i pasmo pamięci: 141 GB HBM3e i 4,8 TB/s zamiast 94 GB HBM3. Cztery karty H200 NVL dają 564 GB, cztery karty H100 NVL — 376 GB. Przy modelach, które wcześniej trzeba było dzielić między węzły, ta różnica decyduje o tym, czy praca zmieści się w jednej maszynie.
Wobec modułów H200 SXM5 różnicę robi topologia. SXM5 komunikuje się przez NVLink z przepustowością 900 GB/s na układ i przełączniki NVSwitch, co ma znaczenie przy treningu z podziałem modelu między karty. NVL wymienia dane przez mostek NVLink i magistralę PCIe, ale wchodzi do zwykłej szafy, ma jawny cennik miesięczny i krótszą ścieżkę wdrożenia.
Wobec kart Blackwell: węzeł z ośmioma modułami B200 ma 1 440 GB pamięci przy poborze około 14,3 kW i obudowie 10U. Nasza ośmiokartowa maszyna H200 NVL mieści 1 128 GB w kadłubie 4U, który przyjmuje standardowa kolokacja. Porównanie od strony Blackwella opisuje strona B200.
Najczęstsze pytania
Czy cztery karty H200 NVL wystarczą do pracy produkcyjnej?
Do serwowania jednego dużego modelu — tak: 564 GB pamięci graficznej mieści model klasy 405B w FP8 wraz z cache kontekstu. Ośmiokartowy wariant bierze się wtedy, gdy równolegle działa kilka usług albo gdy okno kontekstu i liczba równoczesnych sesji zaczynają wypychać cache uwagi poza pamięć czterech kart.
Jaki procesor i ile pamięci systemowej jest w standardzie?
Obie pozycje stoją na kadłubie ASUS ESC8000-E12 z dwoma procesorami Intel Xeon serii 6: wariant czterokartowy ma 64 rdzenie fizyczne i 1 TB pamięci RAM, ośmiokartowy — 96 rdzeni i 2 TB. Liczba rdzeni jest parametrem oferty i nie zmienia się bez aneksu.
Kiedy potrzebne jest 28 TB NVMe zamiast 8 TB?
Gdy dane pracują razem z modelem: pełny zbiór treningowy, seria punktów kontrolnych z długiego dostrajania albo indeks wektorowy obsługujący wyszukiwanie semantyczne. Przy samym serwowaniu gotowego modelu 8 TB zwykle wystarcza na wagi, obrazy kontenerów i logi.
Czym H200 NVL różni się od zwykłej karty H200 PCIe?
Wersja NVL jest fabrycznie przygotowana do pracy w zestawach połączonych mostkiem NVLink, co skraca drogę danych między sąsiadującymi kartami w tym samym serwerze. Sam układ graficzny i pamięć 141 GB HBM3e są takie same jak w opisie karty H200.
Ile trwa uruchomienie takiego serwera?
Maszyny działu kompletujemy na zamówienie, więc datę przekazania dostępu potwierdzamy w ofercie. Wycenę wraz z terminem przygotowujemy w ciągu doby roboczej od zapytania.
Czy w cenie jest opłata za transfer danych?
Rata miesięczna pokrywa pracę maszyny i łącze; rozliczenia za wolumen ruchu wychodzącego nie prowadzimy. Poza ratą pozostaje jednorazowa opłata wdrożeniowa podana przy każdej pozycji w tabeli cen.
Czy mogę dostać jedną kartę H200 NVL zamiast całego serwera?
Najmniejsza pozycja katalogu z tą kartą to serwer czterokartowy. Przedmiotem najmu jest cała fizyczna maszyna, a podział jej mocy między zespoły albo usługi pozostaje po stronie najemcy — na przykład przez przypisanie kart do osobnych kontenerów.
Jak liczona jest stawka godzinowa podana obok raty?
To rata miesięczna podzielona przez 730 godzin i przez liczbę kart w maszynie — liczba pokazana wyłącznie w przeliczeniu, dla porównania z ofertami rozliczanymi z licznikiem. Umowa i faktura opierają się na stałej kwocie miesięcznej.