Serwer z kartą NVIDIA A100 80 GB — wynajem miesięczny

Formą montażu i łączem między kartami. Karta PCIe wpina się w standardowy kadłub rackowy i komunikuje się przez PCIe 4.0 x16, czyli 32 GB/s w jedną stronę; moduł SXM4 przykręcany jest do płyty bazowej i wymienia dane przez NVLink z przepustowością 600 GB/s. Wersja PCIe pozwala też zamówić dokładnie tyle kart, ile potrzeba — od dwóch do ośmiu. Pełna specyfikacja wersji modułowej: A100 SXM4.

Przy kwantyzacji ośmiobitowej wagi zajmują około 70 GB i mieszczą się na jednym układzie, ale bez zapasu na długi kontekst. W BF16 model zajmuje około 140 GB, więc realnym minimum jest para kart (160 GB), a do dostrajania z optymalizatorem i cache kontekstu — cztery karty i 320 GB.

Nie. MIG dzieli układ wewnątrz jednej wynajętej maszyny i to najemca decyduje, ile instancji utworzyć i komu je udostępnić. Cała maszyna wraz z kartami pozostaje przypisana do jednej umowy przez cały okres najmu.

Siedem. Różnicują się liczbą kart (dwie, cztery albo osiem), pamięcią systemową (od 512 GB do 2 TB), pojemnością NVMe (od 0,5 TB do 8 TB) oraz liczbą rdzeni fizycznych procesorów (64, 96 albo 128). Pamięć graficzna wynika z liczby kart: 160, 320 albo 640 GB. Zestawienie wszystkich wariantów wraz ze stawkami znajdziesz w tabeli powyżej.

Tak, to zmiana maszyny na inną pozycję katalogu, a nie dokładanie kart do pracującego serwera — konfiguracje ośmiokartowe stoją na innych kadłubach niż czterokartowe. Nową ratę i termin przenosin potwierdzamy w aneksie do umowy.

Serwery rackowe z A100 kompletujemy na zamówienie, więc termin dostawy potwierdzamy w ofercie razem z ceną. Na etapie wyceny podajemy datę, od której maszyna jest gotowa do przekazania dostępu.

Przygotowanie maszyny do pracy najemcy: montaż w szafie, konfigurację systemu i dostępu zdalnego oraz testy przed przekazaniem. Jej wysokość zależy od konfiguracji i jest podana przy każdej pozycji w tabeli cen.

A100 to układ obliczeniowy bez rdzeni RT i bez wyjść wideo, więc silniki renderujące korzystające ze sprzętowego ray tracingu nie wykorzystają jego mocnych stron. Do renderingu i pracy z obrazem lepiej dobrać L40S, a A100 zostawić do trenowania i inferencji.