Dell Pro Max GB10 — komputer AI z NVIDIA GB10 i 128 GB pamięci

To dwie różne klasy maszyn pod podobną nazwą. Pro Max GB10 to kompaktowa maszyna na superchipie GB10 z 20 rdzeniami Arm, 128 GB pamięci zunifikowanej i poborem 240 W. Dell Pro Max with GB300 to stacja w obudowie wieżowej z superchipem GB300, 72 rdzeniami Arm Neoverse V2, 748 GB pamięci koherentnej, chłodzeniem cieczą i poborem 1 600 W.

Superchip, 128 GB pamięci i karta sieciowa ConnectX-7 są takie same jak w pozostałych wersjach GB10. Różnią się producent i dyski: 1 TB NVMe Gen4 w stawce bazowej oraz opcje 2 TB i 4 TB, również Gen4. To wybór dla zespołów, które standaryzują sprzęt na jednym producencie; ten sam zestaw wariantów dysku ma ASUS Ascent GX10.

Nie. Wszystkie trzy warianty mają ten sam superchip GB10, 128 GB pamięci LPDDR5X i 1 PFLOPS w FP4 — różni się wyłącznie dysk. Wersja 4 TB daje większą pojemność na pliki wag i zbiory danych, a jej dysk ma też szyfrowanie sprzętowe Opal. Wielkość modelu, który zmieści się w pamięci, pozostaje taka sama.

Tak, prototypowanie i dostrajanie to typowe zadania tej klasy, ale rachunek pamięci wygląda inaczej niż przy inferencji. Pełne dostrajanie w mieszanej precyzji z optymalizatorem Adam potrzebuje około 16 bajtów na parametr, więc w 128 GB mieści się model rzędu kilku miliardów parametrów. Metody adapterowe, np. LoRA na modelu bazowym skwantyzowanym do 4 bitów, obejmują znacznie większe modele: wagi modelu 70B zajmują wtedy około 35 GB.

W kolokacji w profesjonalnej serwerowni, choć ma kompaktową obudowę wielkości książki, którą można by postawić przy biurku. Przez cały okres najmu maszyna stoi w serwerowni pod zasilaniem awaryjnym i chłodzeniem, a zespół łączy się z nią zdalnie, niezależnie od tego, gdzie pracują poszczególne osoby. Sprzętu nie wysyłamy do klienta.

Od wariantu dysku i okresu najmu. Najniższą opłatę miesięczną ma wersja z dyskiem 1 TB Gen4, wyższą 2 TB Gen4, a najwyższą 4 TB Gen4; dłuższy okres obniża stawkę za miesiąc. Cena netto i brutto dla okresów 1, 6 i 12 miesięcy jest w bloku ceny na tej karcie, a dopłata za dysk 2 TB lub 4 TB — w opisie opcji dysku.

Najem sprawdza się przy projekcie do około roku albo gdy chcesz sprawdzić, czy 128 GB pamięci wystarczy do Twojego modelu, zanim kupisz własny egzemplarz. Przy pracy przez kilka lat zakup wychodzi taniej. Rachunek zakupu i najmu maszyn z GB10 na 1, 6 i 12 miesięcy jest w poradniku DGX Spark — kupić czy wynająć.