Budowa własnego środowiska do trenowania modeli AI i uczenia maszynowego (Machine Learning) to dla wielu firm naturalny krok w stronę technologicznej niezależności. Przy projektowaniu takiej infrastruktury często pojawia się pokusa optymalizacji kosztów poprzez łączenie najnowszych akceleratorów GPU ze sprawdzonymi serwerami poprzedniej generacji. Czy to jednak zawsze bezpieczne rozwiązanie? Nasi inżynierowie wzięli na warsztat popularny serwer Dell PowerEdge R750 i kartę graficzną NVIDIA RTX PRO 6000 Blackwell Max-Q. Wyniki testów okazały się sporym zaskoczeniem. 

Platforma 15. generacji serwerów Dell, ze swoim flagowym reprezentantem PowerEdge R750, to niezwykle popularny i wydajny sprzęt, który wciąż doskonale radzi sobie w wielu środowiskach data center. Z kolei nowa karta NVIDIA RTX PRO 6000 Blackwell Max-Q, wyposażona w potężny bufor 96 GB pamięci vRAM, to obecnie jeden z najbardziej pożądanych akceleratorów do pracy z dużymi modelami językowymi (LLM) i zaawansowanym AI. 
Spoglądając na specyfikację, połączenie tych dwóch urządzeń wydaje się logiczne i w pełni bezpieczne. TDP dla RTX PRO 6000 w wersji Max-Q wynosi maksymalnie 300W. Zgodnie z oficjalną dokumentacją Dell (a także wieloma ofertami dostępnymi w sieci, łączącymi R750 np. ze starszą generacją Ada), serwer ten powinien bez problemu sprostać takim wymogom energetycznym, dostarczając 300 W mocy oficjalnym kablem Dell 12VHPWR.

1. Aby zapewnić układowi absolutnie optymalne warunki zasilania, technicy Hardware Direct przygotowali 2 warianty konfiguracji: 
   Podłączenie oficjalnym kablem zasilającym do r750 <-> 12VHPWR
2. Konfigurację z potężnym zapasem mocy: wykorzystano zasilanie z 3 portów na riserze (z których każdy dostarcza 225W), spinając je w konfiguracji 3x 8-pin <-> adapter 12VHPWR 
    
   Dawało to teoretycznie aż 375W marginesu mocy po stronie dodatkowego zasilania. 

Mimo "książkowego" przygotowania platformy, rzeczywistość w laboratorium zweryfikowała założenia teoretyczne. W środowisku testowym R750 karta RTX PRO 6000 Blackwell Max-Q zachowywała się niestabilnie tak samo w obydwu konfiguracjach podczas różnego rodzaju obciążeń syntetycznych i treningowych. 

W systemach dedykowanych do długotrwałych obliczeń AI, jakikolwiek brak stabilności dyskwalifikuje maszynę z użycia produkcyjnego. Nasi inżynierowie przystąpili więc do głębszej analizy problemu. 

Pierwszym "podejrzanym" w tego typu sytuacjach często bywa generacja interfejsu PCI Express. Serwer R750 dysponuje złączami PCIe Gen4, podczas gdy najnowsze karty są już w pełni przystosowane do przepustowości Gen5. 

Nasze testy wykluczyły jednak ten scenariusz. Ograniczenia wynikające z PCIe 4.0 nie mają w tym przypadku decydującego wpływu na stabilność. Należy pamiętać, że RTX PRO 6000 dysponuje gigantycznym lokalnym buforem danych w postaci 96 GB pamięci vRAM. W praktyce oznacza to, że w większości scenariuszy treningowych procesor graficzny ma najpotrzebniejsze dane pod ręką, a różnica w przepustowości między PCIe 4.0 a 5.0 jest marginalna i z pewnością nie powoduje "wysypywania się" systemu. 

Klucz do rozwiązania zagadki kryje się w charakterystyce pracy nowoczesnych układów GPU, w tym architektury Blackwell. O ile stały pobór mocy zamyka się w deklarowanych 300W, o tyle praca z modelami AI generuje niezwykle dynamiczne, mikrosekundowe skoki zapotrzebowania na energię, znane jako transient spikes. 

To właśnie te gwałtowne zmiany obciążeniowe okazały się barierą nie do przejścia. Inżynieria zasilania w platformach 15. generacji (nawet przy wysokiej całkowitej mocy zasilaczy i odpowiednim okablowaniu) nie jest fizycznie przystosowana do tak szybkiego, dynamicznego reagowania na mikroskoki napięciowe. Płyta główna i system dystrybucji zasilania w R750 po prostu nie nadążają za charakterystyką pracy najnowszych akceleratorów AI. 

Aby udowodnić naszą tezę i znaleźć optymalne środowisko dla karty RTX 6000 Blackwell, przenieśliśmy testy na Dell PowerEdge R760 (16. generacja serwerów Dell). 
To urządzenie posiada całkowicie przebudowaną architekturę zasilania, która została zaprojektowana m.in. z myślą o nowoczesnych akceleratorach AI. Kluczowe różnice, które wprowadziliśmy w tym teście: 

1. Przewody zasilające wychodzą bezpośrednio ze złącza PDB (Power Distribution Board) zasilaczy, omijając wąskie gardła starszych konstrukcji. 
2. Zastosowaliśmy dedykowany przewód zasilający MD9J9. 
3. Przewód ten posiada dodatkową żyłę sygnałową, którą wpina się bezpośrednio w płytę główną serwera, zapewniając inteligentną komunikację na linii zasilacz-GPU. 

Wynik? Karta zachowuje się wzorowo. Brak jakichkolwiek problemów ze stabilnością. Zarówno w benchmarkach, jak i podczas bardzo wysokiego, długotrwałego obciążenia treningowego, konfiguracja na platformie R760 pracowała z pełną wydajnością i, co najważniejsze, bezawaryjnie. 

Z naszych testów płynie jedna, bardzo ważna lekcja: w dobie sztucznej inteligencji i architektur typu Blackwell, suche dane z kart katalogowych i zasada "wstecznej kompatybilności" to za mało, aby zagwarantować stabilność infrastruktury. 

Teoretycznie idealny i wystarczający mocowo serwer Dell R750 nie poradził sobie z mikroskokami napięciowymi generowanymi przez nową kartę. Dopiero nowa inżynieria zasilania zastosowana w R760 pozwoliła na uwolnienie pełnego potencjału akceleratora. 

Planujesz budowę lub rozbudowę infrastruktury pod Machine Learning lub AI? Nie zostawiaj stabilności swojego sprzętu przypadkowi. W Hardware Direct bazujemy na twardych danych z naszego laboratorium. Skontaktuj się z naszym zespołem – doradzimy i dostarczymy sprzęt, który został przez nas sprawdzony i jest w 100% gotowy na wyzwania współczesnych obliczeń.