Skala problemu robi się widoczna, gdy spojrzymy na kolejne generacje akceleratorów. Zużycie energii przez układy AI wzrosło około czterokrotnie w ciągu trzech generacji GPU. W ciągu najbliższych dwóch lat pojedynczy GPU może potrzebować nawet 5 kW. Jednocześnie napięcie zasilające rdzeń układu może spaść poniżej 1 V. To oznacza ogromne natężenie prądu. Przy 5 kW i napięciu 0,5 V mówimy teoretycznie o około 10 tys. amperów.
Nawet jeśli ten prąd rozdziela się pomiędzy wiele ścieżek i elementów układu zasilania, pokazuje to jednak skalę wyzwania stojącego przed projektantami płyt głównych i przetwornic. A mowa przecież o jednym akceleratorze. W pojedynczym serwerze może znajdować się ich wiele, a w dużym centrum danych pracują ich setki lub tysiące. Całe obiekty mogą potrzebować mocy liczonej w gigawatach. Nie jest więc przesadą stwierdzenie, że rozwój AI zaczyna być również problemem infrastruktury energetycznej.
Nadzieja w wysokosprawnych konwerterach GaN
Koniecznie są więc alternatywne rozwiązania. Jedną z technologii, która może pomóc rozwiązać ten problem, jest azotek galu, czyli GaN. Technologia dobrze znana już nawet z konsumenckich ładowarek dopiero teraz może zostać wykorzystana na o wiele większą skalę. Materiał ten pozwala bowiem budować szybsze i bardziej kompaktowe układy konwersji energii. W centrach danych ma to ogromne znaczenie, ponieważ każdy dodatkowy procent sprawności oznacza mniej zmarnowanej energii, mniej ciepła i niższe wymagania dotyczące chłodzenia.
Tradycyjne tranzystory MOSFET wykonane z krzemu przez lata były podstawą układów zasilania. Technologia jest dobrze rozwinięta, tania i sprawdzona. Problem polega na tym, że dalsze poprawianie jej parametrów staje się coraz trudniejsze. Kolejne generacje krzemowych tranzystorów poprawiają parametry mniej więcej o 20% podczas gdy zapotrzebowanie energetyczne akceleratorów AI rośnie znacznie szybciej. Nie chodzi przy tym wyłącznie o sprawność. Istotna jest również częstotliwość przełączania. Im szybciej pracuje przetwornica, tym mniejsze mogą być elementy pasywne, takie jak cewki i kondensatory. To z kolei pozwala zmniejszyć cały układ zasilania. W serwerach AI jest to niezwykle istotne. Powierzchnia płytki drukowanej w pobliżu procesora jest bardzo cenna, a dodatkowe miejsce zajęte przez układy zasilające oznacza mniej przestrzeni na pozostałe komponenty.
Sieć energetyczna DC
Samo zastosowanie bardziej wydajnych tranzystorów nie wystarczy. Problem zaczyna się dużo wcześniej – już na etapie dostarczania energii do serwera. Tradycyjny schemat zakłada doprowadzenie do centrum danych prądu przemiennego, jego kolejne przekształcenia, a następnie obniżanie napięcia w obrębie serwera. Przy rosnącej mocy każda taka konwersja generuje straty. Dlatego branża zmierza w kierunku dystrybucji energii przy znacznie wyższym napięciu stałym.
Jednym z najważniejszych kierunków jest dziś 800 VDC. Technologię tę szczególnie mocno rozwija chociażby Nvidia. Firma wskazuje, że wyższe napięcie pozwala ograniczyć natężenie prądu, ilość potrzebnej miedzi oraz straty podczas przesyłania energii. Jednocześnie zmniejsza liczbę etapów konwersji pomiędzy siecią energetyczną a GPU. To ważna zmiana. Przy tej samej mocy podwojenie napięcia oznacza dwukrotnie niższy prąd. A niższy prąd oznacza mniejsze straty rezystancyjne oraz mniejsze wymagania wobec przewodów i elementów infrastruktury.
Azotek galu wydaje się idealnym rozwiązaniem
Azotek galu ma w tym zastosowaniu kilka istotnych zalet. Tranzystory GaN charakteryzują się niższą rezystancją w stanie przewodzenia oraz mniejszym ładunkiem bramki. W praktyce pozwala to budować przetwornice pracujące z wyższą częstotliwością i sprawnością. Niektóre takie układy mogą pracować w synchronicznych przetwornicach buck z częstotliwością około 3 MHz. Jest to mniej więcej trzy razy więcej niż w porównywalnych rozwiązaniach krzemowych. Brzmi to jak czysto techniczna różnica, ale w centrach danych ma bezpośrednie znaczenie. Wyższa częstotliwość oznacza możliwość zastosowania mniejszych elementów magnetycznych. Cała przetwornica może więc zajmować mniej miejsca, jednocześnie dostarczając bardzo dużą moc.
Nie chodzi przy tym o jeden konkretny fragment układu. GaN może stopniowo pojawiać się na kolejnych etapach przetwarzania energii. Obecnie technologia jest już stosowana między innymi w układach związanych z napięciem 48 V. Wraz z przechodzeniem centrów danych na 800 VDC jej zastosowanie może rozszerzyć się na kolejne przetwornice – od wejściowych układów wysokiego napięcia, przez konwertery magistrali pośredniej, aż po przetwornice znajdujące się bezpośrednio przy procesorach. To właśnie końcowe etapy są szczególnie wymagające. Kiedy napięcie spada z kilku czy kilkunastu woltów do wartości poniżej 1 V, prąd rośnie do ogromnych wartości. Z tego powodu projektanci chcą umieszczać konwersję energii możliwie blisko GPU i jednocześnie maksymalnie zwiększać gęstość mocy.
Większa sprawność to mniej ciepła do usunięcia
Wyższa sprawność ma jeszcze jedną konsekwencję. Mniej energii traconej podczas konwersji oznacza mniej ciepła, które trzeba później usunąć. To ważne, ponieważ rosnące zużycie energii przez GPU zwiększa jednocześnie wymagania wobec systemów chłodzenia. W przypadku centrów danych AI coraz częściej stosuje się chłodzenie cieczą, a infrastruktura energetyczna i chłodnicza musi być projektowana jako jeden system.
Sama NVIDIA zwraca uwagę, że ograniczenia związane z energią, chłodzeniem, wodą i dostępnością przyłącza energetycznego stają się dziś równie istotne jak sama wydajność układów obliczeniowych. To pokazuje, dlaczego nawet kilka procent poprawy sprawności może mieć znaczenie. W centrum danych zużywającym setki megawatów niewielki procent przekłada się na ogromne ilości energii. GaN nie jest jednak magicznym rozwiązaniem wszystkich problemów. Technologia musi sprostać wymaganiom dotyczącym niezawodności, kosztów produkcji, bezpieczeństwa oraz integracji z istniejącą infrastrukturą.
