Choć w ostatnich latach największą uwagę przyciągają procesory graficzne Nvidia, to same akceleratory AI nie byłyby w stanie działać z pełną wydajnością bez odpowiednio szybkiej pamięci. Dostarczanie danych do tysięcy rdzeni obliczeniowych wymaga ogromnej przepustowości i minimalnych opóźnień. W efekcie producenci pamięci coraz częściej znajdują się w centrum rozwoju infrastruktury sztucznej inteligencji i mogą stać się jednymi z największych długoterminowych wygranych obecnego boomu.
Bez wątpienia, najważniejszą technologią napędzającą obecne zmiany jest HBM, czyli pamięć o bardzo wysokiej przepustowości. W przeciwieństwie do klasycznych modułów DDR, układy HBM są budowane w formie stosów wielu warstw pamięci DRAM połączonych pionowo. Wykorzystują one między innymi technologię TSV która pozwala na tworzenie niezwykle szybkich połączeń pomiędzy poszczególnymi warstwami. Takie rozwiązanie zapewnia przepustowość liczona w terabajtach na sekundę przy jednoczesnym ograniczeniu zużycia energii. To właśnie dlatego najnowsze akceleratory AI, takie jak Nvidia H100 czy platformy oparte na architekturze Blackwell, korzystają z pamięci HBM3 oraz HBM3E. Bez niej obsługa ogromnych modeli językowych byłaby znacznie mniej efektywna.
Rozwój sztucznej inteligencji powoduje również gwałtowny wzrost ilości pamięci przypadającej na pojedynczy serwer. Klasyczne serwery chmurowe często wykorzystywały kilkaset gigabajtów pamięci DRAM, natomiast współczesne platformy AI wyposażone w wiele procesorów graficznych mogą posiadać kilka terabajtów pamięci HBM oraz DDR5. Przykładem jest platforma Nvidia HGX, która może łączyć osiem procesorów graficznych za pomocą technologii NVLink i korzystać z ogromnych zasobów pamięci HBM. Taka architektura znacząco zwiększa zużycie pamięci na pojedynczy serwer, jednocześnie podnosząc wartość sprzedawanych zaawansowanych modułów.
Sztuczna inteligencja przyspiesza również wdrażanie pamięci DDR5. W porównaniu do DDR4 oferuje ona większą przepustowość, niższe zużycie energii oraz możliwość stosowania bardziej pojemnych modułów. Wszystkie te cechy są szczególnie istotne w centrach danych obsługujących generatywną sztuczną inteligencję. Na tej zmianie korzystają najwięksi producenci pamięci, którzy dostarczają rozwiązania dla operatorów chmurowych rozwijających własną infrastrukturę AI.
Pamięci HBM zmieniają układ sił na rynku
Rosnące znaczenie HBM mocno zmieniło układ sił w branży pamięci. Jednym z największych zwycięzców okazała się firma SK hynix, która według branżowych doniesień zdobyła dominującą pozycję w dostawach pamięci HBM3 i HBM3E dla Nvidii. Przewaga koreańskiego producenta wynika między innymi z wcześniejszych inwestycji w technologię TSV, zaawansowane procesy pakowania układów oraz rozwiązania poprawiające odprowadzanie ciepła. Dzięki temu SK hynix szybko zwiększa produkcję pamięci HBM3E i pozostaje jednym z najważniejszych dostawców dla przyszłych systemów AI.
Nie oznacza to jednak, że konkurencja pozostaje w tyle. Samsung Electronics, największy producent pamięci na świecie, również intensywnie rozwija własne rozwiązania HBM oraz technologie zaawansowanego pakowania. Firma ma ogromną przewagę wynikającą ze skali działalności – łączy produkcję pamięci, układów logicznych, usług odlewniczych oraz technologii pakowania w ramach jednego ekosystemu. Samsung początkowo pozostawał nieco za SK hynix pod względem certyfikacji swoich rozwiązań HBM dla części platform AI, jednak dzięki ogromnym możliwościom produkcyjnym oraz doświadczeniu technologicznemu nadal pozostaje jednym z najważniejszych graczy na rynku.
Kolejnym beneficjentem rozwoju sztucznej inteligencji jest Micron Technology. Firma przez lata była kojarzona głównie z bardziej cyklicznym rynkiem komputerów osobistych, jednak obecnie coraz mocniej wykorzystuje swoje portfolio pamięci DRAM oraz rozwój technologii HBM. Produkty HBM3E firmy Micron trafiają do projektów związanych z kolejną generacją akceleratorów AI, a przedstawiciele spółki wskazują, że zapotrzebowanie na tego typu pamięci nadal znacząco przewyższa podaż.
Koniec z cykliczną koniunkturą?
Historycznie rynek DRAM i NAND był bardzo podatny na cykle koniunkturalne. Zapotrzebowanie zależało głównie od sprzedaży komputerów osobistych i smartfonów, co często prowadziło do okresów nadprodukcji i gwałtownych spadków cen. Rozwój sztucznej inteligencji wprowadza jednak nowy, bardziej stabilny czynnik wzrostu. Inwestycje w centra danych, usługi chmurowe, rozwiązania dla przedsiębiorstw oraz państwowe projekty AI tworzą długoterminowy popyt na zaawansowane pamięci.
W przyszłości znaczenie mogą zyskać kolejne technologie, takie jak HBM4, MRAM, rozszerzenia pamięci wykorzystujące CXL czy architektury typu processing-in-memory, które łączą przechowywanie danych z ich przetwarzaniem. Modele sztucznej inteligencji stale rosną, a wraz z nimi rośnie zapotrzebowanie na większe zasoby pamięci i szybszą komunikację pomiędzy układami. Coraz częściej ograniczeniem nie jest już sama moc obliczeniowa, lecz właśnie przepustowość i opóźnienia pamięci.
