Większość dzisiejszych systemów obliczeniowych jest oparta na architekturze von Neumanna, która wykorzystuje oddzielne jednostki procesora i pamięci do wykonywania milionów wysoce złożonych procesów. To sekwencyjne podejście wymaga ciągłego przesyłania danych między jednostkami, co skutkuje wąskim gardłem w systemie.
Rozwiązanie HBM-PIM przenosi moc obliczeniową bezpośrednio do miejsca przechowywania danych, umieszczając zoptymalizowany pod kątem pamięci DRAM silnik AI w każdym banku pamięci, umożliwiając równoległe przetwarzanie i minimalizując ruch danych. Po zastosowaniu w istniejącym rozwiązaniu HBM2 Aquabolt firmy Samsung, nowa architektura jest w stanie zapewnić dwukrotnie większą wydajność systemu, jednocześnie redukując zużycie energii o ponad 70%. HBM-PIM nie wymaga również żadnych zmian sprzętowych ani programowych, co pozwala na szybszą integrację z istniejącymi systemami.
Nowa technologia została zaprezentowana podczas Międzynarodowej Wirtualnej Konferencji Obwodów Półprzewodnikowych (ISSCC). Samsung wskazał, że pamięć HBM-PIM jest obecnie testowana w akceleratorach sztucznej inteligencji przez jego największych partnerów specjalizujących się w tej dziedzinie. Wszystkie testy mają zostać zakończone w pierwszej połowie 2021 roku.
Źródło: Digitimes