Chipy Qualcomma i Nvidii poddano testom wydajności obsługi AI

Układy do obsługi sztucznej inteligencji firmy Qualcomm pokonały chipy Nvidii w dwóch z trzech miar efektywności energetycznej z nowym zestawem danych testowych. Chipy tajwańskiego start-upu Neuchips pokonały obie firmy w jednej z kategorii.

Posłuchaj
00:00

Na rynku szkolenia modeli AI z ogromną ilością danych dominuje Nvidia. Po przeszkoleniu tych modeli AI są one szerzej wykorzystywane w tak zwanym wnioskowaniu, wykonując zadania, takie jak generowanie odpowiedzi tekstowych na monity bądź określanie np. czy obraz zawiera kota. Analitycy uważają, że rynek chipów do wnioskowania, przeznaczonych dla centrów danych, będzie się szybko rozwijał, ponieważ firmy będą wprowadzać technologie AI do swoich produktów. Firmy, takie jak Google Alphabet już badają, jak utrzymać kontrolę nad dodatkowymi kosztami, które to za sobą pociągnie.

Jednym z tych głównych kosztów jest energia elektryczna, a Qualcomm wykorzystał swoją historię projektowania chipów do urządzeń zasilanych bateryjnie, takich jak smartfony, do stworzenia układu o nazwie Cloud AI 100, który ma oszczędnie zużywać energię.

Jak wynika z testów opublikowanych w kwietniu przez MLCommons - konsorcjum inżynieryjne, które realizuje testy porównawcze powszechnie stosowane w branży układów AI - układ AI 100 firmy Qualcomm pokonał flagowy chip Nvidii H100 w klasyfikacji obrazów na podstawie liczby zapytań serwera centrum danych, które każdy układ może wykonać na jeden wat.

Chipy Qualcomma przetwarzały 197,6 zapytań na wat, w porównaniu do 108,4 zapytań w przypadku Nvidii. Neuchips - startup założony przez tajwańskiego naukowca Youn-Long Lina - zajął pierwsze miejsce z 227 zapytaniami na wat.

Qualcomm pokonał także Nvidię w wykrywaniu obiektów, osiągając 3,2 zapytania na wat, w porównaniu do 2,4 zapytania na wat Nvidii. Wykrywanie obiektów może być wykorzystywane w aplikacjach, takich jak analiza nagrań ze sklepów detalicznych, by zobaczyć dokąd najczęściej udają się kupujący.

Nvidia zajęła jednak pierwsze miejsce pod względem bezwzględnej wydajności oraz efektywności energetycznej w teście przetwarzania języka naturalnego, który jest technologią sztucznej inteligencji najczęściej stosowaną w systemach takich, jak chatboty. W liczbach próbek na wat Nvidia osiągnęła wynik 10,8, Neuchips zajął drugie miejsce z wynikiem 8,9 próbki na wat, a Qualcomm był na miejscu trzecim - 7,5 próbki na wat.

Źródło: Reuters

Powiązane treści
Apple nie może przełamać trudności w opracowaniu chipów modemowych
Etyka w AI - UE wprowadza przełomową regulację
Prognozy sprzedaży Nvidii przewyższają oczekiwania Wall Street
Kapitalizacja rynkowa firmy NVIDIA przekroczyła 1 bilion dolarów
Nvidia oferuje Chinom zaawansowany chip spełniający wymogi kontroli eksportu USA
Arabia Saudyjska stara się o zgodę na zakup zaawansowanych chipów Nvidii
Nvidia zastąpi Apple na drugiej pozycji wśród firm o największej wartości
Inteligentne kamery i robotyka, czyli co przynoszą nowe chipy Qualcomma
Nvidia pomoże japońskiemu instytutowi AIST w budowie superkomputera kwantowego
Nvidia i MediaTek wprowadzą sztuczną inteligencję do kabin pojazdów
Układy 3 nm Qualcomma wyprodukuje TSMC
Sektor sprzętowego AI z 26% wzrostem
Rynek AI w sektorze produkcyjnym przekroczy 16 mld dolarów
Sztuczna inteligencja przyszłym motorem wzrostu rynku układów scalonych
Czym właściwie jest sztuczna inteligencja?
Zobacz więcej w kategorii: Gospodarka
Aktualności
Advantech wprowadzi na rynek systemy brzegowe AI następnej generacji
PCB
Siemens przejmuje DownStream Technologies
Komponenty
Navitas wprowadza pierwsze na świecie tranzystory SiC MOSFET z kwalifikacją AEC-Plus dla motoryzacji i przemysłu
Zasilanie
Infineon rozszerza ofertę modułów mocy EasyPACK CoolGaN dla aplikacji wysokonapięciowych
Aktualności
Już za tydzień Warsaw Industry Automatica 2025
Aktualności
Nowa wizja transformacji cyfrowej – COCUS i Panasonic
Zobacz więcej z tagiem: Aktualności
Gospodarka
Advantech wprowadzi na rynek systemy brzegowe AI następnej generacji
Gospodarka
Już za tydzień Warsaw Industry Automatica 2025
Gospodarka
Nowa wizja transformacji cyfrowej – COCUS i Panasonic
Zapytania ofertowe
Unikalny branżowy system komunikacji B2B Znajdź produkty i usługi, których potrzebujesz Katalog ponad 7000 firm i 60 tys. produktów