Chipy Qualcomma i Nvidii poddano testom wydajności obsługi AI

Układy do obsługi sztucznej inteligencji firmy Qualcomm pokonały chipy Nvidii w dwóch z trzech miar efektywności energetycznej z nowym zestawem danych testowych. Chipy tajwańskiego start-upu Neuchips pokonały obie firmy w jednej z kategorii.

Posłuchaj
00:00

Na rynku szkolenia modeli AI z ogromną ilością danych dominuje Nvidia. Po przeszkoleniu tych modeli AI są one szerzej wykorzystywane w tak zwanym wnioskowaniu, wykonując zadania, takie jak generowanie odpowiedzi tekstowych na monity bądź określanie np. czy obraz zawiera kota. Analitycy uważają, że rynek chipów do wnioskowania, przeznaczonych dla centrów danych, będzie się szybko rozwijał, ponieważ firmy będą wprowadzać technologie AI do swoich produktów. Firmy, takie jak Google Alphabet już badają, jak utrzymać kontrolę nad dodatkowymi kosztami, które to za sobą pociągnie.

Jednym z tych głównych kosztów jest energia elektryczna, a Qualcomm wykorzystał swoją historię projektowania chipów do urządzeń zasilanych bateryjnie, takich jak smartfony, do stworzenia układu o nazwie Cloud AI 100, który ma oszczędnie zużywać energię.

Jak wynika z testów opublikowanych w kwietniu przez MLCommons - konsorcjum inżynieryjne, które realizuje testy porównawcze powszechnie stosowane w branży układów AI - układ AI 100 firmy Qualcomm pokonał flagowy chip Nvidii H100 w klasyfikacji obrazów na podstawie liczby zapytań serwera centrum danych, które każdy układ może wykonać na jeden wat.

Chipy Qualcomma przetwarzały 197,6 zapytań na wat, w porównaniu do 108,4 zapytań w przypadku Nvidii. Neuchips - startup założony przez tajwańskiego naukowca Youn-Long Lina - zajął pierwsze miejsce z 227 zapytaniami na wat.

Qualcomm pokonał także Nvidię w wykrywaniu obiektów, osiągając 3,2 zapytania na wat, w porównaniu do 2,4 zapytania na wat Nvidii. Wykrywanie obiektów może być wykorzystywane w aplikacjach, takich jak analiza nagrań ze sklepów detalicznych, by zobaczyć dokąd najczęściej udają się kupujący.

Nvidia zajęła jednak pierwsze miejsce pod względem bezwzględnej wydajności oraz efektywności energetycznej w teście przetwarzania języka naturalnego, który jest technologią sztucznej inteligencji najczęściej stosowaną w systemach takich, jak chatboty. W liczbach próbek na wat Nvidia osiągnęła wynik 10,8, Neuchips zajął drugie miejsce z wynikiem 8,9 próbki na wat, a Qualcomm był na miejscu trzecim - 7,5 próbki na wat.

Źródło: Reuters

Powiązane treści
Apple nie może przełamać trudności w opracowaniu chipów modemowych
Etyka w AI - UE wprowadza przełomową regulację
Prognozy sprzedaży Nvidii przewyższają oczekiwania Wall Street
Kapitalizacja rynkowa firmy NVIDIA przekroczyła 1 bilion dolarów
Nvidia oferuje Chinom zaawansowany chip spełniający wymogi kontroli eksportu USA
Arabia Saudyjska stara się o zgodę na zakup zaawansowanych chipów Nvidii
Nvidia zastąpi Apple na drugiej pozycji wśród firm o największej wartości
Inteligentne kamery i robotyka, czyli co przynoszą nowe chipy Qualcomma
Nvidia pomoże japońskiemu instytutowi AIST w budowie superkomputera kwantowego
Nvidia i MediaTek wprowadzą sztuczną inteligencję do kabin pojazdów
Układy 3 nm Qualcomma wyprodukuje TSMC
Sektor sprzętowego AI z 26% wzrostem
Rynek AI w sektorze produkcyjnym przekroczy 16 mld dolarów
Sztuczna inteligencja przyszłym motorem wzrostu rynku układów scalonych
Czym właściwie jest sztuczna inteligencja?
Zobacz więcej w kategorii: Gospodarka
Produkcja elektroniki
Branża motoryzacyjna obiera kurs na RISC-V
Aktualności
Polscy konsumenci gromadzą nieużywaną elektronikę wartą 112 mld zł
Mikrokontrolery i IoT
Coraz więcej możliwości komunikacji satelitarnej w IoT
Optoelektronika
Automatyczna inspekcja optyczna 3D - pierwszy w Polsce nowy system Viscom
Pomiary
KIOXIA i Linus Media Group ustanawiają światowy rekord w obliczeniach liczby Pi
Produkcja elektroniki
Pierwszy 2-nanometrowy układ firmy MediaTek już we wrześniu
Zobacz więcej z tagiem: Aktualności
Gospodarka
Polscy konsumenci gromadzą nieużywaną elektronikę wartą 112 mld zł
Gospodarka
Foxconn i Nvidia zbudują centrum danych AI mające moc 100 MW
Gospodarka
Studenci Politechniki Poznańskiej zbudowali rakietę sondażową. Wsparcia udzieliła Grupa Renex
Zapytania ofertowe
Unikalny branżowy system komunikacji B2B Znajdź produkty i usługi, których potrzebujesz Katalog ponad 7000 firm i 60 tys. produktów