Układ Hailo-10H został zaprojektowany jako energooszczędne, a zarazem efektywne rozwiązanie dla szerokiego spektrum zastosowań związanych ze sztuczną inteligencją (AI). Podzespół wyróżnia wydajność na poziomie: 40 TOPS – w przypadku operacji na czterobajtowych liczbach całkowitych (INT4), albo 20 TOPS – dla obliczeń na liczbach ośmiobajtowych (INT8). Co istotne, wartości te osiągane są przy typowym poborze mocy wynoszącym nie więcej niż 2,5 W. Tym sposobem Hailo-10H sprawdza się doskonale w systemach o ograniczonym budżecie energetycznym, umożliwiając realizację złożonych zadań, bez kompromisów w zakresie wydajności.
Element został przystosowany do wdrażania zaawansowanych modeli AI o ogromnej liczbie parametrów, w tym rozległych modeli językowych (LLM), modeli wizualno-językowych oraz systemów generatywnych. Hailo-10H bez trudu współpracuje z pamięciami typu LPDDR4 i LPDDR4X, a komunikację układu z otoczeniem zapewnia wbudowany interfejs PCI Express Gen3 x4. Dzięki temu, podzespół może być z powodzeniem wykorzystywany na platformach o architekturze x86 bądź ARM funkcjonujących pod nadzorem systemów operacyjnych z rodzin: Linux, Windows lub Android.
W praktyce element umożliwia wdrażanie modeli AI przy zachowaniu niskich czasów reakcji, co ma decydujące znaczenie w przypadku aplikacji czasu rzeczywistego. Szczególnie dobrze Hailo-10H sprawdza się w systemach sterowania oraz aplikacjach wizyjnych, gdzie szybkie i trafne podejmowanie decyzji musi iść w parze z redukcją opóźnień i równoczesnym ograniczeniem obciążenia sieci.
Hailo-10H jest kompatybilny z popularnymi środowiskami lub bibliotekami uczenia maszynowego, takimi jak: TensorFlow, PyTorch, Keras oraz ONNX. Producent udostępnia również dedykowany stos programowy, który umożliwia kompilację i optymalne mapowanie modeli AI na zasoby sprzętowe układu, co dodatkowo zwiększa efektywność działania. Jest to podzespół pracujący w temperaturze: od -40 do 85°C. Pozwala to na jego użycie w szerokiej gamie środowisk, ze szczególnym uwzględnieniem zakładów produkcji. Nawet w niesprzyjających warunkach układ zapewnia niezawodne i ciągłe przetwarzanie danych. Hailo-10H umożliwia realizację zadań, takich jak: analiza obrazów, detekcja konkretnych zdarzeń oraz interpretacja dużych zbiorów danych, co czyni
jednostkę rozwiązaniem dla aplikacji wymagających pracy pod dużym obciążeniem, w czasie rzeczywistym, w sposób ciągły i niezawodny.
Więcej na: hailo.ai
