Co to jest Tiny ML?
Większość operacji związanych ze sztuczną inteligencją (AI) wymaga do pracy dużych zasobów pamięci i mocy procesora, często nieosiągalnych w małych aplikacjach IoT i chipach zasilanych z baterii, przez co aplikacje muszą działać na zasadzie offloadingu zadań - obliczenia wysyłane są do chmur obliczeniowych, gdzie następuje ich przetworzenie i odesłanie wyników. To wymaga z kolei zapewnienia komunikacji.
Z tych powodów grupa ponad 200 specjalistów z największych firm i uczelni zebrała się w lutym w San Jose na konferencji Tiny ML Summit, aby przedyskutować możliwości przeniesienia nauczania maszynowego z dużych wydajnych komputerów mainframe na małe mikroprocesory zasilane z baterii. Rozwiązanie takie zapewniłoby nie tylko znaczną poprawę bezpieczeństwa - dane nie musiałyby być wysyłane do chmury w celu analizy, ale pozwoliłoby również na zaprojektowanie aplikacji o zupełnie nowych funkcjach, niż jest to możliwe obecnie. Mimo że pomysł na pierwszy rzut oka wydaje się wręcz nieosiągalny, jest on znacznie bliższy rzeczywistości, niż mogłoby się wydawać.
Czy koncepcja Tiny ML jest realna?
Wraz z rozwojem technologii rośnie nie tylko moc obliczeniowa komputerów, ale również pojawiają się coraz wydajniejsze algorytmy. Wysoki wzrost wydajności obliczeniowej 32-bitowych mikrokontrolerów wspomaganych przez FPGA i koprocesory matematyczne (FPU) w połączeniu z coraz lepszymi modelami sieci neuronowych już teraz pozwolił na przeniesienie niektórych funkcji nauczania maszynowego na urządzenia o małej mocy. Dla przykładu - działający detektor anomalii korzystający z danych trójosiowego akcelerometru w czasie rzeczywistym, oparty na architekturze Cortex-M4, wymaga zaledwie 6 kB pamięci RAM do realizacji funkcji ML.
Tiny ML staje się możliwe również dzięki zupełnie nowym, specjalizowanym pod tym kątem chipom. Swoje rozwiązania w tej dziedzinie zaprezentowały już takie firmy jak Apple, Huawei, Google, Intel czy ARM.
Możliwości Tiny ML
Obecnie spora część danych zbieranych przez sensory aplikacji IoT jest odrzucana ze względu na ograniczoną moc obliczeniową oraz maksymalną ilość danych, które może ono wysłać do chmury w danym czasie (przepustowość łącza). Jeśli urządzenie byłoby w stanie samodzielnie analizować zebrane dane, nie istniałaby potrzeba ich odrzucania bez uprzedniej analizy, dzięki czemu możliwe byłoby przesyłanie do chmury tylko tych najbardziej interesujących i wstępnie obronionych. Rozwiązanie takie nie tylko poskutkowałoby znacznym zmniejszeniem obciążenia chmur obliczeniowych, ale również niesamowitym usprawnieniem nauczania maszynowego.
Sztuczna inteligencja może okazać się również niezwykle przydatna w małych urządzeniach bez połączenia z chmurą. Doskonałym przykładem są tutaj aparaty słuchowe. Umieszczenie w nich algorytmu ML oddzielającego dźwięki otoczenia od konwersacji pozwoliłoby na znaczącą poprawę jakości otrzymywanego do uszu dźwięku.
Dalszy rozwój
Możliwościami Tiny ML interesują się już praktycznie wszyscy giganci elektroniki. W konferencji Tiny ML Summit udział wzięli inżynierowie z firm takich jak między innymi Apple, Google, Samsung, STMicroelectronics, ARM i Microsoft. Dzięki tak dużemu zapleczu badawczemu bezpieczne jest stwierdzenie, że dynamiczny rozwój Edge AI jest tylko kwestią czasu. Zgodnie z prognozami, rynek mikrokontrolerów wykorzystywanych w IoT osiągnie wartość 4 mld USD do końca roku 2023. Tiny Ml jest więc narzędziem do zapewnienia wzrostu rynku na kolejne lata. (PM)
