Ekosystem Androida obejmuje szeroką gamę urządzeń z różnymi jednostkami przetwarzania neuronowego (NPUs). Wykorzystanie tych wyspecjalizowanych procesorów może znacznie przyspieszyć wnioskowanie modelu LiteRT (TFLite) i zmniejszyć zużycie energii w porównaniu z wykonywaniem na procesorze lub procesorze graficznym, co poprawi wrażenia użytkowników w aplikacji.
Dostawcy procesorów NPUs udostępniają delegacy LiteRT, aby umożliwić Twojej aplikacji korzystanie z konkretnego sprzętu na urządzeniu każdego użytkownika.
Qualcomm® AI Engine Direct Delegate
Interfejs Qualcomm® AI Engine Direct Delegate umożliwia użytkownikom uruchamianie modeli LiteRT za pomocą środowiska wykonawczego AI Engine Direct. Delegowanie jest obsługiwane przez interfejs Neural Network API firmy Qualcomm.
Komponent Qualcomm® AI Engine Direct Delegate jest dostępny w Maven Central. Więcej informacji znajdziesz w dokumentacji sieci neuronowej Qualcomm.
Wkrótce
W najbliższych miesiącach będziemy obsługiwać przedstawicieli tych dostawców:
- Google Pixel
- MediaTek
- Samsung System LSI
Obserwuj nasze kanały komunikacji, aby otrzymywać informacje i instrukcje dotyczące korzystania z tych delegowanych funkcji, które pozwolą Ci wykorzystać możliwości procesorów NPUs w modelach TFLite.