Kontrola przepływu

Zadbaj o dobrą organizację dzięki kolekcji Zapisuj i kategoryzuj treści zgodnie ze swoimi preferencjami.

Od Androida 11 NNAPI zawiera 2 operacje sterowania przepływem danych, IF i WHILE, które przyjmują inne modele jako argumenty i wykonują je warunkowo (IF) lub wielokrotnie (WHILE). Umożliwia to tworzenie modeli, które wykonują różne operacje na podstawie wartości wejściowych lub wykonują operacje wielokrotnie bez rozwijania. Jest to ważne w przypadku zastosowań takich jak dynamiczne sieci RNN i seq2seq.

W NN HAL 1.3 model zawiera kilka podgrafów, w tym główny podgraf, który służy do określania danych wejściowych i wyjściowych wykonania. Podgraf może się odwoływać do innych podgrafów za pomocą operandów typu SUBGRAPH. Framework może wysłać operację sterowania do akceleratora tylko wtedy, gdy akcelerator obsługuje wszystkie operacje we wszystkich podgrafach, do których odwołuje się ta operacja sterowania.

Interfejsy HAL

W NN HAL 1.3 definicje związane z przepływem sterowania znajdują się w types.hal.

• IF i WHILEtypy operacji
• SUBGRAPH typ argumentu i odpowiadający mu SUBGRAPH czas trwania argumentu
• Modelstruktura zawierająca główny podgraf i listę podgrafów, do których odwołuje się podgraf główny
• Capabilitiesstruktura zawierającaifPerformanceiwhilePerformance

IDevice.hal zawiera IDevice, którego metoda getSupportedOperations_1_3() musi traktować IF i WHILE inaczej niż inne operacje.

IPreparedModel.hal zawiera IPreparedModel, którego metody execute_1_3(), executeSynchronously_1_3() i executeFenced() przyjmują opcjonalny argument loopTimeoutDuration.

Implementacja sterownika

Przykładową implementację operacji znajdziesz w artykule CpuExecutor::executeIfOperation i CpuExecutor::executeWhileOperation. Przykładową logikę walidacji operacji znajdziesz w artykule validateIfOperation() i validateWhileOperation().

Pamiętaj, że ważne jest, aby obsługiwać operacje arytmetyczne i porównawcze na operandach TENSOR_INT32 o postaci 1, ponieważ można ich używać jako liczników pętli. Podobnie operacje zwracające operandy TENSOR_BOOL8 o kształcie 1 powinny być używane z warunkami IF i WHILE.

Limit czasu wykonywania pętli WHILE

Aby zapobiec nieskończonym pętlom, wykonanie musi zostać przerwane, jeśli pętla WHILE trwa dłużej niż wartość loopTimeoutDuration przekazana do wywołania funkcji IPreparedModel::execute_1_3(), IPreparedModel::executeSynchronously_1_3() lub IPreparedModel::executeFenced() (lub wartość domyślna, jeśli nie podano innej).

Weryfikacja

Testy przepływu sterowania są częścią zestawów testów CTS i VTS. Więcej informacji znajdziesz w sekcji Weryfikacja.