Kontrollfluss

Mit Sammlungen den Überblick behalten Sie können Inhalte basierend auf Ihren Einstellungen speichern und kategorisieren.

Ab Android 11 enthält die NNAPI zwei Kontrollflussvorgänge, IF und WHILE, die andere Modelle als Argumente annehmen und diese bedingt (IF) oder wiederholt (WHILE) ausführen. So lassen sich Modelle erstellen, die je nach Eingabewerten unterschiedliche Vorgänge ausführen oder Vorgänge mehrmals ausführen, ohne sie zu entrollen. Das ist wichtig für Anwendungsfälle wie dynamische RNNs und seq2seq.

In NN HAL 1.3 enthält das Modell mehrere Subgraphen, einschließlich des Haupt-Subgraphs, der zum Angeben von Eingaben und Ausgaben einer Ausführung verwendet wird. Ein untergeordneter Graph kann mithilfe von Operanden vom Typ SUBGRAPH auf andere untergeordnete Graphen verweisen. Das Framework kann einen Kontrollflussvorgang nur dann an einen Beschleuniger senden, wenn der Beschleuniger alle Vorgänge in allen Untergrafen unterstützt, auf die dieser Kontrollflussvorgang verweist.

HAL-Schnittstellen

In NN HAL 1.3 finden Sie die Definitionen zum Kontrollfluss unter types.hal.

• IF- und WHILE-Vorgangstypen
• SUBGRAPH Operandentyp und die entsprechende SUBGRAPH Operandenlebensdauer
• Model-Struktur, die den HauptSubgraphen und eine Liste der referenzierten Subgraphen enthält
• Capabilities-Struktur, die ifPerformance und whilePerformance enthält

IDevice.hal enthält IDevice, dessen Methode getSupportedOperations_1_3() IF und WHILE anders als andere Vorgänge behandeln muss.

IPreparedModel.hal enthält IPreparedModel, dessen Methoden execute_1_3(), executeSynchronously_1_3() und executeFenced() ein optionales loopTimeoutDuration-Argument annehmen.

Treiberimplementierung

Eine Beispielimplementierung für Vorgänge finden Sie unter CpuExecutor::executeIfOperation und CpuExecutor::executeWhileOperation. Beispiele für die Logik zur Validierung von Vorgängen finden Sie unter validateIfOperation() und validateWhileOperation().

Es ist wichtig, arithmetische und Vergleichsoperationen auf TENSOR_INT32-Operanden der Form 1 zu unterstützen, da diese als Schleifenzähler verwendet werden können. Ebenso sollten Vorgänge, die TENSOR_BOOL8-Operanden der Form 1 liefern, mit IF- und WHILE-Bedingungen verwendet werden.

Zeitlimit für die Ausführung von WHILE-Schleifen

Um endlose Schleifen zu vermeiden, muss die Ausführung abgebrochen werden, wenn eine WHILE-Schleife länger dauert als der loopTimeoutDuration-Wert, der an einen Aufruf von IPreparedModel::execute_1_3(), IPreparedModel::executeSynchronously_1_3() oder IPreparedModel::executeFenced() übergeben wird (oder der Standardwert, falls er weggelassen wird).

Zertifizierungsstufe

Tests der Programmabfolge sind Teil der CTS- und VTS-Testsuites. Weitere Informationen finden Sie unter Validierung.