Среда выполнения NNAPI

Модуль NNAPI Runtime – это общая библиотека, которая находится между приложением и драйверами серверной части. Android Neural Networks API (NNAPI) – это C API для Android, предназначенный для выполнения ресурсоемких операций машинного обучения на мобильных устройствах. Он позволяет выполнять операции логического вывода с аппаратным ускорением на устройствах Android. Этот модуль можно обновлять, то есть его функции могут получать обновления вне обычного цикла выпуска Android.

Модульная структура среды выполнения NNAPI имеет следующие преимущества:

  • Конечные пользователи получают более стабильную и совместимую работу.

  • Разработчики платформы могут исправлять ошибки в среде выполнения NNAPI, улучшать взаимодействие среды выполнения NNAPI с драйверами и развертывать новые функции, которые повышают возможности, стабильность, производительность и работоспособность NNAPI.

  • Разработчики приложений получают улучшенную совместимость и производительность приложений с обновленными ядрами ЦП.

Граница модуля

В Android 12 и более поздних версиях в HAL NNAPI используется AIDL вместо HIDL.

Для Android 11 и более ранних версий граница модуля NNAPI Runtime – platform/frameworks/ml/nn:libneuralnetworks.so.

Формат модуля

Модуль NNAPI Runtime (com.android.neuralnetworks) имеет формат APEX и доступен на устройствах с Android 11 и более поздними версиями ОС.

Зависимости модулей

Модуль NNAPI Runtime зависит от NNAPI HAL и AHardwareBuffer.

Тестирование

Чтобы проверить работу модуля NNAPI Runtime, используйте тесты из набора Compatibility Test Suite (CTS) и Vendor Test Suite (VTS).