Bu sayfada, NNAPI'nin uygulama geliştiriciler tarafından yaygın olarak benimsenmesine olanak tanımak için NNAPI sürücülerini uygulamayla ilgili en iyi uygulamalar açıklanmaktadır.
Başlatma sürelerini kısa tutun
Sürücü, bir modeli ilk kullanımda dönüştürüyorsa sürücünün derleme önbelleğe alma özelliğini desteklediğinden emin olun. Bu özellik, uygulama başlatıldığında derleme için kullanılan süreyi azaltır. Başlangıç süreleri çok uzunsa uygulamalar donanım hızlandırmasını kullanmayabileceğinden bu durum önemlidir. Örneğin, bazı uygulamalarda 100 MB'tan fazla ağırlık ve uygulama her seferinde bunları dönüştürme zaman kaybına neden olur.
Minimum gecikmeyi azaltma
Modellerin donanım hızlandırmayı kullanmasını sağlamak için, hızın azaltılması Sürücülerde minimum gecikme. Birçok uygulama, çalıştırılan küçük modeller kullanır Bir iş yükünü yürütmek için gereken minimum gecikme çok fazlaysa, Örneğin modeller, iş yükünü CPU üzerinde çalıştırabilir. Bu da bir veya iki milisaniye sürer. devreye girer. Maliyetli mesaj dizileri senkronizasyonuna dikkat edin.
NN HAL SchedTune grubunu kullanma
Android 11 veya sonraki sürümlerde AOSP, önceden tanımlanmış top-app cgroup içinde aynı işlem uygulamasına benzer şekilde, işlemler arası NN HAL işlemlerinin büyük çekirdekleri kullanmasına olanak tanıyan özel bir NN HAL SchedTune grubu içerir. Bu SchedTune grubunu kullanmak, özellikle küçük modeller için sürücü yükü azaltır.
SchedTune grubunu kullanmak için aşağıdaki satırı init.rc dosyasına ekleyin
NN HAL süreci:
writepid /dev/stune/nnapi-hal/tasks