इस पेज पर, Neural Networks API (NNAPI) को लागू करने के सबसे सही तरीके बताए गए हैं दिए गए हैं, ताकि ऐप्लिकेशन डेवलपर ज़्यादा से ज़्यादा एनएनएपीआई का इस्तेमाल कर सकें.
स्टार्टअप समय कम रखें
अगर आपका ड्राइवर पहली बार इस्तेमाल करने पर किसी मॉडल के वेट में बदलाव करता है, तो पक्का करें कि ड्राइवर, कंपाइलेशन कैश मेमोरी की सुविधा देता है, जिससे कंपाइलेशन में लगने वाला समय कम हो जाता है शुरू होता है. यह ज़रूरी है, क्योंकि ऐप्लिकेशन हार्डवेयर का इस्तेमाल करने से बच सकते हैं स्टार्ट-अप समय बहुत ज़्यादा होने पर त्वरण. उदाहरण के लिए, कुछ ऐप्लिकेशन में वज़न का 100 एमबी से ज़्यादा होना ज़रूरी है. साथ ही, ऐप्लिकेशन में हर बार ये बदलाव किए जा रहे हैं लॉन्च पर कोई बुरा असर नहीं पड़ता.
इंतज़ार का समय कम करें
यह पक्का करने के लिए कि मॉडल, हार्डवेयर की मदद से तेज़ी लाने की सुविधा का इस्तेमाल करें, कन्वर्ज़न की दर को कम करना ड्राइवरों में कम से कम इंतज़ार का समय. कई ऐप्लिकेशन, एक्ज़ीक्यूट किए जाने वाले छोटे मॉडल का इस्तेमाल करते हैं कई बार काम करते हैं और अगर वर्कलोड को पूरा करने में कम से कम लगने वाला समय बहुत ज़्यादा है, जैसे कुछ मिलीसेकंड, मॉडल सीपीयू पर वर्कलोड चला सकते हैं, जो सिर्फ़ के बजाय, एक या दो मिलीसेकंड लगते हैं हार्डवेयर त्वरणों का इस्तेमाल करके. महंगे थ्रेड सिंक करने से सावधान रहें.
NN HAL SchedTune ग्रुप का इस्तेमाल करें
Android 11 या उसके बाद वाले वर्शन के लिए, एओएसपी में
एनएन एचएएल
शेड्यूल ट्यून
वह समूह जो इंटरप्रोसेस NN HAL प्रोसेस को
कोर, जो पहले से तय
top-app cgroup. इसका इस्तेमाल करके
SchedTune ग्रुप, खास तौर पर छोटे मॉडल के लिए ड्राइवर का ओवरहेड कम करता है.
SchedTune ग्रुप का इस्तेमाल करने के लिए, नीचे दी गई लाइन को इसकी init.rc फ़ाइल में जोड़ें
NN HAL प्रोसेस:
writepid /dev/stune/nnapi-hal/tasks