في الإصدار 17 من نظام التشغيل Android والإصدارات الأحدث، ينسّق مدير وحدة المعالجة العصبية (NPU) التحكّم في قبول النماذج وأولوية أعباء العمل في جميع التطبيقات وخدمات النظام. بدلاً من السماح للمهام في الخلفية بحرمان المهام في المقدّمة التي تتأثر بوقت الاستجابة من الموارد، تتتبّع خدمة نظام npu حالات دورة حياة التطبيق من ActivityManager وتنقل قواعد الجدولة الفعّالة إلى برنامج تشغيل وحدة NPU الخاص بالمورّد من خلال طبقة تجريد الأجهزة (HAL) في لغة تعريف واجهة نظام Android (AIDL) في android.hardware.npu.
واجهة برمجة تطبيقات إطار عمل لإدارة تحميل النماذج
قبل استدعاء مكتبات الشبكات العصبية ذات المستوى المنخفض أو تحميل ملفات النماذج الكبيرة،
تتفاعل برامج إطار العمل مع android.npumanager.NpuManager لحجز سعة
النموذج. NpuManager هي واجهة برمجة تطبيقات للنظام (@SystemApi)، وليست واجهة برمجة تطبيقات لحزمة تطوير البرامج (SDK) لتطبيق متاح للجميع،
ويجب أن يحصل المتصلون على إذن android.permission.ACCESS_NPU_MODEL_MANAGER_API. ينشئ العملاء أولاً طلب تحميل نموذج، ثم يشغّلون
الطلب غير المتزامن ومسار الموافقة.
إنشاء طلب تحميل نموذج
يتم تمثيل حجز تحميل النموذج من خلال ModelLoadRequest. يحتوي هذا الكائن
على المَعلمات التالية:
- المعرّف الفريد للطلب
- فئة حجم النموذج المقدَّرة:
NPU_MODEL_SIZE_LESS_THAN_1GBأوNPU_MODEL_SIZE_BETWEEN_1GB_AND_2GBأوNPU_MODEL_SIZE_GREATER_THAN_2G - أولوية عبء العمل المقصود، مثل
NPU_MODEL_PRIORITY_BACKGROUNDأوNPU_MODEL_PRIORITY_NORMALأوNPU_MODEL_PRIORITY_OPPORTUNISTIC
ينشئ مثال Java التالي ModelLoadRequest لنموذج أكبر من
2 غيغابايت مع أولوية تنفيذ عادية:
ModelLoadRequest request = new ModelLoadRequest.Builder(requestId)
.setSize(NPU_MODEL_SIZE_GREATER_THAN_2G)
.setPriority(NPU_MODEL_PRIORITY_NORMAL)
.build();
تنفيذ مسار الطلب والموافقة
يرسل العملاء الحجز بشكل غير متزامن باستخدام طريقة requestCanLoadModel:
npuManager.requestCanLoadModel(request, callback, executor);
عند تقييم سعة وحدة المعالجة العصبية (NPU) أو تغيُّر الضغط على النظام، يُرسل إطار العمل إشعارًا إلى العميل من خلال ModelLoadRequestCallback مع الأحداث التالية:
-
onCanLoadModel(request, status, listener): يتم تشغيل هذا الحدث عند الموافقة على الطلب. يتلقّى العميل رمزNpuManager.ModelLoadStatusListenerالمميّز. بعد تحميل النموذج في ذاكرة وحدة المعالجة العصبية (NPU)، على العميل استدعاءlistener.notifyModelLoaded(request). -
onRequestUnloadModel(request)أوonRequestUnloadModel(request, reason): يتم تشغيل هذا الحدث عندما يواجه النظام تنافسًا على الموارد، مثل عبء عمل وارد في المقدّمة أو ارتفاع في درجة الحرارة، ويتطلّب من العميل تحرير نموذجه. بعد تحرير موارد وحدة المعالجة العصبية، على العميل استدعاءlistener.notifyModelUnloaded(request). onModelLoadRequestComplete(request, status): لإعلام العميل بعمليات انتقال مراحل نشاط طلبات المحطة الطرفية، مثل الإلغاء
يمكن للعملاء إلغاء الطلبات في انتظار المراجعة في أي وقت من خلال الاتصال بالرقم
cancelModelLoad(request).
دمج طبقة HAL للجدولة
تتكامل عمليات التنفيذ الخاصة بالمورِّد على الجهاز مع أداة جدولة النظام الأساسي من خلال تنفيذ واجهة خدمة IScheduling.aidl في حزمة android.hardware.npu.
ضبط أولويات UID والتحكّم في الوصول
The npu system service pushes per-UID priority values and access rules to the
vendor HAL using setSchedulingConfigs and updateSchedulingConfigs with the
SchedulingConfig.aidl parcelable:
package android.hardware.npu;
@VintfStability
parcelable SchedulingConfig {
const int MIN_PRIORITY = 0;
const int MAX_PRIORITY = 1000;
int uid;
int priority;
boolean hasDirectAccess;
boolean canAttributeOtherUid;
}
يتحكّم كل حقل في SchedulingConfig في كيفية تحكيم برنامج تشغيل NPU الخاص بالمورّد
في العمل الذي يرسله معرّف المستخدم (UID):
| حقل أو ثابت | الوصف |
|---|---|
MIN_PRIORITY وMAX_PRIORITY |
حدود الأولوية الصالحة (من 0 إلى 1000)، حيث يمثّل MIN_PRIORITY (0) الأولوية القصوى للجدولة ويمثّل MAX_PRIORITY (1000) الأولوية الدنيا للجدولة.
|
uid |
المعرّف الفريد لنظام التشغيل Linux الخاص بتطبيق العميل أو خدمة النظام |
priority |
تمثّل هذه السمة درجة أهمية المنصة في النطاق من 0 إلى 1000، حيث تشير القيمة 0 إلى الأولوية القصوى. يتم اشتقاقها من حالة العملية ActivityManager، لذا تتفوق التطبيقات التي تعمل في المقدّمة على العمليات المخزّنة مؤقتًا أو التي تعمل في الخلفية.
|
hasDirectAccess |
تحدّد هذه السياسة ما إذا كان يُسمح لـ "uid" بفتح جلسات تنفيذ مباشرة لوحدة المعالجة العصبية (NPU). إذا كانت القيمة false، سيتعذّر إنشاء الجلسة المباشرة أو
تنفيذها مع ظهور الخطأ EX_SECURITY.
|
canAttributeOtherUid |
ما إذا كانت خدمة وسيطة مميّزة، مثل AICore،
مفوَّضة لتحديد عمل وحدة NPU واستخدام الطاقة لعميل متصل
originalUid.
|
يجب أن تحتسب أدوات جدولة وحدة NPU الخاصة بالمورّد أولوية فعّالة في النطاق من 0 إلى
2000 (حيث تكون 0 هي الأولوية القصوى) من خلال إضافة SchedulingConfig.priority
(من 0 إلى 1000) إلى أولوية المهمة التي يطلبها العميل والتي تم تسويتها من 0 إلى
1000، وجدولة قوائم انتظار تنفيذ الأجهزة وفقًا لتلك الأولوية
الفعّالة. على سبيل المثال، إذا أرسل تطبيق في الخلفية مهمة ذات أولوية عالية، فإنّ
درجة priority الأعلى تخفّض أولويته الفعلية (ما يؤدي إلى قيمة رقمية أعلى)
بحيث لا يؤخّر أعباء عمل الكاميرا أو واجهة المستخدم في المقدّمة.
الإبلاغ عن حالة المهمة وتحديد المصدر
تُبلغ برامج تشغيل المورّدين عن مراحل نشاط مجموعات تنفيذ وحدة NPU إلى النظام الأساسي باستخدام WorkInfo.aidl:
package android.hardware.npu;
import android.hardware.npu.Uuid;
@VintfStability
parcelable WorkInfo {
int id;
@nullable Uuid groupId;
int uid;
int debugPid;
int originalUid;
@nullable String debugFeatureId;
int jobPriority;
int effectivePriority;
long timestampMs;
int deviceNumber;
}
عندما تنفّذ خدمة وسيطة تم تفعيل canAttributeOtherUid فيها نموذجًا نيابةً عن تطبيق عميل، يحمل originalUid معرّف UID للتطبيق الأصلي، بينما يحدّد uid الخدمة التي أرسلت الطلب. يتيح هذا الفصل لعمليات قياس الأداء عن بُعد في النظام الأساسي واحتساب الطاقة احتساب العمل للتطبيق الذي يطلب ذلك بدلاً من برنامج الخلفية الوسيط.
ضبط ميزة "إلغاء ارتداد الأحداث"
عند تسجيل مستمع ISchedulingCallback باستخدام
IScheduling.setCallback، يزيل HAL الارتداد من إشعارات العمل ذات الصلة على مدار
ISchedulingCallback.DEBOUNCE_DURATION_MS (50 ملي ثانية) على الأقل. تُعتبر عناصر العمل ذات صلة ببعضها عندما تتشارك uid وoriginalUid وdebugFeatureId نفسها، أو عندما تتشارك groupId نفسها. يمنع إلغاء الارتداد حدوث عواصف سريعة في عمليات الاستدعاء أثناء عمليات البث أو عمليات الاستنتاج المتعدّدة الخطوات، ما يقلّل من عبء Binder وتدفّق السجلّات.
يتم تسجيل حالات مراحل نشاط عمليات ردّ الاتصال من خلال ثلاث طرق في
ISchedulingCallback:
-
onWorkRequested: يتلقّى برنامج التشغيل أو خدمة المورّد عبء العمل. onWorkStarted: يبدأ تنفيذ الأجهزة، مع إضافة علامةStartReason:-
StartReason.INITIAL: التنفيذ الأولي لطلب تطبيق جديد StartReason.RESUMED: تم استئناف التنفيذ بعد إيقافه مؤقتًا (PAUSED).
-
onWorkEnded: يتوقف تنفيذ الجهاز بعد مرورDEBOUNCE_DURATION_MSبدون عمل متابعة ذي صلة، وتم وضع علامةEndReasonعليه:-
EndReason.COMPLETED: اكتمل التنفيذ بشكل طبيعي. -
EndReason.CANCELLED_USER: ألغى تطبيق الاتصال عملية التنفيذ. -
EndReason.CANCELLED_SYSTEM: تم إيقاف التنفيذ وإلغاؤه بسبب عمل ذي أولوية أعلى. EndReason.PAUSED: تم إيقاف التنفيذ مؤقتًا لتشغيل عمل ذي أولوية أعلى، وهو مؤهَّل للاستئناف باستخدامStartReason.RESUMED.-
EndReason.FAILED: تعذّر التنفيذ بسبب خطأ في برنامج التشغيل أو الجهاز.
-
التحقق من صحة البيانات
يمكنك التحقّق من صحة عمليات تنفيذ جدولة وحدة المعالجة العصبية باستخدام الحزم الاختبارية التالية:
- حزمة اختبار المورّد (VTS): يمكنك تشغيل
VtsHalNpuSchedulingTargetTest(المُجمَّعة فيVtsHalNpuTargetTest) للتحقّق من تعديلات إعداداتIScheduling، وترتيب الأولوية الفعّال، وقواعد تحديد مصدر UID، وإزالة الارتداد فيISchedulingCallback. - مجموعة أدوات اختبار التوافق (CTS): يمكنك تشغيل
CtsNpuManagerMoblyTestCasesللتحقّق من تحديد أولويات أعباء عمل وحدة NPU في المقدّمة مقارنةً بالخلفية من البداية إلى النهاية. للحصول على تعليمات الإعداد التجريبي، يُرجى الاطّلاع على إجراء اختبارات Mobly لـ NPU Manager.