Android 17 이상에서는 신경망 처리 장치(NPU) 관리자가 앱과 시스템 서비스 전반에서 모델 허용 제어와 워크로드 우선순위를 조정합니다. 백그라운드 작업이 지연 시간에 민감한 포그라운드 작업을 방해하지 않도록 npu 시스템 서비스는 ActivityManager에서 앱 수명 주기 상태를 추적하고 android.hardware.npu Android 인터페이스 정의 언어(AIDL) 하드웨어 추상화 계층(HAL)을 통해 효과적인 예약 규칙을 공급업체 NPU 드라이버에 전달합니다.
모델 로드 중재를 위한 프레임워크 API
프레임워크 클라이언트는 하위 수준 신경망 라이브러리를 호출하거나 대규모 모델 파일을 로드하기 전에 android.npumanager.NpuManager와 상호작용하여 모델 용량을 예약합니다. NpuManager는 공개 앱 SDK API가 아닌 시스템 API(@SystemApi)이며 호출자는 android.permission.ACCESS_NPU_MODEL_MANAGER_API 권한을 보유해야 합니다. 클라이언트는 먼저 모델 로드 요청을 빌드한 다음 비동기 요청 및 승인 흐름을 실행합니다.
모델 로드 요청 빌드
모델 로드 예약은 ModelLoadRequest로 표시됩니다. 이 객체에는 다음 매개변수가 포함됩니다.
- 고유 요청 식별자
- 예상 모델 크기 클래스:
NPU_MODEL_SIZE_LESS_THAN_1GB,NPU_MODEL_SIZE_BETWEEN_1GB_AND_2GB또는NPU_MODEL_SIZE_GREATER_THAN_2G - 의도한 워크로드 우선순위(예:
NPU_MODEL_PRIORITY_BACKGROUND,NPU_MODEL_PRIORITY_NORMAL,NPU_MODEL_PRIORITY_OPPORTUNISTIC)
다음 Java 예시에서는 일반 실행 우선순위로 2GB보다 큰 모델의 ModelLoadRequest를 빌드합니다.
ModelLoadRequest request = new ModelLoadRequest.Builder(requestId)
.setSize(NPU_MODEL_SIZE_GREATER_THAN_2G)
.setPriority(NPU_MODEL_PRIORITY_NORMAL)
.build();
요청 및 승인 흐름 실행
클라이언트는 requestCanLoadModel 메서드를 사용하여 비동기식으로 예약을 제출합니다.
npuManager.requestCanLoadModel(request, callback, executor);
NPU 용량이 평가되거나 시스템 압력이 변경되면 프레임워크는 다음 이벤트를 통해 ModelLoadRequestCallback를 통해 클라이언트에 알립니다.
onCanLoadModel(request, status, listener): 요청이 승인되면 실행됩니다. 클라이언트는NpuManager.ModelLoadStatusListener토큰을 수신합니다. 모델을 NPU 메모리에 로드한 후 클라이언트는listener.notifyModelLoaded(request)를 호출해야 합니다.onRequestUnloadModel(request)또는onRequestUnloadModel(request, reason): 시스템에서 수신 포그라운드 워크로드 또는 열 급증과 같은 리소스 경합이 발생하고 클라이언트가 모델을 해제해야 할 때 실행됩니다. NPU 리소스를 해제한 후 클라이언트는listener.notifyModelUnloaded(request)를 호출해야 합니다.onModelLoadRequestComplete(request, status): 취소와 같은 터미널 요청 수명 주기 전환을 클라이언트에 알립니다.
클라이언트는 cancelModelLoad(request)를 호출하여 언제든지 대기 중인 요청을 취소할 수 있습니다.
예약 HAL 통합
기기별 공급업체 구현은 android.hardware.npu 패키지의 IScheduling.aidl 서비스 인터페이스를 구현하여 플랫폼 스케줄러와 통합됩니다.
UID 우선순위 및 액세스 제어 구성
npu 시스템 서비스는 SchedulingConfig.aidl parcelable과 함께 setSchedulingConfigs 및 updateSchedulingConfigs를 사용하여 UID별 우선순위 값과 액세스 규칙을 공급업체 HAL에 푸시합니다.
package android.hardware.npu;
@VintfStability
parcelable SchedulingConfig {
const int MIN_PRIORITY = 0;
const int MAX_PRIORITY = 1000;
int uid;
int priority;
boolean hasDirectAccess;
boolean canAttributeOtherUid;
}
SchedulingConfig의 각 필드는 공급업체 NPU 드라이버가 사용자 식별자(UID)가 제출한 작업을 중재하는 방식을 제어합니다.
| 필드 또는 상수 | 설명 |
|---|---|
MIN_PRIORITY 및 MAX_PRIORITY |
유효한 우선순위 경계(0~1000)입니다. 여기서 MIN_PRIORITY(0)는 가장 높은 예약 우선순위를 나타내고 MAX_PRIORITY(1000)는 가장 낮은 예약 우선순위를 나타냅니다.
|
uid |
클라이언트 앱 또는 시스템 서비스의 Linux UID입니다. |
priority |
0~1000 범위의 플랫폼 중요도 점수입니다. 여기서 0이 가장 높은 우선순위입니다. ActivityManager 프로세스 상태에서 파생되므로 포그라운드 앱이 캐시된 프로세스나 백그라운드 프로세스보다 우선합니다.
|
hasDirectAccess |
uid가 직접 NPU 실행 세션을 열 수 있는지 여부입니다. false인 경우 직접 세션 생성 또는 실행이 EX_SECURITY로 실패합니다.
|
canAttributeOtherUid |
AICore와 같은 권한이 있는 중개 서비스가 NPU 작업 및 전력 사용량을 호출 클라이언트 originalUid에 기여하도록 승인되었는지 여부
|
공급업체 NPU 스케줄러는 SchedulingConfig.priority(0~1000)를 0~1000로 정규화된 클라이언트 요청 작업 우선순위에 추가하여 0~2000 범위의 유효 우선순위를 계산하고(여기서 0은 가장 높은 우선순위) 이 유효 우선순위에 따라 하드웨어 실행 큐를 예약해야 합니다. 예를 들어 백그라운드 앱이 우선순위가 높은 작업을 제출하면 priority 점수가 높을수록 유효 우선순위가 낮아지므로(더 높은 숫자 값 생성) 포그라운드 카메라 또는 UI 워크로드가 지연되지 않습니다.
작업 상태 및 기여 분석 보고
공급업체 드라이버는 WorkInfo.aidl를 사용하여 NPU 실행 그룹의 수명 주기를 플랫폼에 다시 보고합니다.
package android.hardware.npu;
import android.hardware.npu.Uuid;
@VintfStability
parcelable WorkInfo {
int id;
@nullable Uuid groupId;
int uid;
int debugPid;
int originalUid;
@nullable String debugFeatureId;
int jobPriority;
int effectivePriority;
long timestampMs;
int deviceNumber;
}
canAttributeOtherUid가 사용 설정된 중개 서비스가 클라이언트 앱을 대신하여 모델을 실행하는 경우 originalUid는 원래 앱 UID를 전달하고 uid는 제출 서비스를 식별합니다. 이러한 분리를 통해 플랫폼 원격 분석 및 전력 계산에서 중개 데몬 대신 요청 앱에 작업을 청구할 수 있습니다.
이벤트 디바운싱 구성
ISchedulingCallback 리스너가 IScheduling.setCallback에 등록되면 HAL은 최소 ISchedulingCallback.DEBOUNCE_DURATION_MS(50ms) 동안 관련 작업 알림을 디바운스합니다. 작업 항목은 동일한 uid, originalUid, debugFeatureId를 공유하거나 동일한 groupId를 공유하는 경우 관련이 있는 것으로 간주됩니다. 디바운싱은 스트리밍 또는 다단계 추론 실행 중에 빠른 콜백 폭풍을 억제하여 Binder 오버헤드와 로그 플러딩을 줄입니다.
콜백 수명 주기 상태는 ISchedulingCallback의 세 가지 메서드를 통해 보고됩니다.
onWorkRequested: 워크로드가 공급업체 서비스 또는 드라이버에 의해 수신됩니다.onWorkStarted: 하드웨어 실행이 시작되고StartReason로 태그가 지정됩니다.StartReason.INITIAL: 새 앱 요청에 대한 초기 실행입니다.StartReason.RESUMED: 일시중지 후 실행이 재개됨(PAUSED).
onWorkEnded: 관련 후속 작업 없이DEBOUNCE_DURATION_MS가 경과하면 하드웨어 실행이 중지되고EndReason로 태그가 지정됩니다.EndReason.COMPLETED: 실행이 정상적으로 완료되었습니다.EndReason.CANCELLED_USER: 호출 앱에서 실행을 취소했습니다.EndReason.CANCELLED_SYSTEM: 우선순위가 높은 작업에 의해 실행이 선점되고 취소됨.EndReason.PAUSED: 우선순위가 높은 작업을 실행하기 위해 실행이 일시적으로 일시중지되었으며StartReason.RESUMED로 재개할 수 있습니다.EndReason.FAILED: 드라이버 또는 하드웨어 오류로 인해 실행에 실패했습니다.
유효성 검사
다음 테스트 모음을 사용하여 NPU 예약 구현을 검증합니다.
- 공급업체 테스트 모음(VTS):
VtsHalNpuSchedulingTargetTest(VtsHalNpuTargetTest에 패키징됨)을 실행하여IScheduling구성 업데이트, 유효한 우선순위 순서, UID 기여 분석 규칙,ISchedulingCallback디바운싱을 확인합니다. - 호환성 테스트 모음(CTS):
CtsNpuManagerMoblyTestCases를 실행하여 엔드 투 엔드 포그라운드와 백그라운드 NPU 워크로드 우선순위 지정을 확인합니다. 테스트 설정 안내는 NPU Manager Mobly 테스트 실행을 참고하세요.