Streaming simultâneo da câmera

O Android permite que dispositivos sejam compatíveis com streaming simultâneo de dispositivos de câmera. Por exemplo, isso permite que um dispositivo tenha as câmeras frontal e traseira operando ao mesmo tempo. A partir do Android 11, a API Camera2 inclui os seguintes métodos que os apps podem chamar para determinar se as câmeras são compatíveis com o streaming simultâneo e as configurações de streaming que são compatíveis.

• getConcurrentCameraIds: retorna o conjunto de combinações de identificadores de dispositivos de câmera conectados no momento que oferecem suporte à configuração de sessões de dispositivos de câmera simultaneamente.
• isConcurrentSessionConfigurationSupported: verifica se o conjunto fornecido de dispositivos de câmera e as configurações de sessão correspondentes podem ser configuradas simultaneamente.

Um conjunto de combinações de streaming obrigatórias que precisam ter suporte durante o streaming simultâneo é incluído nas características da câmera de um dispositivo de câmera na propriedade SCALER_MANDATORY_CONCURRENT_STREAM_COMBINATIONS.

Cada dispositivo de câmera anunciado por getConcurrentStreamingCameraIds() precisa oferecer suporte às seguintes configurações garantidas para transmissões simultâneas.

Os dispositivos com o recurso MONOCHROME (CameraCharacteristics#REQUEST_AVAILABLE_CAPABILITIES inclui CameraMetadata#REQUEST_AVAILABLE_CAPABILITIES_MONOCHROME) com suporte a Y8 precisam substituir os fluxos YUV por Y8 em todas as combinações de fluxo garantidas.

s720p se refere a 720p (1280 x 720) ou à resolução máxima aceita para o formato específico retornado por StreamConfigurationMap.getOutputSizes(). s1440p se refere a 1.440p (1.920 x 1.440) ou a resolução máxima aceita para o formato específico retornado por StreamConfigurationMap.getOutputSizes(). Os dispositivos que não têm os recursos ANDROID_REQUEST_AVAILABLE_CAPABILITIES_BACKWARD_COMPATIBLE precisam oferecer suporte a pelo menos um único fluxo Y16, Dataspace::DEPTH com resolução sVGA, durante a operação simultânea, em que o sVGA é o menor das duas resoluções a seguir:

• resolução máxima de saída para o formato fornecido
• 640 x 480

Implementação

Para permitir que os apps consultem um dispositivo para determinar se as câmeras oferecem suporte a streaming simultâneo, implemente a interface HAL ICameraProvider@2.6, que inclui os seguintes métodos:

• getConcurrentStreamingCameraIds
• isConcurrentStreamCombinationSupported

Para conferir uma implementação de referência da interface HAL ICameraProvider@2.6, consulte a biblioteca HAL da câmera emulada em EmulatedCameraProviderHWLImpl.cpp.

Validação

Para testar se a implementação desse recurso funciona conforme o esperado, use o teste CTS ConcurrentCameraTest.java. Além disso, teste usando um app que abra várias câmeras e as operam simultaneamente.

Problemas de alocação de recursos

Se os HALs de câmera anunciarem suporte para operação simultânea de dispositivos de câmera, eles poderão enfrentar problemas de alocação de recursos, especialmente no caso em que há recursos suficientes de processador de sinal de imagem (ISP) no smartphone para transmitir câmeras frontal e traseira (ou outras) simultaneamente, mas não na capacidade total. Nesse caso, o HAL da câmera precisa alocar recursos limitados de hardware para cada dispositivo de câmera.

Exemplo

O cenário a seguir demonstra esse problema.

Problema

O dispositivo tem a seguinte configuração:

• O ID de câmera 0 é uma câmera lógica com suporte de uma câmera ampla e ultra-ampla, cada uma delas usa um recurso de ISP.
• O ID da câmera 1 é uma câmera que usa um recurso de ISP.

O dispositivo (smartphone) tem dois ISPs. Se o ID da câmera 0 for aberto e uma sessão for configurada, é possível que o HAL da câmera reserve duas ISPs antecipando o uso da câmera ultrawide e wide.

Nesse caso, a câmera frontal (ID 1) não pode configurar nenhum fluxo porque os dois ISPs estão em uso.

Solução

Para resolver esse problema, o framework pode abrir os IDs de câmera 0 e 1 antes de configurar as sessões para fornecer uma dica à HAL da câmera sobre como alocar recursos, porque agora ela espera a operação simultânea de câmeras. No entanto, isso pode levar a recursos limitados. Por exemplo, o zoom pode não ser capaz de processar a proporção total do intervalo de zoom, porque a troca de IDs de câmera física pode ser problemática.

Para implementar essa solução, faça as seguintes atualizações em provider@2.6::ICameraProvider::getConcurrentCameraStreamingCameraIds.

• Exigir que, para operação simultânea de câmeras, o framework precisa abrir dispositivos de câmera (@3.2::ICameraDevice::open) antes de configurar qualquer sessão neles. Isso permite que os provedores de câmera aloquem recursos de acordo.

• Para resolver o problema de não conseguir processar a proporção de intervalo de zoom total, garanta que os apps de câmera, ao usar câmeras simultaneamente, usem a configuração de controle ZOOM_RATIO entre apenas 1x e MAX_DIGITAL_ZOOM, em vez da ZOOM_RATIO_RANGE completa. Isso evita a troca interna de câmeras físicas, o que pode exigir mais ISPs.

Problema com testDualCameraPreview

Quando você faz as atualizações acima, pode haver um problema com um comportamento permitido pelo teste MultiViewTest.java#testDualCameraPreview.

O teste testDualCameraPreview não configura sessões apenas depois de abrir todas as câmeras. Ela segue esta sequência:

for each camera  in cameraDevices :
  device = openCamera(camera)
     createCaptureSession(device);

No entanto, ele tolera falhas de abertura da câmera com ERROR_MAX_CAMERAS_IN_USE [1]. Apps de terceiros podem depender desse comportamento.

Como a HAL da câmera não saberá o conjunto completo de IDs de câmera que estão sendo abertos para operação simultânea antes de configurar as sessões, pode ser difícil alocar recursos de hardware, supondo que haja alguma concorrência entre eles.

Para resolver esse problema, manter a compatibilidade com versões anteriores, além de oferecer suporte ao streaming simultâneo, as HALs da câmera precisam falhar em chamadas openCamera com ERROR_MAX_CAMERAS_IN_USE se não puderem oferecer suporte à configuração completa do stream para todas as câmeras executadas ao mesmo tempo.