Streaming simultâneo da câmera

Mantenha tudo organizado com as coleções Salve e categorize o conteúdo com base nas suas preferências.

O Android permite que dispositivos sejam compatíveis com streaming simultâneo de dispositivos de câmera. Por exemplo, isso permite que um dispositivo tenha as câmeras frontal e traseira operando ao mesmo tempo. A partir do Android 11, a API Camera2 inclui os seguintes métodos que os apps podem chamar para determinar se as câmeras são compatíveis com o streaming simultâneo e as configurações de streaming que são compatíveis.

• getConcurrentCameraIds: retorna o conjunto de combinações de identificadores de dispositivos de câmera conectados no momento que oferecem suporte à configuração de sessões de dispositivos de câmera simultaneamente.
• isConcurrentSessionConfigurationSupported: verifica se o conjunto fornecido de dispositivos de câmera e as configurações de sessão correspondentes podem ser configuradas simultaneamente.

Um conjunto de combinações obrigatórias de transmissões ao vivo que precisam ser aceitas durante eventos simultâneos streaming são incluídas por meio das características de uma câmera de dispositivo no SCALER_MANDATORY_CONCURRENT_STREAM_COMBINATIONS .

Cada câmera anunciada por getConcurrentStreamingCameraIds() precisa oferecem suporte às seguintes configurações garantidas para streams simultâneos.

Os dispositivos com o recurso MONOCHROME (CameraCharacteristics#REQUEST_AVAILABLE_CAPABILITIES inclui CameraMetadata#REQUEST_AVAILABLE_CAPABILITIES_MONOCHROME) com suporte a Y8 precisam substituir os fluxos YUV por Y8 em todas as combinações de fluxo garantidas.

s720p refere-se a 720p (1280 x 720) ou a resolução máxima suportada para o formato específico retornado pelo StreamConfigurationMap.getOutputSizes(). s1440p se refere a 1440p (1920 x 1440) ou à resolução máxima com suporte para o formato específico retornado por StreamConfigurationMap.getOutputSizes(). Os dispositivos que não têm os recursos ANDROID_REQUEST_AVAILABLE_CAPABILITIES_BACKWARD_COMPATIBLE precisam oferecer suporte a pelo menos um único fluxo Y16, Dataspace::DEPTH com resolução sVGA, durante a operação simultânea, em que o sVGA é o menor das duas resoluções a seguir:

• resolução máxima de saída do formato fornecido
• 640 x 480

Implementação

Para permitir que apps consultem um dispositivo para determinar se oferecem suporte a streaming simultâneo, implemente a ICameraProvider@2.6 HAL, que inclui os seguintes métodos:

• getConcurrentStreamingCameraIds
• isConcurrentStreamCombinationSupported

Para conferir uma implementação de referência da interface ICameraProvider@2.6HAL, consulte a biblioteca HAL da câmera emulada EmulatedCameraProviderHWLImpl.cpp.

Validação

Para testar se a implementação desse recurso funciona conforme o esperado, use o teste do CTS ConcurrentCameraTest.java. Além disso, teste usando um app que abra várias câmeras e as opere simultaneamente.

Problemas de alocação de recursos

Se as HALs da câmera anunciarem compatibilidade com operação simultânea de do Google, elas podem ter problemas de alocação de recursos, quando há recursos suficientes do processador de sinal de imagem (ISP) na para transmitir as câmeras frontal e traseira (ou outras) simultaneamente, mas não para a capacidade total. Nesse caso, o HAL da câmera precisa alocar recursos limitados de hardware para cada dispositivo de câmera.

Exemplo

O cenário a seguir demonstra esse problema.

Problema

O dispositivo tem a seguinte configuração:

• O ID de câmera 0 é uma câmera lógica com suporte de uma câmera ampla e ultra-ampla, cada uma com um recurso de ISP.
• O ID da câmera 1 é uma câmera que usa um recurso do ISP.

O dispositivo (smartphone) tem dois ISPs. Se o ID da câmera 0 for aberto e uma sessão for configurada, é possível que o HAL da câmera reserve duas ISPs antecipando o uso da câmera ultralarga e larga.

Se esse for o caso, a câmera frontal (ID 1) não poderá configurar nada porque ambos os ISPs estão em uso.

Solução

Para resolver esse problema, o framework pode abrir os IDs de câmera 0 e 1. antes de configurar as sessões para dar uma dica à HAL da câmera sobre como alocar recursos (porque agora espera operação simultânea de câmeras). No entanto, isso pode levar a recursos limitados, por exemplo, o zoom pode não ser conseguem lidar com a proporção de alcance de zoom total (porque alternar a câmera física IDs podem ser problemáticos).

Para implementar essa solução, faça as seguintes atualizações em provider@2.6::ICameraProvider::getConcurrentCameraStreamingCameraIds.

• O mandato de que, para operação simultânea de câmeras, o framework precisa abrir dispositivos de câmera (@3.2::ICameraDevice::open) antes de configurar qualquer sessão nos dispositivos de câmera. Isso permite que os provedores de câmera aloquem recursos de acordo.

• Para resolver o problema de não conseguir lidar com o proporção do intervalo de zoom, garanta que os apps de câmera, ao usar câmeras simultaneamente, usam a configuração de controle ZOOM_RATIO entre 1x e MAX_DIGITAL_ZOOM em vez de ZOOM_RATIO_RANGE completa (essa impede a troca interna de câmeras físicas, o que pode exige mais ISPs).

Problema com testDualCameraPreview

Quando você faz as atualizações acima, isso pode criar um problema com um comportamento permitido pelo teste MultiViewTest.java#testDualCameraPreview.

O teste testDualCameraPreview não configura sessões apenas depois de abrir todas as câmeras. Ela segue esta sequência:

for each camera  in cameraDevices :
  device = openCamera(camera)
     createCaptureSession(device);

No entanto, ele tolera falhas de abertura da câmera com ERROR_MAX_CAMERAS_IN_USE [1]. Apps de terceiros podem depender desse comportamento.

Porque a HAL da câmera não saberá o conjunto completo de IDs da câmera que estão sendo abertos. para operação simultânea antes de configurar as sessões, pode ser difícil alocar recursos de hardware (supondo que haja alguma concorrência entre eles).

Para resolver esse problema, mantendo a compatibilidade com versões anteriores, além de oferecer suporte a streamings simultâneos, as HALs de câmera precisam falhar nas chamadas openCamera com ERROR_MAX_CAMERAS_IN_USE se não for possível oferecer suporte à configuração de streaming completa para todas as câmeras em execução simultaneamente.