Reproducción de vídeo HDR

El video de alto rango dinámico (HDR) es la próxima frontera en la decodificación de video de alta calidad, brindando calidades de reproducción de escenas inigualables. Lo hace aumentando significativamente el rango dinámico del componente de luminancia (de los 100 cd/m 2 actuales a miles de cd/m 2 ) y utilizando un espacio de color mucho más amplio (BT 2020). Este es ahora un elemento central de la evolución 4K UHD en el espacio de la televisión.

Android 10 es compatible con los siguientes videos HDR.

  • HDR10
  • VP9
  • HDR10+

A partir de Android 9 y superior, MediaCodec informa metadatos HDR independientemente del modo de túnel. Puede obtener datos decodificados junto con metadatos estáticos/dinámicos en modo sin túnel. Para HDR10 y VP9Profile2 que usan metadatos estáticos, estos se informan en el formato de salida con la clave KEY_HDR_STATIC_INFO . Para HDR10+ que usa metadatos dinámicos, esto se informa con la clave KEY_HDR10_PLUS_INFO en el formato de salida y puede cambiar para cada cuadro de salida. Consulte Tunelización multimedia para obtener más información.

Desde Android 7.0, la compatibilidad inicial con HDR incluye la creación de constantes adecuadas para el descubrimiento y la configuración de canalizaciones de video HDR. Eso significa definir los tipos de códec y los modos de visualización y especificar cómo se deben pasar los datos HDR a MediaCodec y suministrarse a los decodificadores HDR.

El propósito de este documento es ayudar a los desarrolladores de aplicaciones a admitir la reproducción de secuencias HDR y ayudar a los OEM y SOC a habilitar las funciones HDR.

Tecnologías HDR compatibles

A partir de Android 7.0 y superior, se admiten las siguientes tecnologías HDR.

Tecnología Dolby Vision HDR10 VP9-HLG VP9-PQ
códec AVC/HEVC HEVC VP9 VP9
Función de transferencia ST-2084 ST-2084 HLG ST-2084
Tipo de metadatos HDR Dinámica Estático Ninguna Estático

En Android 7.0, solo se define la reproducción HDR a través del modo de túnel , pero los dispositivos pueden agregar soporte para la reproducción de HDR en SurfaceViews usando búferes de video opacos. En otras palabras:

  • No existe una API de Android estándar para verificar si la reproducción HDR es compatible con decodificadores sin túnel.
  • Los decodificadores de video en túnel que anuncian la capacidad de reproducción HDR deben admitir la reproducción HDR cuando se conectan a pantallas compatibles con HDR.
  • La composición GL del contenido HDR no es compatible con la versión AOSP Android 7.0.

Descubrimiento

La reproducción HDR requiere un decodificador compatible con HDR y una conexión a una pantalla compatible con HDR. Opcionalmente, algunas tecnologías requieren un extractor específico.

Monitor

Las aplicaciones utilizarán la nueva API Display.getHdrCapabilities para consultar las tecnologías HDR compatibles con la pantalla especificada. Esta es básicamente la información en el bloque de datos de metadatos estáticos EDID como se define en CTA-861.3:

  • public Display.HdrCapabilities getHdrCapabilities()
    Devuelve las capacidades HDR de la pantalla.
  • Display.HdrCapabilities
    Encapsula las capacidades HDR de una pantalla determinada. Por ejemplo, qué tipos de HDR admite y detalles sobre los datos de luminancia deseados.

Constantes:

  • int HDR_TYPE_DOLBY_VISION
    Compatibilidad con Dolby Vision.
  • int HDR_TYPE_HDR10
    Compatibilidad con HDR10/PQ.
  • int HDR_TYPE_HLG
    Soporte híbrido Log-Gamma.
  • float INVALID_LUMINANCE
    Valor de luminancia no válido.

Métodos públicos:

  • float getDesiredMaxAverageLuminance()
    Devuelve los datos de luminancia promedio de fotogramas máximos del contenido deseado en cd/cd/m 2 para esta pantalla.
  • float getDesiredMaxLuminance()
    Devuelve los datos de luminancia máxima del contenido deseado en cd/cd/m 2 para esta pantalla.
  • float getDesiredMinLuminance()
    Devuelve los datos de luminancia mínima del contenido deseado en cd/cd/m 2 para esta pantalla.
  • int[] getSupportedHdrTypes()
    Obtiene los tipos HDR admitidos de esta pantalla (ver constantes). Devuelve una matriz vacía si HDR no es compatible con la pantalla.

Descifrador

Las aplicaciones deben utilizar la API CodecCapabilities.profileLevels existente para verificar la compatibilidad con los nuevos perfiles compatibles con HDR:

Dolby Vision

Constante mímica MediaFormat :

String MIMETYPE_VIDEO_DOLBY_VISION

MediaCodecInfo.CodecProfileLevel constantes de perfil:

int DolbyVisionProfileDvavPen
int DolbyVisionProfileDvavPer
int DolbyVisionProfileDvheDen
int DolbyVisionProfileDvheDer
int DolbyVisionProfileDvheDtb
int DolbyVisionProfileDvheDth
int DolbyVisionProfileDvheDtr
int DolbyVisionProfileDvheStn

Las aplicaciones de video deben concatenar las capas de video y los metadatos de Dolby Vision en un solo búfer por fotogramas. Esto lo hace automáticamente el MediaExtractor compatible con Dolby-Vision.

HEVC HDR 10

MediaCodecInfo.CodecProfileLevel constantes de perfil:

int HEVCProfileMain10HDR10

VP9 HLG y PQ

MediaCodecInfo.CodecProfileLevel constantes de perfil:

int VP9Profile2HDR
int VP9Profile3HDR

Si una plataforma admite un decodificador compatible con HDR, también debe admitir un extractor compatible con HDR.

Solo los decodificadores tunelizados están garantizados para reproducir contenido HDR. La reproducción por decodificadores no tunelizados puede provocar que se pierda la información HDR y que el contenido se aplane en un volumen de color SDR.

Extractor

Los siguientes contenedores son compatibles con las diversas tecnologías HDR en Android 7.0:

Tecnología Dolby Vision HDR10 VP9-HLG VP9-PQ
Envase MP4 MP4 WebM WebM

La plataforma no admite el descubrimiento de si una pista (de un archivo) requiere compatibilidad con HDR. Las aplicaciones pueden analizar los datos específicos del códec para determinar si una pista requiere un perfil HDR específico.

Resumen

Los requisitos de componentes para cada tecnología HDR se muestran en la siguiente tabla:

Tecnología Dolby Vision HDR10 VP9-HLG VP9-PQ
Tipo de HDR compatible (pantalla) HDR_TYPE_DOLBY_VISION HDR_TYPE_HDR10 HDR_TYPE_HLG HDR_TYPE_HDR10
Contenedor (Extractor) MP4 MP4 WebM WebM
Descifrador MIMETYPE_VIDEO_DOLBY_VISION MIMETYPE_VIDEO_HEVC MIMETYPE_VIDEO_VP9 MIMETYPE_VIDEO_VP9
Perfil (Decodificador) Uno de los perfiles Dolby HEVCProfileMain10HDR10 VP9Perfil2HDR o VP9Perfil3HDR VP9Perfil2HDR o VP9Perfil3HDR

Notas:

  • Los flujos de bits de Dolby-Vision se empaquetan en un contenedor MP4 de una manera definida por Dolby. Las aplicaciones pueden implementar sus propios extractores compatibles con Dolby siempre que empaqueten las unidades de acceso de las capas correspondientes en una única unidad de acceso para el decodificador, según lo define Dolby.
  • Una plataforma puede admitir un extractor compatible con HDR, pero no un decodificador compatible con HDR correspondiente.

Reproducción

Una vez que una aplicación ha verificado la compatibilidad con la reproducción HDR, puede reproducir contenido HDR casi de la misma manera que reproduce contenido que no es HDR, con las siguientes advertencias:

  • Para Dolby-Vision, si un archivo/pista de medios específico requiere o no un decodificador compatible con HDR no está disponible de inmediato. La aplicación debe tener esta información por adelantado o ser capaz de obtener esta información analizando la sección de datos específica del códec de MediaFormat.
  • CodecCapabilities.isFormatSupported no tiene en cuenta si se requiere la función de decodificador tunelizado para admitir dicho perfil.

Habilitación de la compatibilidad con la plataforma HDR

Los proveedores de SoC y los OEM deben realizar un trabajo adicional para habilitar la compatibilidad con la plataforma HDR para un dispositivo.

Cambios de plataforma en Android 7.0 para HDR

Estos son algunos cambios clave en la plataforma (aplicación/capa nativa) que los OEM y los SOC deben tener en cuenta.

Monitor

Composición de hardware

Las plataformas compatibles con HDR deben admitir la combinación de contenido HDR con contenido no HDR. Las características y operaciones de combinación exactas no están definidas por Android a partir de la versión 7.0, pero el proceso generalmente sigue estos pasos:

  1. Determine un espacio/volumen de color lineal que contenga todas las capas que se van a componer, en función del color, la masterización y los posibles metadatos dinámicos de las capas.
    Si realiza la composición directamente en una pantalla, este podría ser el espacio lineal que coincida con el volumen de color de la pantalla.
  2. Convierta todas las capas al espacio de color común.
  3. Realice la mezcla.
  4. Si se muestra a través de HDMI:
    1. Determine el color, la masterización y los posibles metadatos dinámicos para la escena combinada.
    2. Convierta la escena combinada resultante al espacio de color/volumen derivado.
  5. Si se muestra directamente en la pantalla, convierta la escena combinada resultante en las señales de pantalla requeridas para producir esa escena.

Mostrar descubrimiento

El descubrimiento de pantalla HDR solo es compatible a través de HWC2. Los implementadores de dispositivos deben habilitar de forma selectiva el adaptador HWC2 que se lanza con Android 7.0 para que funcione esta función. Por lo tanto, las plataformas deben agregar soporte para HWC2 o ampliar el marco AOSP para permitir una forma de proporcionar esta información. HWC2 expone una nueva API para propagar datos estáticos HDR al marco y la aplicación.

HDMI

  • Una pantalla HDMI conectada anuncia su capacidad HDR a través de HDMI EDID como se define en CTA-861.3 sección 4.2.
  • Se utilizará el siguiente mapeo EOTF:
    • ET_0 Gamma tradicional - Rango de luminancia SDR: no asignado a ningún tipo de HDR
    • ET_1 Gamma tradicional - Rango de luminancia HDR: no asignado a ningún tipo de HDR
    • ET_2 SMPTE ST 2084 - asignado a tipo HDR HDR10
  • La señalización del soporte de Dolby Vision o HLG a través de HDMI se realiza según lo definido por sus organismos correspondientes.
  • Tenga en cuenta que la API de HWC2 utiliza valores flotantes de luminancia deseados, por lo que los valores EDID de 8 bits deben traducirse de manera adecuada.

Decodificadores

Las plataformas deben agregar decodificadores de túnel compatibles con HDR y anunciar su compatibilidad con HDR. En general, los decodificadores compatibles con HDR deben:

  • Admite decodificación tunelada ( FEATURE_TunneledPlayback ).
  • Admite metadatos estáticos HDR ( OMX.google.android.index.describeHDRColorInfo ) y su propagación a la composición de pantalla/hardware. Para HLG, se deben enviar los metadatos apropiados a la pantalla.
  • Admite la descripción del color ( OMX.google.android.index.describeColorAspects ) y su propagación a la composición de pantalla/hardware.
  • Admite metadatos incrustados HDR según lo definido por el estándar relevante.

Compatibilidad con el decodificador Dolby Vision

Para admitir Dolby Vision, las plataformas deben agregar un decodificador HDR OMX compatible con Dolby-Vision. Dadas las especificaciones de Dolby Vision, normalmente se trata de un decodificador envolvente de uno o más decodificadores AVC y/o HEVC, así como de un compositor. Dichos decodificadores deben:

  • Admite el tipo de mímica "video/dolby-vision".
  • Anuncie los perfiles/niveles compatibles con Dolby Vision.
  • Acepte unidades de acceso que contengan las subunidades de acceso de todas las capas definidas por Dolby.
  • Acepta datos específicos del códec definidos por Dolby. Por ejemplo, datos que contengan el perfil/nivel de Dolby Vision y posiblemente los datos específicos del códec para los decodificadores internos.
  • Admite el cambio adaptativo entre los perfiles/niveles de Dolby Vision según lo requiera Dolby.

Al configurar el decodificador, el perfil Dolby real no se comunica al códec. Esto solo se hace a través de datos específicos del códec después de que se haya iniciado el decodificador. Una plataforma podría optar por admitir varios decodificadores Dolby Vision: uno para perfiles AVC y otro para perfiles HEVC para poder inicializar los códecs subyacentes durante el tiempo de configuración. Si un solo decodificador Dolby Vision admite ambos tipos de perfiles, también debe admitir el cambio entre ellos de forma dinámica y adaptativa.

Si una plataforma proporciona un decodificador compatible con Dolby-Vision además del soporte general del decodificador HDR, debe:

  • Proporcione un extractor compatible con Dolby-Vision, incluso si no es compatible con la reproducción HDR.
  • Proporcione un decodificador que admita el perfil de visión definido por Dolby.

Compatibilidad con decodificador HDR10

Para admitir HDR10, las plataformas deben agregar un decodificador OMX compatible con HDR10. Este es normalmente un decodificador HEVC tunelizado que también admite el análisis y el manejo de metadatos relacionados con HDMI. Dicho decodificador (además del soporte general del decodificador HDR) debe:

  • Admite el tipo mimo "video/hevc".
  • Anuncio compatible con HEVCMain10HDR10. La compatibilidad con el perfil HEVCMain10HRD10 también requiere compatibilidad con el perfil HEVCMain10, que requiere compatibilidad con el perfil HEVCMain en los mismos niveles.
  • Admite el análisis de los bloques SEI de metadatos de masterización, así como otra información relacionada con HDR contenida en SPS.

Compatibilidad con el decodificador VP9

Para admitir VP9 HDR, las plataformas deben agregar un decodificador HDR OMX compatible con VP9 Profile2. Este es normalmente un decodificador VP9 tunelizado que también admite el manejo de metadatos relacionados con HDMI. Dichos decodificadores (además del soporte general de decodificadores HDR) deben:

  • Admite el tipo mime "video/x-vnd.on2.vp9".
  • Publicidad compatible con VP9Profile2HDR. La compatibilidad con el perfil VP9Profile2HDR también requiere admitir el perfil VP9Profile2 al mismo nivel.

Extractores

Soporte extractor Dolby Vision

Las plataformas que admiten decodificadores Dolby Vision deben agregar compatibilidad con Dolby Extractor (llamado Dolby Extractor) para el contenido de Dolby Video.

  • Un extractor MP4 normal solo puede extraer la capa base de un archivo, pero no las capas de mejora o de metadatos. Por lo tanto, se necesita un extractor Dolby especial para extraer los datos del archivo.
  • El extractor de Dolby debe exponer de 1 a 2 pistas para cada pista de video Dolby (grupo):
    • Una pista Dolby Vision HDR con el tipo de "video/dolby-vision" para la transmisión Dolby combinada de 2/3 capas. El formato de unidad de acceso de la pista HDR, que define cómo empaquetar las unidades de acceso de las capas de base/mejora/metadatos en un solo búfer para ser decodificado en un solo cuadro HDR, debe ser definido por Dolby.
    • Si una pista de video Dolby Vision contiene una capa base (BL) separada (compatible con versiones anteriores), el extractor también debe exponerla como una pista "video/avc" o "video/hevc" separada. El extractor debe proporcionar unidades de acceso regulares AVC/HEVC para esta vía.
    • La pista BL debe tener el mismo ID único de pista ("ID de pista") que la pista HDR para que la aplicación comprenda que se trata de dos codificaciones del mismo video.
    • La aplicación puede decidir qué pista elegir según la capacidad de la plataforma.
  • El perfil/nivel de Dolby Vision debe exponerse en el formato de pista de la pista HDR.
  • Si una plataforma proporciona un decodificador compatible con Dolby-Vision, también debe proporcionar un extractor compatible con Dolby-Vision, incluso si no es compatible con la reproducción HDR.

Compatibilidad con extractores HDR10 y VP9 HDR

No hay requisitos de extractores adicionales para admitir HDR10 o VP9 HLG. Las plataformas deben ampliar el extractor de MP4 para admitir VP9 PQ en MP4. Los metadatos estáticos HDR deben propagarse en el flujo de bits VP9 PQ, de modo que estos metadatos se pasen al decodificador VP9 PQ y a la pantalla a través de la tubería normal MediaExtractor => MediaCodec.

Extensiones de Stagefright para compatibilidad con Dolby Vision

Las plataformas deben agregar compatibilidad con el formato Dolby Vision a Stagefright:

  • Compatibilidad con consulta de definición de puerto para puerto comprimido.
  • Admite enumeración de perfil/nivel para decodificador DV.
  • Admite exposición de perfil/nivel DV para pistas DV HDR.

Detalles de implementación específicos de la tecnología

Canalización del decodificador HDR10

Figura 1. Canalización de HDR10

Los flujos de bits HDR10 se empaquetan en contenedores MP4. Las aplicaciones utilizan un extractor de MP4 normal para extraer los datos del cuadro y enviarlos al decodificador.

  • Extractor MPEG4
    Los flujos de bits HDR10 son reconocidos como un flujo HEVC normal por un MPEG4Extractor y se extraerá la pista HDR con el tipo "video/HEVC". El marco elige un decodificador de video HEVC que admite el perfil Main10HDR10 para decodificar esa pista.
  • Decodificador HEVC
    La información HDR está en SEI o SPS. El decodificador HEVC primero recibe cuadros que contienen la información HDR. Luego, el decodificador extrae la información HDR y notifica a la aplicación que está decodificando un video HDR. La información HDR se empaqueta en el formato de salida del decodificador, que luego se propaga a la superficie.

Acciones de proveedores

  1. Anuncie el perfil de decodificador HDR compatible y el tipo OMX de nivel. Ejemplo:
    OMX_VIDEO_HEVCProfileMain10HDR10 (y Main10 )
  2. Implementar soporte para el índice: ' OMX.google.android.index.describeHDRColorInfo '
  3. Implementar compatibilidad con el índice: ' OMX.google.android.index.describeColorAspects '
  4. Implementar soporte para análisis SEI de metadatos de masterización.

Canalización del decodificador Dolby Vision

Figura 2. Canalización de Dolby Vision

Dolby-bitstreams se empaquetan en contenedores MP4 según lo define Dolby. Las aplicaciones podrían, en teoría, usar un extractor MP4 normal para extraer la capa base, la capa de mejora y la capa de metadatos de forma independiente; sin embargo, esto no se ajusta al modelo actual de Android MediaExtractor/MediaCodec.

  • Extractor Dolby:
    • Dolby-bitstreams son reconocidos por un DolbyExtractor, que expone las distintas capas como 1 o 2 pistas para cada pista de vídeo dolby (grupo):
      • Una pista HDR con el tipo de "video/dolby-vision" para la transmisión Dolby combinada de 2/3 capas. El formato de unidad de acceso de la pista HDR, que define cómo empaquetar las unidades de acceso de las capas de base/mejora/metadatos en un solo búfer para ser decodificado en un solo cuadro HDR, debe ser definido por Dolby.
      • (Opcional, solo si el BL es compatible con versiones anteriores) Una pista BL contiene solo la capa base, que debe ser decodificable por el decodificador MediaCodec normal, por ejemplo, el decodificador AVC/HEVC. El extractor debe proporcionar unidades de acceso AVC/HEVC regulares para esta vía. Esta pista BL debe tener el mismo ID único de pista ("ID de pista") que la pista Dolby para que la aplicación comprenda que se trata de dos codificaciones del mismo video.
    • La aplicación puede decidir qué pista elegir según la capacidad de la plataforma.
    • Debido a que una pista HDR tiene un tipo de HDR específico, el marco elegirá un decodificador de video Dolby para decodificar esa pista. La pista BL será decodificada por un decodificador de video AVC/HEVC normal.
  • Decodificador Dolby:
    • DolbyDecoder recibe unidades de acceso que contienen las unidades de acceso requeridas para todas las capas (EL+BL+MD o BL+MD)
    • La información CSD (datos específicos del códec, como SPS+PPS+VPS) para las capas individuales se puede empaquetar en 1 cuadro CSD para que Dolby lo defina. Se requiere tener un solo marco CSD.

Acciones Dolby

  1. Definir el empaquetado de unidades de acceso para los diversos esquemas de contenedor Dolby (por ejemplo, BL+EL+MD) para el decodificador Dolby abstracto (es decir, el formato de memoria intermedia esperado por el decodificador HDR).
  2. Defina el empaquetado de CSD para el decodificador Dolby abstracto.

Acciones de proveedores

  1. Implementar el extractor de Dolby. Esto también lo puede hacer Dolby.
  2. Integre DolbyExtractor en el marco. El punto de entrada es frameworks/av/media/libstagefright/MediaExtractor.cpp .
  3. Declara el perfil del decodificador HDR y el tipo OMX de nivel. Ejemplo: OMX_VIDEO_DOLBYPROFILETYPE y OMX_VIDEO_DOLBYLEVELTYP .
  4. Implementar soporte para el índice: 'OMX.google.android.index.describeColorAspects '
  5. Propaga los metadatos HDR dinámicos a la aplicación y la superficie en cada cuadro. Por lo general, esta información debe empaquetarse en el cuadro decodificado según lo define Dolby, porque el estándar HDMI no proporciona una forma de pasar esto a la pantalla.

Canalización del decodificador VP9

Figura 3. Tubería VP9-PQ

Los flujos de bits VP9 se empaquetan en contenedores WebM de una manera definida por el equipo de WebM. Las aplicaciones necesitan usar un extractor WebM para extraer metadatos HDR del flujo de bits antes de enviar cuadros al decodificador.

  • Extractor WebM:
  • Decodificador VP9:
    • El decodificador recibe flujos de bits de Profile2 y los decodifica como flujos VP9 normales.
    • El decodificador recibe cualquier metadato estático HDR del marco.
    • El decodificador recibe metadatos estáticos a través de las unidades de acceso de flujo de bits para flujos VP9 PQ.
    • El decodificador VP9 debe poder propagar los metadatos estáticos/dinámicos HDR a la pantalla.

Acciones del proveedor

  1. Implementar soporte para índice: OMX.google.android.index.describeHDRColorInfo
  2. Implementar soporte para índice: OMX.google.android.index.describeColorAspects
  3. Propagar metadatos estáticos HDR