Audio televisivo

Il gestore TV Input Framework (TIF) funziona con l'API di routing audio per supportare modifiche flessibili del percorso audio. Quando un System on Chip (SoC) implementa il livello di astrazione hardware (HAL) della TV, ogni ingresso TV (HDMI IN, sintonizzatore, ecc.) fornisce TvInputHardwareInfo che specifica le informazioni AudioPort per il tipo e l'indirizzo audio.

  • I dispositivi di ingresso/uscita audio fisici dispongono di una porta audio corrispondente.
  • I flussi di output/input audio del software sono rappresentati come AudioMixPort (classe secondaria di AudioPort).

Il TIF utilizza quindi le informazioni AudioPort per l'API di routing audio.

Android TV Input Framework (TIF)

Figura 1. Quadro di input TV (TIF)

Requisiti

Un SoC deve implementare l'HAL audio con il seguente supporto API di routing audio:

Porte audio
  • L'ingresso audio della TV ha un'implementazione della porta della sorgente audio corrispondente.
  • L'uscita audio della TV ha un'implementazione della porta sink audio corrispondente.
  • Può creare patch audio tra qualsiasi porta audio di ingresso TV e qualsiasi porta audio di uscita TV.
Ingresso predefinito AudioRecord (creato con la sorgente di input DEFAULT) deve acquisire una sorgente di input virtuale nulla per l'acquisizione AUDIO_DEVICE_IN_DEFAULT su Android TV.
Loopback del dispositivo Richiede il supporto di un ingresso AUDIO_DEVICE_IN_LOOPBACK che è un mix completo di tutte le uscite audio di tutte le uscite TV (11Khz, 16bit mono o 48Khz, 16bit mono). Utilizzato solo per l'acquisizione audio.

Dispositivi audio televisivi

Android supporta i seguenti dispositivi audio per l'ingresso/uscita audio TV.

system/media/audio/include/system/audio.h

Nota: in Android 5.1 e versioni precedenti, il percorso di questo file è: system/core/include/system/audio.h

/* output devices */
AUDIO_DEVICE_OUT_AUX_DIGITAL  = 0x400,
AUDIO_DEVICE_OUT_HDMI   = AUDIO_DEVICE_OUT_AUX_DIGITAL,
/* HDMI Audio Return Channel */
AUDIO_DEVICE_OUT_HDMI_ARC   = 0x40000,
/* S/PDIF out */
AUDIO_DEVICE_OUT_SPDIF    = 0x80000,
/* input devices */
AUDIO_DEVICE_IN_AUX_DIGITAL   = AUDIO_DEVICE_BIT_IN | 0x20,
AUDIO_DEVICE_IN_HDMI      = AUDIO_DEVICE_IN_AUX_DIGITAL,
/* TV tuner input */
AUDIO_DEVICE_IN_TV_TUNER    = AUDIO_DEVICE_BIT_IN | 0x4000,
/* S/PDIF in */
AUDIO_DEVICE_IN_SPDIF   = AUDIO_DEVICE_BIT_IN | 0x10000,
AUDIO_DEVICE_IN_LOOPBACK    = AUDIO_DEVICE_BIT_IN | 0x40000,

Estensione HAL audio

L'estensione Audio HAL per l'API di routing audio è definita come segue:

system/media/audio/include/system/audio.h

Nota: in Android 5.1 e versioni precedenti, il percorso di questo file è: system/core/include/system/audio.h

/* audio port configuration structure used to specify a particular configuration of an audio port */
struct audio_port_config {
    audio_port_handle_t      id;           /* port unique ID */
    audio_port_role_t        role;         /* sink or source */
    audio_port_type_t        type;         /* device, mix ... */
    unsigned int             config_mask;  /* e.g. AUDIO_PORT_CONFIG_ALL */
    unsigned int             sample_rate;  /* sampling rate in Hz */
    audio_channel_mask_t     channel_mask; /* channel mask if applicable */
    audio_format_t           format;       /* format if applicable */
    struct audio_gain_config gain;         /* gain to apply if applicable */
    union {
        struct audio_port_config_device_ext  device;  /* device specific info */
        struct audio_port_config_mix_ext     mix;     /* mix specific info */
        struct audio_port_config_session_ext session; /* session specific info */
    } ext;
};
struct audio_port {
    audio_port_handle_t      id;                /* port unique ID */
    audio_port_role_t        role;              /* sink or source */
    audio_port_type_t        type;              /* device, mix ... */
    unsigned int             num_sample_rates;  /* number of sampling rates in following array */
    unsigned int             sample_rates[AUDIO_PORT_MAX_SAMPLING_RATES];
    unsigned int             num_channel_masks; /* number of channel masks in following array */
    audio_channel_mask_t     channel_masks[AUDIO_PORT_MAX_CHANNEL_MASKS];
    unsigned int             num_formats;       /* number of formats in following array */
    audio_format_t           formats[AUDIO_PORT_MAX_FORMATS];
    unsigned int             num_gains;         /* number of gains in following array */
    struct audio_gain        gains[AUDIO_PORT_MAX_GAINS];
    struct audio_port_config active_config;     /* current audio port configuration */
    union {
        struct audio_port_device_ext  device;
        struct audio_port_mix_ext     mix;
        struct audio_port_session_ext session;
    } ext;
};

hardware/libhardware/include/hardware/audio.h

struct audio_hw_device {
  :
    /**
     * Routing control
     */

    /* Creates an audio patch between several source and sink ports.
     * The handle is allocated by the HAL and should be unique for this
     * audio HAL module. */
    int (*create_audio_patch)(struct audio_hw_device *dev,
                               unsigned int num_sources,
                               const struct audio_port_config *sources,
                               unsigned int num_sinks,
                               const struct audio_port_config *sinks,
                               audio_patch_handle_t *handle);

    /* Release an audio patch */
    int (*release_audio_patch)(struct audio_hw_device *dev,
                               audio_patch_handle_t handle);

    /* Fills the list of supported attributes for a given audio port.
     * As input, "port" contains the information (type, role, address etc...)
     * needed by the HAL to identify the port.
     * As output, "port" contains possible attributes (sampling rates, formats,
     * channel masks, gain controllers...) for this port.
     */
    int (*get_audio_port)(struct audio_hw_device *dev,
                          struct audio_port *port);

    /* Set audio port configuration */
    int (*set_audio_port_config)(struct audio_hw_device *dev,
                         const struct audio_port_config *config);

Test di DEVICE_IN_LOOPBACK

Per testare DEVICE_IN_LOOPBACK per il monitoraggio TV, utilizzare il seguente codice di test. Dopo aver eseguito il test, l'audio catturato viene salvato in /sdcard/record_loopback.raw , dove puoi ascoltarlo utilizzando FFmpeg .

<uses-permission android:name="android.permission.MODIFY_AUDIO_ROUTING" />
<uses-permission android:name="android.permission.WRITE_EXTERNAL_STORAGE" />

   AudioRecord mRecorder;
   Handler mHandler = new Handler();
   int mMinBufferSize = AudioRecord.getMinBufferSize(RECORD_SAMPLING_RATE,
           AudioFormat.CHANNEL_IN_MONO,
           AudioFormat.ENCODING_PCM_16BIT);;
   static final int RECORD_SAMPLING_RATE = 48000;
   public void doCapture() {
       mRecorder = new AudioRecord(MediaRecorder.AudioSource.DEFAULT, RECORD_SAMPLING_RATE,
               AudioFormat.CHANNEL_IN_MONO, AudioFormat.ENCODING_PCM_16BIT, mMinBufferSize * 10);
       AudioManager am = (AudioManager) getSystemService(Context.AUDIO_SERVICE);
       ArrayList<AudioPort> audioPorts = new ArrayList<AudioPort>();
       am.listAudioPorts(audioPorts);
       AudioPortConfig srcPortConfig = null;
       AudioPortConfig sinkPortConfig = null;
       for (AudioPort audioPort : audioPorts) {
           if (srcPortConfig == null
                   && audioPort.role() == AudioPort.ROLE_SOURCE
                   && audioPort instanceof AudioDevicePort) {
               AudioDevicePort audioDevicePort = (AudioDevicePort) audioPort;
               if (audioDevicePort.type() == AudioManager.DEVICE_IN_LOOPBACK) {
                   srcPortConfig = audioPort.buildConfig(48000, AudioFormat.CHANNEL_IN_DEFAULT,
                           AudioFormat.ENCODING_DEFAULT, null);
                   Log.d(LOG_TAG, "Found loopback audio source port : " + audioPort);
               }
           }
           else if (sinkPortConfig == null
                   && audioPort.role() == AudioPort.ROLE_SINK
                   && audioPort instanceof AudioMixPort) {
               sinkPortConfig = audioPort.buildConfig(48000, AudioFormat.CHANNEL_OUT_DEFAULT,
                       AudioFormat.ENCODING_DEFAULT, null);
               Log.d(LOG_TAG, "Found recorder audio mix port : " + audioPort);
           }
       }
       if (srcPortConfig != null && sinkPortConfig != null) {
           AudioPatch[] patches = new AudioPatch[] { null };
           int status = am.createAudioPatch(
                   patches,
                   new AudioPortConfig[] { srcPortConfig },
                   new AudioPortConfig[] { sinkPortConfig });
           Log.d(LOG_TAG, "Result of createAudioPatch(): " + status);
       }
       mRecorder.startRecording();
       processAudioData();
       mRecorder.stop();
       mRecorder.release();
   }
   private void processAudioData() {
       OutputStream rawFileStream = null;
       byte data[] = new byte[mMinBufferSize];
       try {
           rawFileStream = new BufferedOutputStream(
                   new FileOutputStream(new File("/sdcard/record_loopback.raw")));
       } catch (FileNotFoundException e) {
           Log.d(LOG_TAG, "Can't open file.", e);
       }
       long startTimeMs = System.currentTimeMillis();
       while (System.currentTimeMillis() - startTimeMs < 5000) {
           int nbytes = mRecorder.read(data, 0, mMinBufferSize);
           if (nbytes <= 0) {
               continue;
           }
           try {
               rawFileStream.write(data);
           } catch (IOException e) {
               Log.e(LOG_TAG, "Error on writing raw file.", e);
           }
       }
       try {
           rawFileStream.close();
       } catch (IOException e) {
       }
       Log.d(LOG_TAG, "Exit audio recording.");
   }

Individua il file audio catturato in /sdcard/record_loopback.raw e ascoltalo utilizzando FFmpeg :

adb pull /sdcard/record_loopback.raw
ffmpeg -f s16le -ar 48k -ac 1 -i record_loopback.raw record_loopback.wav
ffplay record_loopback.wav

Casi d'uso

Questa sezione include casi d'uso comuni per l'audio TV.

Sintonizzatore TV con uscita altoparlante

Quando un sintonizzatore TV diventa attivo, l'API di routing audio crea una patch audio tra il sintonizzatore e l'uscita predefinita (ad esempio l'altoparlante). L'uscita del sintonizzatore non richiede decodifica, ma l'uscita audio finale viene mixata con il software output_stream.

Patch audio per sintonizzatore TV Android

Figura 2. Patch audio per sintonizzatore TV con uscita altoparlante.

HDMI OUT durante la TV in diretta

Un utente sta guardando la TV in diretta, quindi passa all'uscita audio HDMI (Intent.ACTION_HDMI_AUDIO_PLUG). Il dispositivo di output di tutti gli output_stream cambia nella porta HDMI_OUT e il gestore TIF cambia la porta sink della patch audio del sintonizzatore esistente nella porta HDMI_OUT.

Patch audio HDMI-OUT per Android TV

Figura 3. Patch audio per HDMI OUT dalla TV in diretta.