Notes de version de la suite de tests d'images d'appareils photo Android 12

Restez organisé à l'aide des collections Enregistrez et classez les contenus selon vos préférences.

Un certain nombre de modifications de Camera ITS sont incluses dans la version Android 12. Cette page résume les modifications qui se répartissent en quatre grandes catégories :

Refactorisation vers Python 3

En raison de l'obsolescence de Python 2.7 en janvier 2020, l'intégralité de la base de code Camera ITS a été refactorisée en Python 3. Les versions et bibliothèques Python suivantes sont requises dans Android 12 :

Le lanceur de test principal, tools/run_all_tests.py , reste le même que les versions Android 11 ou inférieures et est refactorisé en Python 3.

Tous les tests individuels sont refactorisés et utilisent la nouvelle classe de configuration de test définie dans tests/its_base_test.py . La plupart des noms et des fonctionnalités des tests restent les mêmes. Dans Android 12, tous les tests individuels chargent désormais leurs scènes. Alors que le chargement de scène pour chaque test augmente le temps de test global, il permet le débogage de tests individuels.

Pour plus d'informations sur les modifications de test individuelles, voir Modifications de test .

Les modules Python suivants sont refactorisés avec un changement de nom :

  • pymodules/its/caps.pyutils/camera_properties_utils.py
  • pymodules/its/cv2image.pyutils/opencv_processing_utils.py
  • pymodules/its/device.pyutils/its_session_utils.py
  • pymodules/its/error.pyutils/error_util.py
  • pymodules/its/image.pyutils/image_processing_utils.py
  • pymodules/its/objects.pyutils/capture_request_utils.py
  • pymodules/its/target.pyutils/target_exposure_utils.py
  • tools/hw.pyutils/sensor_fusion_utils.py

Adoption du cadre de test mobile

Mobly est un framework de test basé sur Python prenant en charge les cas de test qui nécessitent plusieurs appareils avec des configurations matérielles personnalisées. Camera ITS utilise l'infrastructure de test Mobly pour permettre un meilleur contrôle et une meilleure journalisation des tests.

Camera ITS utilise l'infrastructure de test Mobly pour permettre un meilleur contrôle et une meilleure journalisation des tests. Mobly est un framework de test basé sur Python prenant en charge les cas de test qui nécessitent plusieurs appareils avec des configurations matérielles personnalisées. Pour plus d'informations sur Mobly, voir google/mobly .

fichiers config.yml

Avec le framework Mobly, vous pouvez configurer un appareil sous test (DUT) et une tablette graphique dans la classe its_base_test . Un fichier config.yml (YAML) est utilisé pour créer un banc d'essai Mobly. Plusieurs bancs d'essai peuvent être configurés dans ce fichier de configuration, par exemple, une tablette et un banc d'essai de fusion de capteurs. Dans la section du contrôleur de chaque banc d'essai, vous pouvez spécifier des device_ids pour identifier les appareils Android appropriés pour le testeur. En plus des ID d'appareil, d'autres paramètres tels que la brightness de la tablette, chart_distance , debug_mode , la camera_id et scene_id sont passés dans la classe de test. Les valeurs courantes des paramètres de test sont :

brightness: 192  (all tablets except Pixel C)
chart_distance: 31.0  (rev1/rev1a box for FoV < 90° cameras)
chart_distance: 22.0 (rev2 test rig for FoV > 90° cameras)

Tests sur tablette

Pour les tests sur tablette, le mot-clé TABLET doit être présent dans le nom du banc d'essai. Lors de l'initialisation, le testeur Mobly initialise TestParams et les transmet aux tests individuels.

Voici un exemple de fichier config.yml pour les exécutions sur tablette.

TestBeds:
  - Name: TEST_BED_TABLET_SCENES
    # Test configuration for scenes[0:4, 6, _change]
    Controllers:
        AndroidDevice:
          - serial: 8A9X0NS5Z
            label: dut
          - serial: 5B16001229
            label: tablet

    TestParams:
      brightness: 192
      chart_distance: 22.0
      debug_mode: "False"
      chart_loc_arg: ""
      camera: 0
      scene: <scene-name>  # if <scene-name> runs all scenes

Le banc d'essai peut être appelé à l'aide de tools/run_all_tests.py . Si aucune valeur de ligne de commande n'est présente, les tests s'exécutent avec les valeurs du fichier config.yml . De plus, vous pouvez remplacer les valeurs du fichier de configuration de la camera et de la scene sur la ligne de commande à l'aide de commandes similaires à Android 11 ou inférieur.

Par exemple:

python tools/run_all_tests.py
python tools/run_all_tests.py camera=1
python tools/run_all_tests.py scenes=2,1,0
python tools/run_all_tests.py camera=1 scenes=2,1,0

Test de fusion de capteurs

Pour les tests de fusion de capteurs , le nom du banc d'essai doit inclure le mot-clé SENSOR_FUSION . Le banc d'essai correct est déterminé par les scènes testées. Android 12 prend en charge les contrôleurs Arduino et Canakit pour la fusion de capteurs .

Voici un exemple de fichier config.yml pour les exécutions de fusion de capteurs.

Testbeds
  - Name: TEST_BED_SENSOR_FUSION
    # Test configuration for sensor_fusion/test_sensor_fusion.py
    Controllers:
        AndroidDevice:
          - serial: 8A9X0NS5Z
            label: dut

    TestParams:
      fps: 30
      img_size: 640,480
      test_length: 7
      debug_mode: "False"
      chart_distance: 25
      rotator_cntl: arduino         # cntl can be arduino or canakit
      rotator_ch: 1
      camera: 0

Pour exécuter des tests de fusion de capteurs avec le banc d'essai de fusion de capteurs , utilisez :

python tools/run_all_tests.py scenes=sensor_fusion
python tools/run_all_tests.py scenes=sensor_fusion camera=0

Plusieurs bancs d'essai

Plusieurs bancs d'essai peuvent être inclus dans le fichier de configuration. La combinaison la plus courante consiste à disposer à la fois d'un banc d'essai de tablette et d'un banc d'essai de fusion de capteurs.

Voici un exemple de fichier config.yml avec des bancs d'essai de fusion de tablettes et de capteurs.

Testbeds
  - Name: TEST_BED_TABLET_SCENES
    # Test configuration for scenes[0:4, 6, _change]
    Controllers:
        AndroidDevice:
          - serial: 8A9X0NS5Z
            label: dut
          - serial: 5B16001229
            label: tablet

    TestParams:
      brightness: 192
      chart_distance: 22.0
      debug_mode: "False"
      chart_loc_arg: ""
      camera: 0
      scene: <scene-name>  # if <scene-name> runs all scenes

  - Name: TEST_BED_SENSOR_FUSION
    # Test configuration for sensor_fusion/test_sensor_fusion.py
    Controllers:
        AndroidDevice:
          - serial: 8A9X0NS5Z
            label: dut

    TestParams:
      fps: 30
      img_size: 640,480
      test_length: 7
      debug_mode: "False"
      chart_distance: 25
      rotator_cntl: arduino         # cntl can be arduino or canakit
      rotator_ch: 1
      camera: 0

Test manuel

Les tests manuels continuent d'être pris en charge dans Android 12. Cependant, le banc d'essai doit identifier les tests en tant que tels avec le mot-clé MANUAL dans le nom du banc d'essai. De plus, le banc d'essai ne peut pas inclure d'ID de tablette.

Voici un exemple de fichier config.yml pour les tests manuels.

TestBeds:
  - Name: TEST_BED_MANUAL
    Controllers:
        AndroidDevice:
          - serial: 8A9X0NS5Z
            label: dut

    TestParams:
      debug_mode: "False"
      chart_distance: 31.0
      camera: 0
      scene: scene1

Tester des scènes sans tablettes

Le test de la scène 0 et de la scène 5 peut être effectué avec TEST_BED_TABLET_SCENES ou avec TEST_BED_MANUAL . Cependant, si le test est effectué avec TEST_BED_TABLET_SCENES , la tablette doit être connectée et l'ID de série de la tablette doit être valide même si la tablette n'est pas utilisée, car la configuration de la classe de test attribue la valeur d'ID de série à la tablette.

Exécution de tests individuels

Les tests individuels ne peuvent être exécutés qu'à des fins de débogage, car leurs résultats ne sont pas transmis à CTS Verifier . Étant donné que les fichiers config.yml ne peuvent pas être écrasés sur la ligne de commande pour camera et scene , ces paramètres doivent être corrects dans le fichier config.yml pour le test individuel en question. De plus, s'il y a plus d'un banc d'essai dans le fichier de configuration, vous devez spécifier le banc d'essai avec l'indicateur --test_bed . Par exemple:

python tests/scene1_1/test_black_white.py --config config.yml --test_bed TEST_BED_TABLET_SCENES

Tester les artefacts

Dans Android 12, les artefacts de test pour Camera ITS sont stockés de la même manière qu'Android 11 ou version antérieure, mais avec les modifications suivantes :

  • Le répertoire d'artefact de test /tmp a CameraITS_ ajouté au début de la chaîne aléatoire de 8 caractères pour plus de clarté.
  • La sortie et les erreurs de test sont stockées dans test_log.DEBUG pour chaque test au lieu de test_name_stdout.txt et test_name_stderr.txt .
  • Les logcats du DUT et de la tablette de chaque test individuel sont stockés dans le /tmp/CameraITS_######## , ce qui simplifie le débogage car toutes les informations requises pour déboguer les problèmes 3A sont consignées.

Tester les modifications

Dans Android 12, les scènes de la tablette sont des fichiers PNG plutôt que des fichiers PDF. L'utilisation de fichiers PNG permet à davantage de modèles de tablettes d'afficher correctement les scènes.

scène0/test_jitter.py

Le test test_jitter s'exécute sur des caméras cachées physiques dans Android 12.

scene1_1/test_black_white.py

Pour Android 12, test_black_white a les fonctionnalités de test_black_white et test_channel_saturation .

Le tableau suivant décrit les deux tests individuels dans Android 11.

Nom du test Premier niveau d'API Assertions
scene1_1/test_black_white.py TOUT Exposition courte, valeurs RVB à faible gain ~[0, 0, 0]
Longue exposition, valeurs RVB à gain élevé ~[255, 255, 255]
scene1_1/test_channel_saturation.py 29 Tolérance réduite sur les différences [255, 255, 255] pour éliminer la teinte de couleur dans les images blanches.

Le tableau suivant décrit le test fusionné, scene1_1/test_black_white.py, dans Android 12.

Nom du test Premier niveau d'API Assertions
scene1_1/test_black_white.py TOUT Exposition courte, valeurs RVB à faible gain ~[0, 0, 0]
Exposition longue, valeurs RVB à gain élevé ~[255, 255, 255] et tolérance réduite entre les valeurs pour éliminer la teinte des couleurs dans les images blanches.

scene1_1/test_burst_sameness_manual.py

Le test test_burst_sameness_manual s'exécute sur des caméras cachées physiques dans Android 12.

scene1_2/test_tonemap_sequence.py

Le test test_tonemap_sequence s'exécute sur des caméras LIMITED sous Android 12.

scène1_2/test_yuv_plus_raw.py

Le test test_yuv_plus_raw s'exécute sur des caméras cachées physiques dans Android 12.

scene2_a/test_format_combos.py

Le test test_format_combos s'exécute sur des caméras LIMITED sous Android 12.

scène3/test_flip_mirror.py

Le test test_flip_mirror s'exécute sur des caméras LIMITED sous Android 12.

scene4/test_aspect_ratio_and_crop.py

La recherche de cercles dans scene4/test_aspect_ratio_and_crop.py a été refactorisée dans Android 12.

Les versions antérieures d'Android utilisaient une méthode qui impliquait de trouver un contour enfant (le cercle) à l'intérieur du contour parent (le carré) avec des filtres pour la taille et la couleur. Android 12 utilise une méthode qui consiste à rechercher tous les contours, puis à filtrer en recherchant les fonctionnalités les plus circulaires . Pour filtrer les cercles parasites sur l'affichage, une zone de contour minimale est requise et le contour du cercle doit être noir.

Les contours et leurs critères de sélection sont illustrés dans l'image suivante.

Dessin conceptuel des contours et critères de sélection

Figure 1. Dessin conceptuel des contours et critères de sélection

La méthode Android 12 est plus simple et permet de résoudre le problème d'écrêtage de la boîte englobante dans certaines tablettes d'affichage. Tous les candidats du cercle sont enregistrés à des fins de débogage.

Dans Android 12, le test de recadrage est exécuté pour les appareils FULL et LEVEL3 . Android 11 ou les versions antérieures ignorent les assertions de test de culture pour les appareils FULL .

Le tableau suivant répertorie les assertions pour test_aspect_ratio_and_crop.py qui correspondent à un niveau d'appareil donné et au premier niveau d'API.

Niveau appareil Premier niveau d'API Assertions
LIMITÉ TOUT Ratio d'aspect
FoV pour les formats 4:3, 16:9, 2:1
PLEIN < 31 Ratio d'aspect
FoV pour les formats 4:3, 16:9, 2:1
PLEIN ≥ 31 Recadrer
Ratio d'aspect
FoV pour les formats 4:3, 16:9, 2:1
NIVEAU 3 TOUT Recadrer
Ratio d'aspect
FoV pour les formats 4:3, 16:9, 2:1

scene4/test_multi_camera_alignment.py

La méthode undo_zoom() pour les captures YUV dans scene4/test_multi_camera_alignment.py a été refactorisée pour tenir compte plus précisément du recadrage sur les capteurs qui ne correspondent pas au rapport d'aspect de la capture.

Code Android 11 Python 2

zoom_ratio = min(1.0 * yuv_w / cr_w, 1.0 * yuv_h / cr_h)
circle[i]['x'] = cr['left'] + circle[i]['x'] / zoom_ratio
circle[i]['y'] = cr['top'] + circle[i]['y'] / zoom_ratio
circle[i]['r'] = circle[i]['r'] / zoom_ratio

Code Android 12 Python 3

yuv_aspect = yuv_w / yuv_h
relative_aspect = yuv_aspect / (cr_w/cr_h)
if relative_aspect > 1:
  zoom_ratio = yuv_w / cr_w
  yuv_x = 0
  yuv_y = (cr_h - cr_w / yuv_aspect) / 2
else:
  zoom_ratio = yuv_h / cr_h
  yuv_x = (cr_w - cr_h * yuv_aspect) / 2
  yuv_y = 0
circle['x'] = cr['left'] + yuv_x + circle['x'] / zoom_ratio
circle['y'] = cr['top'] + yuv_y + circle['y'] / zoom_ratio
circle['r'] = circle['r'] / zoom_ratio

sensor_fusion/test_sensor_fusion.py

Dans Android 12, une méthode de détection de caractéristiques dans les images est ajoutée pour le test de fusion de capteurs.

Dans les versions inférieures à Android 12, l'intégralité de l'image est utilisée pour trouver les 240 meilleures fonctionnalités qui sont ensuite masquées au centre de 20 % pour éviter les effets d'obturateur roulant, l'exigence minimale de fonctionnalités étant de 30 fonctionnalités.

Si les fonctionnalités trouvées par cette méthode sont insuffisantes, Android 12 masque d'abord la zone de détection des fonctionnalités au centre de 20 % et limite les fonctionnalités maximales à deux fois la fonctionnalité minimale requise.

L'image suivante montre la différence entre la détection des fonctionnalités Android 11 et Android 12. L'augmentation du seuil d'exigence de fonctionnalités minimales entraîne la détection de fonctionnalités de mauvaise qualité et affecte négativement les mesures.

différence de détection des fonctionnalités entre Android 11 et Android 12 sensor_fusion détection des fonctionnalités

Figure 2. Différence de détection des fonctionnalités entre Android 11 et Android 12

Nouveaux tests

scene0/test_solid_color_test_pattern.py

Un nouveau test, test_solid_color_test_pattern , est activé pour Android 12. Ce test est activé pour toutes les caméras et est décrit dans le tableau suivant.

Scène Nom du test Premier niveau d'API La description
0 test_solid_color_test_pattern 31 Confirme la sortie d'image couleur unie et la programmabilité de la couleur de l'image.

Les motifs de test de couleur unie doivent être activés pour prendre en charge le mode de confidentialité de la caméra. Le test test_solid_color_test_pattern confirme la sortie d'image YUV en couleur unie avec la couleur définie par le motif sélectionné, et la couleur de l'image change en fonction des spécifications.

Paramètres

  • cameraPrivacyModeSupport : détermine si la caméra prend en charge le mode de confidentialité.
  • android.sensor.testPatternMode : Définit le mode de motif de test. Ce test utilise SOLID_COLOR .
  • android.sensor.testPatternData : Définit les valeurs de modèle de test R, Gr, Gb, G pour le mode de modèle de test.

Pour une description du motif de test de couleur unie, voir SENSOR_TEST_PATTERN_MODE_SOLID_COLOR .

Méthode

Les images YUV sont capturées pour les paramètres définis et le contenu de l'image est validé. Le motif de test est émis directement par le capteur d'image, aucune scène particulière n'est donc requise. Si PER_FRAME_CONTROL est pris en charge, une seule image YUV est capturée pour chaque paramètre testé. Si PER_FRAME_CONTROL n'est pas pris en charge, quatre images sont capturées avec seulement la dernière image analysée pour maximiser la couverture de test dans les caméras LIMITED .

Les captures YUV sont définies sur des motifs de test BLACK , WHITE , RED , GREEN et BLUE entièrement saturés. Comme la définition du motif de test est conforme au motif Bayer du capteur, les canaux de couleur doivent être définis pour chaque couleur, comme indiqué dans le tableau suivant.

Couleur testPatternData (RGGB)
LE NOIR (0, 0, 0, 0)
BLANCHE (1, 1, 1, 1)
ROUGE (1, 0, 0, 0)
VERT (0, 1, 1, 0)
BLEU (0, 0, 0, 1)

Tableau d'assertion

Le tableau suivant décrit les assertions de test pour test_solid_color_test_pattern.py .

Caméra
Premier niveau d'API
Type de caméra Des couleurs affirmées
31 Bayer NOIR, BLANC, ROUGE, VERT, BLEU
31 MONO NOIR BLANC
< 31 Bayer/MONO LE NOIR

Essais de classe de performance

scene2_c/test_camera_launch_perf_class.py

Vérifie que le démarrage de la caméra est inférieur à 500 ms pour les caméras principales avant et arrière avec la scène de visage scene2_c.

scene2_c/test_jpeg_capture_perf_class.py

Vérifie que la latence de capture JPEG 1080p est inférieure à 1 seconde pour les caméras principales avant et arrière avec la scène de visage scene2_c.