Menjalankan pengujian CTS-V

Verifier Compatibility Test Suite (CTS) Android melengkapi Compatibility Test Suite (CTS). Meskipun CTS memeriksa API dan fungsi yang dapat diotomatiskan, CTS Verifier menyediakan pengujian untuk API dan fungsi yang tidak dapat diuji pada perangkat stasioner tanpa input atau penentuan posisi manual, seperti kualitas audio, layar sentuh, akselerometer, dan kamera.

Persyaratan

Sebelum menjalankan CTS Verifier, pastikan Anda memiliki peralatan berikut:

  • Perangkat Android yang telah memverifikasi kompatibilitas Android API dengan berhasil lulus CTS. Ini adalah perangkat yang sedang diuji (DUT).
  • Komputer Linux dengan port yang kompatibel dengan USB 2.0. Semua koneksi ke DUT dilakukan melalui port ini.
  • Perangkat Android kedua dengan Bluetooth, Wi-Fi Direct, Wi-Fi Aware, UWB (jika DUT mendukung UWB), dan implementasi emulasi kartu host NFC (HCE) yang kompatibel dan diketahui.
  • Router Wi-Fi yang dikonfigurasi dengan nama dan sandi titik akses. Router harus dapat terputus dari internet, tetapi tidak dimatikan.

Pastikan Anda juga menyiapkan tripod, dudukan perangkat, dan jarak yang telah diukur sebelumnya yang diperlukan untuk pengujian pengukuran jarak (kedekatan) untuk UWB, Wi-Fi NAN, dan RSSI Bluetooth. Untuk mengetahui detailnya, lihat Kalibrasi kehadiran.

Persyaratan UICC untuk pengujian NFC

CTS Verifier memiliki kasus pengujian NFC berikut:

  • Field-off (menggunakan data transaksi dari 0x54)
  • Batalkan pilihan (menggunakan data transaksi dari 0x52)
  • Perintah HCI (0025000000) (menggunakan data transaksi dari 0x02)

Pengujian peristiwa transaksi memerlukan dua perangkat, salah satunya harus memiliki UICC SecureElement dengan aturan akses berikut:

  • Hash APK CtsVerifier: 61:ED:37:7E:85:D3:86:A8:DF:EE:6B:86:4B:D8:5B:0B:FA:A5:AF:81
  • ID Aplikasi (AID) yang Diizinkan untuk akses peristiwa NFC: 0xA000000476416E64726F696443545341

Di sisi emulator, kami berharap peristiwa transaksi akan mendorong aktivitas yang sesuai ke latar depan.

Penyiapan

Ubah mode navigasi sistem perangkat pengujian ke mode tiga tombol sebagai berikut:

  1. Buka Setelan.
  2. Buka Sistem > Gestur > Navigasi Sistem.
  3. Pilih mode navigasi berbasis tombol, sebaiknya mode tiga tombol, jika tersedia.

Untuk menyiapkan lingkungan pengujian CTS Verifier:

  1. Di komputer Linux:

    • Jalankan perintah berikut sebelum menginstal CTS Verifier untuk mengizinkan akses ke antarmuka non-SDK.

      adb shell settings put global hidden_api_policy 1
      
    • Instal Android Studio.

    • Download APK CTS Verifier untuk versi Android yang akan diuji.

  2. Hubungkan DUT ke komputer Linux.

  3. Dari terminal di komputer Linux, instal CtsVerifier.apk di DUT.

    adb install -r -g CtsVerifier.apk
    
  4. Untuk Android 10 dan yang lebih tinggi, jalankan perintah berikut untuk memberikan izin kepada aplikasi agar dapat membuat laporan.

    adb shell appops set com.android.cts.verifier android:read_device_identifiers allow
    
  5. Untuk Android 11 dan yang lebih tinggi, jalankan perintah berikut untuk mengizinkan laporan disimpan dalam direktori yang ditentukan sendiri di direktori tingkat teratas eksternal perangkat.

    adb shell appops set com.android.cts.verifier MANAGE_EXTERNAL_STORAGE 0
    
  6. Untuk Android 13 dan yang lebih tinggi, jalankan perintah berikut untuk mengizinkan akses API pengujian untuk CTS Verifier.

    adb shell am compat enable ALLOW_TEST_API_ACCESS com.android.cts.verifier
    
  7. Untuk Android 14 dan yang lebih tinggi, jalankan perintah berikut untuk memberikan izin kepada aplikasi agar dapat mengaktifkan layar.

    adb shell appops set com.android.cts.verifier TURN_SCREEN_ON 0
    
  8. Pastikan DUT telah menyetel tanggal dan waktu sistem dengan benar.

Menjalankan Pemverifikasi CTS

Luncurkan aplikasi CTS Verifier dengan mengetuk ikon CTS Verifier di DUT.

Ikon CTS Verifier di peluncur

Gambar 1. Ikon CTS Verifier

Aplikasi menampilkan beberapa set pengujian yang tersedia untuk verifikasi manual.

Menu pengujian CTS Verifier

Gambar 2. Menu pengujian CTS Verifier

Setiap pengujian berisi serangkaian elemen umum di bagian bawah layar.

Verifikasi kualitas video streaming

Gambar 3. Layar pengujian dengan elemen pengujian umum yang disorot

  • Lulus (✓). Ketuk jika DUT memenuhi persyaratan pengujian sesuai dengan petunjuk Info.
  • Info (?). Ketuk untuk menampilkan petunjuk pengujian. Juga muncul secara otomatis saat pengujian dibuka untuk pertama kalinya.
  • Gagal (!). Ketuk jika DUT tidak memenuhi persyaratan pengujian sesuai dengan petunjuk Info.

Beberapa pengujian, seperti mode aksesori USB dan pengujian kalibrasi kamera, memerlukan penyiapan dan petunjuk pengujian tambahan seperti yang dijelaskan di bagian berikut.

Menguji mode aksesori USB untuk 8.0 dan yang lebih tinggi

Pengujian aksesori USB CTS Verifier

Gambar 4. Prosedur pengujian aksesori USB untuk 8.0 dan yang lebih baru

Pengujian aksesori USB CTS Verifier

Gambar 5. Menguji mode aksesori USB untuk Android 8.0 dan yang lebih baru

Menguji mode aksesori USB untuk 7.x dan yang lebih lama

Pengujian Aksesori USB memerlukan komputer Linux untuk menjalankan program mesin desktop USB (host).

  1. Hubungkan DUT ke komputer Linux.
  2. Di komputer, jalankan program cts-usb-accessory dari paket CTS Verifier:

    ./cts-usb-accessory
  3. Tunggu hingga pesan pop-up muncul di DUT, lalu pilih OK.
    Pengujian aksesori USB CTS Verifier

    Gambar 6. Pengujian aksesori USB

  4. Buka Pengujian Aksesori USB di aplikasi CTS Verifier di DUT.

  5. Di komputer, tinjau output dari konsol. Contoh output:

    CTS USB Accessory Tester
    Found possible Android device (413c:2106) - attempting to switch to accessory
    mode...
    Failed to read protocol versionfigure3
    Found Android device in accessory mode (18d1:2d01)...
    [RECV] Message from Android device #0
    [SENT] Message from Android accessory #0
    [RECV] Message from Android device #1
    [SENT] Message from Android accessory #1
    [RECV] Message from Android device #2
    [SENT] Message from Android accessory #2
    [RECV] Message from Android device #3
    [SENT] Message from Android accessory #3
    [RECV] Message from Android device #4
    [SENT] Message from Android accessory #4
    [RECV] Message from Android device #5
    [SENT] Message from Android accessory #5
    [RECV] Message from Android device #6
    [SENT] Message from Android accessory #6
    [RECV] Message from Android device #7
    [SENT] Message from Android accessory #7
    [RECV] Message from Android device #8
    [SENT] Message from Android accessory #8
    [RECV] Message from Android device #9
    [SENT] Message from Android accessory #9
    [RECV] Message from Android device #10
    [SENT] Message from Android accessory #10
    

Mengalibrasi ruang pandang kamera

Gunakan prosedur kalibrasi bidang pandang untuk menentukan bidang pandang perangkat dengan cepat dan akurasi sedang.

  1. Siapkan lingkungan pengujian:

    1. Cetak file target calibration-pattern.pdf pada kertas berukuran 11” x 17” atau A3.
    2. Pasang pola yang dicetak pada lapisan belakang yang kaku.
    3. Atur perangkat kamera dan target yang dicetak seperti yang ditunjukkan dalam diagram berikut.
      Target cetak kamera

      Gambar 7. Target cetak kamera

  2. Tetapkan lebar target:

    1. Ukur jarak (dalam sentimeter) antara garis tebal pada pola target untuk memperhitungkan ketidakakuratan pencetakan (~38 cm).
    2. Mulai aplikasi kalibrasi.
    3. Tekan tombol penyiapan, lalu pilih Jarak penanda.
    4. Ukur dan masukkan jarak ke pola target (~100 cm).
    5. Tekan tombol kembali untuk kembali ke pratinjau kalibrasi.
  3. Pastikan perangkat dan target ditempatkan seperti yang ditunjukkan pada gambar dan jarak yang benar telah dimasukkan ke dalam dialog penyiapan. Pratinjau menampilkan gambar dengan garis vertikal yang di-overlay di atasnya; garis ini harus sejajar dengan garis tengah pola target. Petak transparan dapat digunakan dengan garis vertikal lainnya untuk memastikan sumbu optik ortogonal terhadap target.

  4. Jalankan uji kalibrasi:

    1. Pilih resolusi gambar (menggunakan pemilih di kiri bawah), lalu ketuk layar untuk mengambil foto. Pengujian memasuki mode kalibrasi dan menampilkan foto dengan dua garis vertikal yang ditumpuk pada gambar.
    2. Tentukan akurasi:
      • Jika garis sejajar dengan garis vertikal pada pola target dalam beberapa sentimeter, kolom bidang pandang yang dilaporkan untuk resolusi yang dipilih akurat.
      • Jika garis tidak sejajar, bidang pandang yang dilaporkan tidak akurat. Untuk memperbaikinya, sesuaikan penggeser di bagian bawah layar hingga overlay sejajar dengan pola target sedekat mungkin. Saat overlay dan gambar pola target sejajar, bidang tampilan yang ditampilkan adalah perkiraan yang mendekati nilai yang benar. FOV yang dilaporkan harus berada dalam +/-2 derajat dari nilai kalibrasi.
    3. Tekan tombol kembali dan ulangi uji kalibrasi untuk semua resolusi gambar yang didukung oleh DUT.

Menjalankan CTS Verifier untuk mode alternatif

Mulai rilis CTS 10 R6 dan CTS 11 R2, CTS Verifier mendukung pengujian yang diperlukan untuk perangkat dengan mode alternatif, atau untuk perangkat dengan lebih dari satu mode layar.

Di bagian atas tampilan daftar utama di CTS Verifier, tombol ditampilkan untuk memungkinkan pengguna beralih antara mode tampilan tidak dilipat dan dilipat. CTS Verifier akan menampilkan pengujian yang diperlukan untuk mode tampilan yang dipilih. Untuk menjalankan mode alternatif di CTS Verifier, seseorang harus mengalihkan tombol ke mode tampilan yang sesuai dan menjalankan daftar pengujian yang ditampilkan.

Tombol CTS-V

Gambar 8. Tombol aktif/nonaktif Pemverifikasi CTS

Hasil pengujian terlipat akan dicatat dalam laporan yang sama dengan pengujian yang tidak terlipat. Untuk mengidentifikasi setiap hasil pengujian dari set pengujian yang digunakan, akhiran ditambahkan ke setiap nama pengujian dalam mode terlipat.

<Test result="fail" name="com.android.cts.verifier.deskclock.DeskClockTestsActivity[folded]">
  <RunHistory subtest="CREATE_ALARM[folded]">
    <Run start="1594176663973" end="1594176665841" isAutomated="false" />
  </RunHistory>
</Test>

Mengekspor hasil

Setelah semua pengujian selesai, Anda dapat menyimpan hasilnya sebagai laporan dan mendownloadnya ke komputer. Nama laporan otomatis diberi stempel waktu berdasarkan waktu sistem DUT.

  1. Untuk menyimpan hasil pengujian, ketuk ikon simpan (disk) di bagian atas daftar kategori pengujian.

  2. Tunggu pesan pop-up yang menampilkan jalur file ke laporan yang disimpan (misalnya, /sdcard/verifierReports/ctsVerifierReport-date-time.zip), lalu catat jalur tersebut.

  3. Hubungkan DUT ke komputer Linux.

  4. Dari penginstalan Android SDK di komputer Linux, download laporan dari perangkat yang terhubung menggunakan adb shell content read atau adb pull CTSVerifierReportPath.

    • Untuk Android 7.x dan yang lebih tinggi, download semua laporan menggunakan perintah berikut:

      adb pull /sdcard/verifierReports
      
    • Untuk Android 6.0 dan yang lebih lama, download semua laporan menggunakan perintah berikut:

      adb pull /mnt/sdcard/ctsVerifierReports/
      
    • Untuk Android 10 dan yang lebih tinggi, saat menerapkan Automotive dan perangkat yang berjalan sebagai pengguna sekunder, download laporan terbaru menggunakan perintah berikut:

      adb shell content read --user CURRENT_USER --uri
      
      content://com.android.cts.verifier.testresultsprovider/reports/latest > report.zip
      

      Untuk mencantumkan semua laporan yang tersedia di perangkat yang terhubung:

      adb shell content query --user CURRENT_USER --uri
      
      content://com.android.cts.verifier.testresultsprovider/reports
      

      Untuk mendownload laporan dari daftar, Anda dapat menentukan ID Baris atau nama file. Contoh:

      adb shell content read --user CURRENT_USER --uri
      
      content://com.android.cts.verifier.testresultsprovider/reports/0 > report.zip
      
      adb shell content read --user CURRENT_USER --uri
      
      content://com.android.cts.verifier.testresultsprovider/reports/ctsVerifierReport-date-time.zip >
      report.zip
      
  5. Untuk menghapus hasil lulus/gagal, pilih hasil di aplikasi CTS Verifier, lalu pilih Menu > Hapus.