การทดสอบการทำงาน (Atest) การทดสอบการทำงาน (Atest)

จัดทุกอย่างให้เป็นระเบียบอยู่เสมอด้วยคอลเล็กชัน บันทึกและจัดหมวดหมู่เนื้อหาตามค่ากำหนดของคุณ

Atest เป็นเครื่องมือบรรทัดคำสั่งที่ช่วยให้ผู้ใช้สร้าง ติดตั้ง และรันการทดสอบ Android ภายในเครื่อง เร่งความเร็วการรันการทดสอบซ้ำอย่างมากโดยไม่ต้องใช้ความรู้เรื่องตัวเลือกบรรทัดคำสั่ง ชุดทดสอบของ Trade Federation หน้านี้อธิบายวิธีใช้ Atest เพื่อเรียกใช้การทดสอบ Android

สำหรับข้อมูลทั่วไปเกี่ยวกับการทดสอบการเขียนสำหรับ Android โปรดดู การทดสอบแพลตฟอร์ม Android

สำหรับข้อมูลเกี่ยวกับโครงสร้างโดยรวมของ Atest โปรดดูที่ Atest Developer Guide

สำหรับข้อมูลเกี่ยวกับการรันการทดสอบในไฟล์ TEST_MAPPING ผ่าน Atest โปรดดูที่ การรันการทดสอบในไฟล์ TEST_MAPPING

หากต้องการเพิ่มคุณสมบัติให้กับ Atest ให้ทำตาม Atest Developer Workflow

ตั้งค่าสภาพแวดล้อมของคุณ

ในการตั้งค่าสภาพแวดล้อม Atest ให้ทำตามคำแนะนำใน การตั้งค่าสภาพแวดล้อม การเลือกเป้าหมาย และ การสร้างโค้ด

การใช้งานเบื้องต้น

คำสั่ง Atest อยู่ในรูปแบบต่อไปนี้:

atest test-to-run [optional-arguments]

อาร์กิวเมนต์ทางเลือก

ตารางต่อไปนี้แสดงรายการอาร์กิวเมนต์ที่ใช้บ่อยที่สุด รายการทั้งหมดมีอยู่ผ่าน atest --help

ตัวเลือก ตัวเลือกยาว คำอธิบาย
-b --build สร้างเป้าหมายการทดสอบ (ค่าเริ่มต้น)
-i --install ติดตั้งสิ่งประดิษฐ์ทดสอบ (APK) บนอุปกรณ์ (ค่าเริ่มต้น)
-t --test เรียกใช้การทดสอบ (ค่าเริ่มต้น)
-s --serial รันการทดสอบบนอุปกรณ์ที่ระบุ สามารถทดสอบอุปกรณ์ได้ครั้งละหนึ่งเครื่อง
-d --disable-teardown ปิดใช้งานการทดสอบการฉีกขาดและการล้างข้อมูล
--info แสดงข้อมูลที่เกี่ยวข้องกับเป้าหมายที่ระบุ แล้วออก
--dry-run Atest แบบแห้งโดยไม่ต้องสร้าง ติดตั้ง หรือเรียกใช้การทดสอบจริง
-m --rebuild-module-info บังคับให้สร้างไฟล์ module-info.json ใหม่
-w --wait-for-debugger รอให้ดีบักเกอร์เสร็จสิ้นก่อนดำเนินการ
-v --verbose แสดงการบันทึกระดับ DEBUG
--iterations ทดสอบการทำงานวนซ้ำจนกว่าจะถึงการวนซ้ำสูงสุด (10 โดยค่าเริ่มต้น)
--rerun-until-failure [COUNT=10] รันการทดสอบทั้งหมดใหม่จนกว่าจะเกิดความล้มเหลวหรือวนซ้ำถึงขีดจำกัดสูงสุด (10 โดยค่าเริ่มต้น)
--retry-any-failure [COUNT=10] รันการทดสอบที่ล้มเหลวอีกครั้งจนกว่าจะผ่านหรือถึงการวนซ้ำสูงสุด (10 โดยค่าเริ่มต้น)
--start-avd สร้าง AVD โดยอัตโนมัติและรันการทดสอบบนอุปกรณ์เสมือน
--acloud-create สร้าง AVD โดยใช้คำสั่ง acloud
--[CUSTOM_ARGS] ระบุอาร์กิวเมนต์ที่กำหนดเองสำหรับผู้ทดสอบ
-a --all-abi รันการทดสอบสำหรับสถาปัตยกรรมอุปกรณ์ที่มีอยู่ทั้งหมด
--host รันการทดสอบอย่างสมบูรณ์บนโฮสต์โดยไม่ต้องใช้อุปกรณ์
หมายเหตุ: การเรียกใช้การทดสอบโฮสต์ที่ต้องใช้อุปกรณ์ที่มี --host จะล้มเหลว
--history แสดงผลการทดสอบตามลำดับเวลา
--latest-result พิมพ์ผลการทดสอบล่าสุด

สำหรับข้อมูลเพิ่มเติมเกี่ยวกับ -b , -i และ -t โปรดดูส่วน ระบุขั้นตอน: สร้าง ติดตั้ง หรือเรียกใช้

ระบุการทดสอบ

หากต้องการเรียกใช้การทดสอบ ให้ระบุการทดสอบอย่างน้อยหนึ่งรายการโดยใช้หนึ่งในตัวระบุต่อไปนี้:

  • ชื่อโมดูล
  • โมดูล:คลาส
  • ชื่อชั้น
  • การทดสอบการผสานรวมของ Tradefed
  • เส้นทางไฟล์
  • ชื่อแพ็คเกจ

แยกการอ้างอิงไปยังการทดสอบหลายรายการด้วยการเว้นวรรค ดังนี้

atest test-identifier-1 test-identifier-2

ชื่อโมดูล

หากต้องการเรียกใช้โมดูลทดสอบทั้งหมด ให้ใช้ชื่อโมดูล ป้อนชื่อตามที่ปรากฏในตัวแปร LOCAL_MODULE หรือ LOCAL_PACKAGE_NAME ในไฟล์ Android.bp หรือ Android.mk ของการทดสอบนั้น

ตัวอย่าง:

atest FrameworksServicesTests
atest CtsVideoTestCases

โมดูล:คลาส

หากต้องการเรียกใช้คลาสเดียวภายในโมดูล ให้ใช้ Module:Class โมดูล จะเหมือนกับที่อธิบายไว้ใน ชื่อโมดูล คลาส คือชื่อของคลาสทดสอบในไฟล์ . .java และอาจเป็นชื่อคลาสแบบเต็มหรือชื่อพื้นฐานก็ได้

ตัวอย่าง:

atest CtsVideoTestCases:VideoEncoderDecoderTest
atest FrameworksServicesTests:ScreenDecorWindowTests
atest FrameworksServicesTests:com.android.server.wm.ScreenDecorWindowTests

ชื่อชั้น

หากต้องการเรียกใช้คลาสเดียวโดยไม่ระบุชื่อโมดูลอย่างชัดเจน ให้ใช้ชื่อคลาส

ตัวอย่าง:

atest ScreenDecorWindowTests
atest VideoEncoderDecoderTest

การทดสอบการผสานรวมของ Tradefed

ในการเรียกใช้การทดสอบที่รวมเข้ากับ TradeFed โดยตรง (ไม่ใช่โมดูล) ให้ป้อนชื่อตามที่ปรากฏในเอาต์พุตของคำสั่ง tradefed.sh list configs ตัวอย่างเช่น:

ในการรันการ ทดสอบ reboot.xml :

atest example/reboot

ในการรันการ ทดสอบ native-benchmark.xml :

atest native-benchmark

เส้นทางไฟล์

Atest รองรับการทดสอบทั้งแบบโมดูลและแบบบูรณาการโดยการป้อนพาธไปยังไฟล์ทดสอบหรือไดเร็กทอรีตามความเหมาะสม นอกจากนี้ยังรองรับการรันคลาสเดียวโดยระบุพาธไปยังไฟล์ Java ของคลาส รองรับทั้งเส้นทางสัมพัทธ์และเส้นทางสัมบูรณ์

เรียกใช้โมดูล

ตัวอย่างต่อไปนี้แสดงสองวิธีในการเรียกใช้โมดูล CtsVideoTestCases โดยใช้เส้นทางไฟล์

เรียกใช้จาก repo-root Android :

atest cts/tests/video

เรียกใช้จาก Android repo-root/cts/tests/video :

    atest .

เรียกใช้คลาสทดสอบ

ตัวอย่างต่อไปนี้แสดงวิธีเรียกใช้คลาสเฉพาะภายในโมดูล CtsVideoTestCases โดยใช้เส้นทางไฟล์

จาก Android repo-root :

    atest cts/tests/video/src/android/video/cts/VideoEncoderDecoderTest.java

เรียกใช้การทดสอบการรวมระบบ

ตัวอย่างต่อไปนี้แสดงวิธีเรียกใช้การทดสอบการผสานรวมโดยใช้เส้นทางไฟล์จาก Android repo-root :

    atest tools/tradefederation/contrib/res/config/example/reboot.xml

ชื่อแพ็คเกจ

Atest รองรับการค้นหาการทดสอบด้วยชื่อแพ็คเกจ

ตัวอย่าง:

    atest com.android.server.wm
    atest com.android.uibench.janktests

ระบุขั้นตอน: สร้าง ติดตั้ง หรือรัน

ใช้ตัวเลือก -b , -i และ -t เพื่อระบุขั้นตอนที่จะเรียกใช้ หากคุณไม่ระบุตัวเลือก ขั้นตอนทั้งหมดจะทำงาน

  • สร้างเป้าหมายเท่านั้น: atest -b test-to-run
  • รันการทดสอบเท่านั้น: atest -t test-to-run
  • ติดตั้ง apk และรันการทดสอบ: atest -it test-to-run
  • สร้างและเรียกใช้ แต่อย่าติดตั้ง: atest -bt test-to-run

Atest สามารถบังคับให้การทดสอบข้ามขั้นตอนการล้างข้อมูลหรือการแยกส่วน การทดสอบหลายอย่าง เช่น CTS จะล้างอุปกรณ์หลังจากรันการทดสอบ ดังนั้นการพยายามรันการทดสอบอีกครั้งด้วย -t จะล้มเหลวหากไม่มีพารามิเตอร์ --disable-teardown ใช้ -d ก่อน -t เพื่อข้ามขั้นตอนการล้างการทดสอบและทดสอบซ้ำ

atest -d test-to-run
atest -t test-to-run

เรียกใช้วิธีการเฉพาะ

Atest รองรับการเรียกใช้เมธอดเฉพาะภายในคลาสทดสอบ แม้ว่าจะจำเป็นต้องสร้างโมดูลทั้งหมด แต่สิ่งนี้จะช่วยลดเวลาที่ต้องใช้ในการทดสอบ ในการเรียกใช้เมธอดเฉพาะ ให้ระบุคลาสโดยใช้วิธีการใดๆ ที่ได้รับการสนับสนุนสำหรับการระบุคลาส (โมดูล:คลาส เส้นทางของไฟล์ ฯลฯ) และเพิ่มชื่อของเมธอด:

atest reference-to-class#method1

เมื่อระบุหลายวิธี ให้คั่นด้วยเครื่องหมายจุลภาค:

atest reference-to-class#method1,method2,method3

ตัวอย่าง:

atest com.android.server.wm.ScreenDecorWindowTests#testMultipleDecors
atest FrameworksServicesTests:ScreenDecorWindowTests#testFlagChange,testRemoval

สองตัวอย่างต่อไปนี้แสดงวิธีที่ต้องการในการเรียกใช้วิธีเดียว testFlagChange ตัวอย่างเหล่านี้เป็นที่ต้องการมากกว่าการใช้ชื่อคลาสเท่านั้น เนื่องจากการระบุโมดูลหรือตำแหน่งไฟล์ Java ช่วยให้ Atest ค้นหาการทดสอบได้รวดเร็วยิ่งขึ้น

ใช้โมดูล:คลาส:

atest FrameworksServicesTests:ScreenDecorWindowTests#testFlagChange

จาก Android repo-root :

atest frameworks/base/services/tests/wmtests/src/com/android/server/wm/ScreenDecorWindowTests.java#testFlagChange

สามารถเรียกใช้เมธอดได้หลายวิธีจากคลาสและโมดูลต่างๆ:

atest FrameworksServicesTests:ScreenDecorWindowTests#testFlagChange,testRemoval ScreenDecorWindowTests#testMultipleDecors

ใช้งานหลายคลาส

หากต้องการรันหลายคลาส ให้คั่นด้วยช่องว่างในลักษณะเดียวกับการรันการทดสอบหลายรายการ Atest สร้างและรันคลาสอย่างมีประสิทธิภาพ ดังนั้นการระบุเซ็ตย่อยของคลาสในโมดูลจะช่วยเพิ่มประสิทธิภาพมากกว่าการรันทั้งโมดูล

ในการเรียกใช้สองคลาสในโมดูลเดียวกัน:

atest FrameworksServicesTests:ScreenDecorWindowTests FrameworksServicesTests:DimmerTests

ในการเรียกใช้สองคลาสในโมดูลที่แตกต่างกัน:

atest FrameworksServicesTests:ScreenDecorWindowTests CtsVideoTestCases:VideoEncoderDecoderTest

เรียกใช้ไบนารี GTest

Atest สามารถเรียกใช้ไบนารี GTest ใช้ -a เพื่อเรียกใช้การทดสอบเหล่านี้สำหรับสถาปัตยกรรมอุปกรณ์ที่มีอยู่ทั้งหมด ซึ่งในตัวอย่างนี้คือ armeabi-v7a (ARM 32 บิต) และ arm64-v8a (ARM 64 บิต)

ตัวอย่างการทดสอบอินพุต:

atest -a libinput_tests inputflinger_tests

หากต้องการเลือกไบนารี GTest ที่ต้องการเรียกใช้ ให้ใช้โคลอน (:) เพื่อระบุชื่อการทดสอบ และแฮชแท็ก (#) เพื่อระบุเมธอดแต่ละรายการเพิ่มเติม

ตัวอย่างเช่น สำหรับข้อกำหนดการทดสอบต่อไปนี้:

TEST_F(InputDispatcherTest, InjectInputEvent_ValidatesKeyEvents)

เรียกใช้ต่อไปนี้เพื่อระบุการทดสอบทั้งหมด:

atest inputflinger_tests:InputDispatcherTest

หรือเรียกใช้การทดสอบแต่ละรายการโดยใช้สิ่งต่อไปนี้:

atest inputflinger_tests:InputDispatcherTest#InjectInputEvent_ValidatesKeyEvents

ทำการทดสอบใน TEST_MAPPING

Atest สามารถเรียกใช้การทดสอบในไฟล์ TEST_MAPPING

เรียกใช้การทดสอบก่อนส่งโดยปริยาย

เรียกใช้การทดสอบก่อนส่งในไฟล์ TEST_MAPPING ในไดเร็กทอรีปัจจุบันและพาเรนต์:

atest

เรียกใช้การทดสอบก่อนส่งในไฟล์ TEST_MAPPING ใน /path/to/project และไดเร็กทอรีหลัก:

atest --test-mapping /path/to/project

เรียกใช้กลุ่มการทดสอบที่ระบุ

กลุ่มทดสอบที่มีอยู่ได้แก่: presubmit (default), postsubmit , mainline-presubmit และ all

เรียกใช้การทดสอบหลังส่งในไฟล์ TEST_MAPPING ในไดเร็กทอรีปัจจุบันและพาเรนต์:

atest :postsubmit

เรียกใช้การทดสอบจากทุกกลุ่มในไฟล์ TEST_MAPPING:

atest :all

เรียกใช้การทดสอบ postsubmit ในไฟล์ TEST_MAPPING ใน /path/to/project และไดเร็กทอรีหลัก:

atest --test-mapping /path/to/project:postsubmit

เรียกใช้การทดสอบ mainline ในไฟล์ TEST_MAPPING ใน /path/to/project และไดเร็กทอรีหลัก:

atest --test-mapping /path/to/project:mainline-presubmit

เรียกใช้การทดสอบในไดเร็กทอรีย่อย

ตามค่าเริ่มต้น Atest จะค้นหาเฉพาะการทดสอบในไฟล์ TEST_MAPPING ขึ้นไป (จากไดเร็กทอรีปัจจุบันหรือไดเร็กทอรีที่กำหนดไปยังไดเร็กทอรีหลัก) หากคุณต้องการรันการทดสอบในไฟล์ TEST_MAPPING ในไดเร็กทอรีย่อย ให้ใช้ --include-subdirs เพื่อบังคับให้ Atest รวมการทดสอบเหล่านั้นด้วย:

atest --include-subdirs /path/to/project

เรียกใช้การทดสอบซ้ำ

เรียกใช้การทดสอบในการวนซ้ำโดยส่งอาร์กิวเมนต์ --iterations ไม่ว่าจะผ่านหรือไม่ผ่าน Atest จะทำการทดสอบซ้ำจนกว่าจะถึงการวนซ้ำสูงสุด

ตัวอย่าง:

โดยค่าเริ่มต้น Atest จะวนซ้ำ 10 ครั้ง จำนวนการวนซ้ำต้องเป็นจำนวนเต็มบวก

atest test-to-run --iterations
atest test-to-run --iterations 5

วิธีการต่อไปนี้ช่วยให้ตรวจหาการทดสอบที่ไม่สม่ำเสมอได้ง่ายขึ้น:

แนวทางที่ 1: รันการทดสอบทั้งหมดจนกว่าจะเกิดความล้มเหลวหรือถึงการวนซ้ำสูงสุด

  • หยุดเมื่อเกิดความล้มเหลวหรือการวนซ้ำถึงรอบที่ 10 (โดยค่าเริ่มต้น)
    atest test-to-run --rerun-until-failure
    
  • หยุดเมื่อเกิดความล้มเหลวหรือการวนซ้ำถึงรอบที่ 100
    atest test-to-run --rerun-until-failure 100
    

แนวทางที่ 2: เรียกใช้เฉพาะการทดสอบที่ล้มเหลวจนกว่าจะผ่านหรือถึงการวนซ้ำสูงสุด

  • สมมติว่า test-to-run มีหลายกรณีทดสอบและหนึ่งในการทดสอบนั้นล้มเหลว เรียกใช้เฉพาะการทดสอบที่ล้มเหลว 10 ครั้ง (โดยค่าเริ่มต้น) หรือจนกว่าการทดสอบจะผ่าน
    atest test-to-run --retry-any-failure
    
  • หยุดรันการทดสอบที่ล้มเหลวเมื่อผ่านหรือถึงรอบที่ 100
    atest test-to-run --retry-any-failure 100
    

ทำการทดสอบกับ AVD

Atest สามารถทำการทดสอบกับ AVD ที่สร้างขึ้นใหม่ได้ เรียกใช้ acloud create เพื่อสร้าง AVD และสร้างสิ่งประดิษฐ์ จากนั้นใช้ตัวอย่างต่อไปนี้เพื่อเรียกใช้การทดสอบของคุณ

เริ่ม AVD และทำการทดสอบกับมัน:

acloud create --local-instance --local-image && atest test-to-run

เริ่ม AVD โดยเป็นส่วนหนึ่งของการทดสอบการทำงาน:

atest test-to-run --acloud-create "--local-instance --local-image"

หากต้องการข้อมูลเพิ่มเติม ให้เรียกใช้ acloud create --help

ส่งตัวเลือกไปยังโมดูล

Atest สามารถผ่านตัวเลือกเพื่อทดสอบโมดูลได้ หากต้องการเพิ่มตัวเลือกบรรทัดคำสั่ง TradeFed ในการเรียกใช้การทดสอบของคุณ ให้ใช้โครงสร้างต่อไปนี้และตรวจสอบให้แน่ใจว่าอาร์กิวเมนต์ที่กำหนดเองของคุณเป็นไปตามรูปแบบตัวเลือกบรรทัดคำสั่ง Tradefed

atest test-to-run -- [CUSTOM_ARGS]

ส่งตัวเลือกโมดูลการทดสอบไปยังผู้เตรียมเป้าหมายหรือผู้ทดสอบที่กำหนดไว้ในไฟล์กำหนดค่าการทดสอบ:

atest test-to-run -- --module-arg module-name:option-name:option-value
atest GtsPermissionTestCases -- --module-arg GtsPermissionTestCases:ignore-business-logic-failure:true

ผ่านตัวเลือกไปยังประเภทนักวิ่งหรือคลาส:

atest test-to-run -- --test-arg test-class:option-name:option-value
atest CtsVideoTestCases -- --test-arg com.android.tradefed.testtype.JarHosttest:collect-tests-only:true

สำหรับข้อมูลเพิ่มเติมเกี่ยวกับตัวเลือกการทดสอบเท่านั้น โปรดดู ที่ ส่งต่อตัวเลือกไปยังโมดูล