Использовать набор повторно

Пакет, как правило, включает несколько тестовых модулей и может достигать довольно большого размера тестового корпуса. Например, набор тестов на совместимость с Android (CTS) включает в себя сотни модулей и сотни тысяч тестовых случаев.

Становится возможным сбой большого количества тестов из-за плохой изоляции или выхода устройств из строя.

Функция повторной попытки набора предназначена для решения таких случаев: она позволяет вам повторять только сбои вместо полных наборов, чтобы исключить ненадежность и плохую изоляцию. Если тест постоянно терпит неудачу, повторная попытка также не будет успешной; и вы получите гораздо более сильный сигнал о том, что существует реальная проблема.

Реализовать повторную попытку набора

Повторная попытка результатов включает в себя чтение предыдущих результатов и повторный запуск предыдущего вызова.

Основным интерфейсом, управляющим повторной попыткой, является ITestSuiteResultLoader , который позволяет загрузить предыдущий результат и предыдущую командную строку.

Затем RetryRescheduler использует эту информацию для воссоздания предыдущей команды и заполнения некоторых фильтров, чтобы повторно запустить только предыдущие сбои или невыполненные тесты.

Пример повторной попытки набора: CTS

Конфигурация повтора в CTS:

<configuration description="Runs a retry of a previous CTS session.">
    <object type="previous_loader" class="com.android.compatibility.common.tradefed.result.suite.PreviousResultLoader" />
    <test class="com.android.tradefed.testtype.suite.retry.RetryRescheduler" />

    <logger class="com.android.tradefed.log.FileLogger">
        <option name="log-level-display" value="WARN" />
    </logger>
</configuration>

Это применимо к большинству расширяющих его наборов, например VTS ).

Он будет вызываться через:

cts-tradefed run retry --retry <session>

Сеанс можно найти, перечислив предыдущие результаты в консоли CTS:

cts-tf > l r
Session  Pass  Fail  Modules Complete  Result Directory     Test Plan  Device serial(s)  Build ID   Product
0        2092  30    148 of 999        2018.10.29_14.12.57  cts        [serial]          P          Pixel

Точная исходная команда будет перезагружена и повторно запущена с дополнительными фильтрами. Это означает, что если ваша первоначальная команда включала некоторые параметры, они также будут частью повторной попытки.

Например:

cts-tradefed run cts-dev -m CtsGestureTestCases

Повторение вышеописанного всегда будет ограничено CtsGestureTestCases , поскольку мы повторяем команду, в которой участвовал только он.

Настройка повтора для пакета в стиле CTS

Чтобы повторная попытка сработала, предыдущие результаты необходимо экспортировать в формате proto. Необходимо добавить следующее:

<result_reporter class="com.android.compatibility.common.tradefed.result.suite.CompatibilityProtoResultReporter" />

Это необходимо добавить в XML-конфигурацию основной команды, и в результате в папке результатов будет создан файл test-record.pb .

Затем повторная попытка CTS загружает данные из комбинации test-record.pb и существующего test_result.xml для подготовки вызова повторной попытки.