MixboxTestability 0.3.46

MixboxTestability 0.3.46

由以下人员维护:Alexey ShpirkoArtyom RazinovVladislav AlekseevTimofey SoloninArtyom Razinov



  • Avito 的程序员群落

概述

Version License Build Status

强大的 iOS E2E UI 测试框架。

目前它在 Avito 中使用,我们拥有 700+ 的 E2E UI 测试,其中约 90% 为绿色,并帮助我们减少了 2 年以来的手动测试。我们在 PR 中运行了大约 25%,我们正在努力实现 100% 的测试在 pull request 上执行,部分原因是将黑盒 E2E 测试切换到灰盒测试。我们在 3 个平台上运行这些测试,耗时约 40 分钟(测试的总时间为 30 多小时),因为我们使用了 Emcee,这是一个多机测试的测试运行器(请注意,Mixbox 不需要 Emcee)。我们也正在编写灰盒测试(其中我们会模拟类、网络等),但我们刚刚开始。

如果您想在自己的公司中使用它,请为我们提交一个问题。我们正在努力使其可供社区使用,但这并不是我们的主要目标。

特点

  • 动作和检查(显然)

  • 像素级可见性检查

  • 一切都具有轮询功能

  • 完全自动滚动

  • 黑盒和灰盒测试!

    • 黑盒测试在单独的应用程序中运行,可以启动应用程序。您可以使用此类型的测试测试更多应用程序功能。您可以使用模拟,但需要编写更多代码(使用启动参数或实现进程间通信)。
    • 灰盒测试在应用程序内运行(例如在EarlGrey中),但测试与黑盒测试兼容,因此您可以共享您的测试模型、页面对象、测试助手等。您可以轻松地模拟任何内容,因为测试在同一个进程中执行。您必须使用模拟才能测试您的应用程序启动。

    大部分代码在灰盒测试和黑盒测试之间是共享的,因为大部分功能都是如此。两种选项都有自己的优点。通过使用这两种方法来获得良好的测试金字塔

  • 页面对象

    • 可以包含任何代码的函数
    • 页面对象元素可以嵌套元素(然而,这可能需要一些不太美观的模板代码)
    • 所有(动作/检查)都是完全可扩展的。如果您实现了自定义操作或检查,它将自动适用于黑盒和灰盒测试(请参阅SwipeAction,所有内置操作实际上都是扩展)
  • UICollectionView中的每个单元都在测试中可见(包括屏幕外的单元)

  • 可自定义的应用程序和测试之间的进程间通信

  • 可测试的可视视图的自定义值

  • 网络模拟(通过NSURLSessionProtocol)

  • 设置权限(相机/地理位置/通知等)

  • 推送通知的模拟(限制:仅在活动应用程序内!)

  • 从测试中打开URL

  • 地理定位模拟

  • 硬件键盘(定义了非常少的键码,但可以轻松实现)

  • 无需分支存储库即可自定义

  • Swift & Objective-C

  • 经过测试

    • 3种设备配置下的176个黑盒UI测试
    • 3种设备配置下的155个灰盒UI测试
    • 4种设备配置下的100个单元测试
    • SwiftLint +自定义linter
    • 所有测试在向Mixbox的每个pull request提交时执行,通常每个PR等于一个提交。
    • 使用5个版本的Xcode(10.0,10.1,10.2.1,10.3,11.0)测试了两个示例
  • 可配置的报告(例如:Tests项目与具有Web UI的开源报告系统Allure集成;在Avito,我们使用自研解决方案进行报告;您可以编写自己的实现)

处于开发中/尚未开源

  • 页面对象的代码生成
  • 从应用程序获取所有断言失败
  • 用于操作Springboard的包装器
  • 在发布和测试构建之间切换可访问性值

安装

Mixbox有两种使用方法。

第一种在演示中描述,它过于简单化,基本上您只需要使用pod SomePod

第二种我们在Avito中使用,看起来像这样:测试(在那里请参阅Podfile)。

文档还不够,因此您可以根据演示尝试简单的链接Mixbox方法,但请使用测试中的代码示例。

支持的 iOS/Xcode/Swift 版本

  • Xcode 11
  • Swift 5
  • iOS 10.3、iOS 11.4、iOS 12.1、部分版本可能工作或不工作,上述版本已在 CI 上测试
  • Cocoapods 1.8.4
  • Mac OS 10.14.6

不再支持 Xcode 9/10 以及更早版本。如果您计划在不同的环境中使用该项目且遇到问题,请告知我们。

已知问题

  • 在 iOS 11.2 上崩溃(在 iOS 11.3、iOS 11.4 上正常工作)
  • 在物理设备上设置权限不工作(可能在其他方面也不行,我们没有在物理设备上进行测试;基本功能正常工作)
  • 未测试设备旋转,我想我们在这方面存在问题
  • 未测试 iPad
  • 报告中的俄语(将很快修复)

示例

真实示例请参见 Tests 项目。它是使用它的最新开源示例,但缺乏真实性(不展示如何为真实应用程序编写测试)。

展示基本功能的测试示例

func test() {
    // Setting permissions
    permissions.camera.set(.allowed)
    permissions.photos.set(.notDetermined)

    // Functions are useful in page objects and allows
    // reusing code, for example, for transitions between states of the app
    pageObjects.initial
        .authorize(user: testUser)
        .goToCvScreen()
        
    // Aliases for simple assertions (you can add your own):
    pageObjects.simpleCv.view.assertIsDisplayed()
    pageObjects.simpleCv.title.assertHasText("My CV")
    
    // Fully customizable assertions
    pageObjects.simpleCv.addressField.assertMatches { element in
        element.text != addressFieldInitialText && element.text.isNotEmpty
    }
    
    // Network stubbing.
    networking.stubbing
        .stub(urlPattern: ".*?example.com/api/cv")
        .thenReturn(file: "cv.json")
    // There is also a monitoring feature, including recording+replaying feature that
    // allows to record all network and replay in later, so your tests will not require internet.
    
    // Actions
    pageObjects.simpleCV.occupationField.setText("iOS developer")
    pageObjects.simpleCV.createCVButton.tap()
}

声明页面对象

public final class MapScreen:
    BasePageObjectWithDefaultInitializer,
    ScreenWithNavigationBar // protocol extensions are very useful for sharing code
{
    // Basic locator  
    public var mapView: ViewElement {
        return element("Map view") { element in
            element.id == "GoogleMapView"
        }
    }
    
    // You can use complex checks
    // Note that you can create your own matchers like `element.isFooBar()`
    public func pin(coordinates: Coordinates, deltaInMeters: Double = 10) -> ViewElement {
        return element("Pin with coordinates \(coordinates)") { element in
            element.id == "pin" && element
                .customValues["coordinates", Coordinates.self]
                .isClose(to: coordinates, deltaInMeters: deltaInMeters)
        }
    }
}

声明自定义页面元素

public final class RatingStarsElement:
    BaseElementWithDefaultInitializer,
    ElementWithUi
{
    public func assertRatingEqualsTo(
        _ number: Int,
        file: StaticString = #file,
        line: UInt = #line)
    {
        assertMatches(file: file, line: line) { element in
            element.customValues["rating"] == number
        }
    }
}

复制粘贴的代码

这个库包括了从其他库复制粘贴的某些代码。有时这是单个文件,有时是因为我们需要在源代码中内置条件编译,以防止在发布版本中链接代码。

用于测试

其他文档