Mixbox 0.3.46

Mixbox 0.3.46

Artyom RazinovArtyom RazinovAlexandr Goncharov 维护。



Mixbox 0.3.46

  • Avito 的代码蜂巢

概述

Version License Build Status

强大的 iOS E2E UI 测试框架。

目前它用于 Avito,我们拥有 700+ 个 E2E UI 测试,其中约 90% 是绿色的,并且它们帮助我们减少手动测试已达 2 年之久。我们大约 25% 的测试是在 PR 上进行的,并且我们正在努力实现 100% 的测试在 pull request 上执行,部分是通过从 Black Box E2E 转换到 Gray Box 测试。我们在 3 个平台上运行这些测试,耗时约 40 分钟(测试总时长约为 30+ 小时),因为我们使用了 Emcee,这是一个在多台机器上运行测试的测试运行器(请注意,Mixbox 不需要 Emcee)。我们还在编写灰盒测试(我们模拟类、网络等),但刚刚开始。

如果您想在您的公司中使用它,请给我们提交一个 issue。我们正在将其制作成社区可用的,然而,这并非我们的主要目标。

特点

  • 行动和检查(显然)

  • 逐像素可见性检查

  • 一切都有轮询

  • 全自动滚动

  • 黑盒和灰盒测试!

    • 黑盒测试在单独的应用程序中运行,并且能够启动应用程序。您可以使用这种类型的测试测试更多应用程序功能。您可以使用模拟,但需要编写更多的代码(使用启动参数或实现进程间通信)。
    • 灰盒测试在应用程序内运行(例如EarlGrey),但测试与黑盒测试兼容,因此您可以共享您的测试模型、页面对象、测试辅助程序等。由于测试在同一个进程中执行,因此可以轻松模拟任何事情。不使用模拟,无法开始测试应用程序。

    大部分代码在灰盒测试和黑盒测试之间共享,因为大部分功能都一样。两种选项都有其各自的优点。使用这两种方法来构建良好的测试金字塔

  • 页面对象

    • 可以拥有任何代码功能的函数
    • 页面对象元素可以嵌套元素(但是,这需要一些不太吸引眼的样板代码)
    • 所有内容(动作/检查)都可以完全扩展。如果您实现了自定义动作或检查,它将自动适用于黑盒和灰盒测试(见SwipeAction,所有内置动作实际上都是扩展)。
  • UICollectionView中的每个单元格都在测试中可见(包括屏幕外的单元格)

  • 应用程序和测试之间可定制的进程间通信

  • 测试中可见的视图的自定义值

  • 网络模拟(通过NSURLSessionProtocol)

  • 设置权限(相机/地理位置/通知等)

  • 推送通知的模拟(限制:仅限于活动应用程序!)

  • 从测试中打开URL

  • 地理位置模拟

  • 硬件键盘(定义了很少的键代码,但可以轻松实现)

  • 无需分叉仓库即可定制

  • Swift & Objective-C

  • 经过测试

    • 在3种设备配置上运行了176个黑盒UI测试
    • 在3种设备配置上运行了155个灰盒UI测试
    • 在4种设备配置上运行了100个单元测试
    • SwiftLint +自定义linters
    • 每次向Mixbox提交 pull request 都会执行所有测试,通常每个 PR 等于一个提交。
    • 使用5个版本的Xcode(10.0、10.1、10.2.1、10.3、11.0)测试了两个示例。
  • 可定制的报告(例如:Tests项目已集成到具有Web界面的开源报告系统Allure,在Avito我们使用报告的内部解决方案;您可以编写自己的实现)

处于开发状态/尚未开源

  • 页面对象的代码生成
  • 获取应用程序中的所有断言失败
  • 用于处理Springboard的界面
  • 在发布版和测试构建之间切换可访问性值

安装

使用Mixbox有两种方法。

第一种在演示中介绍了,它过于简化,基本是您只需要使用pod SomePod

其次,我们在Avito中使用,看起来像这样:测试(在这里查看Podfile)。

文档还不多,因此您可以尝试将Mixbox链接(演示)的简单方法,但使用测试中的代码示例。

支持的 iOS/Xcode/Swift 版本

  • Xcode 11
  • Swift 5
  • iOS 10.3, iOS 11.4, iOS 12.1,中间版本可能可行也可能不可行,提到的这些版本已在 CI 上进行过测试
  • CocoaPods 1.8.4
  • Mac OS 10.14.6

Xcode 9/10 及更早版本不再受支持。如果您计划在其他环境中使用该项目并遇到问题,请告知我们。

已知问题

  • 在 iOS 11.2 上崩溃(在 iOS 11.3 和 iOS 11.4 上运行良好)
  • 在物理设备上设置权限不工作(也许还有其他情况,我们未在物理设备上测试;基本功能工作正常)
  • 未测试设备旋转,我认为我们在这方面存在一些错误
  • 未测试 iPad
  • 报告中使用了俄语(将很快修复)

示例

有关真实示例,请参阅 Tests 项目。它是最新且开放源代码的如何使用该功能的示例,但它缺乏真实感(没有展示如何为真实应用程序编写测试)。

展示基本功能的测试示例

func test() {
    // Setting permissions
    permissions.camera.set(.allowed)
    permissions.photos.set(.notDetermined)

    // Functions are useful in page objects and allows
    // reusing code, for example, for transitions between states of the app
    pageObjects.initial
        .authorize(user: testUser)
        .goToCvScreen()
        
    // Aliases for simple assertions (you can add your own):
    pageObjects.simpleCv.view.assertIsDisplayed()
    pageObjects.simpleCv.title.assertHasText("My CV")
    
    // Fully customizable assertions
    pageObjects.simpleCv.addressField.assertMatches { element in
        element.text != addressFieldInitialText && element.text.isNotEmpty
    }
    
    // Network stubbing.
    networking.stubbing
        .stub(urlPattern: ".*?example.com/api/cv")
        .thenReturn(file: "cv.json")
    // There is also a monitoring feature, including recording+replaying feature that
    // allows to record all network and replay in later, so your tests will not require internet.
    
    // Actions
    pageObjects.simpleCV.occupationField.setText("iOS developer")
    pageObjects.simpleCV.createCVButton.tap()
}

声明页面对象

public final class MapScreen:
    BasePageObjectWithDefaultInitializer,
    ScreenWithNavigationBar // protocol extensions are very useful for sharing code
{
    // Basic locator  
    public var mapView: ViewElement {
        return element("Map view") { element in
            element.id == "GoogleMapView"
        }
    }
    
    // You can use complex checks
    // Note that you can create your own matchers like `element.isFooBar()`
    public func pin(coordinates: Coordinates, deltaInMeters: Double = 10) -> ViewElement {
        return element("Pin with coordinates \(coordinates)") { element in
            element.id == "pin" && element
                .customValues["coordinates", Coordinates.self]
                .isClose(to: coordinates, deltaInMeters: deltaInMeters)
        }
    }
}

声明自定义页面对象元素

public final class RatingStarsElement:
    BaseElementWithDefaultInitializer,
    ElementWithUi
{
    public func assertRatingEqualsTo(
        _ number: Int,
        file: StaticString = #file,
        line: UInt = #line)
    {
        assertMatches(file: file, line: line) { element in
            element.customValues["rating"] == number
        }
    }
}

粘贴的代码

这个库包含了一些从其他库复制粘贴的代码。有时候是一个单独的文件,有时则是因为我们需要在源码中内置条件编译,以防止在发布构建中链接代码。

用于测试

其他文档