测试开发实战|TestNG 与 Junit 对比,测试框架如何选择?

原创 月关

本文为霍格沃兹测试学院学院学员课程学习笔记,系统学习文末加群。

TestNG 和 Junit 作为两大流行的测试框架,有哪些区别?各有哪些优缺点?该如何选择呢?这里简要总结下:

  1. Junit 更适合隔离性比较强的单元测试;

  2. TestNG 是比 Junit 涵盖功能更全面的测试框架,具有参数化和分组的特性,可以做数据驱动;

  3. TestNG 被设计应用覆盖所有的测试,单元、功能、端到端、集成测试等;

  4. TestNG 依赖测试时对于依赖方法失败后的用例标记为跳过,而不是像 Junit 标记为失败,减少失败原因排查成本;

  5. TestNG 可以针对失败用例回归测试,增加测试针对性和效率,而 Junit 需要将所有测试用例重新执行;

  6. TestNG 更适合测试工程师需要的大范围的复杂的集成测试;

注:以上对比指的是 TestNG 和 Junit4 版本的对比,最新的 Junit5 框架已经完善了功能特性,也涵盖了 TestNG 所包含的功能,如果选择 Junit 框架,建议直接选用 Junit5,Junit5 还在推广普及中;

具体可参考《Junit5简介、构成、新特性及基本使用-常用注解、套件执行》

—Junit与TestNG的注解区别—

项目测试 实操演练

下面通过项目实操讲解二者区别。做项目测试之前,需要先添加 maven 依赖,如下图所示:

1.基本测试

Junit和TestNG对于测试方法的标注都是 @Test ,另外在方法执行前后加上 @Before Method@AfterMethod ``

image

测试结果

由测试结果可看到在每个测试用例执行前都会先执行 @Before Method 注解的方法,之后都会执行 @AfterMethod 注解的方法

2.@BeforeClass和@AfterClass

在测试类运行之前运行 @BeforeClass@AfterClass

image

测试结果

image

由测试结果可以看出在测试类执行前后会先后执行一次被@BeforeClass和@AfterClass注解的方法

3.套件测试

TestNG的套件管理有点“特别”,它是以一个xml文件作为统一配置文件的,一般会命名为 testNG.xml ,实际上文件的命名随意,you happy just ok!

  • 执行时通过运行xml文件
  • 最基本的套件管理规则: suitetestclassesclass
  • 同一个 test 下的测试类看做是一个整体,其中的注解对整个 test 整体都是生效的

下面看实操演示,当前有3个测试类 SuiteTest1SuiteTest2SuiteTestConfig

image

resource 下创建套件配置文件 testNGSuite.xml

image

3.1 套件测试之
@BeforeSuite和@AfterSuite

1)在 SuiteTest1SuiteTest2 测试类中分别输入测试用例:

image

2)再在 SuiteTestConfig 测试类中输入 @BeforeSuite@AfterSuite 注解方法和 @Test 方法

image

3)最后在配置文件 testNGSuite.xml 中配置套件执行顺序将 SuiteTest1SuiteTestConfig "包"成一个 test 整体, SuiteTest2SuiteTestConfig "包"成一个 test 整体;然后依顺序执行
注:suite和test Tag需要给一个name,否则会报错

image

测试结果:

image

从测试结果我们可以看到 @BeforeSuite@AfterSuite 仅仅在suite执行前后分别执行一次

3.2 套件测试之
@BeforeTest+@AfterTest

在测试类 SuiteTestConfig 中输入 @BeforeTest + @AfterTest 注解的方法,xml套件配置不变

image

测试结果:

由测试结果可以看到,在每个 test 执行前后都会先后执行一次由 @BeforeTest@AfterTest 注解的方法

4.忽略测试@Test(enable=false)

在测试方法test1的注解中设置属性 enable=false ``

image

测试结果:

由测试结果可以看到test1被忽略了,并没有执行

5.分组测试

5.1方法分组之
@Test(groups=“xxx”)、@BeforeGroups+@AfterGroups

分别将方法 test1test2 分为“ 测试1组” 和“ 测试2组

再在 测试1组 执行前执行 @BeforeGroups 注解方法,在 测试2组 执行后执行 @AfterGroups 注解方法

image

测试结果:

5.2测试类分组 @Test(groups=“xxx”)

当前有3个测试类 ClassGroups1TestClassGroups2TestClassGroups3Test ``

image

1)分别将这3个测试类进行分组 Group1Group2Group3

image

image

image

2)将这3个测试类以3、2、1的执行顺序引入xml套件配置文件

3)设置场景,利用配置 <groups><run><include>/<exclude>Group1Group3 执行, Group2 不执行(实际上如果 <groups> 中直接不写 Group2 ,它也不会执行)

xml套件配置文件呈现结果:

image

测试结果:

由测试结果可以看到,测试类分组在 Group3Group1 的方法依次执行了,而 Group2 分组中的测试类未被执行

注:如果测试用例的逻辑顺序设计的较合理,平常使用分组的频率可能没那么高

6.异常测试

测试时,我们可能期望的结果就是抛出某种异常,比如单元测试时输入非法入参,程序期望抛出异常,而这是期望的正确结果,我们希望用例是测试通过的,这时就需要用到异常测试注解:@Test(exceptedExceptions = XXXException.class)

image

测试结果:

注: 单元测试平常更多的可能由研发人员自己完成,一般功能和接口测试我们测试工程师期待的都是后端对异常处理后返回的一个状态码code和message信息

7.依赖测试

有时候一个用例的执行要依赖其他用例的执行结果,例如购买商品前需要依赖用户登录成功才可以,这个时候就需要使用 @Test(dependsOnMethods = {"funtion name"}) 对另一个用例进行依赖

image

7.1 依赖用例成功

然后我们直接运行pay方法,结果如下:

由测试结果我们可以看到虽然我们直接执行了 pay 方法,但是由于 pay 方法是依赖于 login 方法的,所以会先执行 login 方法

7.2 依赖用例失败

我们让被依赖的login用例执行失败,直接运行pay方法,观察结果:

image

测试结果:


由测试结果可以看到几点现象:

被依赖的用例执行失败,后面的用例会直接跳过忽略

测试结果显示为忽略而不是失败,这样当有成百上千条用例因为被依赖的用例失败而执行不通过时,可以只排查被依赖用例失败原因即可;否则如Junit4全部标记为失败的话会造成排查问题和回归测试效率的极大浪费

8.参数化测试

有的方法需要传参,好比登录成功时我们需要用户的姓名和ID号

参数的传递直接写在代码中不利于维护更改,也不方便不懂代码的测试人员进行参数修改,这个时候就需要参数化测试

8.1 参数化测试1:
@Parameters+ <parameter name="xx" value="xxx"/>

这个时候就需要在方法上加上注解 @Parameters ,并在xml配置文件中利用 <parameter name="xx" value="xxx"/> 的方式传参

注:也可用 <methods><methods/> tag对指定的方法进行参数传递

image

xml里完成传参:

image

测试结果:

8.2 参数化测试2:
@Test(dataProvider = “name”)+@DataProvider

1)利用 @Test(dataProvider = "name") + @DataProvider(name="name") 将多组数据传递到一个方法中依次执行

image

测试结果:

image

2)利用 @Test(dataProvider = "name") + @DataProvider(name="name") 指定测试方法,传递指定入参进行测试

image

分别单独运行方法 userInfo1userInfo2 得到测试结果:
userInfo1:

image

userInfo2:

image

9.多线程测试

9.1多线程测试注解实现
@Test(invocationCount=10,threadPoolSize=4)

参数说明:
官方给出的解释是如下

简单来说就是:

invocationCount 表示方法要运行几次, threadPoolSize 表示线程池大小,且要配合 invocationCount 才起作用。现在将 userInfo1 方法用多线程执行10次,线程池大小设为4,打印当前线程id以观察验证

测试结果:

从测试结果中可以看到4个不同的线程一共将方法 userInfo1 执行了10次

9.2 多线程测试xml实现:
parallel(methods|tests|classes)+thread-count

参数解释:
官方文档的解释如下:

parallel(methods|tests|classes) :设置使用多线程,且有 methods|tests|classes 三种不同级别选择

  • methods : 所有用例都可以在不同的线程下执行,包括依赖的用例
  • tests : 同一个 <test> 中的用例运行在同一个线程下,不同 <test> 中的用例可以运行在不同线程下
  • classes :同一个 <class> 中的用例运行在同一个线程下,不同 <class> 中的用例可以运行在不同线程下

1)创建3个方法,打印线程ID

2)三种不同级别选择

methods-所有用例都可以在不同的线程下执行

设置 parallelmethods 级别, thread-count 为3,进行测试

image

测试结果:

image

2.2)tests-同一个 <test> 中的用例运行在同一个线程下,不同 <test> 中的用例可以运行在不同线程下
再创建测试类 ThreadTest ,添加三个方法并打印thread ID

设置 paralleltests 级别, thread-count 为3,进行测试

image

测试结果:

2.3)classes-同一个 <class> 中的用例运行在同一个线程下,不同 <class> 中的用例可以运行在不同线程下

设置 parallelclasses 级别, thread-count 为3,进行测试

image

测试结果:

注: 虽然框架本身说明了是多线程安全的,但是由于我们自身编码可能不能保证严格规范,容易造成多线程不安全,所以建议不要适用多线程测试,而是适用多进程测试

参考链接:

TestNG官方说明:

https://testng.org/doc/index.html

IBM Developer:
https://www.ibm.com/developerworks/cn/java/j-cq08296/?mhsrc=ibmsearch_a&mhq=testNG