接口自动化测试的 “能” 与 “不能”

图片

一、接口自动化测试的 “能 “

接口自动化的目标

• 用于项目的 API 层的 HTTP 接口的功能逻辑验证• 减少手工测试的工作(回归验证;跨模块的验证)• 实现手工验证不能做的验证(如接口涉及大量数据的排序比较)• 手工很难充分验证的功能逻辑(如接口的功能验证涉及大量的数据)

P.S. 实际项目中,接口自动化的根本目的是什么?

个人认为是定时跑时,能监控接口,当接口功能失常时,可以及时发现,即发现 Bug。因此,可以使用代码覆盖率来评估接口自动化的完整性,但 更重要的是发现问题

接口自动化 Case 用例设计原则

切记:

• 不要为了做自动化而做自动化,做的首要目标是问题出现时,能第一时间发现;• 自动化中的代码覆盖率统计可以作为参考,但不能一开始就为了提高覆盖率,陷入 Case 设计之中;

注意:好的接口自动化 Case 设计,依赖于 Case 设计者的功能理解程度(手工测试的功力)+ 功能覆盖点

原则:

1. 将手工测试点转换为自动化用例。Case 设计注意:验证用例通过的标准—参考一个功能点容易出问题的地方。或者说,一个用例的通过说明此功能点一定没问题;反之,一定有问题。

2. 覆盖手工测试不易检查/太浪费时间的检查

比如:

• 一个 HTTP 接口设计大量的数据比较的时候;• 接口的 json 返回不能直接检查功能点是否正确(需要调用另一个接口的 json 来间接验证时);• 一个接口的 json 返回需要和其他模块的接口联合” 互相验证 “(需要调用其他模块的接口的 json,两个 json 相互来验证彼此的正确性)

3. ”边缘性“的功能检查 这里主要指的是回归验证。如果系统涉及边缘性的功能验证,把此类功能设计层自动化用例

4. 接口验证的程度 接口的验证:即判断一个接口是否正常的标准。注意:接口参数”合理地“组合;

5. DB 数据更新检查

(如果有必要)注意从接口的角度检查 DB 数据的更新:

• 其他系统的数据更新到待测系统 DB 中的数据;• 每天待测系统由于用户操作更新到 DB 中的数据;

6. 接口自动化的数据准备

关于是否需要为接口自动化,特意在 DB 中准备需要的数据,适需要程度而定。原则:除非必须,否则不用准备。如果不准备数据,无法完成对接口的验证,则自己准备数据即可。

注意:一旦自己准备数据,评估对其他功能验证的影响。确保 DB 中数据量和真实性(模拟的数据需要充足,并且不能和真实数据差异性过大)。

接口自动化用例定时跑

自动化一般会选择每天定时跑。这里需要注意的一点就是定时跑的时间选择。时间选择上注意几点:

1)在线上跑时,注意对线上接口的影响(一般要求:线上的回归验证可以随时跑);

2)如果要检查 DB 数据更新的有关逻辑,注意数据的稳定性 (如用户量少的时候);

3)在测试时(非生产环境),接口涉及读,写 DB,考虑是否需要定时跑;

二、接口自动化测试的”不能“

首先,接口自动化不是万能的,总有覆盖不到的时候。知道自动化的”不能“之处,才能更好配合手工测试出问题。

自动化的” 不能 “之处如下:

1)HTTP 接口突然出现压力问题(前期的压测);

2)Web 层面的手动测试 (新功能上线后,对原有功能回归时,仍需要接口自动化验证接口,手工测试 Web 页面功能);

3)异常情况(如需要第三方 API 挂掉/超时的场景);

接口自动化之难点:

1)实现变动 vs 维护的工作量 vs 检查的详细程度;

检查详细程度:自己和自己比;自己和同类接口同一指标比较(因为口径不一致,或者内部实现变化,需要后续维护);

经验:自己和自己比,扩展和兼容性比较好(动态参数 + 完成功能检查);而自己和别的接口比 看需求而定(接口提测前后 数据准确性检查比较参考);

P.S. 小的点,执行时间和执行频率;

用途:发现功能失常,功能不可用;

2)接口监控 —— 执行时间和执行频率

• 检查详细程度 vs 执行时间和执行频率 (只能和自己);• 检查详细程度 vs 经常频繁报警(一个接口怎样算是正常的,返回非200+功能正常)

3)数据报表;

数据的正确性:统计口径(业务方的口径+多个接口/模块口径的差异后导致业务方不一致)。

接口自动化之痛点

痛点当然源自难点:

•当接口本身实现频繁变动、对接口的检查太过详细、开发修复缓慢时,那么不停的报警将会来了。•不合理的自动化设计及维护方案,造成自动化成本大于自动化收益时,接口自动化就变得无足轻重了。实际项目中的体会是: 为了自动化而自动化 。特别测试场景过于复杂时,当自动化实现成本远大于手工测试成本时,就没有必要非去自动化测试了。

P.S. 欢迎在评论区留言你对接口测试自动化的实践心得和看法。