星云精准测试之用例魔方

精准测试从某个层面来讲，是赋予了测试用例真正的生命力，传统的测试用例仅仅是一些只能够依赖人去理解和分析的文本文件而已，在计算机和算法层面则没有存在意义和价值。下图是精准测试的整体架构图：

image

大家首先可能会比较好奇，“用例魔方”的概念是怎么来的？测试用例魔方是在精准测试的设计、开发和商业实践中自然产生的功能集合的一个统称。当我们把精准测试的和用例分析相关的功能画成架构图形表示的时候，它自然而然地看起来就像魔方，所谓“魔”则是精准测试核心算法所赋予的超能力。
上图是星云精准测试系统的总体结构图，“测试魔方”即分布在左上角区域。大家知道精准测试的核心技术是测试用例与代码的追溯关系的建立，而在此之上就可以构建测试魔方的核心功能区。如下：
　

image

所谓“方”实际上是代表测试用例的集合，每个测试用例用一个小方块标识，所有测试用例的集合用一个大方块。现在来看在精准测试架构下，“用例魔方”所能够提供的功能（对精准测试的底层技术不是很了解的话，可以预先温习下《精准测试框架白皮书》）。精准测试体系中，测试用例对应的代码逻辑都可以实现全自动的追溯和存储，因此测试用例就具备了进行深入分析的基础。在精准测试的用例魔方中，目前存在三个面（随着后续功能的增加，将增加分析的面），即回归测试用例选取、测试用例聚类分析、测试用最小化，同时辅之以智能缺陷定位技术。下面对“用例魔方”做详细的说明，选用的工具为星云精准测试平台ThreadingTest产品系列。
　
　　首先介绍回归测试用例选取。从魔方视图中可以看到回归用例选取（主要选取可能影响到的重点用例）。精准测试中所谓的回归测试和自动化回归有很大的差别，我们听的比较多的自动化测试中的回归其实是把自动化用例重新运行的意思，而精准测试中的回归测试是通过内部算法自动选取新版本修改后可能影响到的测试用例。通过回归测试用例选取，解决了新版本上线该对哪些用例进行测试和重点测试的问题，这也是敏捷开发中测试所面临的最大问题。下面是回归测试用例选取的原理图：

　

image

　
　原理介绍：

image

　
　
　测试用例A与测试用例B为在版本A中进行测试的用例，其绿圈中A1、A2、A3、B2…等为其测试用例所对应的运行中采集的函数信息。

　

image

　
　在版本迭代过程中，版本B也对其测试用例A进行了测试，并添加了测试用例C，精准测试采集其对应的函数信息。
　

image

　
　　当版本C进行迭代发布时，精准测试根据测试用例A、B、C最后运行的版本所对应的函数信息与版本C的版本函数信息进行比较，根据变化差异进行回归优先级排序。
　
　① 测试用例A最后运行在版本B中，对应的函数信息为A1、A2、B1、A3，对比版本C中的函数无代码变化，计算回归优先级值为0。

　
　② 测试用例B因为在版本B中未运行，最后运行的版本为A，版本A的测试数据B1、B2、B3、C3和版本C中的函数比对，得出函数C3的代码有变化，计算回归优先级值为1。
　
　③ 测试用例C最后运行在B，对应的函数信息为C1、C2、C3、A3，和版本C中的函数比对，得出函数C3的代码有变化，函数C2进行了删除，计算回归优先级值为3。
　
　④ 结果进行回归优先级排序，得出测试用例C回归优先级最高优先值为3>测试用例B回归优先值为1>测试用例A，回归优先值0，不需要回归。
　
　当新版本上线后，精准测试系统会自动给出本次发布波及到的测试用例列表以及收到波及的程度。如下图：

image

　

image

通常测试用例的分类都是人工根据功能组织进行硬性归类的，在精准测试体系中，用例魔方中的测试用例为聚类分析。由于测试用例都包含有对应的内部代码执行逻辑，执行路径直接可以通过代码块或者函数进行举例计算，例如一个程序总共有10个函数。
　
　　“用例魔方”中的聚类结果具有非常实用的价值，体现在以下几点：
　
　1.通过用例聚类结果，可以从管理端审核测试执行的正确性。传统测试一般由人工执行，因此想确认测试用例是否本身执行有错误，或者是否按照预先设定的要求执行了，是非常困难的，这也是测试管理的成本一直很高的一个重要原因。通过对精准测试“用例魔方”的聚类结果分析，若两个功能迥异、本不应该分到一起的测试用例被分到了一组，那么产品经理或者项目管理者会非常容易识别出这里面存在测试用例的执行错误，并在产品发布的最后一环，及时处理。
　
　2.通过“用例魔方”的测试用例聚类结果这一功能，可以发现缺陷分布的密集区域。因为聚类的依据是用例执行对应的代码路径差异信息，聚类结果充分而真实的体现了用例之间的空间感，结果非常有意义。缺陷的分布一般是有规律的：功能相近的用例如果有出现错误，那么同类型用例出错的概率也更大。所以当时间不充足的情况下，可以依据聚类结果，每个用例聚类簇随机选几个。如果没有bug，就可以放松对簇内其他用例的考察，如果发现了缺陷，那么其它簇内的用例也需要重点考察。
　

image

image

在企业大量应用自动化测试场景下，随着日积月累，产生了大量的、逻辑重复的测试用例。通过“用例魔方”的测试用例集最小化算法，可以把重复或者存在包含关系的用例从用例集中剔除出去。原理非常简单：假设两个用例，在代码覆盖上存在完全包含关系，那么被包含的用例就可以从用例集中剔除。算法所依据的数据依然是测试用例与代码的追溯关系技术数据。
　
　　“用例魔方”中另外一个精彩的功能是智能的缺陷定位技术，星云精准测试提供了3种计算公式。
　

image

image

通过智能缺陷定位，测试工程师仅需要标记用例从功能角度的执行状态（是否存在缺陷），再结合星云精准测试“用例魔方”自动记录的对应程序执行的代码频谱，就可以对缺陷进行代码级的精准定位。
　
　1.源代码
　简单分析第15行代码，当第十行y=y且x

image

2.创建7个测试用例test1、test2、test3………..test7并进行测试
　① test1输入为3 3 5输出为3，预期输出为3，符合预期，此用例记为通过
　② test2输入为1 2 3输出为2，预期输出为2，符合预期，此用例记为通过
　③ test3输入为3 2 1输出为2，预期输出为2，符合预期，此用例记为通过
　④ test4输入为5 5 5输出为5，预期输出为5，符合预期，此用例记为通过
　⑤ test5输入为5 3 4输出为4，预期输出为4，符合预期，此用例记为通过
　⑥ test6输入为2 1 3输出为1，预期输出为2，不符合预期，此用例记为未通过
　⑦ test7输入为3 2 4输出为2，预期输出为3，不符合预期，此用例记为未通过
　
　3.针对test6、test7提交缺陷，表明test6与test7输出与预期不符
　
　4.打开缺陷分析界面进行分析
　

image

　
　5.可疑度算法包括如下三种，可自主选择
　

image

其中aep表示通过且覆盖到该块的测试用例的个数、anp表示通过且未覆盖到该块的测试用例的个数、aef表示未通过且覆盖到该块的测试用例的个数、anf表示未通过且覆盖到该块的测试用例的个数。结果表示该块的可疑度。
　
　6.代码可视化查看位置

image

　
　　关联源码之后可根据代码可视化定位第十二块位置，根据实际分析可得第十二块确实为缺陷语句，分析过程见第一步。
　　（大家如果感兴趣可以到星云测试的官网上 www.teststars.cc 试用。）
　　精准测试的精髓在于通过专用测试软件实现表层功能和底层代码的关联，并且获取成本很低。它在测试用例执行的过程中，通过软件示波器以透明方式自动获取两者的关联关系。通过精准测试系统，使针对用例的深入分析“用例魔方”成为可能。目前精准测试的核心用例分析算法正在持续增强，“用例魔方”的软件研发辅助分析功能，为软件测试的智能化、专业化成长，带来曙光和方向。