自动化测试可行性分析报告28222.pdf

XXXX 客户网银资金管理系统 引入自动化测试的 可行性分析报告 版本：1.0 1.概述 1.1.目的 本文档对 XXXX 客户网银资金管理系统项目引入自动化测试工具的可行性进行评估，为项目经理提供决策参考。1.1 范围 本文档描述了 XXXX 客户项目情况、现有测试工作流程、自动化测试本身的一些情况，对测试工作量进行了估算，最后对估算结果进行了分析，并依此提出了一些建议。本文档中讨论的自动化测试工具主要是功能测试工具。1.2 术语定义 本文档涉及了几款自动化测试工具：TestManager：IBM 公司的测试管理工具，属于 Rational 系列产品之一。Robot：IBM 公司的性能测试工具，属于 Rational 系列产品之一。RFT：Rational Function Tester，IBM 公司的功能测试工具，属于 Rational 系列产品之一。TestDirector：Mercury 公司生产的测试管理工具。Loadrunner：Mercury 公司生产的性能测试工具。QTP：QuickTest Professional，Mercury 公司生产的功能测试工具。1.3 参考文档 2.项目介绍 2.1.项目背景 XXXX 客户网银资金管理系统，是 XXXX 客户为了加强银行账户管理，提高资金利用效率而开发的一套资金管理系统。2.2.项目开发、运行环境 XXXX 客户网银资金管理系统遵循的开发规范如下：操作系统：Windows2003 或者 HP Unix 或者 SCO Unix 或者 AIX 或者 Solaris 数据库平台：Informix 9.0 J2EE 应用服务器：Weblogic 开发平台：Eclipse（3.1 以上版本）2.3.项目进度 项目的预定计划如下：序号 阶段名称 工期 开始时间 结束日期 1 需求阶段 34 工作日 2006-5-10 2006-06-26 2 开发阶段 64 工作日 2006-6-12 2006-9-7 3 测试执行阶段 48 工作日 2006-7-4 2006-9-7 2.4.项目特点分析 根据业务需求分析，业务量主要集中在银行业务数据操作，包括银行数据查询，银行业务数据变更，因为和银行的交互集中在前置机上，且银行数据量大，操作复杂，耗费时间长，所以系统在多用户并发操作时，可能存在性能瓶颈。另外，由于 XXXX 客户的分支机构众多，操作人员多，数据量大，在多用户并发操作时，性能和效率会有较大影响。3.现有测试流程 现有的测试流程按照阶段划分为测试设计阶段和测试执行阶段。测试设计阶段的主要工作是根据业务需求说明书和系统需求说明书来设计和编写测试用例。根据以往的经验，将测试用例划分成三个部分：测试需求分析；测试方案；数据执行步骤。测试执行阶段的主要手段是手工测试，如果项目有性能方面的需求，再通过 Mercury 公司的性能测试工具 LoadRunner 来进行性能方面的测试。手工测试时，要完成以下工作：根据测试需求分析了解业务；根据测试方案来执行测试；根据数据库和详细设计来验证系统的具体实现；根据测试结果补充、修正测试用例中的分析、测试方案部分。系统上线部署之前两到三天，要进行内部的验收测试，其目的有两个：确认系统已经准备就绪，预定功能已经实现；即将上线部署的软件是正确的版本。主要通过重新搭建系统环境，重建数据库表的形式来开始验收测试。现有测试流程测试设计阶段测试执行阶段详细说明测试过程输入文档指导反馈测试步骤1.确定测试设计方法和思想；2.为手工测试提供测试参考；手工测试业务需求说明书1.根据测试结果补充、修正测试用例中的分析、测试方案部分；测试用例数据库设计文档1.根据测试需求分析了解业务；2.根据测试方案来执行测试；3.根据数据库和详细设计来验证系统的具体实现。测试方案系统需求说明书 测试需求分析1.详细的操作数据；2.详细的操作步骤；3.预计输出结果。详细设计文档1.划分测试用例粒度，功能分解；2.分析被测系统；3.分析测试重点；4.验证可测性。验收测试1.确认系统已经准备就绪，预定功能已经实现；2.即将上线部署的软件是正确的版本。4.自动化测试简介 随着软件开发技术和工具的提高，软件工程和软件过程实践的推广，软件测试日益得到重视和专业化。自动化测试更成为热门话题。测试自动化就是充分利用市场已有的或自行开发的测试工具，全部或部分替代手工测试、完成手工测试无法完成的测试任务，以及相关的测试数据的记录和测试报告的生成等。相对于手工测试而言，测试自动化通常具有速度快、执行效率高、执行过程受外界因素干扰小、测试结果准确等优点，缺点是前期投入较大，所以在采用测试自动化之前应当做好相应的评估工作。4.1.自动化测试的目的 自动化测试的目的是通过自动执行测试脚本，使测试人员在更短的时间内能够更快地完成更多的软件测试，并提供以更高的频率执行测试的能力，从而有效降低测试成本、提高测试效率。4.2.自动化测试的前提 自动化测试有几个前提：测试人员的编程能力；重用测试脚本的设计；人机交互界面的早期冻结；测试脚本开发的投入；测试人员对测试工具的熟练程度。4.3.自动化测试的优势和局限1,2 自动化测试的优势：对新版本执行回归测试 对于产品型的软件，每发布一个新的版本，其中大部分功能和界面都和上一个版本相似或完全相同，这部分功能特别适合于自动化测试，从而可以让测试达到测试每个特征的目的。更多更频繁的测试 在回归测试阶段，如果是每天/每 2 天都要发布一个版本供测试人员测试，一个系统的功能点有几千个上万个，手工测试将是非常的耗时和繁琐，而且非常的枯燥，这样必然会使测试效率低下。完善的自动化测试可以替代测试人员的手工测试。一致性和可重复性 由于每次自动化测试运行的脚本是相同的，所以每次执行的测试具有一致性，人是很难做到的。由于自动化测试的一致性，很容易发现被测软件的任何改变。自动化测试替代手工测试的困难：自动化测试的目的在于发现旧有缺陷，而手工测试的目的在于发现新缺陷。事实证明新缺陷越多，自动化测试失败的几率就越大。发现更多的新缺陷应该是手工测 试的主要目的。测试专家 James Bach 总结得出，85%的缺陷靠手工发现，而自动化测试只能发现 15 的缺陷。技术问题、组织问题、脚本维护 自动化测试的推行，有很多阻力，比如组织是否重视，是否成立这样的测试团队，是否有这样的技术水平，对于测试脚本的维护工作量也挺大的，是否值得维护等等问题都必须考虑。4.4.自动化测试工具对比3,4 目前比较主流的自动化功能测试工具主要是 Mercury 公司的 QTP、Winrunner，以及 IBM公司的 Rational Function Tester。下面对 QTP 和 Rational Function Tester 的功能来进行对比：功能指标 Rational Function Tester QTP 用户界面 与 Eclipse 集成 独立的 GUI 脚本语言 Java VBScript 测试 Web 系统 支持 支持 数据驱动 内建数据池 从 Excel 中获得数据 检查点 支持 支持 脚本管理工具 TestManager TestDirector 其它 支持 Business Process Testing（BPT）目前，我们测试人员对 QTP 比较熟悉，没有使用过 Rational Function Tester。就功能上来说，Rational Function Tester 和 QTP 差别不大。5.测试工作量估算 5.1.手工测试工作量估算 手工测试工作量的估算原则：根据业务和功能的复杂程度，以及以往项目的实际数据做参考，得出测试完成一遍的工作量。在整个项目测试周期中，测试小组会对整个系统进行两到三轮的测试（一般是必须的）。根据以往项目的统计数据：每一轮手工测试的工作量是上一轮工作量的 50，直到达到临界值，即完成一轮手工测试的最小时间后，工作量不会再减小。项目统计数据还表明：手工测试中，后期的测试工作占到全部测试工作的 4050。业务功能点 测试完成的工作量（人日）一级功能 二级功能 第一轮 第二轮 第三轮 系统管理 职责管理 2.0 1.0 0.5 用户管理 3.0 1.5 0.8 基础设置 机构类型设置 1.0 0.5 0.3 机构设置 1.0 0.5 0.3 币种设置 1.0 0.5 0.3 银行类型设置 1.0 0.5 0.3 账户用途设置 1.5 0.8 0.4 账户扩展属性设置 1.0 0.5 0.3 业务类型设置 3.0 1.5 0.8 账户管理 开户处理 4.0 2.0 1.0 销户处理 4.0 2.0 1.0 变更处理 4.0 2.0 1.0 账号升级申请 3.0 1.5 0.8 冻结与解冻 3.0 1.5 0.8 账户信息查询 2.0 1.0 0.5 资金清算 支出资金申请 5.0 2.5 1.3 归集资金申请 5.0 2.5 1.3 资金划拨 5.0 2.5 1.3 资金计划 行项目设置 2.0 1.0 0.5 编制计划 2.0 1.0 0.5 审批计划 2.0 1.0 0.5 资金监控 账户当日余额查询 2.0 1.0 0.5 账户历史余额查询 2.0 1.0 0.5 账户历史流水查询 2.0 1.0 0.5 监控项设置 5.0 2.5 1.3 监控报表和提醒 3.0 1.5 0.8 银企接口 银行指令查询 5.0 2.5 1.3 银行指令维护 5.0 2.5 1.3 自动归集策略设置 5.0 2.5 1.3 交易核对 5.0 2.5 1.3 审批流 审批设置 4.0 2.0 1.0 权限转移 4.0 2.0 1.0 每轮合计工作量（人日）：97.5 48.8 24.4 用户手册 5.0 验收测试 12.0 手工测试合计工作量：187.6 人日 按照 4 个测试资源计算，手工测试完成共需消耗 187.6/446.9 个工作日。与预定计划的 48 个工作日的测试周期接近。后期的测试工作占测试工作的 45左右。指标 数值 估算测试工作量 187.6 人日 测试资源 4 人 估算测试工作日 187.6/446.9 日 计划测试工作日 48 日 后期测试工作量比例(48.8+24.4+12)/187.6=45 对手工测试的工作量估算没有考虑开发进度 delay 的因素。一旦开发进度 delay，则第 3轮手工测试将无法完成，只能把优先级别较高的功能测试完成。开发进度 delay 的原因很大一部分来自需求变更。5.2.引入自动化测试后工作量估算 引入自动化测试工具后，手工测试的主要工作量将主要集中在第一轮测试，而自动化测试脚本也根据被测试功能和业务的复杂程度不同而不同。根据下表的统计数据，在自动化测试中采用数据驱动的方式，投入产出比比较合适。结构 成本 收益 净收益 No Automation 0 0 0 Recording and Playback 8.3 11 2.7 Data-driven structure using data pools 8.4 18 9.6 Framework structure 9.8 15 5.2 Framework/data-driven(hybrid)structure focusing on views of the application and using data pools 11.6 19 7.4 根据业内的统计数据，手工测试与自动化测试脚本编写的工作量比例约为 3:7，在不考虑需求变更的情况下，测试脚本的维护工作量为建立脚本工作量的 1020，在估算时，取中间值 15。引入自动化测试后工作量估算为：业务功能点 测试完成的工作量（人日）一级功能 二级功能 手工测试 自动化脚本 脚本维护 系统管理 职责管理 2.0 4.7 0.7 用户管理 3.0 7.0 1.1 基础设置 机构类型设置 1.0 2.3 0.4 机构设置 1.0 2.3 0.4 币种设置 1.0 2.3 0.4 银行类型设置 1.0 2.3 0.4 账户用途设置 1.5 3.5 0.5 账户扩展属性设置 1.0 2.3 0.4 业务类型设置 3.0 7.0 1.1 账户管理 开户处理 4.0 9.3 1.4 销户处理 4.0 9.3 1.4 变更处理 4.0 9.3 1.4 账号升级申请 3.0 7.0 1.1 冻结与解冻 3.0 7.0 1.1 账户信息查询 2.0 4.7 0.7 资金清算 支出资金申请 5.0 11.7 1.8 归集资金申请 5.0 11.7 1.8 资金划拨 5.0 11.7 1.8 资金计划 行项目设置 2.0 4.7 0.7 编制计划 2.0 4.7 0.7 审批计划 2.0 4.7 0.7 资金监控 账户当日余额查询 2.0 4.7 0.7 账户历史余额查询 2.0 4.7 0.7 账户历史流水查询 2.0 4.7 0.7 监控项设置 5.0 11.7 1.8 监控报表和提醒 3.0 7.0 1.1 银企接口 银行指令查询 5.0 11.7 1.8 银行指令维护 5.0 11.7 1.8 自动归集策略设置 5.0 11.7 1.8 交易核对 5.0 11.7 1.8 审批流 审批设置 4.0 9.3 1.4 权限转移 4.0 9.3 1.4 每项合计工作量（人日）：97.5 227.5 34.1 用户手册 5.0 验收测试 4.0 合计工作量：368.1 人日 在使用了自动化测试工具以后，验收测试只需要搭建环境和数据初始化，效率提高了，测试工作量减小到 4 人日。计划的测试资源为 4 个，计划的测试工作日为 48 日，故计划工作量为 192 人日。在未引入自动化测试工具以前，第二轮和第三轮及验收测试的工作量合计为(48.8+24.4+12)=85.2 人日，引入自动化测试以后，后期的测试工作量为(227.5+34.1+4)=256.6 人日。指标 公式 数值 计划测试工作日 48 日 计划测试资源 4 人 计划测试工作总量 48*4 192 人日 替代的手工测试工作量 48.8+24.4+12 85.2 人日 估算自动化测试工作量 227.5+34.1+4 265.6 人日 估算测试工作总量 368.1 人日 估算测试工作日 368.1/4 92 日 估算测试周期 2006 年 7 月 4 日 2006 年 11 月 8 日 上表的数据表明，实施自动化测试，在最好的情况下（不考虑学习曲线和需求变更），估算测试周期为 2006 年 7 月 4 日2006 年 11 月 8 日，比预定计划的项目开发完成时间晚2 个月。5.3.学习曲线、需求变更对工作量的影响 根据项目管理的相关理论，学习曲线和需求变更将分别会增加 30的工作量，考虑到对测试工具的了解程度，QTP 的学习成本会少一些，估计为 10，Function Tester 的学习成本将为 30。估算测试工作量为：指标 没有需求变更 有需求变更 公式 数值 公式 数值 手工测试估算工作量 187.6 人日 187.6*(1+30%)243.9 人日 使用自动化工具估算测试工作量 QTP 97.5+265.6*(1+10%)+5 394.7 人日 97.5*1.3+265.6*1.4+4 502.6 人日 RFT 97.5+265.6*(1+30%)+5 447.8 日 97.5*1.3+265.6*1.6+5 556.7 人日 估算测试工作日 QTP 384.8/4 98.7 日 490/4 125.6 日 RFT 436.1/4 111.9 日 542.3/4 139.2 日 估算测试周期 QTP 2006 年 7 月 4 日 2006 年 11 月 17 日 2006 年 7 月 4 日 2006 年 12 月 26 日 RFT 2006 年 7 月 4 日 2006 年 12 月 6 日 2006 年 7 月 4 日 2007 年 1 月 15 日 上表的估算数据表明，实施自动化测试，在最坏情况下（考虑学习曲线和需求变更），估算测试工作日为 139.2 日，测试周期为 2006 年 7 月 4 日2007 年 1 月 15 日，比预定计划的开发完成时间晚 4 个月。6.分析和建议 对测试工作量的估算表明，在不考虑学习曲线和需求变更的情况下，使用自动化测试工具的估算工作量为手工测试工作量的两倍。如果 XXXX 客户希望在系统上线后，能够自己维护 BBBB 公司提供的自动化测试脚本，项目组的测试人员的工作量将为手工测试的 34 倍。另外，行业经验，自动化测试工程师的成本约为普通测试工程师的两倍。经过项目组讨论，有以下三个建议：建议一：本项目暂只实行手工测试。为保证计划的上线时间9 月 7 日，在本项目中不施行自动化测试，仍然使用传统手工测试。建议二：自动化测试分段实施。7 月到 9 月施行手工测试，保证项目进度和质量。9 月到明年 1 月实施自动化测试，项目上线延迟到明年 1 月份。建议三：对自动化测试只做试用的尝试。如果 XXXX 客户客户希望最终能够获得一份 Robot 的试用报告，测试人员可以在项目测试中对一到两个功能做自动化的尝试，估算比计划的项目上线日期推迟 10 天左右。即项目的上线时间为 2006 年 9 月 16 日。7.参考资料 1.软件工程 王长元 李普惠 等编著。2.测试员电子期刊 200504 期 软件测试管理 主编：陈绍英 3.IBM Rational Functional Tester 工具帮助 4.Rational 完成自动化功能测试 宁德军（IBM 中国有限公司软件部 Rational 高级技术专员）