XXX项目测试报告
集群,以及相关应用软件DSG和Oracle、DataStage服务器以及相关应用软件DataStage和dagger;另外与ODS数据库服务器相关联的业务数据库,在ODS数据同步时也作为此次测试关注的对象。主要关注于在各场景下,各系统服务器资源使用情况,包括CPU、内存、网络以及磁盘IO等。
局域网1ODS1ODS2DataStage局域网3业务数据库报表服务器局域网2
2.1.1.1.1 需要测试的特性
? ODS的数据处理能力; ? ODS最大并发用户数;
? ODS系统资源利用率(CPU、内存、磁盘、网络); ? ODS可扩展性;
? ODS的业务系统V5、寿险与健康险同时大数据量批处理
2.1.1.1.2 不需要测试的特性
无
本文档内容涉及XXX股份有限公司商业秘密,不得以任何形式披露、传播或扩散。
第6页 共47页
XXX项目测试报告
2.1.1.2 性能测试指标描述
? 各系统CPU资源利用率小于等于80%; ? 各系统MEM资源利用率小于等于80%; ? 各系统I/O资源利用率小于等于80%;
? ODS最大处理能力:这里的处理能力是指ODS每秒能够处理报表交易的笔数
即TPS,通过LR压力测试获取;
? ODS最大并发用户数:通过LR压力测试获取; ? 交易响应时间:通过LR压力测试获取; ? 数据同步成功率:人工核对; 2.1.1.3 性能测试场景设计
按照ODS是否在进行数据同步,分别设计无ODS数据同步、ODS数据同步中两类测试场景。无ODS数据同步涉及: 单独datestage测试场景,小SQL数据消费负载测试场景,大SQL数据消费负载测试场景,大小SQL数据消费混合测试场景,datestage+大小数据消费混合测试场景;ODS数据同步中涉及:单独ODS数据同步测试场景,ODS数据同步+大小数据消费混合测试场景,ODS数据同步+ ADTESTAGE混合测试场景,ODS数据同步+大小数据消费+ ADTESTAGE混合测试场景。
2.1.1.4 测试方法简要描述
本次性能测试从实际业务场景入手,模拟每日ODS数据库从业务数据库进行
本文档内容涉及XXX股份有限公司商业秘密,不得以任何形式披露、传播或扩散。
第7页 共47页
XXX项目测试报告
数据同步;模拟使用批量调度工具dagger配合datastage进行日常批量执行;
数据消费方面,通过客户提供的4支使用频度较高且比较复杂的SQL,以及从中抽离出3支较为高效的精简后的SQL,分别使用调度工具dagger,通过在工作流中设置相同的任务,从而模拟复杂SQL的并发;以及使用压力测试用具loadrunner来进行小SQL的并发模拟。
在各测试场景执行期间,使用性能监控工具nmon对数据库服务器进行资源情况监控,再通过对nmon结果的统计分析从而定位出系统可能存在的瓶颈。
2.1.2 测试过程
任务名称 环境准备 数据准备 方案设计 录制测试脚本 测试执行 测试总结
起止时间 2012.7.30-2012.7.31 2012.8.1-2012.8.2 2012.7.20-2012.7.26 2012.8.2-2012.8.3 2012.8.3-2012.8.6 2012.8.7 执行组 施碧富、高春龙 施碧富、高春龙 张华、尹桂光、马建军 王明强 王明强 王明强、马建军 本文档内容涉及XXX股份有限公司商业秘密,不得以任何形式披露、传播或扩散。
第8页 共47页
XXX项目测试报告
2.1.3 测试结果及分析
2.1.3.1 测试结果统计
2.1.3.1.1 无
ODS数据同步前测试场景
剩余物理内存占比(%) 0.4% 11.5% 51.8% 磁盘IO(KB/S) Read 78 2108 6190 write 94 1855 101 场景说明:监控未进行ODS数据同步前, 系统空闲时资源情况。
IP 10.2.0.27 10.4.40.3 10.4.40.4 CPU利用率(%) 1.5% 1% 0.5% 网络传输率(KB/S) 1.8 111 104 分析:各服务器CPU利用率较低;各服务器均为1000M网卡,理论传输速率为125MB/s,因此网络带宽占比接近0。此时磁盘IO低于6M/s,相对空闲。
2.1.3.1.2 ODS
数据同步后测试场景
剩余物理内存占比(%) 4.6% 20.5% 34.2% 磁盘IO(KB/S) Read 245 4434 9963 write 85 1740 596 场景说明:监控进行ODS数据同步后,系统空闲时资源情况。
IP 10.2.0.27 10.4.40.3 10.4.40.4 CPU利用率(%) 1.3% 1.6% 1% 网络传输率(KB/S) 1.7 779 798 分析:各服务器CPU利用率较低;同上此网络带宽占比低于0.1%;此时磁盘IO最高平均不超过10M/s。
2.1.3.1.3 小
SQL数据消费测试场景(无ODS数据同步)
场景说明:摘取应收保费清单、有价单证销号清单、险别3支交易部分SQL录制测试脚本,分别进行30并发、90并发、150并发下小SQL数据消费场景测试。
IP 10.4.40.3 10.4.40.4 10.4.40.3 并发用户数 30 90 CPU利用率(%) 7.1% 0.7% 11.9% 剩余物理内存占比(%) 62% 73% 48% 网络传输率(%) < 1% 0% 1% 磁盘IO(KB/S) read 8461 7592 9874 write 167 117 203 本文档内容涉及XXX股份有限公司商业秘密,不得以任何形式披露、传播或扩散。
第9页 共47页
XXX项目测试报告
10.4.40.4 10.4.40.3 10.4.40.4 150 0.7% 12% 0.6% 70.4% 71% 71% 0% 1% 0% 7788 7755 8227 87 162 90 分析: ODS-1(10.4.40.4)服务器CPU利用率随着并发人数的增加而增加,在150并发时相对达到最大,但从结果来看此并发下CPU利用率仍有较大富余;同上此网络带宽占比低于0.1%;磁盘IO随着并发用户增加而无剧烈变化,平均最高低于10M/s。
2.1.3.1.4 大
SQL数据消费测试场景(无ODS数据同步)
场景说明:使用dagger调度程序,通过创建工作流,模拟40并发下大SQL用户的测试场景。
IP 10.4.40.3 10.4.40.4 并发用户数 40 CPU利用率(%) 13.4% 1% 剩余物理内存占比(%) 16.7% 36% 网络传输率(%) 5.1% 4.8% 磁盘IO(KB/S) read 81219 11373 write 17457 101 分析:各服务器CPU利用率较低;同上此网络带宽占比也相对较低; 而ODS-1服务器磁盘IO速率接近97M/s,相对较高,可能造成系统性能瓶颈。
2.1.3.1.5 小
SQL+大SQL数据消费测试场景(无ODS数据同步)
场景说明:分别使用dagger调度程序模拟40并发大SQL用户,与loadunner模拟150并发小SQL用户共同发压的测试场景。
IP 10.4.40.3 10.4.40.4 并发用户数 190 CPU利用率(%) 24.3% 0.8% 剩余物理内存占比(%) 13% 33% 网络传输率(%) 14.2% 12.9% 磁盘IO(KB/S) read 45219 10929 write 11838 6367 分析:ODS-1服务器在190并发压力下CPU利用率达到24%,ODS-2服务器CPU利用率基本空闲;而此时网络带宽占比达到15%,相对比较稳定;另外ODS-1服务器磁盘IO相对ODS-2较高,平均达到55M/s。
2.1.3.1.6 datastage
性能测试场景(无ODS数据同步)
场景说明:直接使用用DateStage调用ETL_INCR_CORE存储过程,监控服务器资
本文档内容涉及XXX股份有限公司商业秘密,不得以任何形式披露、传播或扩散。
第10页 共47页