商业银行大数据性能容量测试探索与实践

《商业银行大数据性能容量测试探索与实践》由会员分享，可在线阅读，更多相关《商业银行大数据性能容量测试探索与实践（11页珍藏版）》请在金锄头文库上搜索。

1、商业银行大数据性能容量测试探索与实践随着数字化转型的逐步深入，商业银行大数据平台的 技术体系愈发庞大，所承载的业务功能也日渐丰富，而各 类性能问题给生产环境的平稳运行带来了巨大挑战，并促 使大数据场景下的性能测试随之成为了业界面临的难点 问题。本文从需求识别、测试方法、监控体系和模型预测 等四个方面入手，详细阐述了大数据性能容量评测体系的 方法论基础，并进一步分享了大数据性能容量评测平台的 建设路径与实践成效。数字经济时代，商业银行各类业务需求的不断增加， 为传统的业务处理模式带来了巨大挑战，而数字化也随之 成为银行业实现可持续发展的全新命题，并促使越来越多 的商业银行开始构建符合自身发展需求

2、的大数据体系架 构。为应对上述转变，工商银行以技术变革引领银行再造， 全力打造智慧银行ECOST程，并引入多层次数据开展新 业态建设，以及采用对外赋能等数字化转型举措，始终致 力于以科技驱动赋能业务创新和价值创造，实现全方位的 金融科技突破创新。历经近20年的迭代优化，工商银行 大数据技术体系从最初单机、一体机架构的批量分析场景 开始，先后走过了起步、发展、转型、提升等多个阶段， 通过对典型场景的不断打磨，逐步演进到基于分布式数据 库、融合大数据服务与AI服务的大数据服务云模式，并 从“数据辅助决策”平台一步步发展为“数据+智能驱动决 策平台。实践中，大数据技术平台作为海量数据的采集、存储、

3、加工和分析平台，为工商银行业务发展提供了高效的数据 支撑。但是，随着大数据平台技术体系的愈发庞大与所承 载业务功能的日益丰富，各类性能问题也给生产环境的平 稳运行带来较大挑战，而大数据场景下的性能测试也始终 是业界面临的一个难点问题。本文结合工商银行大数据技 术体系建设，深入探讨了分布式系统架构下 四位一体” （包含需求分析、版本测试、日常监控、模型预测）的性 能容量综合评测体系的研究思路与实践路径。一、大数据性能容量测试的目标与思路工商银行大数据技术体系主要基于分布式系统建立 了包含一湖两库”（数据湖、数据仓库、集团信息库）在 内的大数据服务云，可提供多样化的大数据服务和 AI服 务。但是，

4、大数据服务云的大范围推广和应用在推动工商 银行大数据技术体系不断发展的同时，在新技术架构下的 性能表现却存在很大差异，而如何在验收测试前预先界定 性能测试范围、识别性能隐患，更是成为产品研发流程中 最值得关注的焦点之一。此外，由于分布式系统服务器数 量较多，各台服务器、各个资源池、各组件服务以及整个 集群层面也全都需要进行性能分析，并对超出阈值的性能 指标和进程进行相应处理。为有效应对大数据性能容量测试的新挑战，工商银行 针对大数据性能测试面临的痛点问题，建立了需求分析、 版本测试、日常监控、模型预测四位一体的大数据性能 容量评测体系，并通过搭建大数据性能容量测试平台进行 统一管理，实现了验收

5、测试前预先界定性能测试范围、明 确性能测试方法、完善性能监控策略以及预测性能隐患等 目标。1. 测试源头识别性能需求工商银行大数据服务云通过将分布式系统平台的离 线数据分析处理服务封装成大数据服务平台，该平台可为 上层应用提供统一的技术标准和开发规范，分配所需资源 和权限，并完成特定的业务功能。同时，大数据服务平台 是云上应用与集群交互的媒介，借助其统一管控的优势，工商银行开发大数据服务云程序级管理系统，对入云应用 的新增修改程序及测试覆盖情况进行统一的管理和监控， 实现了从验收测试源头界定性能测试范围、精准识别性能 测试需求的目标。2. 动静结合的性能测试方法在动态测试方面，基于分布式系统资

6、源的灵活调配能 力，以及工商银行大数据沙盒的数据快速填补能力，工商 银行提出了在分布式环境下构建系统资源、测试数据、配 置参数与实际生产比例为1:1的测试环境场景性能评测方 法，并形成了一套面向“技术+业务场景的分布式系统性 能容量测试指引。具体而言，测试方法主要包括模拟真实 场景测试和新旧版本比对测试两种，两种方法都需要对系 统资源、测试数据和配置参数等进行灵活调配，不同之处 在于模拟真实场景测试需要创造出和生产实际运行场景 完全一致的底层资源和数据环境，适用于对新增或修改的 程序进行测试；而新旧版本比对测试只需新旧版本下的资 源和数据环境一致即可，适用于对历史版本修改后的定性 预估测试。大

7、数据性能容量测试方法设计要点见表 1。表1大数据性能容量测试方法设计要点若设计数据沙盒全量获:,使测试f生产一致据逻辑分测试数据本一致i在静态代码校验领域，工商银行针对基于分布式系统 的大数据性能容量测试，根据平台的技术特点和代码规范 制定了相应的静态代码校验规则，并将这些规则进一步封 装，开发了基于规则的性能容量扫描工具。在对作业进行 动态测试前，可以使用该工具对应用层代码做扫描，检查 代码中是否存在不合规或低效率语句的情况，从而提前发 现性能隐患，有针对性地进行代码整改。3. 完善大数据性能监控体系根据分布式系统平台的技术特点，工商银行结合自身的大数据服务使用方式制定了相应的设备、集群、资

8、源、 服务、进程等监控策略，并统一纳入大数据性能容量测试 平台，对超出正常值（主要根据业务作业运行时效指标、 服务器或集群使用限制制定）的性能指标进行预警、分析 和查杀。分布式平台的性能监控策略可分为应用层、队列 层和集群层来分层实施，并通过在平台应用层面开发专门 的扫描工具，实现对应用作业运行时间、服务器资源使用 情况、队列资源使用情况、集群资源使用情况、表倾斜情 况、大表广播以及对超性能阈值的进程查杀等情况的监控 和预警。4. 机器学习模型预测性能隐患针对面向大数据程序的性能容量预测，工商银行使用 机器学习方法建立了回归模型性能预测工具，并选取所用 算法、作业并发数量、作业所在系统、关键字

9、出现次数、 作业运行次数、作业编号、作业运行日期等因素作为入模 特征，使用light GBM多分类模型实现了对大数据平台 新增修改作业的模型预测。实践中，回归模型性能预测工 具不仅可以对作业的运行时间进行预测，还可在作业运行 之前排除新作业运行的性能隐患，尤其在数据湖、数据仓 库和平台化开发作业的性能预测中更是具有较强的普适 性。二、大数据性能容量测试的解决方案在四位一体”解决思路的基础上，工商银行进一步搭 建了大数据性能容量测试平台，其核心部分主要由大数据 服务云程序级管理系统、静态代码校验系统、性能监控系 统和模型预测系统等四部分组成，分别负责识别测试需求、 静态代码校验、集群及应用日常监

10、控和作业级性能隐患预 测等功能。大数据性能容量测试平台总体框架如图1所示。艮务云应用程序参数画模型图1大数据性能容量测试平台总体框架1.大数据服务云程序级管理系统大数据服务云程序级管理系统通过对入云应用的新增修改程序及测试覆盖情况进行统一的管理和监控，实现了从验收测试源头精准界定性能测试范围、识别性能测试需求等目标。同时，该系统采用B/S界面，通过对云上各 应用进行程序备份、定时检测和对比等方式实现了程序变 动检测，以及通过对新增修改程序增加时间戳、定时检测 运行状态，还可对入云应用进行精细化管控。此外，系统 通过对接前台页面和邮件系统，可将程序变动情况和测试 情况进行实时展示和通知，包括作业

11、信息、修改内容、检 测时间、测试覆盖情况等内容。2.静态代码校验系统静态代码校验系统通过将既定的静态校验规则封装 到开发扫描工具，使得作业在动态测试前即可通过工具扫 描出不合规和低效率语句，达到提前发现性能隐患的效果。 同时，系统将应用层代码拆分成单个 HQL或SQL语句， 通过对单个语句的语法校验，还可完成对应用层程序的静 态校验，并与大数据服务云进行程序级管理系统对接，实 现每日新增修改作业的静态校验功能。此外，系统通过对 接前台页面，可将静态校验结果进行实时展示，包括静态 校验日期、校验作业信息、违反规则和修改建议等内容。3.性能监控系统性能监控系统根据既定的监控策略，通过部署相应监 控

12、程序可对超出正常值的性能指标进行预警、分析和查杀。一.IIIones usisKKe lisusw- l=ls一 ilh翦卷Ih面g宣i雷岫皈眉一 iffli一 奎。ilh更切定 岑e备瞅ir?泌置 ;s舞宣IM 映苗&费罟蕾窘e瓣夏篱螂 普置爰 同一胡螂袱R0之 W6= H -任眷缺on in 一B蜃热卷lh曲史备告置蜃 星粤e瞠同一+M黑泌置旺埋兼i胡螂oliffli zs zs - 回 SUH- 一 ，稿M回耍 一 一 苗恒商银行大数据性能测试领域，并开展了经典场景案例下的 最佳性能测试实践，在完善测试体系、降低测试成本以及 提升测试质量等方面效果显著。1.完善大数据性能测试方法体系通过

13、从测试源头识别性能需求、采用动静结合的性能测试方法、构建完善的性能监控体系以及引入机器学习性 能预测模型，工商银行建立了需求分析、版本测试、日常 监控、模型预测四位一体”的大数据性能容量评测体系， 不仅提供了一套完整的大数据性能测试方法，还通过大数 据性能容量测试平台实现了统一管理，从而为金融业开展 大数据性能容量测试提供了可借鉴的指引和参考。2.显著降低测试成本，提升测试效率通过开发大数据性能容量测试平台，工商银行将性能 测试静态校验和模型预测结果进行可视化展现，使得所有 程序管理、静态校验、监控查杀和模型预测等工作均能够 通过平台自动化完成，并可在动态测试前即发现性能容量 隐患，不仅使工作

14、效率提升60%左右，也节省了约30% 的测试资源。从成效来看，在需求分析方面，工商银行建立覆盖开 发、测试、生产全流程的大数据性能容量测试流程，完成 44个大数据项目的需求分析并开展了针对性测试，发现、 解决性能问题50例；在版本测试方面，工商银行通过静 态代码校验，发现62个入云应用共计3000余脚本存在 性能隐患，之后通过专项治理优化使计算资源节省了约 5% ；在监控预警方面，工商银行确定了 53个大数据分布 式系统性能容量监控指标，部署25项监控规则，实现了 对设备、集群、资源、服务、进程的全方位监控；在模型 预测方面，工商银行研发完成了基于回归模型的作业级预 测工具，预测准确率达97%。综上所述，工商银行从需求识别、测试方法、监控体 系和模型预测等四个方面入手，创新构建了一套完整的大 数据性能容量评测体系，并在降低测试成本、提升测试效 率方面取得了显著成效。后续，工商银行仍将进一步完善 大数据性能容量测试平台功能，将该评测体系推广到开发 和生产运行环节中，实现对大数据性能容量的全流程测评 管理。