《核心系统高可用性设计》由会员分享，可在线阅读，更多相关《核心系统高可用性设计（10页珍藏版）》请在金锄头文库上搜索。
1、关于系统稳定性策略的探讨、八 、亠1.前言系统作为业务系统的核心，其运行稳定性和高可用性至关重要。因此，需 要通过高可用性设计来尽量减少系统的计划内和计划外停机，并在系统出现故 障时及时响应、快速恢复，以保障关键数据和业务系统的运行稳定性和可持续 访问性。其中：1. 计划内停机是指管理员有组织、有计划安排的停机，比如升级硬件微码、升 级软件版本、调整数据库库表、更换硬件设备、测试系统新功能等时，可能 需要的停止系统运行。2. 计划外停机是指非人为安排的、意外的停机，比如当硬件出现重大故障、应用程序停止运行、机房环境遭到灾难性的破坏时所引起的业务系统停止运行。目前，对于计划内和计划外停机，可通过
2、消除系统中的单点失效来尽量减 少停机时间。同时，通过采用可在线维护（固件升级、在线扩充、故障部件更 换）的设备，并通过负载均衡机制实现应用系统的在线升级、维护，将有效消除 计划内停机对业务系统的影响。此外，由于系统中采用了全面的负载均衡设 计，并针对系统失效提供了可靠的数据备份恢复和多点容灾保护，因而能够有 效减少系统计划外停机的恢复时间。在造成系统宕机的原因方面，有统计中表明并非都是硬件问题。其中，硬 件问题只占 40，软件问题占 30，人为因素占 20，环境因素占 10。因 此，高可用性设计应尽可能地考虑到上述所有因素。对于系统而言，其整体的 可用性将取决于内部的应用系统、主机、数据库等多
3、种因素；同时，训练有素 的系统维护人员和良好的服务保障也是确保系统稳定运行和故障快速恢复的关 键。2.应用系统系统在应用软件架构设计中应从渠道层、渠道管理层、业务处理层等不同 层面通过多种措施和策略的综合设计来提高应用系统的高可用性和稳定性。在渠道管理层和业务处理层的设计中，要考虑设置应用负载均衡、应用软 件失效备援、 vip 服务通道、流量控制、故障隔离等机制。1. 应用负载均衡 应用软件负载均衡通过多个层次上不同的负载均衡策略一起实现整体的负载均衡，应用负载均衡的设计思路是将大量的并发访问或数据流量分担到多台 节点设备上分别处理和将单个重负载的运算分担到多台节点设备上做并行处理 来达到负载
4、均衡的效果，从而提高服务响应速度，提高服务器及其他资源的利 用效率，避免服务请求集中于单一节点导致拥塞。2. 应用软件失效备援 应用软件构建在面向服务的架构、设计思想上，应用服务具有较高的可灵活部署性。通过这种灵活性，结合系统基础设施的规划、部署可以实现应用软 件的失效备援。系统可以考虑实现基于应用服务和基于应用服务管理框架的多 种应用软件失效备援机制。基于应用服务的失效备援是在应用服务管理框架中可以实现应用服务的冗 余部署，利用硬件负载均衡设备或应用软件负载均衡可以在需要时将服务请求 切换到相应的冗余服务。基于应用服务管理框架的失效备是将应用服务框架在系统中冗余部署，利 用硬件负载均衡设备或
5、应用软件负载均衡可以在需要时将服务请求切换到相应 的冗余的应用服务管理框架。3. vip 服务通道 在系统中，从系统运行稳定性、持续性及处理性能的角度，配合物理设 备、系统支撑软件 （数据库系统、操作系统） 的相关措施，应用软件可通过构建 VIP 服务通道的方式降低应用服务运行期间的相互影响。服务通道可以基于不 同业务产品或不同应用服务管理框架的不同粒度来设置，从而满足部分应用处 理资源只响应特定的服务请求或不同的服务监听响应不同的通道传递过来的服 务申请的功能。4. 流量控制 在系统中，从系统运行稳定性、持续性角度，配合物理设备、系统支撑软件(数据库系统、操作系统) 的相关措施，应用软件可以
6、通过对服务请求的流量控制机制，在系统性能波动较大时间段，对少部分影响程度高的交易进行流量 控制，保障系统运行平稳运行。流量控制是大集中系统体系结构中提供的通过应用软件对系统实施控制的 功能。流量控制基于大集中系统逻辑架构，依据系统、子系统、渠道等不同层 面的交易流量、交易状态和确定的控制策略、控制规则，对系统实施控制。应 用系统具有如下功能：a) 流量数据采集：支持流量数据的采集功能。b) 流量值计算：完成对采集的流量数据进行计算，检索出有流量超过额定 量的服务或交易，为后续的流量控制提供依据。c) 交易流量控制：支持针对特定交易进行流量控制。如：针对网络流量大的交易做控制， 如报表文件传输；
7、 交易高峰期对批量业务进行流量控制。d) 渠道流量控制：支持按照渠道进行流量控制；e) 控制策略及规则管理：支持控制策略及规则的配置，修改等功能。5. 故障隔离在系统中将考虑实现故障隔离机制，在应用软件系统发生故障的时候，通 过故障隔离把故障造成的危害限制在最小范围内，提高系统提供对外服务的整 体能力水平。故障隔离是大集中系统体系结构中提供的通过应用软件对系统实施控制的 功能，应用软件设计可考虑应用服务、应用服务框架的灵活部署，支持多角 度，多层次的故障隔离。应用系统具有如下功能：a) 支持按渠道的故障隔离，例如：当 POS 渠道交易响应慢，可停止 POS 渠道的对外服务功能。b) 支持按子系
8、统的故障隔离，例如：当查询子系统出现异常时，可停止查 询子系统的对外服务功能。c) 支持异常服务的故障隔离，例如：若某服务出现异常(如服务 CORE DOWN )，可停止此服务的对外服务功能。d) 支持按交易的故障隔离，例如：若某查询交易出现服务堵塞，可停止此 交易的对外服务功能。在渠道层的设计中，可考虑采用网络负载均衡、 vip 服务通道等机制。6. 网络负载均衡 在柜面网点前置系统侧，可以考虑采用硬件负载均衡器对网点终端连接到网点前置的负载均衡，利用负载均衡器的连接状态检查和负载均衡策略可以灵 活地调整终端的连接指向，屏蔽因网点前置机故障导致的终端操作异常，提高 网点前置系统的可用性。7.
9、 VIP 服务通道渠道层的 VIP 服务通道与业务处理层的 VIP 服务通道均针对提高系统的可用 性，但是在建设方式上有所区别。渠道层的 VIP 服务通道不仅可以通过渠道层 相关应用软件的服务通道设立来实现，还可以考虑通过设置物理上相互隔离的 不同渠道通路来实现。3.主机系统主机系统作为各应用系统的运行平台，其可用性和稳定性是业务系统能够 持续、稳定运行的前提。根据应用软件架构设计，每个子系统的功能通过硬件 负载均衡机制部署于多套主机设备上，从而消除单台主机所引入的单点故障。对于单台主机系统而言，其高可用性和运行稳定性可从以下几方面加以保 障：1. 主机自身的高可靠性 主机采用高度冗余设计，可
10、充分保障自身的运行可靠性，如：多处理器架 构、冗余电源、冗余风扇、冗余时钟、冗余 IO 等；同时，主机采用多种容错技 术，可有效提升自身的可靠性，如：内存与高速缓存上的检错与纠错 （ ECC）、 内存双芯片备用、内存和处理器自动解除配置、用于监控系统状态的独立的服 务处理器等。2. 主机关键部件全冗余配置 为确保主机运行的可靠性和稳定性，系统主机的所有关键部件均采用了冗 余配置，以消除主机自身的单点故障，其中包括：a）配置热插拔 N+1 或 N+N 冗余电源、风扇，避免电源或风扇失效造成的硬件故障或宕机b）配置冗余系统盘，并通过操作系统进行系统盘的 RAID 1 镜像保护；或 采用 SAN B
11、OOT 系统盘，在实现存储网络连接全冗余的同时，通过在 SAN BOOT 磁盘组中采用高可靠级别的 RAID 技术（如 RAID10+ 热备 盘）、不同存储设备中的启动盘映像副本选择启动、 磁盘阵列镜像 （即“双 阵列启动”）等技术，切实保证 SAN BOOT 的可用性。c）配置冗余网卡，并根据实际需求采用多网卡绑定技术，实现多网卡间的 自动冗余和流量的负载均衡， 以提供更高的数据带宽和链路的高可用性。d）配置冗余光纤通道 HBA 卡和 InfinibandHCA 卡，并通过多路径软件 （操 作系统或第三方软件支持） 来实现多 HBA/HCA 卡的自动冗余与 IO 负载 均衡。e）配置冗余的主
12、机管理处理器， 能够在线配置、 管理主机并监控主机状态， 同时支持透明接管和在线更换管理处理器。3. 主机自身的高可维护性 主机的高可维护性对于消除计划内停机的影响至关重要，主机通过其在线 维护功能来确保其计划维护期间的高可用性。其中：a）主机支持固件的在线升级，避免了因固件升级造成的计划内停机。b）在主机上采用高可用操作系统，通过支持在线处理单元板增加与删除、 动态内核调试、 动态可加载内核模块框架 （支持在线 IO 驱动加载与补丁 升级）、PCI错误自动修复、动态错误管理与安全隔离、动态根盘（支持 软件在线补丁升级） 等高可维护特性来实现不停机的 IO 驱动、操作系统 和应用软件的版本、补
13、丁升级，从而避免了因软件版本或补丁升级造成 的计划内停机。c）主机的处理单元板、电源、风扇、磁盘、 IO 等关键部件均支持在线增加 与删除，同时其硬件支持热插拔，可实现故障部件的在线更换，避免了 因部件更换造成的计划内停机。4. 主机系统的高可用性设计 在主机上设计采用了电气隔离的动态硬件分区技术，同时各分区采用相互 独立、冗余的 IO 配置以实现自身的高可靠性。硬件分区技术在优化主机资源 利用的同时，可在同一主机硬件内全面隔离分区故障。如果一个分区中的操作 系统、软件或甚至是硬件出现问题，运行在其他分区中的操作系统和软件均不 受影响。在主机硬件分区的基础上，系统设计采用多个主机分区形成集群来
14、为各业 务应用提供运行支撑，同时各主机集群通过 Oracle RAC 或网络负载均衡机制实 现主机间的负载均衡和自动冗余。为保证最大的可用性，应将同一集群内的不 同分区分别部署在相互独立的主机硬件上，并通过各分区相互独立的 IO 接入数 据网络、心跳网络和存储网络，从而确保了主机系统整体的高可用性。5. 主机系统的高可恢复性设计可恢复性定义了系统修复故障和恢复正常运行的能力。主机系统的可恢复 性从一定程度决定了系统出现故障时是否能够自动修复和快速恢复，应通过主 机系统的备份与容灾设计来确保其高可恢复性。其中：a) 对主机系统盘定期进行自动化克隆备份，以便于版本管理和系统盘的失 效恢复，同时其备
15、份的系统盘映像副本可用于主机在线软件、补丁升级 维护(通过动态根盘技术实现) 。b) 目前，系统中采用了两地三中心 +同址备援的容灾体系设计。 在上述容灾 体系中，通过以下方式实现主机系统的灾难恢复：同城容灾：现阶段基于存储同步复制实现数据级容灾，今后可考虑通过主机 的城际集群实现同城灾备中心与主中心间的主机系统自动灾难接管。异地容灾：可基于存储异步复制、Oracle DataGuard等技术实现应用级容灾，今后可考虑通过主机的洲际集群实现异地灾备中心与主中心间的主机系统 自动灾难接管。同址备援：可通过存储阵列的异步复制和 Oracle DataGuard 等技术来减少 Oracle数据库逻辑
16、数据块损坏故障对业务系统造成的影响，相关系统主机可 按策略实现故障接管。通过上述高可用性设计，主机系统中将不再存在单点故障隐患，这充分保 证了主机系统的可靠性；同时，主机的高可维护性设计保证了主机能够在线进 行故障硬件更换、在线扩充、不停机进行软件和补丁升级，从而有效避免了主 机的计划内停机，提高了主机系统的可用性和稳定性；此外，通过备份、容灾 设计，在一定程度上保证了主机系统在发生故障或遭到灾难时能够快速恢复服务，从而确保了系统的业务连续性。4.数据库为了避免数据库主机、数据库存储或者数据库逻辑错误等引起的数据库故 障，尽最大可能保障数据库提供 7*24 小时的对外服务， Oracle 提供了一个高可 用性、高可靠性和高可扩展性的数据库环境。 Oracle 数据库提供数据库集群 RAC
