《面向高能所信息化系统的高可用数据库服务》由会员分享，可在线阅读，更多相关《面向高能所信息化系统的高可用数据库服务（21页珍藏版）》请在金锄头文库上搜索。
1、面向高能所信息化系统的高可用面向高能所信息化系统的高可用数据库服务数据库服务王丽王丽王丽王丽计算中心计算中心计算中心计算中心中科院高能所中科院高能所中科院高能所中科院高能所 第十八届全国科学计算与信息化会议第十八届全国科学计算与信息化会议Wang Li/CC/IHEP 2024/7/31 - 2目录目录背景与背景与现状状问题与需求与需求数据数据库集群方案集群方案IHEP数据数据库集群架构集群架构性能性能测试总结与展望与展望什么是什么是“信息化信息化”？Wang Li/CC/IHEP 2024/7/31 - 3流程流程业务渠渠道道提高效率提高效率降低成本降低成本增增强竞争力争力整合、优化、重组整
2、合、优化、重组软件技术软件技术计算机技术计算机技术互联网技术互联网技术信息化信息化信息化现状信息化现状Wang Li/CC/IHEP 2024/7/31 - 4无处不在的信息化无处不在的信息化高能所信息化高能所信息化PC端端 网网网网络络接入控制系接入控制系接入控制系接入控制系统统 人力人力人力人力资资源系源系源系源系统统 物物物物资资采采采采购购系系系系统统 基建采基建采基建采基建采购报销购报销系系系系统统 投票系投票系投票系投票系统统APP移移动端端 高能所通高能所通高能所通高能所通讯讯簿系簿系簿系簿系统统 个人云平台个人云平台个人云平台个人云平台Wang Li/CC/IHEP 2024/
3、7/31 - 5传统数据库传统数据库单机数据机数据库 数据分散存数据分散存数据分散存数据分散存储储可靠性可靠性难以保障以保障 数据数据数据数据库节库节点故障点故障点故障点故障 数据数据数据数据库库配置存在瓶配置存在瓶配置存在瓶配置存在瓶颈颈不支持高并不支持高并发 访问访问量影响系量影响系量影响系量影响系统统响响响响应应数据一致性无法保障数据一致性无法保障 数据数据数据数据丢丢失、数据失、数据失、数据失、数据损损坏坏坏坏Wang Li/CC/IHEP 2024/7/31 - 6需求需求高性能高性能安全性安全性高可用高可用集中存集中存储Wang Li/CC/IHEP 2024/7/31 - 7My
4、SQL集群Mysql 集群方案集群方案基于共享存基于共享存储的方案的方案SAN基于磁基于磁盘复制的方案复制的方案 DRBD基于主从复制基于主从复制(单点写点写)方案方案MHA(Master High Availability)基于基于zookeeper的高可用的高可用基于基于Cluster(多点写多点写)方案方案基于中基于中间件件proxy的方案的方案Wang Li/CC/IHEP 2024/7/31 - 8基于共享存储的方案基于共享存储的方案SAN优点点: 可以避免存可以避免存可以避免存可以避免存储储外的其它外的其它外的其它外的其它组组件引起件引起件引起件引起的数据的数据的数据的数据丢丢 部
5、署部署部署部署简单简单，切，切，切，切换逻辑简单换逻辑简单，对应对应用透明。用透明。用透明。用透明。 保保保保证证主主主主备备数据的数据的数据的数据的强强一致。一致。一致。一致。限制或缺点限制或缺点: 共享存共享存共享存共享存储储是是是是单单点，点，点，点， 价格比价昂价格比价昂价格比价昂价格比价昂贵贵。 若共享存若共享存若共享存若共享存储储挂了，挂了，挂了，挂了，则则会会会会丢丢失数据失数据失数据失数据Wang Li/CC/IHEP 2024/7/31 - 9基于磁盘复制的方案基于磁盘复制的方案 DRBD优点：点： 1.1.切切切切换对应换对应用透明用透明用透明用透明 2.2.保保保保证证主
6、主主主备备数据的数据的数据的数据的强强一致。一致。一致。一致。限制或缺点：限制或缺点： 1.1.影响写入性能，由于每次影响写入性能，由于每次影响写入性能，由于每次影响写入性能，由于每次写磁写磁写磁写磁盘盘，实质实质都需要同步到都需要同步到都需要同步到都需要同步到网网网网络络服服服服务务器。器。器。器。 2.2.一般配置两一般配置两一般配置两一般配置两节节点同步，可点同步，可点同步，可点同步，可扩扩展性比展性比展性比展性比较较差差差差 3.3.备库备库不能提供不能提供不能提供不能提供读读服服服服务务，资资源浪源浪源浪源浪费费Wang Li/CC/IHEP 2024/7/31 - 10基于主从复制
7、基于主从复制(单点写单点写)方案方案Mysql 主从复制原理主从复制原理优点点 数据分布数据分布数据分布数据分布 负载负载平衡平衡平衡平衡 备备份份份份 高可用性和容高可用性和容高可用性和容高可用性和容错错行行行行Wang Li/CC/IHEP 2024/7/31 - 11Keepalived+双主双主优点：点： 安装配置安装配置安装配置安装配置简单简单 MasterMaster故障故障故障故障时时，SlaveSlave快快快快速切速切速切速切换换提供服提供服提供服提供服务务，并且，并且，并且，并且对对应应用透明用透明用透明用透明限制或缺点：限制或缺点： 需要主需要主需要主需要主备备的的的的I
8、PIP在同一个网在同一个网在同一个网在同一个网段。段。段。段。 需要自定需要自定需要自定需要自定义义脚本来确定脚本来确定脚本来确定脚本来确定MasterMaster是否能提供服是否能提供服是否能提供服是否能提供服务务Wang Li/CC/IHEP 2024/7/31 - 12MHA优点：点： 代代代代码码开源开源开源开源 保持数据一致。保持数据一致。保持数据一致。保持数据一致。 故障故障故障故障时时，选择选择slaveslave作作作作为为自自自自动动切切切切换换 可以灵活可以灵活可以灵活可以灵活选择选择VIPVIP方案或者全局目方案或者全局目方案或者全局目方案或者全局目录录数据数据数据数据库
9、库方案方案方案方案( (更改更改更改更改Master IPMaster IP映射映射映射映射) )来来来来进进行切行切行切行切换换。缺点：缺点： 只支持一主多从架构，集群中必只支持一主多从架构，集群中必只支持一主多从架构，集群中必只支持一主多从架构，集群中必须须最少有三台数据最少有三台数据最少有三台数据最少有三台数据库库服服服服务务器器器器 要保持切要保持切要保持切要保持切换对应换对应用透明，依然依用透明，依然依用透明，依然依用透明，依然依赖赖于于于于VIPVIP。 不适用于大不适用于大不适用于大不适用于大规规模集群部署，配置比模集群部署，配置比模集群部署，配置比模集群部署，配置比较较复复复复
10、杂杂。 MHAMHA管理管理管理管理节节点本身的点本身的点本身的点本身的HAHA无法保无法保无法保无法保证证。Wang Li/CC/IHEP 2024/7/31 - 13基于基于zookeeper的高可用的高可用优点：点： 扩扩展性非常好，可以管理大展性非常好，可以管理大展性非常好，可以管理大展性非常好，可以管理大规规模集群。模集群。模集群。模集群。 保保保保证证了整个系了整个系了整个系了整个系统统的高可用的高可用的高可用的高可用 主从的主从的主从的主从的强强一致依一致依一致依一致依赖赖于于于于MySQLMySQL本本本本身，比如半同步，或者外身，比如半同步，或者外身，比如半同步，或者外身，比
11、如半同步，或者外围围工工工工具的回具的回具的回具的回补补策略策略策略策略缺点：缺点： 引入引入引入引入zkzk，整个系，整个系，整个系，整个系统变统变得复得复得复得复杂杂。Wang Li/CC/IHEP 2024/7/31 - 14Mysql Cluster优点：点： 准同步复制、自准同步复制、自准同步复制、自准同步复制、自动节动节点管理点管理点管理点管理 数据数据数据数据严严格一致格一致格一致格一致 服服服服务务高可用高可用高可用高可用 多个可同多个可同多个可同多个可同时读时读写写写写节节点，点，点，点， 可可可可实现实现写写写写扩扩展展展展缺点缺点 只支持只支持只支持只支持innodbin
12、nodb引擎引擎引擎引擎 所有表都要有主所有表都要有主所有表都要有主所有表都要有主键键 由于写要同步到其它由于写要同步到其它由于写要同步到其它由于写要同步到其它节节点，存在写点，存在写点，存在写点，存在写扩扩大大大大问题问题 非常依非常依非常依非常依赖赖于网于网于网于网络稳络稳定性，不适用于定性，不适用于定性，不适用于定性，不适用于远远距离同步距离同步距离同步距离同步Wang Li/CC/IHEP 2024/7/31 - 15基于中间件基于中间件proxy方案方案中中间件件 阿里阿里阿里阿里 CobarCobar、MyCATMyCAT 360 Atlas360 Atlas 淘宝淘宝淘宝淘宝 T
13、ddlTddl优点：点： 切切切切换对应换对应用透明用透明用透明用透明 可可可可扩扩展性展性展性展性强强，方便分片，方便分片，方便分片，方便分片扩扩展展展展 可以跨机房部署切可以跨机房部署切可以跨机房部署切可以跨机房部署切换换 使用中使用中使用中使用中间间件的方案能件的方案能件的方案能件的方案能够够每天每天每天每天处处理近理近理近理近5050亿亿次次次次的的的的SQLSQL执执行行行行请请求求求求Wang Li/CC/IHEP 2024/7/31 - 16高能所数据库集群方案高能所数据库集群方案优势使用使用使用使用AtlasAtlas代理服代理服代理服代理服务务器，器，器，器，实现读实现读写分
14、离，写分离，写分离，写分离，实现实现mysqlmysql集群的高并集群的高并集群的高并集群的高并发发两个两个两个两个mastermaster安装安装安装安装keepalivedkeepalived实现实现MysqlMysql集群的高可用。集群的高可用。集群的高可用。集群的高可用。VIPVIP是是是是对对外服外服外服外服务务ipipmastermaster节节点故障，自点故障，自点故障，自点故障，自动动切切切切换换mastermaster。两个两个两个两个slaveslave节节点同步主点同步主点同步主点同步主节节点，用来点，用来点，用来点，用来读读Wang Li/CC/IHEP 2024/7/
15、31 - 17数据库平台测试效果数据库平台测试效果 利用利用利用利用sysbenchsysbench测试测试 执执行行行行8000080000次次次次selectselect 8000080000次次次次updateupdate 8000080000次次次次insertinsert每每每每组组数据重复数据重复数据重复数据重复测试测试三三三三次后取平均次后取平均次后取平均次后取平均值值 测试测试情况情况情况情况 测试连测试连接接接接 Atlas Atlas 直直直直连连 DB DB 这这两种情两种情两种情两种情况下的况下的况下的况下的 QPSQPS测试测试效果效果效果效果 连连接接接接Atlas
16、Atlas线线程程程程数增加数增加数增加数增加QPSQPS越大越大越大越大，系系系系统统性能越好性能越好性能越好性能越好 。18163264128Select-Atlas131958827397121251647218392Select-直连1532995714189171722157522000Update-Atlas1818531350190823882628Update-直连2118191333214826773067Insert-Atlas1958903516461459485438Insert-直连214864513265877353582218163264128Select-Atl
17、as1.111.362.163.164.426.31Select-直连直连0.650.801.121.862.955.79Update-Atlas5.529.3711.8416.7626.7848.63Update-直连直连4.729.7612.0014.8923.8941.68Insert-Atlas5.118.9881.95125.02194.59533.74Insert-直连直连4.469.2556.0987.53157.62446.78运行情况运行情况运行的系运行的系统 人力人力人力人力资资源系源系源系源系统统 流量分析系流量分析系流量分析系流量分析系统统 图图片管理系片管理系片管理系
18、片管理系统统占用空占用空间 20G20GWang Li/CC/IHEP 2024/7/31 - 19总结与展望总结与展望该集群在高能所运行集群在高能所运行稳定，能定，能够支持支持IHEP信信息化系息化系统存存储需求需求未来希望未来希望 按需申按需申按需申按需申请请服服服服务务 申申申申请请服服服服务务系系系系统统接入高能所接入高能所接入高能所接入高能所统统一一一一认证认证 提供提供提供提供统统一的使用一的使用一的使用一的使用访问访问数据数据数据数据库库工具工具工具工具计划迁移数据划迁移数据库的系的系统 IHEPboxIHEPbox 统统一一一一认证认证系系系系统统 信息化系信息化系信息化系信息化系统统。Wang Li/CC/IHEP 2024/7/31 - 20Wang Li/CC/IHEP 2024/7/31 - 21谢谢大家谢谢大家
