《快速发展中公司研发及运维自动化技术体系精要》由会员分享，可在线阅读，更多相关《快速发展中公司研发及运维自动化技术体系精要（50页珍藏版）》请在金锄头文库上搜索。
1、快速发展中的互联网公司 研发及运维自动化技术体系 内容概要 第一部分：要解决什么问题？ 快速发展中公司的业务 特点，如何自建技术设 施 技术架构体系 运维研发过 程的生命周期 第二部分：分布式架构 http 192.168.66.2:7133; memcached 192.168.64.14:10014; memcached 192.168.64.15:10014; memcached 192.168.64.16:10014; tair 192.168.64.21:6036; tair 192.168.64.22:6036; redis 192.168.64.14:6003; redis 19
2、2.168.64.15:6003; redis 192.168.64.16:6003; 服务发现 、通信、控制 分布式注册中心Router： 同步调用RPC 服务协议 ：HTTP协议 /心跳检测 服务发现 ：集群信息统一文件Router.conf 负载 均衡 异步调用MQ 推模式：开发快、稳定、实时 快 拉模式：可回溯、日志收集、数据同步 分布式任务调 度 Schedule调度系统 分布式事务控制 Swift开发框架：交易型事务的一致性 QA2 QAn QA1 2、运维研发的自动化体系 线上IDC/IDC2 线下测试环 境 SVN 库 A区B区C区 S 区 MV N库 变色龙指令系统 Buil
3、der 构建系统 线下发布系统 青龙发布系统 龙潭运维配置自动化系统 线上区 Nginx ABC A区 64网段 B区 68网段 C区 72网段 灰度区 Nginx S区 32网段 青龙发 布系统 配置 采集 生成 SVN库 MVN库 龙潭配 置系统 发布 先配置，再发布 推送Tomcat+App配置 分发War 分发war 存储区 kafka redis memcache mongodb mysql hadoop A区 A区 C区 C 区 B区 B区 /data/apps/project /bin/start.sh,stop.sh /bin/JAVA_OPTS /conf/server.xm
4、l /webapps/wars /logs/catalina.log /temp /work Nginx jdk tomcat rsync Svn mvn agent - Ip net disk mem dns APPs巢位 机器/系统/软件 运维配置标准化 分区 机器&系统&软件 APPs巢位 运维配置标准化3大层次 2.1、硬件标准化： - 机器标准化：机房、机架位、交换机、机器 - 资源标准化：IP、DNS - 配置标准化：机器配置自动化采集、标准化检测 ，KVM化 2.2、软件标准化： - 软件安装标准化：tomcat jdk memcached redis . - Nginx标准化：
5、域名、配置、发布 2.3、项目标准化： - 项目配置标准化：S区、A区、B区、C区 - 支持多种项目：tomcat、java、nodejs、Python、iosAndroid 2.1、硬件标准化标准化管理 2.1、硬件标准化自动化采集 2.1、硬件标准化标准化校验 多套服务器模板 标准化配置项(上百配置项) 每日自动化校验 运维配置标准化3大层次 2.1、硬件标准化： - 机器标准化：机房、机架位、交换机、机器 - 资源标准化：IP、DNS - 配置标准化：机器配置自动化采集、标准化检测 ，KVM化 2.2、软件标准化： - 软件安装标准化：tomcat jdk memcached redis
6、 . - Nginx标准化：域名、配置、发布 2.3、项目标准化： - 项目配置标准化：S区、A区、B区、C区 - 支持多种项目：tomcat、java、nodejs、Python、iosAndroid 2.2、软件标准化统一软件规格 2.2、软件标准化自动化安装卸载 23个标准软件 200个原子指令 2.2、软件标准化服务自动管理 2.2、Nginx标准化自动配置300域名 自动化生成 自动化配置 运维配置标准化3大层次 2.1、硬件标准化： - 机器标准化：机房、机架位、交换机、机器 - 资源标准化：IP、DNS - 配置标准化：机器配置自动化采集、标准化检测 ，KVM化 2.2、软件标准
7、化： - 软件安装标准化：tomcat jdk memcached redis . - Nginx标准化：域名、配置、发布 2.3、项目标准化： - 项目配置标准化：S区、A区、B区、C区 - 支持多种项目：tomcat、java、nodejs、Python、iosAndroid Nginx C区 Nginx.conf 全站配置 Router服务配置 /etc/router.conf APP配置文件 /data/apps/project /bin/start.sh,stop.sh /bin/JAVA_OPTS /conf/server.xml /webapps/wars /logs/catal
8、ina.log /temp /work 2.3、项目标准化配置&生成&发布 Nginx配置文件 龙潭配 置系统 生成 配置 龙潭配 置系统 发布 2.3、项目标准化项目配置中心 1、配置 2、生成（基于模板Freemarker） 3、推送 2.3、项目标准化推送中心 1、配置 2、生成（基于模板Freemarker） 3、推送 共 务 Sandbox DB/Cache 周同步 Online DB/Cache C区 QA DB/Cache Dev DB/Cache Mock环境 生产环境 3、项目发布自动化（青龙系统） SVN资源库 龙潭配置自动化系统 Mock区 模拟测试 拷贝war ssh
9、ip:dir restart tomcat A区 B区 青龙自动化发布平台 开发环境 测试环 境 灰度环境 svn up 分支 zip war ssh ip:dir restart tomcat Dev1 公 Dev2 服 Devn 公 共 服 务 QAn 变色龙指令系统 svn up 测试 分支 svn up 主干 zip war zip war ssh ip:dir ssh ip:dir restart tomcat restart tomcat QA1 QA2 灰度区 3、项目发布自动化体系 3.1、青龙代码发 布系统 - 灰度发布 - 分区发布：泳道发布 3.2、闪电 配置发布系统 -
10、 发布配置信息 - 集群协作：Solr、Kafka 3.3、变色龙原子指令 - 系统级 操作 - 系统操作日志 3.1、青龙发布系统灰度发布 支持多个灰度区同时测试 支持基于trunk、tags的发布 测试 班车批量发布 3.1、青龙发布系统分区发布 关闭Nginx流量，分区发布，对用户无影响 3.1、青龙发布系统随时上线 支持每周数百次上线，上线时 关闭服务调 用 3.1、青龙发布系统实时发 布日志 3.2、闪电配置分发系统 3.3、变色龙指令自动化 A区 C区 B区 变色龙指令系统 发布平台运维平台搜索平台统计 平台 执行指令API Puppet Mcollective 日志回写 M c
11、o 日志API 指令系统GUI 3.3、变色龙指令自动化 300+指令集：软件安装、卸载、启动、停止、 项目发布、系统操作 #!/bin/sh PATH=/bin:/sbin:/usr/bin:/usr/sbin:/usr/local/bin:/usr/local/sbin:/bin JAVA_HOME=/usr/local/java/jdk1.7 export JAVA_HOME=/usr/local/java/jdk1.7 export TOMCAT_BASE=/usr/local/tomcat export CATALINA_BASE=/data/apps/$PROJECT_NAME e
12、xport JAVA_OPTS=$JAVA_OPTS. #启动Tomcat su tomcat -s $TOMCAT_BASE/bin/catalina.sh start & 4、服务治理体系 服务健康状态检测 分布式任务调 度（Schedule） 调用链分析（Cat） 实时 日志监测 （雷达系统） API质量治理（APIWater) SQL质量治理（Monyog） 4.1、服务健康状态检测 4.2、分布式任务调度Schedule Nginx CWeb1 CWeb2 BWeb1 BWeb2 User1 User2 CV1 CV2 Job1 Job2 Feed1 Feed2 Schedule M
13、Q 同步 HWeb1 HWeb2 异步 任务调度 Swift 分布式调度中心： 基于Mina分布式协调 选择 服务的单点调度 多点服务failover 长时间 任务断点续传 任务依赖调 度 4.3、调用链分析Cat agentdog Server app/nginx/tom 4.4、实时日志监测（雷达系统） 实时 日志查看 历史日志分析 用户或IP追踪 日志统计 Server app/nginx/t omcat/syslo g agent dog 日志采集 Server app/nginx/t omcat/syslo g Server app/nginx/t omcat/syslo g cat
14、/syslog 统 一 配 置 管 WEB 搜索引擎 实时分析 消息队列 日 志 中 央 处 理 平 台 理 应 用 服 务 器 消费者 消费者 消费者 离线分析 消费者 4.4、实时日志监测（雷达系统） 4.5、API质量治理（APIWater） 4.6、SQL质量治理（Monyog） MySQL性能监控工具MONyog ，分析慢SQL 程序打印慢SQL日志 优化索引、表结构 共 务 Sandbox DB/Cache 周同步 Online DB/Cache C区 QA DB/Cache Dev DB/Cache Mock环境 开发环境 测试环 境灰度环境 生产环境 Mock区 模拟测试 sv
15、n up 主干 zip war ssh ip:dir restart tomcat 灰度区 拷贝war ssh ip:dir restart tomcat A区 B区 5、测试环 境的自动化构建 qa1-qa8 + dev1-dev2 SVN资源库 龙潭配置自动化系统 青龙自动化发布平台 svn up 分支 zip war ssh ip:dir restart tomcat Dev1 公 Dev2 服 Devn 公 共 服 务 svn up 测试 分支 zip war ssh ip:dir restart tomcat QA1 QA2 QAn 6、自动化测试API自动化测试 6、自动化测试Web自动化测试 SeleniumWeb页面的自动化测试 6、自动
