《如何搭建基于jenkins apache mesos和marathon的弹性高可用的持续集成环境》由会员分享，可在线阅读，更多相关《如何搭建基于jenkins apache mesos和marathon的弹性高可用的持续集成环境（12页珍藏版）》请在金锄头文库上搜索。
1、如何搭建基于Jenkins, Apache Mesos和Marathon的弹性高可用的持续集成环境持续集成(CI)是一种软件开发实践，使用得当，它会极大的提高软件开发效率并保障软件开发质量；Jenkins是一个开源项目，它提供了一种易于使用的持续集成系统；Mesos是Apache下的一个开源的统一资源管理与调度平台，它被称为是分布式系统的内核；Marathon是注册到Apache Mesos上的管理长时应用(long-running applications)的framework，如果把Mesos比作数据中心kernel的话，那么Marathon就是init或者upstart的daemon。本
2、文旨在探讨如何利用Jenkins，Apache Mesos和Marathon搭建一套弹性的，高可用的持续集成环境。为什么要把Jenkins运行到Apache Mesos上把Jenkins运行到Apache Mesos上，或者说利用Apache Mesos向Jenkins提供slave资源，最主要的目的是利用Mesos的弹性资源分配来提高资源利用率。通过配置Jenkins-on-Mesos插件，Jenkins Master可以在作业构建时根据实际需要动态的向Mesos申请slave节点，并在构建完成的一段时间后将节点归还给mesos。同时，Marathon会对发布到它之上的应用程序进行健康检查，
3、从而在应用程序由于某些原因意外崩溃后自动重启该应用。这样，选择利用Marathon管理Jenkins Master保证了该构建系统的全局高可用。而且，Jenkins Master本身也通过Marathon部署运行在Mesos资源池内，进一步实现了资源共享，提高了资源利用率。下面两张图形象的说明了Marathon将Jenkins Master部署到Mesos资源池，以及Jenkins Master使用Mesos资源池进行作业构建的整个过程。环境设置为了便于理解，这里我简化了Mesos/Marathon集群的架构，不再考虑集群本身的高可用性。至于如何利用zookeeper配置高可用的mesos/m
4、arathon集群，可以参考Mesosphere的官方文档，这里不再展开。我搭建了一个包含40个节点 192.168.3.4-192.168.3.43 的Mesos集群，其中一个节点用作运行Marthon及Mesos-master，其它39个节点作为mesos的slave，如下所示。配置启动Marathon，Mesos-Master和Mesos-Slave后，下面的整个操作都将在这个集群上完成。在Marathon上部署Jenkins的master实例Marathon支持web页面或者RESTapi两种方式发布应用，在192.168.3.内网执行下面的bash命令，就会通过Marathon的RE
5、STapi在mesos slave上启动一个Jenkins master实例。如果Jenkins master实例被成功部署，通过浏览器访问192.168.3.4:8080(请确定你的浏览器能够访问内网，譬如可以利用设置浏览器代理等方式来搞定)可以在running tasks列表中找到jenkins，点击进入详细信息页面，我们会看到下图：访问192.168.3.4:5050/#/frameworks并在Active Frameworks中找到Marathon，点击进入详细信息页面，可以在该页面找到Jenkins Master具体运行到Mesos哪一台Slave上，如下图所示：点击sandbox
6、配置Jenkins Master实现弹性伸缩接下来是配置Jenkins注册成为Mesos的Framework，需要通过浏览器访问192.168.3.25:31052/来到Jenkins Master的UI页面。下面的截图是我逐步配置的全过程。1. 点击”系统管理”中的”系统设置”2. 设置Mesos Master为192.168.3.4:5050；点击”Test Connection”测试链接，显示链接成功后，点击”应用”保存设置。Jenkins在Mesos上注册成功，访问192.168.3.4:5050/#/frameworks，我们可以找到jenkins Framework，如下图所示：现
7、在我们可以同时启动多个构建作业来看一下Jenkins在Mesos上的弹性伸缩，在192.168.3.25:31052/上新建一个名为test的工程，配置其构建过程为运行一个shell命令top，如下图所示：把该工程复制3份test2、test3和test4，并同时启动这4个工程的构建作业，Jenkins Master会向Mesos申请资源，如果资源分配成功，Jenkins Master就在获得的slave节点上进行作业构建，如下图所示：因为在前面的系统配置里我们设置了执行者数量为2（即最多有两个作业同时进行构建），所以在上图中我们看到两个正在进行构建的作业，而另外两个作业在排队等待。下图展示了
8、当前的Jenkins作业构建共使用了0.6CPU和1.4G内存：正在使用的slave节点的详细信息：配置Jenkins Slave参数(可选)在使用Jenkins进行项目构建时，我们经常会面临这样一种情形，不同的作业会有不同的资源需求，有些作业需要在配置很高的slave机器上运行，但是有些则不需要。为了提高资源利用率，显然，我们需要一种手段来向不同的作业分配不同的资源。通过设置Jenkins Mesos Cloud插件的slave info，我们可以很容易的满足上述要求。 具体的配置如下图所示：至此我们利用mesos为jenkins弹性的提供资源，同时配置Jenkins Slave的参数来满足
9、不同作业的资源需求，提高了集群的整体资源利用率。并通过Marathon 会自动检查运行在它之上的app的健康状态， 并重新发布崩溃掉的应用程序功能，实现了集群系统的部分高可用功能。接下来我们看看如何解决数据持久化的问题。如何解决Jenkins Master的数据持久化问题marathon会在Jenkins Master因意外崩溃后重新部署其到某个mesos slave节点上，但marathon无法维护应用程序的数据，即我们需要一个 Jenkins Master 的数据持久化方法，由于Jenkins Master是将数据存储在XML文件而不是数据库中，这里可以利用jenkins插件SCM Syn
10、c configuration plugin来将Jenkins Master的数据同步到相应的repo。在内部的代码库或者 github 上创建一个 git repo我们需要在内部的代码库或者公共代码库创建一个名为 jenkins-on-mesos 的 gitrepo ， 譬如：gitgitlab.dataman.io:wtzhou/jenkins-on-mesos.git 。 这个 repo 是 jenkins 插件 SCM Sync configuration plugin 用来同步jenkins数据的。另外，对于SCM-Sync-Configuration来说，非常关键的一步是保证其有权
11、限 pull/push 上面我们所创建的gitrepo。 以我们公司的内部环境为例， 在mesos集群搭建时，我们首先使用ansible为所有的mesos slave节点添加了用户core并生成了相同的ssh keypair，同时在内部的gitlab上注册了用户core并上传其在slave节点上的公钥，然后添加该用户core为repo gitgitlab.dataman.io:wtzhou/jenkins-on-mesos.git的developer或者owner，这样每个mesos slave节点都可以以用户core来 pull/push 这个gitrepo了。使用 marathon 部署可
12、持久化的 Jenkins Master我们首先需要wget两个文件:其中start-jenkins.app.sh是需要配置的，编辑如下3个变量：1. SCM_SYNC_GIT: 上面所配置的 gitrepo 地址, 格式例子： gitgitlab.dataman.io:wtzhou/jenkins-on-mesos.git2. APP_USER: marathon 会以用户 APP_USER 来部署 jenkins ，从而插件SCM-Sync-Configuration会以用户APP_USER来跟gitrepo进行同步。 所以在我们的这个例子里，我们让APP_USER=core。3. MARA
13、THON_PORTAL: marathon 的 RESTapi 入口，例如： http:/marathon.dataman.io:8080/v2/apps接下来就可以执行命令: 来让 marathon 部署我们的 Jenkins Master 了。这样， 我们在 Jenkins Master 上所保存的任何配置，创建的任何job都会被SCM-Sync-Configuration同步到repo里，并在 Jenkins Master 被重新发布后 download 到本地。关于SCM-Sync-Configuration的更多信息SCM-Sync-Configuration初始化完成后（在我们环境
14、里初始化过程会被自动触发），每次配置更新或者添加，编辑构建作业时，我们会得到一个提示页面来为新的 commit message 添加 comment，如下图所示：当前，所支持的配置文件如下：1. 构建作业的配置文件 (/jobs/*/config.xml)2. 全局的 Jenkins/Hudson 系统配置文件 (/config.xml)3. 基本的插件的配置文件 (/hudson*.xml, /scm-sync-configuration.xml)4. 用户手动指定的配置文件另外，我们可以在每一页的下面看到 scm sync config 的状态， 下图是同步出错时的截图，你可以去Syste
15、m Log查看具体的出错信息。至此，我们又解决了Jenkins Master的数据持久化问题。到这里，我们就真正搭建完成了基于Jenkins, Apache Mesos和Marathon的弹性高可用的持续集成环境。作者简介：周伟涛，数人科技云平台负责人。曾在Red Hat工作。Pythoner，对NLP，CI，Mesos和docker有一定的实践经验。of the enemys attack. Troops, and troops were scattered, Qian Kangmin, Commander, Deputy Commander Ding Bingcheng and others heroic martyrdom. Turk foreign resistance members for the evacuation. Since then, Wujiang County Government District long Zhang Pinquan was killed by the Japanese. CPC jindapeng, Xiao Xin was trying to recommend thinking
