《过载虚拟机条件下mpi通信性能改善方法研究》由会员分享，可在线阅读，更多相关《过载虚拟机条件下mpi通信性能改善方法研究（52页珍藏版）》请在金锄头文库上搜索。
1、华中科技大学 硕士学位论文 过载虚拟机条件下MPI通信性能改善方法研究 姓名：谢雪娇 申请学位级别：硕士 专业：计算机软件与理论 指导教师：邵志远 2011-01-16 华 中 科 技 大 学 硕 士 学 位 论 文华 中 科 技 大 学 硕 士 学 位 论 文 I 摘摘 要要 虚拟化技术复兴以后，基于其上的软件技术逐渐成为一个重要的研究领域。如 今，利用虚拟化技术构建高性能计算应用所需的运行环境正成为一种流行趋势。同 传统计算模式相比，虚拟化技术的出现带来了许多好处。比如资源聚合，降低能耗， 可改善程序移植性，还可以协助调试复杂的程序代码等。 在传统计算模式中，客户操作系统（Guest Op
2、erating System）直接将应用进程调 度到物理处理器上运行。然而在虚拟机计算模式中，由于虚拟化层的出现，调度机 制出现了一些变化，为双层调度：在 GOS 中，GOS 将进程调度到虚拟处理器上；在 虚拟化层中，虚拟机管理器将虚拟处理器调度到物理处理器上运行。在现今的虚拟 机体系结构中，这两种调度机制是相互独立执行的。这在一定程度上影响了那些需 要通过 MPI 原语进行通信的高性能计算负载的性能， 这种影响在过载虚拟机条件 （即 一个物理处理器上分配了不止一个的虚拟处理器）下显得尤其强烈。 此研究详细分析了过载虚拟机条件下利用 MPI 通信的 HPC 应用性能损耗的原 因，即 MPI 库
3、消息接收机制产生的“忙等”现象浪费了较多的处理器资源。通过进 一步分析虚拟机调度器源码，发现“忙等”现象产生的根源是虚拟化环境中双层调 度机制的不协同性，因此，提出了一种在虚拟化环境下协同双层调度以提高系统性 能的方法，即将 GOS 中的一部分调度信息适时发送给虚拟机管理器以保证虚拟机管 理器中的调度执行更准确，从而减少“忙等”现象，提高系统性能。 实验表明，协同双层调度方法在过载虚拟机条件下能显著提高利用 MPI 进行通 信的 HPC 负载的通信性能。 关键词：关键词：虚拟机调度， MPI， 高性能计算， 过载 华 中 科 技 大 学 硕 士 学 位 论 文华 中 科 技 大 学 硕 士 学
4、 位 论 文 II Abstract After resurgence, software based machine virtualizatin technology becomes an important research topic. And using such technologies to build environments for solving high performance computing (HPC for short) tasks becomes an important trend nowadays. The introduction of virtualiza
5、tion layer provides many advantages that can not be provided by traditional computing model, such as resource consolidation, power reduction, improving application portability, and to help debug complex application codes. In the traditional computing model, the application processes or threads are s
6、cheduled to run on physical machines. However, in the virtualized computing model, for the introduction of the virtualiation layer, the schduling mechanisms is changed to two-layer scheduling : one resides in the guest operating system, which schedules the application processes or threads, while the
7、 other belongs to the hypervisor that schedules the virtual processors. Moreover, in current architecture, these two scheduling mechanisms work independently without any coordinations. This will adversely affects the HPC workloads including that need to communicate with each other by using MPI commu
8、nication primitives during the process of computation workloads. And such negative effect becomes rather salient when the VCPUs are overcommitted (more than one VCPUs need to be scheduled on one PCPU). The research analyzed the actual reason behind the performance penalty, that is the busy-waiting m
9、echanism of MPI library which waste a lot of CPU resource, then though analyzing the source code of MPI library carefully, the hidden reason of performance penalty is founded: two scheduling mechanisms working independently, at last,a solution is proposed to improve the communication performance whe
10、n running MPI application in overcommitted virtual processors by revising the message receiving mechanism of MPI. The revised message receiving mechanism of MPI made the two scheduling mechanisms work cooperatively by reporting some scheduling information of the guest operating system to hypervisor
11、to guarantee the scheduling decisions of hypervisor more accurate and to improve the communication performance. The results of experiments showed that the solution can greatly improve the performance of HPC applications which need to communicate with each other by using MPI primitives in overcommitt
12、ed virtual machines. Key Words: Virtual machine scheduling, MPI, HPC, Overcommit 独创性声明独创性声明 本人声明所呈交的学位论文是我个人在导师指导下进行的研究工作及取得的 研究成果。尽我所知，除文中已经标明引用的内容外，本论文不包含任何其他个 人或集体已经发表或撰写过的研究成果。对本文的研究做出贡献的个人和集体， 均已在文中以明确方式标明。本人完全意识到本声明的法律结果由本人承担。 学位论文作者签名： 日期： 年 月 日 学位论文版权使用授权书学位论文版权使用授权书 本学位论文作者完全了解学校有关保留、使用学位论文
13、的规定，即：学校有 权保留并向国家有关部门或机构送交论文的复印件和电子版， 允许论文被查阅和 借阅。 本人授权华中科技大学可以将本学位论文的全部或部分内容编入有关数据 库进行检索，可以采用影印、缩印或扫描等复制手段保存和汇编本学位论文。 保密， 在 年解密后适用本授权书。 不保密。 （请在以上方框内打“”） 学位论文作者签名： 指导教师签名： 日期： 年 月 日 日期： 年 月 日 本论文属于 华 中 科 技 大 学 硕 士 学 位 论 文华 中 科 技 大 学 硕 士 学 位 论 文 1 1 绪论绪论 本章首先概述了课题的研究背景、目的和意义，然后对虚拟机中目前比较主流 的几种调度算法进行了
14、简单的介绍和分析，并概述了本文的主要内容和论文的组织 结构。 1.1 课题背景及意义课题背景及意义 自从虚拟化技术复兴1,2以后，基于其上的软件技术逐渐成为一个重要的研究领 域。 如今， 利用虚拟化技术构建高性能计算 （High-Performance Computing， 简称 HPC） 应用所需的运行环境正成为一种流行趋势。众多的虚拟化技术都允许多台虚拟处理 器同时运行在一台物理处理器上，而在这其中，由于 Xen3架构新颖并且系统开销较 小，因此应用较为广泛。本研究所采用的实验平台就是 Xen。 同传统计算模式相比，虚拟化技术的出现带来了许多好处4。比如资源聚合，降 低能耗，处理机器失效，
15、改善程序移植性，还可以协助调试复杂的程序代码等。在 虚拟化技术中，为了更好的复用系统底层物理资源，物理处理器封装并虚拟出多个 虚拟处理器，通过调用虚拟处理器到物理处理器上，Xen 创造出一台物理机上共存 多个操作系统的假象。 在虚拟机计算模式中， 调度机制为双层调度5： 在客户操作系统 （Guest Operating System）中，操作系统将应用进程调度到虚拟处理器上；在虚拟化层中，虚拟机管 理器（hypervisor）将虚拟处理器（Virtual CPU）调度到物理处理器（Phycical CPU） 上运行。然而，在现今的虚拟机体系结构中，这两种调度机制是相互独立执行的。 这在一定程度
16、上影响了那些需要通过 MPI（Message Passing Interface，即消息传递接 口，这是一种广泛应用的并行编程方式）原语进行通信的 HPC 负载的通信性能。 在需要通过 MPI 原语进行通信的高性能计算负载中，虚拟机计算模式中双层调 度机制独立执行的影响在过载虚拟机条件（即一个物理处理器上分配了不止一个虚 拟处理器）下显得更为突出6,7。在过载虚拟机条件下，通过 MPI 进行通信会带来一 些性能损耗，这些损耗主要来自于 MPI 消息接收机制中的“忙等”现象。在 MPI 库 中，其消息接收机制如下：对于阻塞式接收操作，MPI 库会不断的轮询套接字文件 描述符集或者共享内存直到接收到所需数据已到达的消息。在这个过程中，该消息 华 中 科 技 大 学 硕 士 学 位 论 文华 中 科 技 大 学 硕 士 学 位 论 文
