《MapReduce框架结构》由会员分享，可在线阅读，更多相关《MapReduce框架结构（12页珍藏版）》请在金锄头文库上搜索。
1、2 MapReduce框架结构Map/Reduce是一个用于大规模数据处理的分布式计算模型，它最初是由Google工程师设计并实现的，Google已经将它完整的MapReduce论文公开发布了。其中对它的定义是，Map/Reduce是一个编程模型（programming model），是一个用于处理和生成大规模数据集（processing and generating large data sets）的相关的实现。用户定义一个map函数来处理一个key/value对以生成一批中间的key/value对，再定义一个reduce函数将所有这些中间的有着相同key的values合并起来。很多现实世界
2、中的任务都可用这个模型来表达。Hadoop的Map/Reduce框架也是基于这个原理实现的，下面简要介绍一下Map/Reduce框架主要组成及相互的关系。2.1 总体结构2.1.1 Mapper和Reducer运行于Hadoop的MapReduce应用程序最基本的组成部分包括一个Mapper和一个Reducer类，以及一个创建JobConf的执行程序，在一些应用中还可以包括一个Combiner类，它实际也是Reducer的实现。2.1.2 JobTracker和TaskTracker它们都是由一个master服务JobTracker和多个运行于多个节点的slaver服务TaskTracker两
3、个类提供的服务调度的。master负责调度job的每一个子任务task运行于slave上，并监控它们，如果发现有失败的task就重新运行它，slave则负责直接执行每一个task。TaskTracker都需要运行在HDFS的DataNode上，而JobTracker则不需要，一般情况应该把JobTracker部署在单独的机器上。2.1.3 JobClient每一个job都会在用户端通过JobClient类将应用程序以及配置参数Configuration打包成jar文件存储在HDFS，并把路径提交到JobTracker的master服务，然后由master创建每一个Task（即MapTask和R
4、educeTask）将它们分发到各个TaskTracker服务中去执行。2.1.4 JobInProgressJobClient提交job后，JobTracker会创建一个JobInProgress来跟踪和调度这个job，并把它添加到job队列里。JobInProgress会根据提交的job jar中定义的输入数据集（已分解成）创建对应的一批TaskInProgress用于监控和调度MapTask，同时在创建指定数目的TaskInProgress用于监控和调度ReduceTask，缺省为1个ReduceTask。2.1.5 TaskInProgressJobTracker启动任务时通过每一个T
5、askInProgress来launchTask，这时会把Task对象（即MapTask和ReduceTask）序列化写入相应的TaskTracker服务中，TaskTracker收到后会创建对应的TaskInProgress（此TaskInProgress实现非JobTracker中使用的TaskInProgress，作用类似）用于监控和调度该Task。启动具体的Task进程是通过TaskInProgress管理的TaskRunner对象来运行的。TaskRunner会自动装载job jar，并设置好环境变量后启动一个独立的java child进程来执行Task，即MapTask或者Redu
6、ceTask，但它们不一定运行在同一个TaskTracker中。2.1.6 MapTask和ReduceTask一个完整的job会自动依次执行Mapper、Combiner（在JobConf指定了Combiner时执行）和Reducer，其中Mapper和Combiner是由MapTask调用执行，Reducer则由ReduceTask调用，Combiner实际也是Reducer接口类的实现。Mapper会根据job jar中定义的输入数据集按对读入，处理完成生成临时的对，如果定义了Combiner，MapTask会在Mapper完成调用该Combiner将相同key的值做合并处理，以减少输出
7、结果集。MapTask的任务全完成即交给ReduceTask进程调用Reducer处理，生成最终结果对。这个过程在下一部分再详细介绍。下图描述了Map/Reduce框架中主要组成和它们之间的关系： 2.2 Job创建过程2.2.1 JobClient.runJob() 开始运行job并分解输入数据集一个MapReduce的Job会通过JobClient类根据用户在JobConf类中定义的InputFormat实现类来将输入的数据集分解成一批小的数据集，每一个小数据集会对应创建一个MapTask来处理。JobClient会使用缺省的类调用.getSplits()方法生成小数据集，如果判断数据文件
8、是isSplitable()的话，会将大的文件分解成小的，当然只是记录文件在HDFS里的路径及偏移量和Split大小。这些信息会统一打包到job中并存储在HDFS中，再将jobFile路径提交给JobTracker去调度和执行。2.2.2 JobClient.submitJob() 提交job到JobTrackerjobFile的提交过程是通过RPC模块（有单独一章来详细介绍）来实现的。大致过程是，JobClient类中通过RPC实现的Proxy接口调用JobTracker的submitJob()方法，而JobTracker必须实现JobSubmissionProtocol接口。JobTrac
9、ker则根据获得的jobFile路径创建与job有关的一系列对象（即JobInProgress和TaskInProgress等）来调度并执行job。JobTracker创建job成功后会给JobClient传回一个JobStatus对象用于记录job的状态信息，如执行时间、Map和Reduce任务完成的比例等。JobClient会根据这个JobStatus对象创建一个NetworkedJob的RunningJob对象，用于定时从JobTracker获得执行过程的统计数据来监控并打印到用户的控制台。与创建Job过程相关的类和方法如下图所示 2.3 Job执行过程上面已经提到，job是统一由Job
10、Tracker来调度的，具体的Task分发给各个TaskTracker节点来执行。下面通过源码来详细解析执行过程，首先先从JobTracker收到JobClient的提交请求开始。2.3.1 JobTracker初始化Job和Task队列过程2.3.1.1 JobTracker.submitJob() 收到请求当JobTracker接收到新的job请求（即submitJob()函数被调用）后，会创建一个JobInProgress对象并通过它来管理和调度任务。JobInProgress在创建的时候会初始化一系列与任务有关的参数，如job jar的位置（会把它从HDFS复制本地的文件系统中的临时目
11、录里），Map和Reduce的数据，job的优先级别，以及记录统计报告的对象等。2.3.1.2 JobTracker.resortPriority() 加入队列并按优先级排序JobInProgress创建后，首先将它加入到jobs队列里，分别用一个map成员变量jobs用来管理所有jobs对象，一个list成员变量jobsByPriority用来维护jobs的执行优先级别。之后JobTracker会调用resortPriority()函数，将jobs先按优先级别排序，再按提交时间排序，这样保证最高优先并且先提交的job会先执行。2.3.1.3 JobTracker.JobInitThread
12、通知初始化线程然后JobTracker会把此job加入到一个管理需要初始化的队列里，即一个list成员变量jobInitQueue里。通过此成员变量调用notifyAll()函数，会唤起一个用于初始化job的线程JobInitThread来处理（JobTracker会有几个内部的线程来维护jobs队列，它们的实现都在JobTracker代码里，稍候再详细介绍）。JobInitThread收到信号后即取出最靠前的job，即优先级别最高的job，调用JobInProgress的initTasks()函数执行真正的初始化工作。2.3.1.4 JobInProgress.initTasks() 初始化
13、TaskInProgressTask的初始化过程稍复杂些，首先步骤JobInProgress会创建Map的监控对象。在initTasks()函数里通过调用JobClient的readSplitFile()获得已分解的输入数据的RawSplit列表，然后根据这个列表创建对应数目的Map执行管理对象TaskInProgress。在这个过程中，还会记录该RawSplit块对应的所有在HDFS里的blocks所在的DataNode节点的host，这个会在RawSplit创建时通过的getLocations()函数获取，该函数会调用Distributed的get()获得（这个细节会在HDFS模块中讲解）
14、。当然如果是存储在本地文件系统中，即使用Local时当然只有一个location即“localhost”了。其次JobInProgress会创建Reduce的监控对象，这个比较简单，根据JobConf里指定的Reduce数目创建，缺省只创建1个Reduce任务。监控和调度Reduce任务的也是TaskInProgress类，不过构造方法有所不同，TaskInProgress会根据不同参数分别创建具体的MapTask或者ReduceTask。JobInProgress创建完TaskInProgress后，最后构造JobStatus并记录job正在执行中，然后再调用JobHistory.JobIn
15、fo.logStarted()记录job的执行日志。到这里JobTracker里初始化job的过程全部结束，执行则是通过另一异步的方式处理的，下面接着介绍它。与初始化Job过程相关的类和方法如下图所示 2.3.2 TaskTracker执行Task的过程Task的执行实际是由TaskTracker发起的，TaskTracker会定期（缺省为10秒钟，参见MRConstants类中定义的HEARTBEAT_INTERVAL变量）与JobTracker进行一次通信，报告自己Task的执行状态，接收JobTracker的指令等。如果发现有自己需要执行的新任务也会在这时启动，即是在TaskTracker调用JobTracker的heartbeat()方法时进行，此调用底层是通过IPC层调用Proxy接口（在IPC章节详细介绍）实现。这个过程实际比较复杂，下面一一简单介绍下每个步骤。2.3.2.1 TaskTracker.run() 连接JobTrackerTaskTracker的启动过程会初始化一系列参数和
