自制hadoop安装详细过程

上传人:第*** 文档编号:61735759 上传时间:2018-12-11 格式:DOCX 页数:20 大小:1.69MB
返回 下载 相关 举报
自制hadoop安装详细过程_第1页
第1页 / 共20页
自制hadoop安装详细过程_第2页
第2页 / 共20页
自制hadoop安装详细过程_第3页
第3页 / 共20页
自制hadoop安装详细过程_第4页
第4页 / 共20页
自制hadoop安装详细过程_第5页
第5页 / 共20页
点击查看更多>>
资源描述

《自制hadoop安装详细过程》由会员分享,可在线阅读,更多相关《自制hadoop安装详细过程(20页珍藏版)》请在金锄头文库上搜索。

1、cdHadoop单机版、伪分布、集群安装教程推荐链接:http:/ -q centos-release查看系统是32位还是64位:getconf LONG_BIT三、hadoop伪分布安装(选centos虚拟机安装)1.root用户名登陆,密码hadoop 之后已将主机名修改为hadoop 密码 hadoopIP 192.168.0.2532.设置IP、主机名、绑定主机名和关闭防火墙(1)设置静态IP桌面右上角连接 右键 编辑连接IPv4 method:从automatic(DCHCP)动态分配IP调整为Manual静态IP设置与主机在同一个网段 可以用ipconfig和ping IP实现本机

2、IP192.168.0.221vmware vmnet1 192.168.0.251vmnet8192.168.0.252service network restart /重启网卡(2)修改主机名hostname/查看当前主机名hostname hadoop/对于当前界面修改主机名vi /etc/sysconfig/network 进入配置文件下 修改主机名为hadoopreboot -h now /重启虚拟机/执行vi读写操作按a修改 修改完之后Esc输入 :wq 回车 保存退出3.hostname和主机绑定vi /etc/hosts/在前两行代码下添加第三行192.168.0.253 ha

3、doop之后 ping hadoop验证即可4.关闭防火墙service iptables stop/关闭防火墙service iptables status/查看防火墙状态chkconfig iptables off/关闭防火墙自动运行chkconfig -list | grep iptables/验证是否全部关闭5.配置ssh免密码登陆(centos默认安装了SSH client、SSH server)rpm -qa |grep ssh/验证是否安装SSH,若已安装,界面如下接着输入ssh localhost 输入yes会弹出以下窗体内容即每次登陆都需要密码exit/退出ssh local

4、hostcd /.ssh/若不存在该目录,执行一次ssh localhostssh-keygen -t rsa 之后多次回车cat /.ssh/id_rsa.pub /.ssh/authorized_keys/加入授权chmod 600 /.ssh/authorized_keys/修改文件权限注:在 Linux 系统中, 代表的是用户的主文件夹,即 /home/用户名 这个目录,如你的用户名为 hadoop,则 就代表 /home/hadoop/。操作完成之后输入ssh localhost验证 出现Last login6.安装java环境(1)将本机已下载的jdk1.8上传到centos服务器

5、下:方法一:下载Xshell5,点击新建文件传输之后按要求下载Xftp,下载安装之后根据主机IP及用户名和密码登录虚拟机IP 192.168.0.253 用户名root 密码hadoop然后将本机已下载好的jdk文件拖拽到虚拟机(可在虚拟机根目录中输入 / )到根目录下的opt文件夹方法二:右键点击虚拟机,设置/选项/共享文件夹/总是启用之后新建文件夹share存放在本机中,此文件夹也可在虚拟机根目录中显示将jdk放入共享文件夹之后copy即可(2)解压jdk终端输入命令rpm -ivh jdk-8u151-linux-i586.rpm/解压jdk安装包解压之后默认存放在/usr/java/目

6、录下 输入cd /usr/java再输入ls即可看到解压好的jdk(3)配置环境变量vi /etc/profile/修改文件在最末尾加入以下内容,用于设置环境变量JAVA_HOME=/usr/java/jdk1.8.0_151JRE_HOME=/usr/java/jdk1.8.0_151/jrePATH=$PATH:$JAVA_HOME/binCLASSPATH=.:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jar:$JRE_HOME/libexport JAVA_HOME JRE_HOME PATH CLASSPATH之后输入 source /et

7、c/profile/使设置立即生效(4)验证依次输入javajava -versionjavac 查看7.安装hadoop(1)解压hadoop将下载好的hadoop2.7.1copy到虚拟机(/mnt目录下)中tar -zxf /mnt/hadoop2.7.1.tar.gz -C /usr/local/将hadoop安装包解压到/usr/local/会有短暂停顿cd /usr/localls之后可看到hadoop2.7.1重命名文件夹mv ./hadoop2.7.1/./hadoop(已跳转到该目录下执行该指令)也可从computer进入找到文件夹右键重命名chown -R hadoop:h

8、adoop ./hadoop/修改文件权限(2)验证cd /usr/local/hadoop./bin/hadoop version(3)hadoop伪分布配置a)设置hadoop环境变量gedit /.bashrc/用记事本打开文件然后在文件末尾添加如下9行代码export HADOOP_HOME=/usr/local/hadoopexport HADOOP_INSTALL=$HADOOP_HOMEexport HADOOP_MAPRED_HOME=$HADOOP_HOMEexport HADOOP_COMMON_HOME=$HADOOP_HOMEexport HADOOP_HDFS_HOM

9、E=$HADOOP_HOMEexport YARN_HOME=$HADOOP_HOMEexport HADOOP_COMMON_LIB_NATIVE_DIR=$HADOOP_HOME/lib/nativeexport PATH=$PATH:$HADOOP_HOME/sbin:$HADOOP_HOME/binexport JAVA_HOME=/usr/java/jdk1.8.0_151之后点击上方save保存关闭即可然后source /.bashrc/使配置生效 source+文件b)修改两个配置文件首先跳转到配置文件夹下cd /usr/local/hadoop/etc/hadoop然后gedi

10、t core-site.xml/记事本打开文件在内添加如下代码hadoop.tmp.dirfile:/usr/local/hadoop/tmpAbase for other temporary diretcories.fs.defaultFShdfs:/localhost:9000点击上方save保存退出即可接着gedit hdfs-site.xml同样在内添加如下代码dfs.replication1dfs.namenode.name.dirfile:/usr/local/hadoop/tmp/dfs/namedfs.datanode.data.dirfile:/usr/local/hadoo

11、p/tmp/dfs/data注:也可通过文件路径找到这两个文件,然后右键记事本方式打开编辑点击上方save保存退出c)执行namenode格式化cd /usr/local/hadoop/etc/hadoophdfs namenode -format/格式化执行成功后会有以下两点提示成功格式化退出状态为0(若为1则说明未执行)d)开启namenode和datanode守护进程首先跳转到sbin文件夹下cd /usr/local/hadoop/sbin然后输入start-dfs.sh之后会提示开启第二个namenode节点e)验证输入jps会出现如下进程打开浏览器,访问web界面http:/localhost:50070可查看namenode和datanode节点信息四、安装hadoop集群1.网络配置(1)将已经安装好hadoop的虚拟机(centos)克隆出来两个相同的虚拟机(centos2,centos3)并设置好相关IP及端口(设置完IP需重启)本机vmnet1vmnet8centoscentos2centos3IP192.168.0.221192.168.

展开阅读全文
相关资源
相关搜索

当前位置:首页 > 办公文档 > 解决方案

电脑版 |金锄头文库版权所有
经营许可证:蜀ICP备13022795号 | 川公网安备 51140202000112号