【hadoop】impala安装过程

上传人:公**** 文档编号:502870092 上传时间:2023-05-20 格式:DOCX 页数:4 大小:20.27KB
返回 下载 相关 举报
【hadoop】impala安装过程_第1页
第1页 / 共4页
【hadoop】impala安装过程_第2页
第2页 / 共4页
【hadoop】impala安装过程_第3页
第3页 / 共4页
【hadoop】impala安装过程_第4页
第4页 / 共4页
亲,该文档总共4页,全部预览完了,如果喜欢就下载吧!
资源描述

《【hadoop】impala安装过程》由会员分享,可在线阅读,更多相关《【hadoop】impala安装过程(4页珍藏版)》请在金锄头文库上搜索。

1、安装impala过程与Hive类似,Impala也可以直接与HDFS和HBase库直接交互。只不过Hive和其它建立在MapReduce上的框架适合需要长时间运行的批处理任务。例如那些批量提取,转化,加载(ETL)类型的Job。而Impala主要用于实时查询。install下载 impala,目前最新版本为0.6-1,下载地址。安装过程安装前提:先安装好hadoop集群以及hive,可以参考我的文章:o 手动安装Cloudera Hadoop CDH4.2 o 手动安装Cloudera Hive CDH4.2 1. DataNode节点 yum install -y impala-0.6-1.

2、p0.548.el6.x86_64.rpm impala-server-0.6-1.p0.548.el6.x86_64.rpm impala-state-store-0.6-1.p0.548.el6.x86_64.rpm impala-shell-0.6-1.p0.548.el6.x86_64.rpm libevent-1.4.13-4.el6.x86_64.rpm bigtop-utils-0.4+300-1.cdh4.0.1.p0.1.el6.noarch.rpm -skip-broken1. 在hive节点上 yum install -y impala-0.6-1.p0.548.el6.

3、x86_64.rpm impala-server-0.6-1.p0.548.el6.x86_64.rpm impala-state-store-0.6-1.p0.548.el6.x86_64.rpm impala-shell-0.6-1.p0.548.el6.x86_64.rpm libevent-1.4.13-4.el6.x86_64.rpm bigtop-utils-0.4+300-1.cdh4.0.1.p0.1.el6.noarch.rpm配置Impala查看安装路径rootdesktop1 conf# find / -name impala/var/run/impala/var/lib

4、/alternatives/impala/var/log/impala/usr/lib/impala/etc/alternatives/impala/etc/default/impala/etc/impala添加配置文件impalad的配置文件路径由环境变量IMPALA_CONF_DIR指定,默认为/usr/lib/impala/conf在节点desktop1上 拷贝hive-site.xml、core-site.xml、hdfs-site.xml至/usr/lib/impala/conf目录下:rootdesktop1 conf# mkdir /usr/lib/impala/conf/roo

5、tdesktop1 conf# cp /opt/hadoop-2.0.0-cdh4.2.0/etc/hadoop/log4j.properties /usr/lib/impala/conf/rootdesktop1 conf# cp /opt/hadoop-2.0.0-cdh4.2.0/etc/hadoop/core-site.xml /usr/lib/impala/conf/rootdesktop1 conf# cp /opt/hadoop-2.0.0-cdh4.2.0/etc/hadoop/hdfs-site.xml /usr/lib/impala/conf/rootdesktop1 co

6、nf# cp /opt/hive-0.10.0-cdh4.2.0/conf/hive-site.xml /usr/lib/impala/conf/并作下面修改在hdfs-site.xml文件中添加如下内容: dfs.client.read.shortcircuit true dfs.domain.socket.path /var/run/hadoop-hdfs/dn._PORT dfs.datanode.hdfs-blocks-metadata.enabled true dfs.datanode.hdfs-blocks-metadata.enabled true同步以上文件到其他节点rootd

7、esktop1 # scp -r /usr/lib/impala/conf desktop3:/usr/lib/impala/rootdesktop1 # scp -r /usr/lib/impala/conf desktop4:/usr/lib/impala/rootdesktop1 # scp -r /usr/lib/impala/conf desktop6:/usr/lib/impala/rootdesktop1 # scp -r /usr/lib/impala/conf desktop7:/usr/lib/impala/rootdesktop1 # scp -r /usr/lib/im

8、pala/conf desktop8:/usr/lib/impala/hadoop中添加native包拷贝hadoop native包到hadoop安装路径下,并同步hadoop文件到其他节点:rootdesktop1 # cp /usr/lib/impala/lib/*.so* /opt/hadoop-2.0.0-cdh4.2.0/lib/native/创建socket path在每个节点上创建/var/run/hadoop-hdfs:rootdesktop1 # mkdir -p /var/run/hadoop-hdfsrootdesktop3 # mkdir -p /var/run/ha

9、doop-hdfsrootdesktop4 # mkdir -p /var/run/hadoop-hdfsrootdesktop6 # mkdir -p /var/run/hadoop-hdfsrootdesktop7 # mkdir -p /var/run/hadoop-hdfsrootdesktop8 # mkdir -p /var/run/hadoop-hdfs拷贝postgres jdbc jar:cp /opt/hive-0.10.0-cdh4.2.0/lib/postgresql-9.1-903.jdbc* /usr/lib/impala/lib/启动服务1. 在hive所在节点启

10、动statestored(默认端口为24000): GLOG_v=1 nohup statestored -state_store_port=24000 &如果statestore正常启动,可以在/tmp/statestored.INFO查看。如果出现异常,可以查看/tmp/statestored.ERROR定位错误信息。1. 在所有impalad节点上: HADOOP_CONF_DIR=/usr/lib/impala/conf nohup impalad -state_store_host=desktop1 -nn=desktop1 -nn_port=8020 -hostname=deskt

11、op3 -ipaddress=192.168.0.3 &注意: 其中的-hostname和-ipaddress表示当前启动impalad实例所在机器的主机名和ip地址。如果impalad正常启动,可以在/tmp/ impalad.INFO查看。如果出现异常,可以查看/tmp/impalad.ERROR定位错误信息。使用shell使用impala-shell启动Impala Shell,分别连接各Impalad主机(desktop3、desktop4、desktop6、desktop7、desktop8),刷新元数据,之后就可以执行shell命令。相关的命令如下(可以在任意节点执行):impal

12、a-shellNot connected connect desktop3:21000desktop3:21000 refreshdesktop3:21000 connect desktop4:21000desktop4:21000 refresh注意:1. 如果hive使用mysql或postgres数据库作为metastore的存储,则需要拷贝相应的jdbc jar到/usr/lib/impala/lib目录下 2. E0325 11:04:19.937718 7239 statestored-main.cc:52 Could not start webserver on port: 25010 可能是已经启动了statestored进程参考文章o Impala安装文档完整版 o Impala入门笔记 o Installing and Using Cloudera Impala -原创文章,转载请注明:转载自:JavaChen Blog-

展开阅读全文
相关资源
相关搜索

当前位置:首页 > 幼儿/小学教育 > 小学课件

电脑版 |金锄头文库版权所有
经营许可证:蜀ICP备13022795号 | 川公网安备 51140202000112号