《非关系型数据库大作业》由会员分享，可在线阅读，更多相关《非关系型数据库大作业（28页珍藏版）》请在金锄头文库上搜索。
1、 实验三HBase环境搭建、sehll操作及Java API编程实验步骤：1.搭建Zookeeper和HBase1.ntp时间同步服务器搭建与使用安装ntp服务端(master)# apt-get installntp启动ntp服务# /etc/init.d/ntp start修改配置文件# vim /etc/ntp.conf修改内容如下：重启ntp服务# /etc/init.d/ntp restart1.2安装ntp客户端(slaver1、slaver2)使用ntpdate命令，如果不存在这个命令，则先安装apt-get install ntp同步服务器时间# /usr/sbin/ntpda
2、te 10.49.85.172设置定时同步# vim /etc/crontab1.3 ulimit和nproc设置(集群均配置)HBase是数据库，会在同一时间使用很多的文件句柄。大多数Ubuntu系统使用的默认值1024是不能满足的，所以你需要修改你的最大文件句柄限制。可以设置到10k. 你还需要修改hbase用户的nproc，如果过低会造成OutOfMemoryError异常。需要澄清的，这两个设置是针对操作系统的，不是Hbase本身的。有一个常见的错误是Hbase运行的用户，和设置最大值的用户不是一个用户。在Hbase启动的时候，第一行日志会现在ulimit信息，所以你最好检查一下。1）
3、修改limits.conf文件# vim /etc/security/limits.conf添加如下内容：2）修改mon-session文件# vim /etc/pam.d/mon-session添加如下内容：重启系统1.4 Zookeeper集群环境安装过程详解1）解压zookeepertarzxvf zookeeper-3.4.5.tar.gz2） 修改zoo.cfg配置文件进入到zookeeper的conf目录下将zoo_sample.cfg文件拷贝一份，命名为为zoo.cfgvimzoo.cfg修改内容如下：配置文件中server.id=host:port:port中的第一个port是
4、从机器（follower）连接到主机器（leader）的端口号，第二个port是进行leadership选举的端口号。接下来在dataDir所指定的目录下创建一个文件名为myid的文件，文件中的内容只有一行，为本主机对应的id值，也就是上图中server.id中的id。例如：在服务器1中的myid的内容应该写入1，在服务器2中的myid的内容应该写入2，在服务器3中的myid的内容应该写入3。3）同时创建log目录# mkdir log4）修改环境变量# vim /etc/profile# source /etc/profile# scp -r /root/zookeeper-3.4.5/ c
5、c-slaver1:/root/# scp -r /root/zookeeper-3.4.5/ cc-slaver2:/root/在对应slaver节点同时修改profile文件，添加export ZOOKEEPER_HOME=/root/zookeeper-3.4.5export CLASSPATH=.:$ZOOKEEPER_HOME/lib:$CLASSPATHexport PATH=$ZOOKEEPER_HOME/bin:$ZOOKEEPER_HOME/conf:$PATH同时：在slaver1节点中# pwd/soft/zookeeper# mkdir data# echo 2 myi
6、d在slaver2节点中# pwd/soft/zookeeper# mkdir data# echo 3 myid1.5 启动zookeeper集群在ZooKeeper集群的每个结点上，执行启动ZooKeeper服务的脚本：# zkServer.sh start如下图所示：其中，QuorumPeerMain是zookeeper进程，启动正常。出现错误可以通过# tail -f /soft/zookeeper/zookeeper.out如上依次启动了所有机器上的Zookeeper之后可以通过ZooKeeper的脚本来查看启动状态，包括集群中各个结点的角色（或是Leader，或是Follower）
7、，如下所示，是在ZooKeeper集群中的每个结点上查询的结果：通过上面状态查询结果可见，cc-slaver1是集群的Leader，其余的两个结点是Follower。另外，可以通过客户端脚本，连接到ZooKeeper集群上。对于客户端来说，ZooKeeper是一个整体（ensemble），连接到ZooKeeper集群实际上感觉在独享整个集群的服务，所以，你可以在任何一个结点上建立到服务集群的连接，例如：# zkCli.sh -server cc-slaver2:21811.6 停止zookeeper进程在ZooKeeper集群的每个结点上，执行停止ZooKeeper服务的脚本：# zkServ
8、er.sh stop至此，Zookeeper集群安装完成。1.7HBase的安装和配置# tar -zxvf hbase-1.2.4.tar.gz1）配置conf/hbase-env.sh修改内容如下：一个分布式运行的Hbase依赖一个zookeeper集群。所有的节点和客户端都必须能够访问zookeeper。默认的情况下Hbase会管理一个zookeep集群，即Hbase默认自带一个zookeep集群。这个集群会随着Hbase的启动而启动。而在实际的商业项目中通常自己管理一个zookeeper集群更便于优化配置提高集群工作效率，但需要配置Hbase。需要修改conf/hbase-env.sh
9、里面的HBASE_MANAGES_ZK 来切换。这个值默认是true的，作用是让Hbase启动的时候同时也启动zookeeper.在本实验中，我们采用独立运行zookeeper集群的方式，故将其属性值改为false。2）配置conf/hbase-site.xml配置如下：hbase.rootdirhdfs:/10.49.85.172:9000/hbasehbase.masterhdfs:/10.49.85.172:60000hbase.master.info.port60010hbase.regionserver.info.port60030hbase.zookeeper.property.d
10、ataDirfile:/root/zookeeper-3.4.5/datahbase.cluster.distributedtruehbase.zookeeper.quorumcc-master,cc-slaver1,cc-slaver23）配置conf/regionservers写入：cc-slaver1、cc-slaver2在这里列出了你希望运行的全部HRegionServer，一行写一个host (就像Hadoop里面的 slaver 一样). 列在这里的server会随着集群的启动而启动，集群的停止而停止。4）hadoop配置文件拷入# cp /hadoop-2.6.5/etc/had
11、oop/hdfs-site.xml /hbase-1.2.4/conf# cp /hadoop-2.6.5/etc/hadoop/core-site.xml /hbase-1.2.4/conf5）分发hbase# scp -r /root/hbase-1.2.4 cc-slaver1:/root# scp -r /root/hbase-1.2.4 cc-slaver2:/root配置环境变量# vim /etc/profile在末尾添加如下内容6）运行和测试在master上执行：（1）# start-all.sh（2）# zkServer.sh start（各个节点均执行）（3）# start
12、-hbase.sh （涵盖web管理界面的启动）使用jps查看进程通过浏览器查看60010,60030端口查看10.49.85.172:60010/浏览器主节点信息7）多节点启动HMaster# hbase-daemon.sh start master在其他子节点同时启动HMaster可以做等待备份作用；2.使用HBase shell命令进行表的创建，增加删除修改操作。Hbase脚本启动：hbaseshell创建表在member表中添加几条数据修改表数据删除数据3使用Java API进行表的创建，增加删除修改操作。向表中添加数据：更新表updateTable:删除所有列deleteAllCol
13、umn：删除列deleteColumn：删除表deleteTable：删除所有表getAllTables：获取结果getResult：获取某一列的值getResultByColumn：查询某列的多版本getResultByVersion:遍历查询getResultByScann:具体代码如下：import java.io.IOException;import java.util.ArrayList;import java.util.List;import org.apache.hadoop.conf.Configuration;import org.apache.hadoop.hbase.Cell;import org.apache.hadoop.hbase.CellUtil;import org.apache.hadoop.hbase.HBaseConfiguration;import org.apache.hadoop.hbase.HColumnDescriptor;import org.apache.hadoop.hbase.HTableDescriptor;import org.apache.hadoop.hbase.KeyValue;import org.apache.hadoop.hba
