《Hbase运维手册》由会员分享，可在线阅读，更多相关《Hbase运维手册（7页珍藏版）》请在金锄头文库上搜索。
1、. -Hbase运维手册1.region情况需要检查1. region的数量总数和每台regionserver上的region数2. region的大小如果发现异常可以通过手动merge region和手动分配region来调整从CDH前台和master前台以及regionServer的前台都可以看到region数量，如master前台：在region server前台可以看到storeFile大小：2.缓存命中率缓存命中率对hbase的读有很大的影响，可以观察这个指标来调整blockcache的大小。从regionserver web页面可以看到block cache的情况：注意：HBase
2、上Regionserver的存分为两个局部，一局部作为Memstore，主要用来写；另外一局部作为BlockCache，主要用于读。一个Regionserver上有一个BlockCache和N个Memstore，它们的大小之和不能大于等于heapsize * 0.8，否则HBase不能正常启动。默认配置下，BlockCache为0.2，而Memstore为0.4。在注重读响应时间的应用场景下，可以将 BlockCache设置大些，Memstore设置小些，以加大缓存的命中率。HBase RegionServer包含三个级别的Block优先级队列： Single：如果一个Block第一次被访问，
3、则放在这一优先级队列中； Multi：如果一个Block被屡次访问，则从Single队列移到Multi队列中； InMemory：如果一个Block是inMemory的，则放到这个队列中。以上将Cache分级思想的好处在于： 首先，通过inMemory类型Cache，可以有选择地将in-memory的column families放到RegionServer存中，例如Meta元数据信息； 通过区分Single和Multi类型Cache，可以防止由于Scan操作带来的Cache频繁颠簸，将最少使用的Block参加到淘汰算法中。注意，其中InMemory队列用于保存HBase Meta表元数据信息
4、，因此如果将数据量很大的用户表设置为InMemory的话，可能会导致Meta表缓存失效，进而对整个集群的性能产生影响。3.读写请求数通过读写请求数可以大概看出每台regionServer的压力，如果压力分布不均匀，应该检查regionServer上的region以及其它指标4.压缩队列压缩队列存放的是正在压缩的storefile，pact操作对hbase的读写影响较大通过cdh的hbase图表库可以看到集群总的压缩队列大小：可以通过CDH的hbase主页查询pact日志：点击压缩进入：5.刷新队列单个region的memstore写满(128M)或regionServer上所有region的m
5、emstore大小总合到达门限时会进展flush操作,flush操作会产生新的storeFile同样可以通过CDH的hbase前台查看flush日志：6.rpc调用队列没有及时处理的rpc操作会放入rpc操作队列，从rpc队列可以看出效劳器处理请求的情况7.文件块保存在本地的百分比datanode和regionserver一般都部署在同一台机器上，所以region server管理的region会优先存储在本地，以节省网络开销。如果block locality较低有可能是刚做过balance或刚重启，经过pact之后region的数据都会写到当前机器的datanode，block locali
6、ty也会慢慢到达接近100：8.存使用情况存使用情况,主要可以看used Heap和memstore的大小，如果usedHeadp一直超过80-85%以上是比拟危险的memstore很小或很大也不正常从region Server的前台可以看到：9.检查数据一致性以及修复方法数据一致性是指：1. 每个region都被正确的分配到一台regionserver上，并且region的位置信息及状态都是正确的。2. 每个table都是完整的，每一个可能的rowkey都可以对应到唯一的一个regionhbase hbck注：有时集群正在启动或region正在做split操作，会造成数据不一致hbase h
7、bck -details加上details会列出更详细的检查信息，包括所以正在进展的split任务hbase hbck Table1 Table2如果只想检查指定的表，可以在命令后面加上表名，这样可以节省操作时间CDH通过CDH提供的检查报告也可以看到hbck的结果，日常只需要看CDH hbck的报告即可：选择最近的Hbck结果： 1)局部的修复如果出现数据不一致，修复时要最大限度的降低可能出现的风险，使用以下命令对region进展修复风险较低：hbase hbck -fi*Assignments 修复region没有分配(unassigned)，错误分配incorrectly assigne
8、d以及屡次分配multiply assigned的问题hbase hbck -fi*Meta删除META表里有记录但HDFS里没有数据记录的region 添加HDFS里有数据但是META表里没有记录的region到META表hbase hbck -repairHoles 等价于：hbase hbck -fi*Assignments -fi*Meta -fi*HdfsHoles -fi*HdfsHoles的作用：如果rowkey出现空洞，即相邻的两个region的rowkey不连续，则使用这个参数会在HDFS里面创立一个新的region。创立新的region之后要使用-fi*Meta和-fi*A
9、ssignments参数来使用挂载这个region，所以一般和前两个参数一起使用 2Region重叠修复进展以下操作非常危险，因为这些操作会修改文件系统，需要慎重操作！进展以下操作前先使用hbck details查看详细问题，如果需要进展修复先停掉应用，如果执行以下命令时同时有数据操作可能会造成不可期的异常。hbase hbck -fi*HdfsOrphans将文件系统中的没有metadata文件(.regioninfo)的region目录参加到hbase中，即创立.regioninfo目录并将region分配到regionserhbase hbck -fi*HdfsOverlaps通过两种方
10、式可以将rowkey有重叠的region合并：1. merge:将重叠的region合并成一个大的region2. sideline:将region重叠的局部去掉，并将重叠的数据先写入到临时文件，然后再导入进来。如果重叠的数据很大，直接合并成一个大的region会产生大量的split和pact操作，可以通过以下参数控制region过大：-ma*Merge 合并重叠region的最大数量-sidelineBigOverlaps 假设有大于ma*Merge个数的region重叠,则采用sideline方式处理与其它region的重叠.-ma*OverlapsToSideline 如果用sideli
11、ne方式处理重叠region,最多sideline n个region .hbase hbck -repair 以下命令的缩写：hba hbase hbck -fi*Assignments -fi*Meta -fi*HdfsHoles -fi*HdfsOrphans -fi*HdfsOverlaps -fi*VersionFile sidelineBigOverlaps 可以指定表名：hba hbase hbck -repair Table1 Table2hbase hbck -fi*MetaOnly fi*Assignments如果只有META表的region不一致，则可以使用这个命令修复hb
12、ase hbck fi*VersionFileHbase的数据文件启动时需要一个version file，如果这个文件丧失，可以用这个命令来新建一个，但是要保证hbck的版本和Hbase集群的版本是一样的如果ROOT表和META表都出问题了Hbase无法启动，可以用这个命令来创立新的ROOT和META表。这个命令的前提是Hbase已经关闭，执行时它会从hbase的home目录加载hbase的相关信息.regioninfo，如果表的信息是完整的就会创立新的root和meta目录及数据hbase hbck fi*SplitParents当region做split操作的时候，父region会被自动去
13、除掉。但是有时候子region在父region被去除之前又做了split。造成有些延迟离线的父region存在于META表和HDFS中，但是没有部署，HBASE又不能去除他们。这种情况下可以 使用此命令重置这些在META表中的region为在线状态并且没有split。然后就可以使用之前的修复命令把这个region修复10.手动merge region进展操作前先将balancer关闭，操作完成后再翻开balancer经过一段时间的运行之后有可能会产生一些很小的region，需要定期检查这些region并将它们和相邻的region合并以减少系统的总region数，减少管理开销合并方法：1. 找到
14、需要合并的region的encoded name2. 进入hbase shell3. 执行merge_region region1,region2手动分配region如果发现台regionServer资源占用特别高，可以检查这台regionserver上的region是否存在过多比拟大的region,通过hbase shell将局部比拟大的region分配给其他不是很忙的regions server：move encodeRegionName, ServerName*encodeRegionName指的regioName后面的编码，ServerName指的是master-status的Regi
15、on Servers列表例：move 24d9eef6ba5616b1a60180503e62bae7,DN1,60020,46手动major_pact进展操作前先将balancer关闭，操作完成后再翻开balancer选择一个系统比拟空闲的时间手工major_pact，如果hbase更新不是太频繁，可以一个星期对所有表做一次 major_pact，这个可以在做完一次major_pact后，观看所有的storefile数量，如果storefile数量增加到 major_pact后的storefile的近二倍时，可以对所有表做一次major_pact，时间比拟长，操作尽量防止高锋期注：fms现在生产上开启了自动major_pact，不需要做手动major pactbalan
