《Hbase运维手册》由会员分享，可在线阅读，更多相关《Hbase运维手册（9页珍藏版）》请在金锄头文库上搜索。
1、Hbase 运维手册1. region 情况需要检查1. region的数量（总数和每台regionserver上的region数）2. region的大小如果发现异常可以通过手动merge region和手动分配 region 来调整从 CDH前台和 master 前台以及 regionServer 的前台都可以看到 region 数量，如 master 前台：在 region server前台可以看到 storeFile大小：2. 缓存命中率缓存命中率对 hbase 的读有很大的影响，可以观察这个指标来调整 blockcache 的大小。从 regionserver web页面可以看到 b
2、lock cache的情况：注意：HBase上 Regionserver 的内存分为两个部分，一部分作为 Memstore，主要用来写；另外一部分作为 BlockCache ，主要用于读。写请求会先写入 Memstore，Regionserver 会给每个 region 提供列族数提供一定数量的 Memstore，当 Memstore 满 64MB以后，会启动 flush 刷新到磁盘。当 Memstore 的总大小超过限制时（heapsize * *），会强行启动flush进程，从最大的Memstore 开始 flush直到低于限制。读请求先到 Memstore 中查数据，查不到就到Block
3、Cache 中查，再查不到就会到磁盘上读， 并把读的结果放入BlockCache。由于 BlockCache 采用的是LRU策略，因此 BlockCache 达到上限 (heapsize* *后，会启动淘汰机制，淘汰掉最老的一批数据。一个 Regionserver 上有一个 BlockCache 和 N 个 Memstore，它们的大小之和不能大于等于 heapsize * ，否则 HBase不能正常启动。默认配置下， BlockCache 为，而 Memstore 为。在注重读响应时间的应用场景下，可以将 BlockCache 设置大些， Memstore 设置小些，以加大缓存的命中率。 H
4、Base RegionServer 包含三个级别的 Block 优先级队列：Single ：如果一个 Block 第一次被访问，则放在这一优先级队列中； Multi ：如果一个 Block 被多次访问，则从 Single 队列移到 Multi 队列中；InMemory：如果一个 Block 是 inMemory 的，则放到这个队列中。以上将 Cache分级思想的好处在于：首先，通过 inMemory 类型 Cache，可以有选择地将 in-memory 的 column families 放到 RegionServer 内存中，例如 Meta 元数据信息；通过区分 Single 和 Multi
5、 类型 Cache，可以防止由于 Scan 操作带来的Cache频繁颠簸，将最少使用的 Block 加入到淘汰算法中。默认配置下，对于整个 BlockCache 的内存，又按照以下百分比分配给 Single 、 Multi 、InMemory 使用：、和。注意，其中 InMemory 队列用于保存 HBase Meta 表元数据信息，因此如果将数据量很大的用户表设置为 InMemory 的话，可能会导致 Meta 表缓存失效，进而对整个集群的性能产生影响。3. 读写请求数通过读写请求数可以大概看出每台 regionServer 的压力，如果压力分布不均匀，应该检查 regionServer 上
6、的 region 以及其它指标4. 压缩队列压缩队列存放的是正在压缩的 storefile ， compact 操作对 hbase 的读写影响较大通过 cdh 的 hbase 图表库可以看到集群总的压缩队列大小：可以通过 CDH的 hbase 主页查询 compact 日志：点击“压缩”进入：5. 刷新队列单个 region 的 memstore 写满 (128M) 或 memstore 大小总合达到门限时会进行 flushregionServer 操作 ,flush上所有 region 操作会产生新的的storeFile同样可以通过CDH的hbase 前台查看flush日志：6. rpc 调
7、用队列没有及时处理的 rpc 操作会放入 rpc 操作队列，从 rpc 队列可以看出服务器处理请求的情况7. 文件块保存在本地的百分比datanode和 regionserver一般都部署在同一台机器上，所以regionserverlocality管理的 region 会优先存储在本地，以节省网络开销。如果block较低有可能是刚做过balance 或刚重启，经过 compact 之后 region的数据都会写到当前机器的datanode ， block locality也会慢慢达到接近100：8. 内存使用情况内存使用情况 , 主要可以看 used Heap 和 memstore 的大小，如
8、果usedHeadp一直超过 80-85%以上是比较危险的memstore 很小或很大也不正常从 region Server 的前台可以看到：9. 检查数据一致性以及修复方法数据一致性是指：1.每个 region 都被正确的分配到一台regionserver上，并且region 的位置信息及状态都是正确的。2.每个 table 都是完整的，每一个可能的 rowkey 都可以对应到唯一的一个 regionhbase hbck注：有时集群正在启动或region正在做 split操作，会造成数据不一致hbase hbck -details加上 details会列出更详细的检查信息，包括所以正在进行的
9、split任务hbase hbck Table1 Table2如果只想检查指定的表， 可以在命令后面加上表名，这样可以节省操作时间CDH通过 CDH提供的检查报告也可以看到 hbck 的结果，日常只需要看 CDH hbck 的报告即可：选择“最近的 Hbck 结果”：1) 局部的修复如果出现数据不一致， 修复时要最大限度的降低可能出现的风险， 使用以下命令对 region 进行修复风险较低：hbase hbck -fixAssignments(unassigned)，错误分配（incorrectly assigned修复 region没有分配）以及多次分配（multiplyassigned）的
10、问题hbase hbck -fixMeta删除 META表里有记录但 HDFS里没有数据记录的region添加 HDFS里有数据但是 META表里没有记录的region 到 META表hbase hbck -repairHoles等价于： hbase hbck -fixAssignments -fixMeta -fixHdfsHoles-fixHdfsHoles的作用：如果 rowkey 出现空洞，即相邻的两个region的rowkey 不连续，则使用这个参数会在HDFS里面创建一个新的region 。创建新的 region 之后要使用 -fixMeta 和 -fixAssignments 参
11、数来使用挂载这个 region ，所以一般和前两个参数一起使用2 ） Region 重叠修复进行以下操作非常危险，因为这些操作会修改文件系统，需要谨慎操作！进行以下操作前先使用 hbck details 查看详细问题，如果需要进行修复先停掉应用，如果执行以下命令时同时有数据操作可能会造成不可期的异常。hbase hbck -fixHdfsOrphansregion目录加入到将文件系统中的没有metadatahbase 中，即创建 .regioninfo文件 (.regioninfo)目录并将 region的分配到regionserhbase hbck -fixHdfsOverlaps通过两种方
12、式可以将rowkey 有重叠的 region合并：1. merge: 将重叠的 region 合并成一个大的 region2. sideline: 将 region 重叠的部分去掉，并将重叠的数据先写入到临时文件，然后再导入进来。量的split和如果重叠的数据很大， 直接合并成一个大的region 会产生大compact 操作，可以通过以下参数控制region过大：-maxMerge合并重叠region的最大数量-sidelineBigOverlaps假如有大于maxMerge个数的 region 重叠 , 则采用 sideline 方式处理与其它 region 的重叠 .叠region,-maxOverlapsToSideline如果用 sideline方式处理重最多 sideline n个 region .hbase hbck -repair以下命令的缩写：hbahbase hbck -fixAssignments -fixMeta -fixHdfsHoles-fixHdfsOrphans -fixHdfsOverlaps -fixVersionFilesidelineBigOverlaps可以指定表名：hbahbase hbck -repair Table1 Table2hbase hbck
