hbasecompact阻塞写，hbase compaction操作

提示：扫一扫查出行
【扫一扫了解最新限行尾号】
复制提示

Hbase读写原理

所以hbase大多数读要走磁盘，所以读很慢。每次刷写会生成新的Hfile，Hfile很小并且数量多的时候会影响查询的速度。所以要进行合并。

Hbase数据是按列存储-每一列单独存放。列存储的优点是数据即是索引。访问查询涉及的列-大量降低系统I/O 。并且每一列由一个线索来处理，可以实现查询的并发处理。基于Hbase数据类型一致性，可以实现数据库的高效压缩。

hbase客户端通过rpc调用将put、delete数据请求提交到对应的regionserver，regionserver对请求进行处理，并将数据最终写入hfile中，进行持久化保存。hbase为了保证随机读取的性能，所以hfile里面的rowkey是有序的。

HDFS不太适合做大量的随机读应用，但HBASE却特别适合随机的读写个人理解：数据库一般都会有一层缓存，任何对数据的更改实际上是先更改内存中的数据。然后有异步的守护进程负责将脏页按照一定策略刷新到磁盘空间中去。

HBase数据写入通常会遇到两类问题，一类是写性能较差，另一类是数据根本写不进去。

MSLAB的工作原理如下：在MemStore初始化时，创建MemStoreLAB对象allocator。创建一个2M大小的Chunk数组，偏移量起始设置为0。Chunk的大小可以通过参数hbase.hregion.memstore.mslab.chunksize调整。

Q1: 六、HBase写入流程

1、整个写入顺序图流程如下：1 客户端查找对应region 客户端根据要操作rowkey，查找rowkey对应的region。查找region的过程为通过zk获取到hbase：meta表所在region。

2、对于写操作，HBase提供了Put操作。一个Put操作就是一次写操作，它将指定Row Key的数据写入到HBase中。

3、首先Hbase是依赖于HDFS和zookeeper的。 Zookeeper分担了Hmaster的一部分功能，客户端进行DML语句的时候，都是先跟ZK交互。

4、和读相比，HBase写数据流程倒是显得很简单：数据先顺序写入HLog，再写入对应的缓存Memstore，当Memstore中数据大小达到一定阈值(128M)之后，系统会异步将Memstore中数据flush到HDFS形成小文件。

5、业务需求 flume需要从kafka获取数据并写入hbase 开始写的想法：按照flume的流程：一个source ，三个channel，三个sink，因为我需要三个列族，如果使用官方的hbase sink那么需要三个sink。

Q2: Hbase为什么入库越来越慢

这种情况有网络延迟、查询参数设置不当。网络延迟：如果HBase集群跨越多个节点，网络连接较慢，那么Scanner.next方法会变慢。解决这个问题的方法包括优化网络连接、减少跨节点请求次数或者增加等待超时时间。

首先，节点规模上去，或者硬件配置上去才能让hadoop引擎转起来。配置很低，一看就知道是科技项目，或者小作坊的做法，你的需求是很不合理的。在这配置下是没优化空间。

所以hbase大多数读要走磁盘，所以读很慢。每次刷写会生成新的Hfile，Hfile很小并且数量多的时候会影响查询的速度。所以要进行合并。

hbase的慢响应现在一般归纳为四类原因：网络原因、gc问题、命中率以及client的反序列化问题。我们现在对它们做了一些解决方案(后面会有介绍)，以更好地对慢响应有控制力。

HBase数据写入通常会遇到两类问题，一类是写性能较差，另一类是数据根本写不进去。

原始采集数据采用HBase进行存储。实时采集数据流量很大，在入库的时候，有时候会发生阻塞。测试环境正常，生产环境下，时不时出现HRegionServer挂掉的情况，而HMaster正常。

Q3: Hbase分区

1、该数据库手动split分区数没变的原因如下：用户没有使用管理员权限，无法对HBase进行操作。HBase集群处于安全模式，无法进行split操作。split表中存在数据，无法进行split操作。

2、partition 顾名思义就是分区式，这种分区有点类似于 mapreduce 中的 partitioner，将区域用长整数作为分区号，每个 Region 管理着相应的区域数据，在 RowKey 生成时，将 id 取模后，然后拼上 id 整体作为 RowKey 。

3、像这样预先创建hbase表分区的方式，称之为预分区。hash(主键) + 年月日时(2019062315)这里只取hash(主键)的前6位，使得行键的长度正好是16，也就是8的整数倍，在64位计算机中，效果最好。

4、hbase swap分区使用率根据相应信息分析系统状况的需要。在系统维护的过程中，随时可能有需要查看CPU使用率，并根据相应信息分析系统状况的需要。在 CentOS 中，可以通过 top 命令来查看 CPU 使用状况。

关于hbasecompact阻塞写和hbase compaction操作的介绍到此就结束了，不知道你从中找到你需要的信息了吗？如果你还想了解更多这方面的信息，记得收藏关注本站。