hbase副本数据写入过程，hbase fsck

Hbase读写原理

1、Hbase是Hadoop的一个存储组件可以提供低延迟的读写操作，它一般构建在HDFS之上，可以处理海量的数据。Hbase有个很好的特性是可以自动分片，也就是意味着当表的数据量变得很大的时候，系统可以自动的分配这些数据。

2、hbase是一个构建在HDFS上的分布式列存储系统。HBase是Apache Hadoop生态系统中的重要 一员，主要用于海量结构化数据存储。从逻辑上讲，HBase将数据按照表、行和列进行存储。如图所示，Hbase构建在HDFS之上，hadoop之下。

3、使用HBase提供的TableOutputFormat，原理是通过一个Mapreduce作业将数据导入HBase 还有一种方式就是使用HBase原生Client API（put）前两种方式因为须要频繁的与数据所存储的RegionServer通信。

4、MSLAB的工作原理如下： 在MemStore初始化时，创建MemStoreLAB对象allocator。 创建一个2M大小的Chunk数组，偏移量起始设置为0。Chunk的大小可以通过参数hbase.hregion.memstore.mslab.chunksize调整。

5、HBase数据写入通常会遇到两类问题，一类是写性能较差，另一类是数据根本写不进去。

6、Hbase的原型是google的BigTable论文，受到该论文思想的启发，目前作为hadoop的子项目来开发维护，用于支持结构化的数据存储。

相关问答

Q1: hbase怎么做到顺序写入

1、和读相比，HBase写数据流程倒是显得很简单：数据先顺序写入HLog，再写入对应的缓存Memstore，当Memstore中数据大小达到一定阈值(128M)之后，系统会异步将Memstore中数据flush到HDFS形成小文件。

2、内存部分是一个维护有序数据集合的数据结构。一般来讲，内存数据结构可以选择平衡二叉树、红黑树、跳跃表（SkipList）等维护有序集的数据结构，由于考虑并发性能，HBase选择了表现更优秀的跳跃表。

3、数据查询模式已经确定，且不易改变，就是说hbase使用在某种种特定的情况下，且不能变动。告诉插入，大量读龋因为分布式系统对大量数据的存取更具优势。尽量少的有数据修改。

4、Hbase的Table中的所有行都按照row key的字典序排列。Table 在行的方向上分割为多个Region。

Q2: HBase从入门到精通11:HBase数据保存过程和Region分裂

1、HBase表的列族在创建之初只有一个Region，随着插入数据的增多Region变得越来越大。

2、以fileServer为例，在使用默认的split策略--IncreasingToUpperBoundRegionSplitPolicy 的情况下，16个预分区Region， 则单个Resion容量达到 min(32，50)，即32GB时分裂。

3、默认，HBase 在创建表的时候，会自动为表分配一个 Region，正处于混沌时期，start-end key 无边界，所有 RowKey 都往这个 Region里分配。

4、Hbase Split 是一个很重要的功能，HBase 通过把数据分配到一定数量的 Region 来达到负载均衡的。

5、可以看出-ROOT-表存储在 dchbase3 机器中，对应界面如下：以上就是HBase客户端根据指定的rowkey从zookeeper开始找到对应的数据的过程。

6、hbase.hregion.max.filesize 设定的region大小，超过了就会split，就会增加一个region，对预分区没什么影响。

hbase副本数据写入过程的介绍就聊到这里吧，感谢你花时间阅读本站内容，更多关于hbase fsck、hbase副本数据写入过程的信息别忘了在本站进行查找喔。