2022年分布式存储Hbase分析 .pdf

《2022年分布式存储Hbase分析 .pdf》由会员分享，可在线阅读，更多相关《2022年分布式存储Hbase分析 .pdf（8页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、 http:/-1-中国 科技论文在线分布式存储系统HBase 原理解析郝树魁*作者简介：郝树魁（1986），男，无职称，计算机应用技术.E-mail:（北京邮电大学信息与通信工程学院，北京 100876）摘要：随着数据量的膨胀和计算机硬件价格的下降，快速处理海量数据的需求促使了分布式计算的兴起和发展。Hadoop 除了提供分布式文件系统和支持MapReduce 的计算框架，还在这一计算框架上提供了可扩展的结构化数据的分布式存储系统HBase 等。本文在简要介绍HDFS 体系结构和MapReduce 逻辑数据流的基础上，解析了分布式存储系统HBase 的原理并对分布式存储系统的未来发展做出展望

2、。关键词：分布式计算，分布式存储，HBase，Hadoop，HDFS，MapReduce 中图分类号：TP392 Analysis of HBase Distributed Storage System Hao Shu Kui(School of Information and Communications Engineering,Beijing University of Posts and Telecommunications,Beijing 100876)Abstract:With the expansion of the amount of data and computer hard

3、ware prices fall,the needs of rapid processing mass data is prompting the development the distributed computing.The Hadoop framework provides distributed file system and supports MapReduce calculation,besides the extensibility of distributed storage system for structured data HBase.On the basis of g

4、iving the architecture of HDFS and the logical data streams of MapReduce,this paper briefly introduces the principle of HBase distributed storage system and proposes the future development of distributed storage system.Key words:Distributed computing;Distributed storage;HBase;Hadoop;HDFS;MapReduce 0

5、引言我们生活在一个数据爆炸的时代，并且每天都会新增巨大的数据，例如来自互联网、传媒和科学实验数据等。来自互联网数据中心(IDC)的报告，“数字地球”的数据量已经达到Zattebytes 的数量级。(其中 1ZB=1012byte)。对于电子商务、科学计算等行业来说，合理的存储和管理海量数据，并且从中提取数据的价值显得尤为重要。1数据存储和分析随着数据的膨胀，使用传统的磁盘和RDBMS（关系数据库管理系统）面临着越来越多的挑战。得益计算机硬件的发展，磁盘造价迅速下降的同时磁盘容量变的越来越大。同时，磁盘容量的变大提升存储量的同时也带来了一个问题，即磁盘寻址的时间通常远大于磁盘读取数据的时间。并且

6、，磁盘寻址性能的提升速度要慢于读取数据性能提高的速度。RDBMS适用于点查询和更新，对于提供索引的数据集提供低延迟的检索和更新小数据量的数据。RDBMS 管理符合预定于的Scheme的特定格式的结构化数据。但对于非结构化半结构化数据，松散的数据，RDBMS 并不高效。名师资料总结-精品资料欢迎下载-名师精心整理-第 1 页，共 8 页 -http:/-2-中国 科技论文在线2技术创新Google 公司三篇云计算的经典论文改变了人们处理海量数据的思索方式：即 BigTable-一个分布式的结构化数据存储系统；The Google File System；Google MapReduce。它们对H

7、adoop 的发展起到了很大启发作用。谈到 Hadoop，就不得不提到Lucene 和 Notch。Lucene不是一个应用程序，而是提供一个纯Java的高性能全文索引引擎工具包，它可以方便的嵌入到各种实际应用中来实现全文索引/搜索功能。Nutch 是一个应用程序，是一个以Lucene为基础实现的搜索引擎应用，Lucene 为 Nutch 提供文本索引和搜索的API，Nutch 不仅有搜索功能，还有数据抓起的功能。在Nutch0.8.0 版本之前，Hadoop 还属于 Nutch 的一部分，而从 Nutch0.8.0 版本开始，将其中实现的NDFS 和 MapReduce 剥离出来成立了一个新

8、的Apache 开源项目，这就是Hadoop。Nutch0.8.0 版本较之前的Nutch 在架构上有了根本性的变化，那就是完全构建在Hadoop 基础之上。1在 Hadoop 中实现了 Google 的 GFS(Google File System)、MapReduce 和 BigTable 算法，并相应的取名为HDFS、MapReduce 和 HBase，使Hadoop 成为了一个分布式的计算平台。其实，Hadoop 并不仅仅是一个用于存储的分布式文件系统，而是设计用来在由通用计算设备组成的大型集群上执行分布式应用的框架。Apache 的 Hadoop 的项目中包含了下列产品，如图所示：表

9、 1 Hadoop基本组成Pig 是在 MapReduce 上构建的查询语言，适用于大量并行计算。Chukwa 是基于 Hadoop集群中监控系统，简单来说就是一个“看门狗”(WatchDog)。Hive 是 DataWareHouse 和MapReduce 交集，适用于ETL 方面的工作。2HBase 是一个面向列的分布式存储系统。MapReduce 是 Google 提出的一种算法，用于超大型数据集的并行运算。HDFS 可以支持千万级的大型分布式文件系统。Zookeeper 提供的功能包括：配置维护、名字服务、分布式同步、组服务等，用于分布式系统的可靠协调系统。Avro 是一个数据序列化系

10、统，设计用于支持大批量数据交换的应用。3Hadoop 的主要两个部分：HDFS 和 MapReduce 3.1 HDFS HDFS 即 Hadoop Distributed File System（Hadoop 分布式文件系统)。HDFS 是 GFS 的开源实现。HDFS 很适合大数据集的应用，并且提供了对数据读写的高吞吐率。HDFS 是以流式数据访问模式存储超大文件而设计的文件系统，在商用硬件的集群上运行。名师资料总结-精品资料欢迎下载-名师精心整理-第 2 页，共 8 页 -http:/-2-中国 科技论文在线2技术创新Google 公司三篇云计算的经典论文改变了人们处理海量数据的思索方式

11、：即 BigTable-一个分布式的结构化数据存储系统；The Google File System；Google MapReduce。它们对Hadoop 的发展起到了很大启发作用。谈到 Hadoop，就不得不提到Lucene 和 Notch。Lucene不是一个应用程序，而是提供一个纯Java的高性能全文索引引擎工具包，它可以方便的嵌入到各种实际应用中来实现全文索引/搜索功能。Nutch 是一个应用程序，是一个以Lucene为基础实现的搜索引擎应用，Lucene 为 Nutch 提供文本索引和搜索的API，Nutch 不仅有搜索功能，还有数据抓起的功能。在Nutch0.8.0 版本之前，Ha

12、doop 还属于 Nutch 的一部分，而从 Nutch0.8.0 版本开始，将其中实现的NDFS 和 MapReduce 剥离出来成立了一个新的Apache 开源项目，这就是Hadoop。Nutch0.8.0 版本较之前的Nutch 在架构上有了根本性的变化，那就是完全构建在Hadoop 基础之上。1在 Hadoop 中实现了 Google 的 GFS(Google File System)、MapReduce 和 BigTable 算法，并相应的取名为HDFS、MapReduce 和 HBase，使Hadoop 成为了一个分布式的计算平台。其实，Hadoop 并不仅仅是一个用于存储的分布式

13、文件系统，而是设计用来在由通用计算设备组成的大型集群上执行分布式应用的框架。Apache 的 Hadoop 的项目中包含了下列产品，如图所示：表 1 Hadoop基本组成Pig 是在 MapReduce 上构建的查询语言，适用于大量并行计算。Chukwa 是基于 Hadoop集群中监控系统，简单来说就是一个“看门狗”(WatchDog)。Hive 是 DataWareHouse 和MapReduce 交集，适用于ETL 方面的工作。2HBase 是一个面向列的分布式存储系统。MapReduce 是 Google 提出的一种算法，用于超大型数据集的并行运算。HDFS 可以支持千万级的大型分布式文

14、件系统。Zookeeper 提供的功能包括：配置维护、名字服务、分布式同步、组服务等，用于分布式系统的可靠协调系统。Avro 是一个数据序列化系统，设计用于支持大批量数据交换的应用。3Hadoop 的主要两个部分：HDFS 和 MapReduce 3.1 HDFS HDFS 即 Hadoop Distributed File System（Hadoop 分布式文件系统)。HDFS 是 GFS 的开源实现。HDFS 很适合大数据集的应用，并且提供了对数据读写的高吞吐率。HDFS 是以流式数据访问模式存储超大文件而设计的文件系统，在商用硬件的集群上运行。名师资料总结-精品资料欢迎下载-名师精心整理

15、-第 3 页，共 8 页 -http:/-2-中国 科技论文在线2技术创新Google 公司三篇云计算的经典论文改变了人们处理海量数据的思索方式：即 BigTable-一个分布式的结构化数据存储系统；The Google File System；Google MapReduce。它们对Hadoop 的发展起到了很大启发作用。谈到 Hadoop，就不得不提到Lucene 和 Notch。Lucene不是一个应用程序，而是提供一个纯Java的高性能全文索引引擎工具包，它可以方便的嵌入到各种实际应用中来实现全文索引/搜索功能。Nutch 是一个应用程序，是一个以Lucene为基础实现的搜索引擎应用，

16、Lucene 为 Nutch 提供文本索引和搜索的API，Nutch 不仅有搜索功能，还有数据抓起的功能。在Nutch0.8.0 版本之前，Hadoop 还属于 Nutch 的一部分，而从 Nutch0.8.0 版本开始，将其中实现的NDFS 和 MapReduce 剥离出来成立了一个新的Apache 开源项目，这就是Hadoop。Nutch0.8.0 版本较之前的Nutch 在架构上有了根本性的变化，那就是完全构建在Hadoop 基础之上。1在 Hadoop 中实现了 Google 的 GFS(Google File System)、MapReduce 和 BigTable 算法，并相应的取

17、名为HDFS、MapReduce 和 HBase，使Hadoop 成为了一个分布式的计算平台。其实，Hadoop 并不仅仅是一个用于存储的分布式文件系统，而是设计用来在由通用计算设备组成的大型集群上执行分布式应用的框架。Apache 的 Hadoop 的项目中包含了下列产品，如图所示：表 1 Hadoop基本组成Pig 是在 MapReduce 上构建的查询语言，适用于大量并行计算。Chukwa 是基于 Hadoop集群中监控系统，简单来说就是一个“看门狗”(WatchDog)。Hive 是 DataWareHouse 和MapReduce 交集，适用于ETL 方面的工作。2HBase 是一个

18、面向列的分布式存储系统。MapReduce 是 Google 提出的一种算法，用于超大型数据集的并行运算。HDFS 可以支持千万级的大型分布式文件系统。Zookeeper 提供的功能包括：配置维护、名字服务、分布式同步、组服务等，用于分布式系统的可靠协调系统。Avro 是一个数据序列化系统，设计用于支持大批量数据交换的应用。3Hadoop 的主要两个部分：HDFS 和 MapReduce 3.1 HDFS HDFS 即 Hadoop Distributed File System（Hadoop 分布式文件系统)。HDFS 是 GFS 的开源实现。HDFS 很适合大数据集的应用，并且提供了对数据

19、读写的高吞吐率。HDFS 是以流式数据访问模式存储超大文件而设计的文件系统，在商用硬件的集群上运行。名师资料总结-精品资料欢迎下载-名师精心整理-第 4 页，共 8 页 -http:/-5-中国 科技论文在线图 4 HBase于 HDFS、MapReduce HBase 的需求起源于需要一个类似于BigTable 的数据存储系统来保存Web 表格，一个存放 Web 文档及其以URL 作为关键字的属性宽泛的表。HBase 不同于传统的关系数据库，它是适合于非结构化数据存储的数据库。所谓非结构化数据存储就是说HBase 是基于列的而不是基于行的模式。这里简要介绍一下列存储。基于列存储的数据库中的数

20、据表的每列单独存放；数据即使索引；查询时只访问涉及的列，大量降低系统I/O；每列可以由一个线程来处理，支持了查询时的并发处理。HBase 是介于 Map Entry(key&value)和 DB Row 之间的一种数据存储方式。不仅是一个key 对应一个value，还可能需要存储多个属性的数据结构，但没有传统数据库表中那么多的关联关系，即所谓松散数据。简单来说，HBase 中创建的表的属性可以根据需求去动态增加，在 HBase 中没有表与表之间关联查询。Apache HBase 的一个数据行拥有一个可选择的键和任意数量的列。表是疏松存储的，因此用户可以给行定义各种不同的列，这样的功能在实际中很

21、实用。4HBase 表中存储的行记录有三个基本类型的定义：Row Key，Time Stamp，Column。Row Key 是行在 HBase 中的唯一标识，Time Stamp 是每次数据操作对应关联的时间戳，可以看作类似于版本信息，Column 定义为：:，通过这两部分可以唯一的指定一个数据的存储列。一个表格的family 集合是固定的，label 集合是可以动态增删的。family 的定义和修改需要对HBase 作类似于DB 的 DDL 操作，而对于 label 的使用，则不需要定义直接可以使用，这也为动态定制列提供了一种手段。family 另一个作用在于物理存储优化读写操作，同fam

22、ily 的数据物理上保存的会比较临近。看一下逻辑数据模型：表 1 逻辑数据模型Row Key Time Stamp Column“content:”Column“anchor:”Column“mime:”t5 “anchor:”“Forum”t4 “anchor:”“Forum”t3“”“text/html”t2“”“text/css”“cn.edu.byr.forum”t1“”“image/gif”上表中有一列，列的唯一标识为cn.edu.byr.forum，每一次逻辑修改都有一个timestamp关联对应，一共有四个列定义：,。名师资料总结-精品资料欢迎下载-名师精心整理-第 5 页，共

23、8 页 -http:/-6-中国 科技论文在线如果用传统的概念来将HBase 作解释，那么HBase 可以看作一个DB Schema，每一个 Row就是一个表，Row key 就是表名，这个表根据列的不同可以划分为多个版本，同时每个版本的操作都会有时间戳关联到操作的行。再看一下 HBASE 的物理数据模型：表 2 物理数据模型(1)Row Key Time Stamp Column“mime:”t3“text/html”t2“text/css”“cn.edu.byr.forum”t1“image/gif”表 3 物理数据模型(2)Row Key Time Stamp Column“conten

24、ts:”t3“”t2“”“cn.edu.byr.forum”t1“”表 4 物理数据模型(3)Row Key Time Stamp Column“anchor:”t5“anchor:”“Forum”“cn.edu.byr.forum”t4“anchor:”“Forum”物理数据模型其实就是将逻辑模型中的一个Row 分割成为根据Column family 存储的物理模型。4.2 HBase 原理HBase 依托于 Hadoop 的 HDFS 作为存储基础，结构类似于Hadoop 的 Master-Slave 模式，HBase 中有且仅有一个Master Server，负责管理所有的HRegion

25、 Server，但 HBase Master Server 本身并不存储HBase 中的任何数据。HBase 逻辑上的 Table 被定义成为一个Region存储在某一台HRegion Server 上，HRegion Server 与 Region 的对应关系是一对多的关系，负责多个 Region 向客户端提供服务。5每一个 HRegion 在物理上会被分为三个部分：HMemcache、HLog、HStore，分别代表了缓存，日志，持久层。提交更新操作涉及到两部分实体：HMemcache 和 HLog，HMemcache 就是为了提高效率在内存中建立缓存，HLog 是作为同步HMemcach

26、e 和 HStore 的事务管理日志，在 HRegion Server 周期性的发起Flush Cache 命令的时候，就会将 HMemcache 中的数据持久化到HStore中，同时会清空HMemcache 中的数据。采用这种策略来做数据缓存和同步。在读取 Region 信息的时候，优先读取 HMemcache 中的内容，如果未取到再去读取HStore中的数据。名师资料总结-精品资料欢迎下载-名师精心整理-第 6 页，共 8 页 -http:/-7-中国 科技论文在线图 5 HBase原理客户端通过Zookeeper 组件能获知哪个Server 管理-ROOT-Region。那么客户端就去访

27、问管理-ROOT-的 Server，在.META.中记录了 HBase 中所有表信息，从而获取Region 分布的信息。客户端获取Region 位置信息后，将会缓存这个信息并直接访问HRegion Server。重复如上查找缓存之后，即使不访问.META.表也能知道去访问哪个HRegion Server。HBase中包含两种基本类型的文件，一种用于存储WAL 的 log，另一种用于存储具体的数据，通过 DFS 客户端于 HDFS 进行交互实现存储。4.3 HBase 分布式安装软件环境：JDK 版本：jdk1.6；操作系统：Ubuntu 10.04；Hadoop 0.20.2 版本；/etc/

28、hosts文件内容为：192.168.0.101 m1#NameNode 192.168.0.102 s2#DataNode 192.168.0.103 s3#DataNode m1 主机上解压下载的hbase-0.20.6。修改 hbase-0.20.6/conf/hbase-env.sh 文件。6指定本名师资料总结-精品资料欢迎下载-名师精心整理-第 7 页，共 8 页 -http:/-8-中国 科技论文在线地 JDK 安装路径：export JAVA_HOME=/usr/java/jdk1.6。修改 hbase-0.20.6/conf/hbase-site.xml。内容如下：hbase.

29、rootdir hdfs:/m1:9000/hbase hbase.cluster.distributed true hbase.master.port 60000 hbase.zookeeper.quorum m1,s2,s3 修改 hbase-0.20.6/conf/regionservers 文件（同 Hadoop 的 slaves文件内容相同），内容如下：s2 s3 将 hbase-0.20.6/目录拷贝到s2 和 s3 主机上。通过 hbase-0.20.6/bin/start-hbase.sh 脚本启动 HBase。两种方式查看HBase 数据信息：在hbase-0.20.6/bi

30、n 目录下执行hbase shell 命令进入 HBase 控制台查看数据存储信息；通过 Web查看 HBase。如下所示：查看 Master http:/192.168.0.101:60010/master.jsp查看 Region Server http:/192.168.0.102:60030/regionserver.jsphttp:/192.168.0.103:60030/regionserver.jsp5总结HBase 为海量数据的实时响应提供了一个很好的开源解决方案。它一方面借鉴了HDFS的高可靠性和可伸缩性，另一方面又借鉴了BigTable 的高效数据组织形式。HBase 提供

31、了一个类似于MySQL 关系数据库的shell，可对 HBase 内的相关表和family 进行交互。亦可通过 API 以程序的方式访问HBase 的数据。HBase 是一个新兴的Apache 项目，但它的确展示了成为主流解决方案的前景。参考文献 (References)1Chuck Lam,James Warren.Hadoop in action,Manning Publications 2009.2http:/wiki.apache.org/hadoop/,2010,November 12.3Google Research Publications.MapReduce:Simplifie

32、d Data Processing on Large Clusters December,2004.4Google Research Publications.Bigtable:A Distributed Storage System for Structured Data November,2006.5Tom White.Hadoop:The Definitive Guide,Second Edition OReilly|YAHOO!PRESS October,2010.6http:/hbase.apache.org/,2010,October 6.名师资料总结-精品资料欢迎下载-名师精心整理-第 8 页，共 8 页 -