入门

    1. 介绍

    会介绍如何运行一个单机版的 Standalone 模式 HBase.

    本章节介绍了在单机安装 HBase 的方法。会引导你通过创建一个表,插入一行,然后执行 put 和 scan 指令,开启和关闭这张表,开启和停止 HBase。只要 10 分钟就可以完成以下的操作。

    除了下载 HBase 外,此过程不到 10 分钟就能完成。

    HBase 要求安装 JDK。有关支持 JDK 版本的信息,请参阅Java

    过程:下载、配置和启动 Standalone HBase

    1. 选择一个[Apache 下载镜像]( 建议点击顶部链接,进入 HBase Releases 点击 stable 的文件夹,然后下载将以 tar.gz 结尾的二进制文件到本地。暂时不要下载以 src.tar.gz 结尾的文件。

    2. 解压缩,然后进入到那个要解压的目录.

    3. 在启动 HBase 之前,您需要设置JAVA_HOME环境变量。您可以通过操作系统的常用设置来设置变量,HBase 也提供了一个中心机制 conf/hbase-env.sh。编辑此文件,取消注释以JAVA_HOME开头的行,并将其设置为适合您的操作系统的路径。应将JAVA_HOME变量设置为包含可执行文件 bin/java 的目录。如今,大多数 Linux 操作系统都提供了一种机制,例如 RHEL 或 CentOS 上的/usr/bin/alternatives,可以方便切换环境。在这种情况下,您可以将JAVA_HOME设置为包含 bin/java 的符号链接的目录,通常为 /usr

      1. JAVA_HOME=/usr
    4. 编辑 HBase 主配置文件 conf/hbase-site.xml.
      此时,您需要在本地文件系统上指定 HBase 和 ZooKeeper 数据存储目录,并知晓一些风险。默认情况下,HBase 会在/tmp 下创建一个新目录,但是许多服务为在重新启动时会删除 /tmp 的内容,因此您需要将数据存储在其他位置。以下配置文件处在 hbase,名为testuser的用户的主目录中。首次安装 HBase 为空,可以将<property>标记粘贴在<configuration>内。

      示例 1. hbase-site.xml Standalone HBase 配置

      1. <configuration>
      2. <property>
      3. <name>hbase.rootdir</name>
      4. <value>file:///home/testuser/hbase</value>
      5. </property>
      6. <property>
      7. <name>hbase.zookeeper.property.dataDir</name>
      8. <value>/home/testuser/zookeeper</value>
      9. </property>
      10. <property>
      11. <name>hbase.unsafe.stream.capability.enforce</name>
      12. <value>false</value>
      13. <description>
      14. Controls whether HBase will check for stream capabilities (hflush/hsync).
      15. Disable this if you intend to run on LocalFileSystem, denoted by a rootdir
      16. with the 'file://' scheme, but be mindful of the NOTE below.
      17. WARNING: Setting this to false blinds you to potential data loss and
      18. inconsistent system state in the event of process and/or node failures. If
      19. HBase is complaining of an inability to use hsync or hflush it's most
      20. likely not a false positive.
      21. </description>
      22. </property>
      23. </configuration>

      您不需要创建 HBase 数据目录。 HBase 会自动创建。如果您想要自定义创建目录,HBase 将尝试进行迁移 。

      上例中的 hbase.rootdir 指向 local filesystem 中的目录。 ‘file://‘前缀是表示本地文件系。您应该将配置示例中的警告牢记在心。在 Standalone 模式下,HBase 利用 Apache Hadoopd 的本地文件存储。但是这种方式并不能保证 HBase 运行的持久性。这只是适用于于本地开发和测试用例,可以很好的控制集群故障的成本。它不适合生产部署,否则你会丢失数据。

    为在 HDFS 上部署 HBase, 可以将 hbase.rootdir 指向如: hdfs://namenode.example.org:8020/hbase. 有关此变量的更多用法,可查看章节基于 HDFS 部署 Standalone HBase.

    1. 脚本 bin/start-hbase.sh 为启动 HBase 提供了方便的途径。执行命令,在标准输出的日志里可以看到 HBase 启动成功的消息。你可以使用 jps 命令来确认你有一个正在运行的进行 HMaster。在 HBase 的 Standalone 模式中,所有的服务都运行在同一 JVM 中,如 HMaster,单例的 HRegionServer 和 ZooKeeper 的守护进程。可以前往 Web UIhttp://localhost:16010 查看 HBase.

    过程: 首次使用 HBase

    1. 连接 HBase

      在 HBase 安装目录 bin/ 目录下使用hbase shell命令连接正在运行的 HBase 实例。 在下面这个例子中,当你启动 HBase Shell 并忽略一些用法和版本信息后,HBase Shell 是以字符> 结尾。

      1. $ ./bin/hbase shell
      2. hbase(main):001:0>
    2. 预览 HBase Shell 的帮助文本

      输入help并回车, 可以看到 HBase Shell 的基本信息和一些示例命令.请注意,表名,行,列都必须用引号字符括起来。

    3. 创建表

      使用 create创建一个表,你必须执行一个表名和列族名。

      1. hbase(main):001:0> create 'test', 'cf'
      2. 0 row(s) in 0.4170 seconds
      3. => Hbase::Table - test
    4. 表信息

      使用 list 查看存在表

      1. hbase(main):002:0> list 'test'
      2. TABLE
      3. test
      4. 1 row(s) in 0.0180 seconds
      5. => ["test"]

      使用 describe 查看表细节及配置

      1. hbase(main):003:0> describe 'test'
      2. test
      3. COLUMN FAMILIES DESCRIPTION
      4. {NAME => 'cf', VERSIONS => '1', EVICT_BLOCKS_ON_CLOSE => 'false', NEW_VERSION_BEHAVIOR => 'false', KEEP_DELETED_CELLS => 'FALSE', CACHE_DATA_ON_WRITE =>
      5. 'false', DATA_BLOCK_ENCODING => 'NONE', TTL => 'FOREVER', MIN_VERSIONS => '0', REPLICATION_SCOPE => '0', BLOOMFILTER => 'ROW', CACHE_INDEX_ON_WRITE => 'f
      6. alse', IN_MEMORY => 'false', CACHE_BLOOMS_ON_WRITE => 'false', PREFETCH_BLOCKS_ON_OPEN => 'false', COMPRESSION => 'NONE', BLOCKCACHE => 'true', BLOCKSIZE
      7. => '65536'}
      8. 1 row(s)
      9. Took 0.9998 seconds
    5. 插入数据

      使用 put 插入数据

      1. hbase(main):003:0> put 'test', 'row1', 'cf:a', 'value1'
      2. 0 row(s) in 0.0850 seconds
      3. hbase(main):004:0> put 'test', 'row2', 'cf:b', 'value2'
      4. 0 row(s) in 0.0110 seconds
      5. hbase(main):005:0> put 'test', 'row3', 'cf:c', 'value3'
      6. 0 row(s) in 0.0100 seconds

      在这里,我们往test表中依次插入了三条数据。首先插入了一条 rowkey 为row1、列为、值为value1的数据。HBase 中的列是包含列族前缀的,在这个例子中,冒号前的为列 cf,冒号后的为列限定符 a

    6. 扫描全部数据

      从 HBase 获取数据的途径之一就是 scan 。使用 scan 命令扫描表数据。你可以对扫描做限制,不过现在,获取全部的数据。

      1. hbase(main):006:0> scan 'test'
      2. ROW COLUMN+CELL
      3. row1 column=cf:a, timestamp=1421762485768, value=value1
      4. row2 column=cf:b, timestamp=1421762491785, value=value2
      5. row3 column=cf:c, timestamp=1421762496210, value=value3
      6. 3 row(s) in 0.0230 seconds
    7. 获取一条数据

      使用 get 命令一次获取一条数据。

    8. 禁用表

      如果你想删除一个表或者改变表的设置,以及一些其他的场景,首先你需要使用 disable 命令禁用表。你可以使用 enable 命令“反禁用”即启用表。

      1. hbase(main):008:0> disable 'test'
      2. 0 row(s) in 1.1820 seconds
      3. hbase(main):009:0> enable 'test'
      4. 0 row(s) in 0.1770 seconds

      Disable the table again if you tested the enable command above:

      1. hbase(main):010:0> disable 'test'
      2. 0 row(s) in 1.1820 seconds
    9. 删除表

      使用 drop 命令删除一个表。

      1. hbase(main):011:0> drop 'test'
      2. 0 row(s) in 0.1370 seconds
    10. 退出 HBase Shell.

    过程: 停止 HBase

    1. 脚本 bin/start-hbase.sh 这个脚本提供了便利的启动所有 HBase 服务,同样地, bin/stop-hbase.sh 脚本用来停止所有 HBase 服务。

      1. $ ./bin/stop-hbase.sh
      2. stopping hbase....................
      3. $
    2. 在使用这个命令后,它可能需要过几分钟才能停掉服务进程。可以使用 jps 确认 HMaster 和 HRegionServer 进程是否关闭。

    上面已经向您展示了如何启动和停止 HBase 的 Standalone 实例。在下一节中,我们将简要介绍 HBase 其他部署模式。

    在小节部署了 Standalone 模式的 HBase 后,您可以重新配置以伪分布式运行。伪分布模式意味着 HBase 仍然在单个主机上完全运行,但是每个 HBase 守护进程(HMaster,HRegionServer 和 ZooKeeper)作为一个单独的进程运行:在独立模式下,所有守护进程都运行在一个 jvm 进程/实例中。 默认情况下, 除非你按 快速开始更改hbase.rootdir 的配置,否则你的数据仍会存储在 /tmp/ 中。假设 HDFS 系统可用,我们将数据存储在 HDFS 上。 当然,您可以跳过 HDFS 配置,继续使用本地文件系统。

    Hadoop 配置

    此过程假定已在本地系统或远程系统上配置 Hadoop 和 HDFS,并且保证正在运行且可用,版本为 Hadoop 2。Hadoop 文档向导 .

    1. 停止 HBase

      假设你刚刚完成 快速开始 , Hbase 正在运行, 那么请停止他.这个过程将创建一个全新的目录,HBase 将存储它的数据,所以你之前创建的任何数据库都将丢失。

    2. 配置 HBase

      编辑 hbase-site.xml . 首先,添加以下指示 HBase 以分布式模式运行的属性,每个守护进程有一个 JVM 实例

      1. <property>
      2. <name>hbase.cluster.distributed</name>
      3. <value>true</value>
      4. </property>

      接下来,将 hbase.rootdir 从本地文件系统更改为您的 HDFS 实例的地址,使用 hdfs:////的 URI 语法。在这个例子中,HDFS 在端口 8020\的本地主机上运行。并确保 hbase.unsafe.stream.capability.enforce删除或为 true.

      1. <property>
      2. <name>hbase.rootdir</name>
      3. <value>hdfs://localhost:8020/hbase</value>
      4. </property>

      您不需要在 HDFS 中创建目录。HBase 会为你做这个。如果你要更改目录,HBase 会试图迁移。

    3. 启动 HBase

      使用 bin/start-hbase.sh 启动 HBase. 如果您的系统配置正确,该jps命令应显示 HMaster 和 HRegionServer 进程正在运行。

    4. 检查 HDFS 中的 HBase 目录

      如果一切正常,HBase 在 HDFS 中创建它的目录。在上面的配置中,它存储在 HDFS 上的 /hbase/ 中。您可以使用 hadoop 的 bin/ 目录中的hadoop fs 命令来列出此目录。

      1. $ ./bin/hadoop fs -ls /hbase
      2. Found 7 items
      3. drwxr-xr-x - hbase users 0 2014-06-25 18:58 /hbase/.tmp
      4. drwxr-xr-x - hbase users 0 2014-06-25 18:48 /hbase/corrupt
      5. drwxr-xr-x - hbase users 0 2014-06-25 18:58 /hbase/data
      6. -rw-r--r-- 3 hbase users 42 2014-06-25 18:41 /hbase/hbase.id
      7. -rw-r--r-- 3 hbase users 7 2014-06-25 18:41 /hbase/hbase.version
      8. drwxr-xr-x - hbase users 0 2014-06-25 21:49 /hbase/oldWALs
    5. 创建一个表并使用数据填充它

      您可以使用 HBase Shell 创建一个表,使用数据填充它,使用与中相同的步骤。

    6. 启动和停止备份 HBase 主(HMaster)服务器

      HMaster 服务器控制 HBase 集群。你可以启动最多 9 个备份 HMaster 服务器,这个服务器总共有 10 个 HMaster 计算主服务器。使用local-master-backup.sh启动备份 HMaster。对于要启动的每个备份主节点,请添加一个表示该主节点的端口偏移量的参数。每个 HMaster 使用三个端口(默认情况下为 16010,16020 和 16030)。端口偏移量 2 添加到这些端口,那么备份 HMaster 将使用端口 16012,16022 和 16032。以下命令启动服务器端口为:16012/16022/16032,16013/16023/16033 和 16015/16025/16035

      1. $ ./bin/local-master-backup.sh start 2 3 5

      要在不杀死整个群集的情况下杀死备份主机,则需要查找其进程 ID(PID)。PID 存储在一个名为 /tmp/hbase-USER-X-master.pid 的文件中。该文件的唯一内容是 PID。您可以使用该kill -9命令来杀死该 PID。以下命令将终止具有端口偏移 1 的主服务器,但保持群集正在运行:

    7. 启动和停止其他 RegionServers

      HRegionServer 按照 HMaster 的配置管理 StoreFiles 中的数据。通常,一个 HRegionServer 在集群中的每个节点上运行。在同一个系统上运行多个 HRegionServers 对于伪分布式模式下的测试非常有用。该local-regionservers.sh命令允许您运行多个 RegionServer。它以类似的local-master-backup.sh命令的方式工作,因为您提供的每个参数都代表实例的端口偏移量。每个 RegionServer 需要两个端口,默认端口是 16020 和 16030。但是,由于 HMaster 使用默认端口,所以其他 RegionServers 的基本端口不是默认端口,而 HMaster 自从 HBase 版本 1.1.0 以来也是 RegionServer。基本端口是 16200 和 16300。您可以在服务器上运行另外 99 个不是 HMaster 或备份 HMaster 的 RegionServer。以下命令将启动另外四个 RegionServers,它们在从 16202/16302(基本端口 16200/16300 加 2)开始的顺序端口上运行 HBase 从版本 1.1.0 开始, HMaster 不使用 region server 端口, 而为 RegionServers 预留了 10 个端口 (16020 to 16029 and 16030 to 16039). 为支持添加 RegionServers, 在启动local-regionservers.sh之前,需设置 HBASE_RS_BASE_PORT 和 HBASE_RS_INFO_BASE_PORT.例如, 使用基本端口 16200 和 16300。也可以使用另外 99 个端口。 以下命令将启动另外四个 RegionServers,它们在从 16202/16302(基本端口 16200/16300 加 2)开始的顺序端口上运行。

      1. $ .bin/local-regionservers.sh start 2 3 4 5

      要手动停止 RegionServer,请使用带有stop参数和服务器偏移量的local-regionservers.sh命令停止。

      1. $ .bin/local-regionservers.sh stop 3
    8. 停止 HBase

      您可以使用 bin/stop-hbase.sh 命令以与快速开始过程相同的方式停止 HBase 。

    实际上,您需要一个完全分布式的配置来全面测试 HBase,并将其用于实际场景中。在分布式配置中,集群包含多个节点,每个节点运行一个或多个 HBase 守护进程。这些包括主要和备份主实例,多个 ZooKeeper 节点和多个 RegionServer 节点。

    此高级快速入门将两个以上的节点添加到您的群集。架构如下:

    这个快速入门假定每个节点都是虚拟机,并且它们都在同一个网络上。它基于之前的快速入门、本地和,假设您在该过程中配置的系统是现在node-a。继续之前,在node-a停止 HBase 。

    请确保所有节点都具有完全的通信访问权限,并且没有任何防火墙规则可以阻止。如果您看到任何错误,如no route to host,请检查您的防火墙设置。

    过程: 配置无密码 SSH 访问

    node-a需要能够登录node-bnode-c(包含自己)才能启动守护进程。实现这一点的最简单的方法是在所有主机上使用相同的用户名,并配置node-a到其他的无密码的 SSH 登录

    1. node-a,生成一个密钥对

      以运行 HBase 的用户身份登录时,使用以下命令生成 SSH 密钥对:

      1. $ ssh-keygen -t rsa

      如果命令成功,密钥对的位置将打印到标准输出。公钥的默认名称是 id_rsa.pub.

    2. 创建并共享密钥的目录

    3. 将公钥复制到其他节点

      通过使用 scp 或其他一些安全的手段,安全地将公钥从node-a复制到每个节点。在其他每个节点上,创建一个名为 .ssh/authorized_keys 的新文件(如果该文件尚不存在),并将 id_rsa.pub 文件的内容附加到该文件的末尾。请注意,你也需要为node-a本身执行此项。

    4. 测试无密码登录

      确保过程正确,可以以相同用户名从node-a 无密码登录其他节点.

    5. 由于 node-b 是备份主节点, 重复上述步骤,将node-a替换为node-b.确保不会覆盖现有的 .ssh/authorized_keys 文件, 可以使用>>运算符而不是>运算符将新密钥添加到文件末尾。

    过程: 准备 node-a

    node-a 是主节点和 ZooKeeper 进程节点,而不是 RegionServers 服务. 首先停止node-aRegionServers 服务

    1. 编辑 conf/regionservers 移除包含 localhost的列. 添加 node-bnode-c的主机名和 IP.

      即使你非要在 node-a上运行 regionserver, 你应该配置主机名. 演示中为 node-a.example.com.确保您能够将配置分发到集群的每个节点上并无任何主机名冲突。保存文件。

    2. 配置 HBase,将 node-b作为备份主节点

      conf/ 目录创建 backup-masters 添加新的一行主机名为 node-b. 演示中主机名为 node-b.example.com.

    3. 配置 ZooKeeper

      实际上,你应该仔细考虑你的 ZooKeeper 配置。您可以在zookeeper部分找到更多关于配置 ZooKeeper 的信息。这个配置将指示 HBase 在集群的每个节点上启动和管理一个 ZooKeeper 实例。在node-a上,编辑 conf/hbase-site.xml 并添加下列属性

    1. ```
    2. <property>
    3. <name>hbase.zookeeper.quorum</name>
    4. <value>node-a.example.com,node-b.example.com,node-c.example.com</value>
    5. </property>
    6. <property>
    7. <name>hbase.zookeeper.property.dataDir</name>
    8. <value>/usr/local/zookeeper</value>
    9. </property>
    10. ```
    1. 在您的配置中,您已经将node-a作为localhost引用,将引用改为指向其他节点用来引用 node-a的主机名。在这些例子中,主机名是node-a.example.com

    过程: 准备 node-bnode-c

    node-b 将运行一个备份主服务器和一个 ZooKeeper 实例。

    1. 下载并解压 HBase

      将 HBase 下载并解压到node-b,就像您为独立和伪分布式快速入门所操作的一样。

    2. 将配置文件从node-a复制到node-bnode-c

      的群集的每个节点都需要具有相同的配置信息。将 conf/ 目录下的内容复制到node-bnode-c上的 conf/ 目录中。

    过程: 启动并测试群集

    1. 确保 HBase 没有在任何节点上运行

      如果您在之前的测试中忘记停止 HBase,您将会遇到错误。通过使用该jps命令检查 HBase 是否在任何节点上运行。寻HMaster, HRegionServerHQuorumPeer的进程。如果他们存在,杀掉他们

    2. 启动集群

      node-a,发出start-hbase.sh命令。您的输出将类似于下面的输出。

      1. $ bin/start-hbase.sh
      2. node-c.example.com: starting zookeeper, logging to /home/hbuser/hbase-0.98.3-hadoop2/bin/../logs/hbase-hbuser-zookeeper-node-c.example.com.out
      3. node-a.example.com: starting zookeeper, logging to /home/hbuser/hbase-0.98.3-hadoop2/bin/../logs/hbase-hbuser-zookeeper-node-a.example.com.out
      4. node-b.example.com: starting zookeeper, logging to /home/hbuser/hbase-0.98.3-hadoop2/bin/../logs/hbase-hbuser-zookeeper-node-b.example.com.out
      5. starting master, logging to /home/hbuser/hbase-0.98.3-hadoop2/bin/../logs/hbase-hbuser-master-node-a.example.com.out
      6. node-c.example.com: starting regionserver, logging to /home/hbuser/hbase-0.98.3-hadoop2/bin/../logs/hbase-hbuser-regionserver-node-c.example.com.out
      7. node-b.example.com: starting regionserver, logging to /home/hbuser/hbase-0.98.3-hadoop2/bin/../logs/hbase-hbuser-regionserver-node-b.example.com.out
      8. node-b.example.com: starting master, logging to /home/hbuser/hbase-0.98.3-hadoop2/bin/../logs/hbase-hbuser-master-nodeb.example.com.out

      ZooKeeper 首先启动,然后是 master,然后是 RegionServers,最后是 backup masters。

    1. 验证进程是否正在运行

      在集群的每个节点上,运行该jps命令并验证每台服务器上是否运行了正确的进程。如果用于其他用途,您可能会看到在您的服务器上运行的其他 Java 进程。

      node-a jps 输出

      1. $ jps
      2. 20355 Jps
      3. 20071 HQuorumPeer
      4. 20137 HMaster

      node-b jps 输出

      1. $ jps
      2. 15930 HRegionServer
      3. 16194 Jps
      4. 15838 HQuorumPeer
      5. 16010 HMaster

      node-c jps 输出

    2. Web UI.

      Web UI 接口更改

      在 HBase 0.98.x 以上, HBase Web UI 的端口从主节点的 60010 和 RegionServer 的 60030 变化为 16010 和 16030

      如果一切设置正确,您应该能够使用 Web 浏览器连接到 Master[http://node-a.example.com:16010/](http://node-a.example.com:16010/)或 Secondary Master 的 UI [http://node-b.example.com:16010/](http://node-b.example.com:16010/) 。如果您可以通过localhost而不是从另一台主机连接,请检查您的防火墙规则。您可以在端口 16030 的 IP 地址中查看每个 RegionServers 的 Web UI,也可以通过单击 Master 的 Web UI 中的链接来查看。

    3. 测试节点或服务消失时会发生什么

    下一章节 , 提供有关不同的 HBase 运行模式、运行 HBase 的系统要求以及分布式 HBase 群集的关键配置的详细信息。