导入HBase数据
本文以basketballplayer数据集为例。
在本示例中,该数据集已经存入HBase中,以、team
、follow
和serve
四个表存储了所有点和边的信息。以下为各个表的部分数据。
本文示例在MacOS下完成,以下是相关的环境配置信息:
硬件规格:
- CPU:1.7 GHz Quad-Core Intel Core i7
- 内存:16 GB
Spark:2.4.7,单机版
Hadoop:2.9.2,伪分布式部署
HBase:2.2.7
开始导入数据之前,用户需要确认以下信息:
-
Graph服务和Meta服务的的IP地址和端口。
拥有Nebula Graph写权限的用户名和密码。
已经编译Exchange。详情请参见。本示例中使用Exchange 2.6.0。
已经安装Spark。
了解Nebula Graph中创建Schema的信息,包括Tag和Edge type的名称、属性等。
已经安装并开启Hadoop服务。
分析数据,按以下步骤在Nebula Graph中创建Schema:
确认Schema要素。Nebula Graph中的Schema要素如下表所示。
在Nebula Graph中创建一个图空间basketballplayer,并创建一个Schema,如下所示。
nebula> CREATE SPACE basketballplayer \
(partition_num = 10, \
replica_factor = 1, \
vid_type = FIXED_STRING(30));
nebula> USE basketballplayer;
## 创建Tag player
nebula> CREATE TAG player(name string, age int);
nebula> CREATE TAG team(name string);
## 创建Edge type follow
nebula> CREATE EDGE follow(degree int);
## 创建Edge type serve
nebula> CREATE EDGE serve(start_year int, end_year int);
编译Exchange后,复制target/classes/application.conf
文件设置HBase数据源相关的配置。在本示例中,复制的文件名为hbase_application.conf
。各个配置项的详细说明请参见配置说明。
运行如下命令将HBase数据导入到Nebula Graph中。关于参数的说明,请参见。
${SPARK_HOME}/bin/spark-submit --master "local" --class com.vesoft.nebula.exchange.Exchange <nebula-exchange-2.6.0.jar_path> -c <hbase_application.conf_path>
Note
JAR包有两种获取方式:自行编译或者从maven仓库下载。
示例:
用户可以在返回信息中搜索batchSuccess.<tag_name/edge_name>
,确认成功的数量。例如。
用户可以在Nebula Graph客户端(例如Nebula Graph Studio)中执行查询语句,确认数据是否已导入。例如:
GO FROM "player100" OVER follow;
用户也可以使用命令查看统计数据。
导入数据后,用户可以在Nebula Graph中重新创建并重建索引。详情请参见索引介绍。