4 Sqoop的使用

    1. 由于Inceptor-SQL中metastore中已经安装了mysql,就不需要安装mysql了

    2. 将mysql-connector-java-5.1.38tar.gz驱动包先解压

    1. 在Inceptor Server节点上输入mysql -u [用户名] -p连接数据库,此时提示输入密码,通过后输入mysql命令,再执行Grant操作:

      ——add user to mysql(username=tdh,password=123456),授权可以访问所有数据库

    1. GRANT ALL PRIVILEGES ON db1.* TO 'tdh'@'%' IDENTIFIED BY '123456' WITH GRANT OPTION;)
    1. 浏览mysql数据库
    1. 浏览SQL SERVER数据库
    1. sqoop list-databases --connect "jdbc:sqlserver://192.168.1.139:1433;username=sa;password=123456"
    1. 浏览mysql数据库中的表,db1为mysql中的一个数据库,可以使用describe [table名]命令查看mysql中表的信息
    1. sqoop list-tables \
    2. --username tdh \
    3. --password 123456 \
    1. 浏览SQL SERVER中的表并且导入到HDFS中
    1. 从mysql————>HDFS上(import,将mysql中的db1数据库里面的表导入到/user/datadir,这里的datadir目录一定不要事先创建,不然会报错,语句执行的时候会自动创建目录的!最后一行的-m表示map成4个文件)
    1. sqoop import \
    2. --username tdh \
    3. --password 123456 \
    4. --table country \
    5. --target-dir /user/user1/data/sqoop -m 4
    1. 从HDFS————>mysql表上(export)
    1. --username tdh \
    2. --password 123456 \
    3. --connect jdbc:mysql://<mysql IP>:3306/db1 \
    4. --table cc \
    5. --export-dir /user/testdir \
    6. --staging-table tmptable
    1. 查看sqoop导入进来的文件

    4 Sqoop的使用 - 图1

    注意事项

    原因很简单,Inceptor-sql的常驻进程ApplicationMaster跑的是spark任务,非常消耗内存使用量,约为7-8G,所以在没有用到Inceptor-SQL的操作场景的时候就应该关闭该服务。