Sqoop使用实例讲解

原博客地址：http://blog.csdn.net/evankaka

  摘要：本文主要讲了笔者在使用sqoop过程中的一些实例

一、概述与基本原理

         Apache Sqoop（SQL-to-Hadoop） 项目旨在协助 RDBMS 与 Hadoop 之间进行高效的大数据交流。用户可以在 Sqoop 的帮助下，轻松地把关系型数据库的数据导入到 Hadoop 与其相关的系统 (如Hbase和Hive)中；同时也可以把数据从 Hadoop 系统里抽取并导出到关系型数据库里。因此，可以说Sqoop就是一个桥梁，连接了关系型数据库与Hadoop。qoop中一大亮点就是可以通过hadoop的mapreduce把数据从关系型数据库中导入数据到HDFS。Sqoop架构非常简单，其整合了Hive、Hbase和Oozie，通过map-reduce任务来传输数据，从而提供并发特性和容错。Sqoop的基本工作流程如下图所示：

从关系数据库到Hive/hbase

从Hive/hbase到关系数据库

　　Sqoop在import时，需要制定split-by参数。Sqoop根据不同的split-by参数值来进行切分，然后将切分出来的区域分配到不同map中。每个map中再处理数据库中获取的一行一行的值，写入到HDFS中(由此也可知，导入导出的事务是以Mapper任务为单位)。同时split-by根据不同的参数类型有不同的切分方法，如比较简单的int型，Sqoop会取最大和最小split-by字段值，然后根据传入的num-mappers来确定划分几个区域。 比如select max(split_by),min(split-by) from得到的max(split-by)和min(split-by)分别为1000和1，而num-mappers为2的话，则会分成两个区域(1,500)和(501-100),同时也会分成2个sql给2个map去进行导入操作，分别为select XXX from table where split-by>=1 and split-by<500和select XXX from table where split-by>=501 and split-by<=1000。最后每个map各自获取各自SQL中的数据进行导入工作。

二、使用实例

接下来将以实例来说明如何使用

1、创建表

sqoop可以将MySQL表或其它关系型数据库的表结构自动映射到Hive表。映射后的表结构为textfile格式。先来看一个脚本

 #!/bin/sh
 . ~/.bashrc

 host='xx.xx.xx.xx'
 database='cescore'
 user='xxxx'
 password='xxxx'
 mysqlTable='yyyyyyy'
 hiveDB='ods_uba'
 hiveTable='yyyyyy'

 sqoop create-hive-table \
 --connect jdbc:mysql://${host}:3306/${database} --username ${user} --password ${password} \
 --table ${mysqlTable} \
 --hive-table ${hiveDB}.${hiveTable} \
 --hive-overwrite  --hive-partition-key req_date \

 rm *.java

--connect 指明连接的类型，基本所有的关系型数据库都可以

--table 指明要源表的表名

--hive-table 指明要创建的Hive表名

--hive-overwrite 指明是否覆盖插入（将原来的分区数据全删除，再插入）

--hive-partition-key 指明分区的字段

我们可以到Hive去查看对应的表结构：

2、从mysql导数据到Hive

sqoop可以将数据从关系型数据库导到Hive或Hive导到关系型数据库，先来看一个从mydql导数据到Hive的实例，示例脚本如下

先来看一个脚本

 #!/bin/sh
 . ~/.bashrc

 host='xx.xx.xx.xx'
 database='xxxcc'
 user='xxxx'
 password='xxxx'
 mysqlTable='sys_approve_reject_code'
 hiveDB='ods_uba'
 hiveTable='sys_approve_reject_code'
 tmpDir='/user/hive/warehouse/ods_uba.db/'${hiveTable}

 sqoop import --connect jdbc:mysql://${host}:3306/${database} --username ${user} --password ${password} \
 --query "select * from "${database}"."${mysqlTable}" where 1 = 1 and \$CONDITIONS" \
 --hive-import --hive-table ${hiveDB}.${hiveTable} --target-dir ${tmpDir} --delete-target-dir --split-by approve_reject_code \
 --hive-overwrite \
 --null-string '\\N' --null-non-string '\\N'

      一般情况下，如果Hive里的表不存在，也可以不用执行第一步的创建表的步骤，因为一般导数时，它如果发现hive表不存在，会自己帮你创建表，Hive表的数据结构就和mysql的一样。不过，这样要注意一个点，如果Hive表是你自己通过Hive的交互命令行建立起来的，并且存储格式设置为orc，那么使用sqoop导数据到这个表时是可以导入成功，但是会发现无法查询出来，或者查询乱码。只能设置成textfile才可以。

     上面的sql是将表全量导入到Hive中，不进行分区操作，每次导数都会将原来的数据删除，因为这是一张字典表，所以需要这么做。来看看各字段的含义

--query 指明查询的sql语句，注意主里加了一个 and \$conditions ，这是必需的，如果有带where条件的话

--hive-table 指明目标表名

--target-dir 指明目标表的hdfs路径

--delete-target-dir 删除目标hfds路径数据

--split-by 指明shuffle的字段，一般是取主键

--hive-overwrite 先删除旧数据，再重新插入

--null-string --对null字符串和处理，映射成hive里的null

--null-non-string --对null非字符串和处理，映射成hive里的null

3、从phoenix导数据到Hive

下面再来看一个比较复杂的脚本，这里将从phoenix导数据，并将一天的数据分成24份

 #!/bin/sh
 . ~/.bashrc

 #导数据，注意要传入一个yyyy-mm-dd类型参数
 synData(){
   echo "您要统计数据的日期为：$statisDate"
   #生成每小时的查询条件
   for i in `seq 24`
   do
     num=$(echo $i)
     doSqoop $statisDate $num
   done
 }

 #sqoop导数据
 doSqoop(){
     echo "输入日期：$statisDate，输入序列号：$num"
     timeZone=$(printf "%02d\n" $(expr "$num" - "1"))
     partitionTime=$(echo "$statisDate-$timeZone")
     evtNOPre=$(echo $partitionTime | sed 's/\-//g')
     echo "分区字段：$partitionTime"
     where_qry=$(echo "evt_no like '$evtNOPre%'")
     echo $where_qry

    hiveDB='ods_uba'
    hiveTable='evt_log'
    tmpDir='/user/hive/warehouse/ods_uba.db/'${hiveTable}

    sqoop import -D mapreduce.map.memory.mb=3072 --driver org.apache.phoenix.jdbc.PhoenixDriver \
    --connect jdbc:phoenix:xxxxxxxx \
    --query "select * from uba.evt_log  where $where_qry  and \$CONDITIONS" \
    --hive-import --hive-table ${hiveDB}.${hiveTable} --target-dir ${tmpDir} --delete-target-dir --split-by evt_no \
    --hive-overwrite  --hive-partition-key partition_time --hive-partition-value ${partitionTime} \
    --null-string '\\N' --null-non-string '\\N'
    rm *.java

 }

 #统计日期默认取昨天
 diffday=1
 statisDate=`date +"%Y-%m-%d" -d "-"${diffday}"day"`
 #首先判断是否有输入日期，以及输入日期是否合法，如果合法，取输入的日期。不合法报错，输入日期为空，取昨天
 if [ $# -eq 0 ]; then
   echo "您没有输入参数"
   synData $statisDate
 elif [ $# -eq 1 ]; then
   echo "您输入参数为: $1 "
   statisDate=$1
   if [ ${#statisDate} -eq 10 ];then
      synData $statisDate
   else
      echo "您输入日期不合法，请输入yyyy-mm-dd类型参数"
   fi
 else
   echo "您输入参数多于一个，请不要输入或只输入一个yyyy-mm-dd类型参数"
 fi

-D mapreduce.map.memory.mb=3072，这是一个非常有用的参数，一般如果数据量非常大，在抽数据时有可能报内存不足，这时可以通过调高这个参数。

--driver 这里指明了使用的驱动类型，注意要将对应的驱动连接包放到sqoop对应的lib目录下，要不会报错

--hive-partition-key 指明分区字段

--hive-partition-value 指明分区值

这里因为是每天抽数，所以按天进行分区，因为还将每天分成了24个小时，理论上讲设置成两个分区字段会好点，但是sqoop只支持设置一个分区字段，所以这里的分区字段会被设计成yyyy-mm-dd-hh的类型

4、从mysql到hbse

 sqoop import --connect jdbc:mysql://localhost/acmedb \
 --table ORDERS --username test --password **** \
 --hbase-create-table --hbase-table ORDERS --column-family mysql
 ----

--hbase-create-table: 指明使用sqoop创建hbse表
--hbase-table: hbase表
--column-family: --指明列族，将所有的mysql的列都放在这个列族下面