Sqoop使用实例讲解
摘要：本文主要讲了笔者在使用sqoop过程中的一些实例
一、概述与基本原理
Apache Sqoop（SQL-to-Hadoop） 项目旨在协助 RDBMS 与 Hadoop 之间进行高效的大数据交流。用户可以在 Sqoop 的帮助下，轻松地把关系型数据库的数据导入到 Hadoop 与其相关的系统 (如HBase和Hive)中；同时也可以把数据从 Hadoop 系统里抽取并导出到关系型数据库里。因此，可以说Sqoop就是一个桥梁，连接了关系型数据库与Hadoop。qoop中一大亮点就是可以通过hadoop的mapreduce把数据从关系型数据库中导入数据到HDFS。Sqoop架构非常简单，其整合了Hive、Hbase和Oozie，通过map-reduce任务来传输数据，从而提供并发特性和容错。Sqoop的基本工作流程如下图所示：
Sqoop在import时，需要制定split-by参数。Sqoop根据不同的split-by参数值来进行切分，然后将切分出来的区域分配到不同map中。每个map中再处理数据库中获取的一行一行的值，写入到HDFS中(由此也可知，导入导出的事务是以Mapper任务为单位)。同时split-by根据不同的参数类型有不同的切分方法，如比较简单的int型，Sqoop会取最大和最小split-by字段值，然后根据传入的num-mappers来确定划分几个区域。 比如select max(split_by),min(split-by) from得到的max(split-by)和min(split-by)分别为1000和1，而num-mappers为2的话，则会分成两个区域(1,500)和(501-100),同时也会分成2个sql给2个map去进行导入操作，分别为select XXX from table where split-by>=1 and split-by<500和select XXX from table where split-by>=501 and split-by<=1000。最后每个map各自获取各自SQL中的数据进行导入工作。
二、使用实例
接下来将以实例来说明如何使用
1、创建表
sqoop可以将mysql表或其它关系型数据库的表结构自动映射到Hive表。映射后的表结构为textfile格式。先来看一个脚本
#!/bin/sh
. ~/.bashrc
host='xx.xx.xx.xx'
database='cescore'
user='xxxx'
password='xxxx'
mysqlTable='yyyyyyy'
hiveDB='ods_uba'
hiveTable='yyyyyy'
sqoop create-hive-table \
--connect jdbc:mysql://${host}:3306/${database} --username ${user} --password ${password} \
--table ${mysqlTable} \
--hive-table ${hiveDB}.${hiveTable} \
--hive-overwrite --hive-partition-key req_date \
rm *.java--connect 指明连接的类型，基本所有的关系型数据库都可以
--table 指明要源表的表名
--hive-table 指明要创建的Hive表名
--hive-overwrite 指明是否覆盖插入（将原来的分区数据全删除，再插入）
--hive-partition-key 指明分区的字段
我们可以到Hive去查看对应的表结构：
2、从mysql导数据到Hive
sqoop可以将数据从关系型数据库导到Hive或Hive导到关系型数据库，先来看一个从mydql导数据到Hive的实例，示例脚本如下
先来看一个脚本
#!/bin/sh
. ~/.bashrc
host='xx.xx.xx.xx'
database='xxxcc'
user='xxxx'
password='xxxx'
mysqlTable='sys_approve_reject_code'
hiveDB='ods_uba'
hiveTable='sys_approve_reject_code'
tmpDir='/user/hive/warehouse/ods_uba.db/'${hiveTable}
sqoop import --connect jdbc:mysql://${host}:3306/${database} --username ${user} --password ${password} \
--query "select * from "${database}"."${mysqlTable}" where 1 = 1 and \$CONDITIONS" \
--hive-import --hive-table ${hiveDB}.${hiveTable} --target-dir ${tmpDir} --delete-target-dir --split-by approve_reject_code \
--hive-overwrite \
--null-string '\\N' --null-non-string '\\N'
一般情况下，如果Hive里的表不存在，也可以不用执行第一步的创建表的步骤，因为一般导数时，它如果发现hive表不存在，会自己帮你创建表，Hive表的数据结构就和mysql的一样。不过，这样要注意一个点，如果Hive表是你自己通过Hive的交互命令行建立起来的，并且存储格式设置为orc，那么使用sqoop导数据到这个表时是可以导入成功，但是会发现无法查询出来，或者查询乱码。只能设置成textfile才可以。
上面的sql是将表全量导入到Hive中，不进行分区操作，每次导数都会将原来的数据删除，因为这是一张字典表，所以需要这么做。来看看各字段的含义
--query 指明查询的sql语句，注意主里加了一个 and \$conditions ，这是必需的，如果有带where条件的话
--hive-table 指明目标表名
--target-dir 指明目标表的hdfs路径
--delete-target-dir 删除目标hfds路径数据
--split-by 指明shuffle的字段，一般是取主键
--hive-overwrite 先删除旧数据，再重新插入
--null-string --对null字符串和处理，映射成hive里的null
--null-non-string --对null非字符串和处理，映射成hive里的null
3、从phoenix导数据到Hive
下面再来看一个比较复杂的脚本，这里将从phoenix导数据，并将一天的数据分成24份
#!/bin/sh
. ~/.bashrc
#导数据，注意要传入一个yyyy-mm-dd类型参数
synData(){
echo "您要统计数据的日期为：$statisDate"
#生成每小时的查询条件
for i in `seq 24`
do
num=$(echo $i)
doSqoop $statisDate $num
done
}
#sqoop导数据
doSqoop(){
echo "输入日期：$statisDate，输入序列号：$num"
timeZone=$(printf "%02d\n" $(expr "$num" - "1"))
partitionTime=$(echo "$statisDate-$timeZone")
evtNOPre=$(echo $partitionTime | sed 's/\-//g')
echo "分区字段：$partitionTime"
where_qry=$(echo "evt_no like '$evtNOPre%'")
echo $where_qry
hiveDB='ods_uba'
hiveTable='evt_log'
tmpDir='/user/hive/warehouse/ods_uba.db/'${hiveTable}
sqoop import -D mapreduce.map.memory.mb=3072 --driver org.apache.phoenix.jdbc.PhoenixDriver \
--connect jdbc:phoenix:xxxxxxxx \
--query "select * from uba.evt_log where $where_qry and \$CONDITIONS" \
--hive-import --hive-table ${hiveDB}.${hiveTable} --target-dir ${tmpDir} --delete-target-dir --split-by evt_no \
--hive-overwrite --hive-partition-key partition_time --hive-partition-value ${partitionTime} \
--null-string '\\N' --null-non-string '\\N'
rm *.java
}
#统计日期默认取昨天
diffday=1
statisDate=`date +"%Y-%m-%d" -d "-"${diffday}"day"`
#首先判断是否有输入日期，以及输入日期是否合法，如果合法，取输入的日期。不合法报错，输入日期为空，取昨天
if [ $# -eq 0 ]; then
echo "您没有输入参数"
synData $statisDate
elif [ $# -eq 1 ]; then
echo "您输入参数为: $1 "
statisDate=$1
if [ ${#statisDate} -eq 10 ];then
synData $statisDate
else
echo "您输入日期不合法，请输入yyyy-mm-dd类型参数"
fi
else
echo "您输入参数多于一个，请不要输入或只输入一个yyyy-mm-dd类型参数"
fi
-D mapreduce.map.memory.mb=3072，这是一个非常有用的参数，一般如果数据量非常大，在抽数据时有可能报内存不足，这时可以通过调高这个参数。
--driver 这里指明了使用的驱动类型，注意要将对应的驱动连接包放到sqoop对应的lib目录下，要不会报错
--hive-partition-key 指明分区字段
--hive-partition-value 指明分区值
这里因为是每天抽数，所以按天进行分区，因为还将每天分成了24个小时，理论上讲设置成两个分区字段会好点，但是sqoop只支持设置一个分区字段，所以这里的分区字段会被设计成yyyy-mm-dd-hh的类型
4、从mysql到hbse
sqoop import --connect jdbc:mysql://localhost/acmedb \
--table ORDERS --username test --password **** \
--hbase-create-table --hbase-table ORDERS --column-family mysql
------hbase-table: hbase表
--column-family: --指明列族，将所有的mysql的列都放在这个列族下面
参考文章：
http://www.cnblogs.com/edisonchou/p/4440216.html
https://blogs.apache.org/sqoop/entry/apache_sqoop_overview