Spool和SQLLDR--Oracle数据导出导入(传)

对于SPOOL数据的SQL,最好要自己定义格式,以方便程序直接导入,SQL语句如:
select taskindex||'|'||commonindex||'|'||tasktype||'|'||to_number(to_char(sysdate,'YYYYMMDD')) from ssrv_sendsms_task;

spool常用的设置
set colsep' ';    //域输出分隔符
set echo off;    //显示start启动的脚本中的每个sql命令,缺省为on
set feedback off;  //回显本次sql命令处理的记录条数,缺省为on
set heading off;   //输出域标题,缺省为on
set pagesize 0;   //输出每页行数,缺省为24,为了避免分页,可设定为0。
set termout off;   //显示脚本中的命令的执行结果,缺省为on
set trimout on;   //去除标准输出每行的拖尾空格,缺省为off
set trimspool on;  //去除重定向(spool)输出每行的拖尾空格,缺省为off

导出文本数据的建议格式:
SQL*PLUS环境设置SET NEWPAGE NONE
SET HEADING OFF
SET SPACE 0
SET PAGESIZE 0
SET TRIMOUT ON
SET TRIMSPOOL ON
SET LINESIZE 2500

注:LINESIZE要稍微设置大些,免得数据被截断,它应和相应的TRIMSPOOL结合使用防止导出的文本有太多的尾部空格。但是如果 LINESIZE设置太大,会大大降低导出的速度,另外在WINDOWS下导出最好不要用PLSQL导出,速度比较慢,直接用COMMEND下的 SQLPLUS命令最小化窗口执行。

对于字段内包含很多回车换行符的应该给与过滤,形成比较规矩的文本文件。通常情况下,我们使用SPOOL方法,将数据库中的表导出为文本文件的时候会采用 两种方法,如下述:

方法一:采用以下格式脚本 
set colsep '|' --设置|为列分隔符
  set trimspool on
  set linesize 120
  set pagesize 2000
  set newpage 1
  set heading off
  set term off
set num 18
set feedback off
  spool 路径+文件名
  select * from tablename;
  spool off

方法二:采用以下脚本
set trimspool on
  set linesize 120
  set pagesize 2000
  set newpage 1
  set heading off
  set term off
  spool 路径+文件名
  select col1||','||col2||','||col3||','||col4||'..' from tablename;
  spool off

比较以上方法,即方法一采用设定分隔符然后由sqlplus自己使用设定的分隔符对字段进行分割,方法二将分隔符拼接在SELECT语句中,即手工控制输 出格式。

在实践中,发现通过方法一导出来的数据具有很大的不确定性,这种方法导出来的数据再由sqlldr导入的时候出错的可能性在95%以上,尤其对大批量的数 据表,如100万条记录的表更是如此,而且导出的数据文件狂大。

而方法二导出的数据文件格式很规整,数据文件的大小可能是方法一的1/4左右。经这种方法导出来的数据文件再由sqlldr导入时,出错的可能性很小,基 本都可以导入成功。

因此,实践中我建议大家使用方法二手工去控制spool文件的格式,这样可以减小出错的可能性,避免走很多弯路。


自测例:将ssrv_sendsms_task表中的数据导出到文本(数据库Oracle 9i 操作系统 SUSE LINUX Enterprise Server 9)

spool_test.sh脚本如下:
#!/bin/sh
DB_USER=zxdbm_ismp #DB USER
DB_PWD=zxin_smap #DB PASSWORD
DB_SERV=zx10_40_43_133 #DB SERVICE NAME

sqlplus -s $DB_USER/$DB_PWD@$DB_SERV<<EOF # -s 参数屏蔽打印到屏幕上的其他信息,只显示sql执行后从DB中查询出来的信息,过滤掉spool函数执行时在文件中写入的其他信息。
set trimspool on
set linesize 120
set pagesize 2000
set newpage 1
set heading off
set term off
spool promt.txt
select taskindex||'|'||commonindex||'|'||tasktype||'|'||to_number(to_char(sysdate,'YYYYMMDD')) from ssrv_sendsms_task;
spool off
EOF


执行./spool_test.sh后生成sp_test.txt,内容如下:
83|115|1|20080307
85|115|11|20080307
86|115|10|20080307
84|115|2|20080307
6|5|14|20080307
7|5|12|20080307
9|5|15|20080307


注:上面自测例中,spool promt.txt中的目标生成文件promt.txt,在HP-UNX环境下的shell脚本中调用Oracle的spool函数,如果将上述逻辑代码 封装为一个function,然后来调用这个function的话,则在shell脚本中最终是不会生成promt.txt文件的。只能直接执行逻辑代 码,封装后则spool函数失效。
对于promt.txt在相对路径下,下面2中方法在shell环境中执行时,两者只能择一,两者并存则spool函数会失效。假设promt.txt文 件生成的路径为:/home/zxin10/zhuo/batchoperate/spoolfile
方式[1]
echo "start spool in shell.."

sqlplus -s zxdbm_ismp/zxin_smap<<EOF
set pagesize 0
set echo off feed off term off heading off trims off
set colsep '|'
set trimspool on
set linesize 10000
set trimspool on
set linesize 120
set newpage 1
spool /home/zxin10/zhuo/batchoperate/spoolfile/promt.txt
select batchindex||'|'||productid||'|'||contentid||'|'||optype||'|'||uploadfile from zxdbm_700.s700_batch_operation where status=1;
spool off
EOF
echo "end.."
方式[2]
echo "start spool in shell.."
cd /home/zxin10/zhuo/batchoperate/spoolfile
sqlplus -s zxdbm_ismp/zxin_smap<<EOF
set pagesize 0
set echo off feed off term off heading off trims off
set colsep '|'
set trimspool on
set linesize 10000
set trimspool on
set linesize 120
set newpage 1
spool promt.txt
select batchindex||'|'||productid||'|'||contentid||'|'||optype||'|'||uploadfile from zxdbm_700.s700_batch_operation where status=1;
spool off
EOF
echo "end.."

 

 

文本如何导入oracle(sqlldr 的用法)
关键词: 文本 导入 oracle
在命令提示符中输入sqlldr userid=system/manager control='c:\control.ctl',control.clt中的内容是:
load data
infile '要导入的文本文件名'
append into table 表名
fields terminated by ' '
(字段名,字段名,字段名......)
在导入之前必须保证表已经建好
   sqlldr userid=lgone/tiger control=a.ctl
  LOAD DATA
  INFILE 't.dat' // 要导入的文件
  // INFILE 'tt.date' // 导入多个文件
  // INFILE * // 要导入的内容就在control文件里 下面的BEGINDATA后面就是导入的内容
  
  INTO TABLE table_name // 指定装入的表
  BADFILE 'c:\bad.txt' // 指定坏文件地址
  
   ************* 以下是4种装入表的方式
  APPEND // 原先的表有数据 就加在后面
  // INSERT // 装载空表 如果原先的表有数据 sqlloader会停止 默认值
  // REPLACE // 原先的表有数据 原先的数据会全部删除
  // TRUNCATE // 指定的内容和replace的相同 会用truncate语句删除现存数据
   
  ************* 指定的TERMINATED可以在表的开头 也可在表的内部字段部分
  FIELDS TERMINATED BY ',' OPTIONALLY ENCLOSED BY '"'
  // 装载这种数据: 10,lg,"""lg""","lg,lg"
  // 在表中结果: 10 lg "lg" lg,lg
  // TERMINATED BY X '09' // 以十六进制格式 '09' 表示的
  // TERMINATED BY WRITESPACE // 装载这种数据: 10 lg lg
  
  TRAILING NULLCOLS ************* 表的字段没有对应的值时允许为空
  
  ************* 下面是表的字段
  (
  col_1 , col_2 ,col_filler FILLER // FILLER 关键字 此列的数值不会被装载
   // 如: lg,lg,not 结果 lg lg
  )
  // 当没声明FIELDS TERMINATED BY ',' 时
  // (
  // col_1 [interger external] TERMINATED BY ',' ,
   // col_2 [date "dd-mon-yyy"] TERMINATED BY ',' ,
  // col_3 [char] TERMINATED BY ',' OPTIONALLY ENCLOSED BY 'lg'
  // )
  // 当没声明FIELDS TERMINATED BY ','用位置告诉字段装载数据
  // (
  // col_1 position(1:2),
  // col_2 position(3:10),
  // col_3 position(*:16), // 这个字段的开始位置在前一字段的结束位置
  // col_4 position(1:16),
   // col_5 position(3:10) char(8) // 指定字段的类型
  // )
  
   BEGINDATA // 对应开始的 INFILE * 要导入的内容就在control文件里
  10,Sql,what
   20,lg,show
  
   =====================================================================================
  //////////// 注意begindata后的数值前面不能有空格
  
  1 ***** 普通装载
   LOAD DATA
  INFILE *
  INTO TABLE DEPT
  REPLACE
   FIELDS TERMINATED BY ',' OPTIONALLY ENCLOSED BY '"'
  (DEPTNO,
   DNAME,
  LOC
  )
  BEGINDATA
  10,Sales,"""USA"""
   20,Accounting,"Virginia,USA"
  30,Consulting,Virginia
   40,Finance,Virginia
  50,"Finance","",Virginia // loc 列将为空
   60,"Finance",,Virginia // loc 列将为空
  
  2 ***** FIELDS TERMINATED BY WHITESPACE 和 FIELDS TERMINATED BY x'09' 的情况
  LOAD DATA
  INFILE *
  INTO TABLE DEPT
  REPLACE
  FIELDS TERMINATED BY WHITESPACE
  -- FIELDS TERMINATED BY x'09'
   (DEPTNO,
  DNAME,
  LOC
  )
  BEGINDATA
  10 Sales Virginia
  
  3 ***** 指定不装载那一列
  LOAD DATA
  INFILE *
   INTO TABLE DEPT
  REPLACE
  FIELDS TERMINATED BY ',' OPTIONALLY ENCLOSED BY '"'
  ( DEPTNO,
  FILLER_1 FILLER, // 下面的 "Something Not To Be Loaded" 将不会被装载
  DNAME,
  LOC
  )
   BEGINDATA
  20,Something Not To Be Loaded,Accounting,"Virginia,USA"
  
  4 ***** position的列子
  LOAD DATA
  INFILE *
   INTO TABLE DEPT
  REPLACE
  ( DEPTNO position(1:2),
  DNAME position(*:16), // 这个字段的开始位置在前一字段的结束位置
  LOC position(*:29),
   ENTIRE_LINE position(1:29)
  )
  BEGINDATA
  10Accounting Virginia,USA
  
  5 ***** 使用函数 日期的一种表达 TRAILING NULLCOLS的使用
   LOAD DATA
  INFILE *
  INTO TABLE DEPT
  REPLACE
   FIELDS TERMINATED BY ','
  TRAILING NULLCOLS // 其实下面的ENTIRE_LINE在BEGINDATA后面的数据中是没有直接对应
  // 的列的值的 如果第一行改为 10,Sales,Virginia,1/5/2000,, 就不用TRAILING NULLCOLS了
  (DEPTNO,
   DNAME "upper(:dname)", // 使用函数
  LOC "upper(:loc)",
   LAST_UPDATED date 'dd/mm/yyyy', // 日期的一种表达方式 还有'dd-mon-yyyy' 等
   ENTIRE_LINE ":deptno||:dname||:loc||:last_updated"
  )
   BEGINDATA
  10,Sales,Virginia,1/5/2000
   20,Accounting,Virginia,21/6/1999
  30,Consulting,Virginia,5/1/2000
   40,Finance,Virginia,15/3/2001
  
  6 ***** 使用自定义的函数 // 解决的时间问题
   create or replace
  function my_to_date( p_string in varchar2 ) return date
  as
  type fmtArray is table of varchar2(25);
   
  l_fmts fmtArray := fmtArray( 'dd-mon-yyyy', 'dd-month-yyyy',
   'dd/mm/yyyy',
  'dd/mm/yyyy hh24:mi:ss' );
  l_return date;
   begin
  for i in 1 .. l_fmts.count
  loop
  begin
   l_return := to_date( p_string, l_fmts(i) );
  exception
  when others then null;
  end;
  EXIT when l_return is not null;
   end loop;
  
  if ( l_return is null )
  then
   l_return :=
  new_time( to_date('01011970','ddmmyyyy') + 1/24/60/60 *
  p_string, 'GMT', 'EST' );
  end if;
  
  return l_return;
  end;
  /
  
  LOAD DATA
  INFILE *
   INTO TABLE DEPT
  REPLACE
  FIELDS TERMINATED BY ','
   TRAILING NULLCOLS
  (DEPTNO,
  DNAME "upper(:dname)",
  LOC "upper(:loc)",
  LAST_UPDATED "my_to_date( :last_updated )" // 使用自定义的函数
  )
  BEGINDATA
  10,Sales,Virginia,01-april-2001
   20,Accounting,Virginia,13/04/2001
   30,Consulting,Virginia,14/04/2001 12:02:02
   40,Finance,Virginia,987268297
  50,Finance,Virginia,02-apr-2001
   60,Finance,Virginia,Not a date
  
  7 ***** 合并多行记录为一行记录
   LOAD DATA
  INFILE *
  concatenate 3 // 通过关键字concatenate 把几行的记录看成一行记录
  INTO TABLE DEPT
  replace
  FIELDS TERMINATED BY ','
  (DEPTNO,
  DNAME "upper(:dname)",
  LOC "upper(:loc)",
  LAST_UPDATED date 'dd/mm/yyyy'
  )
   BEGINDATA
  10,Sales, // 其实这3行看成一行 10,Sales,Virginia,1/5/2000
   Virginia,
  1/5/2000
  // 这列子用 continueif list="," 也可以
  告诉 sqlldr在每行的末尾找逗号 找到逗号就把下一行附加到上一行
  
  LOAD DATA
  INFILE *
   continueif this(1:1) = '-' // 找每行的开始是否有连接字符 - 有就把下一行连接为一行
  // 如 -10,Sales,Virginia,
  // 1/5/2000 就是一行 10,Sales,Virginia,1/5/2000
   // 其中1:1 表示从第一行开始 并在第一行结束 还有continueif next 但continueif list最理想
   INTO TABLE DEPT
  replace
  FIELDS TERMINATED BY ','
   (DEPTNO,
  DNAME "upper(:dname)",
  LOC "upper(:loc)",
   LAST_UPDATED date 'dd/mm/yyyy'
  )
  BEGINDATA // 但是好象不能象右面的那样使用
  -10,Sales,Virginia, -10,Sales,Virginia,
  1/5/2000 1/5/2000
   -40, 40,Finance,Virginia,13/04/2001
  Finance,Virginia,13/04/2001
   
  8 ***** 载入每行的行号
  
  load data
  infile *
  into table t
  replace
  ( seqno RECNUM //载入每行的行号
  text Position(1:1024))
  BEGINDATA
  fsdfasj //自动分配一行号给载入 表t 的seqno字段 此行为 1
  fasdjfasdfl // 此行为 2

 

 

Sample:

echo "[`date +%H:%M:%S`] Exporting Table SAMPLE_TABLE..." |tee -a $logfile
DATAFILE=`date +%Y-%m-%d.%H:%M:%S`.sample_table.csv
$SQLPLUS -S -L $DBCONNECT_STRING << EOF > /dev/null 2>&1
whenever sqlerror exit sql.sqlcode||sqlerrm;
set termout off
set echo off
set serveroutput off
set feedback off
set heading off
set verify off
set trimspool on
set trimout on
set pagesize 0
set linesize 500
spool $DATADIR/$DATAFILE
select '"'||SAMPLE_FIELD1||'","'||SAMPLE_FIELD2||'"' FROM SAMPLE_TABLE WHERE DATE=TO_CHAR(SYSDATE, 'YYYYMMDD');
spool off
quit
EOF

 

ERRORCODE=$?
if [ $ERRORCODE != 0 ]
then
 echo "[`date +%H:%M:%S`] ERROR: Exporting Data for Table SAMPLE_TABLE Failed. ErrorCode: $ERRORCODE" |tee -a $logfile
 echo "------ Log File ------"
 tail -10 $logfile
 exit -1
else
 echo "[`date +%H:%M:%S`] Exported Data for Table SAMPLE_TABLE Successfully." |tee -a $logfile
fi

 

echo "[`date +%H:%M:%S`] Importing Tables..." |tee -a $logfile
$SQLLDR $DBCONNECT_STRING BAD=$LOGDIR/$DATAFILE.bad CONTROL=$CTLDIR/SAMPLE_TABLE.ctl DATA=$DATADIR/$DATAFILE LOG=$LOGDIR/$DATAFILE.log SILENT=HEADER, FEEDBACK >> $logfile 2>&1

if [ -e $LOGDIR/$DATAFILE.bad ]; then
 echo "[`date +%H:%M:%S`] There are bad data during loading table SAMPLE_TABLE" |tee -a $logfile
 exit -1
fi

 

你可能感兴趣的:(oracle,sql,SQL Server,脚本,HP)