向oracle中导入导出 *.csv文件 - Eolande - 博客园
在 Oracle 数据库中，我们通常在不同数据库的表间记录进行复制或迁移时会用以下几种方法：
1. A 表的记录导出为一条条分号隔开的 insert 语句，然后执行插入到 B 表中
2. 建立数据库间的 dblink，然后用 create table B as select * from A@dblink where ...，或 insert into B select * from A@dblink where ...
3. exp A 表，再 imp 到 B 表，exp 时可加查询条件
4. 程序实现 select from A ..，然后 insert into B ...，也要分批提交
5. 再就是本篇要说到的 Sql Loader(sqlldr) 来导入数据，效果比起逐条 insert 来很明显
第 1 种方法在记录多时是个噩梦，需三五百条的分批提交，否则客户端会死掉，而且导入过程很慢。如果要不产生 REDO 来提高 insert into 的性能，就要下面那样做：
1
alter
table
B nologging;
2
3
insert
/*
+APPEND
*/
into
B(c1,c2)
values
(x,xx);
4
insert
/*
+APPEND
*/
into
B
select
*
from
A
@dblink
where
.....;
5
好啦，前面简述了 Oracle 中数据导入导出的各种方法，我想一定还有更高明的。下面重点讲讲 Oracle 的 Sql Loader (sqlldr) 的用法。
在命令行下执行 Oracle 的 sqlldr 命令，可以看到它的详细参数说明，要着重关注以下几个参数：
userid -- Oracle 的 username/password[@servicename]
control -- 控制文件，可能包含表的数据
-------------------------------------------------------------------------------------------------------
log -- 记录导入时的日志文件，默认为 控制文件(去除扩展名).log
bad -- 坏数据文件，默认为 控制文件(去除扩展名).bad
data -- 数据文件，一般在控制文件中指定。用参数控制文件中不指定数据文件更适于自动操作
errors -- 允许的错误记录数，可以用他来控制一条记录都不能错
rows -- 多少条记录提交一次，默认为 64
skip -- 跳过的行数，比如导出的数据文件前面几行是表头或其他描述
还有更多的 sqlldr 的参数说明请参考：sql loader的用法。
用例子来演示 sqlldr 的使用，有两种使用方法：
1. 只使用一个控制文件，在这个控制文件中包含数据
2. 使用一个控制文件(作为模板) 和一个数据文件
一般为了利于模板和数据的分离，以及程序的不同分工会使用第二种方式，所以先来看这种用法。数据文件可以是 CSV 文件或者以其他分割符分隔的，数据文件可以用 PL/SQL Developer 或者 Toad 导出，也可以用 SQL *Plus 的 spool 格式化产出，或是 UTL_FILE 包生成。另外，用 Toad 还能直接生成包含数据的控制文件。
首先，假定有这么一个表 users，并插入五条记录：
insert into users values ( 2 , NULL , 5 ,to_date( ' 2008-10-15 ' , ' YYYY-MM-DD ' ));
insert into users values ( 3 , ' 隔叶黄莺 ' , 8 ,to_date( ' 2009-01-02 ' , ' YYYY-MM-DD ' ));
insert into users values ( 4 , ' Kypfos ' , NULL , NULL );
insert into users values ( 5 , ' 不知秋 ' , 1 ,to_date( ' 2008-12-23 ' , ' YYYY-MM-DD ' ));
1) 建立数据文件，我们这里用 PL/SQL Developer 导出表 users 的记录为 users_data.csv 文件，内容如下：
" 1 "," 1 ","Unmi"," 3 "," 2009 - 1 - 5 20 : 34 : 44 "
" 2 "," 2 ",""," 5 "," 2008 - 10 - 15 "
" 3 "," 3 ","隔叶黄莺"," 8 "," 2009 - 1 - 2 "
" 4 "," 4 ","Kypfos","",""
" 5 "," 5 ","不知秋"," 1 "," 2008 - 12 - 23 "
LOAD DATA
INFILE * -- 因为数据同控制文件在一起，所以用 * 表示
append -- 这里用了 append 来操作，在表 users 中附加记录
INTO TABLE users
when LOGIN_TIMES <> ' 8 ' -- 还可以用 when 子句选择导入符合条件的记录
Fields terminated by ","
trailing nullcols
(
virtual_column FILLER, -- 跳过由 PL/SQL Developer 生成的第一列序号
user_id "user_seq.nextval", -- 这一列直接取序列的下一值，而不用数据中提供的值
user_name " ' Hi ' || upper (: user_name )", -- ,还能用SQL函数或运算对数据进行加工处理
login_times terminated by ",", NULLIF (login_times = ' NULL ' ) -- 可为列单独指定分隔符
last_login DATE "YYYY - MM - DD HH24:MI:SS" NULLIF (last_login = " NULL ") -- 当字段为"NULL"时就是 NULL
)
BEGINDATA -- 数据从这里开始
, USER_ID , USER_NAME ,LOGIN_TIMES,LAST_LOGIN
1 , 1 ,Unmi, 3 , 2009 - 1 - 5 20 : 34
2 , 2 ,Fantasia, 5 , 2008 - 10 - 15
3 , 3 ,隔叶黄莺, 8 , 2009 - 1 - 2
4 , 4 ,Kypfos, NULL , NULL
5 , 5 ,不知秋, 1 , 2008 - 12 - 23
2) 执行一样的命令：
sqlldr dbuser/dbpass@dbservice control=users.ctl
比如，在控制台会显示这样的信息：
C:\>sqlldr dbuser/dbpass@dbservice control=users.ctl
SQL*Loader: Release 9.2.0.1.0 - Production on 星期三 1月 7 22:26:25 2009
Copyright (c) 1982, 2002, Oracle Corporation. All rights reserved.
达到提交点，逻辑记录计数4
达到提交点，逻辑记录计数5
上面的控制文件包含的内容比较复杂(演示目的)，请根据注释理解每个参数的意义。还能由此发掘更多用法。
最后说下有关 SQL *Loader 的性能与并发操作
1) ROWS 的默认值为 64，你可以根据实际指定更合适的 ROWS 参数来指定每次提交记录数。(体验过在 PL/SQL Developer 中一次执行几条条以上的 insert 语句的情形吗？)
2）常规导入可以通过使用 INSERT语句来导入数据。Direct导入可以跳过数据库的相关逻辑(DIRECT=TRUE)，而直接将数据导入到数据文件中，可以提高导入数据的性能。当然，在很多情况下，不能使用此参数(如果主键重复的话会使索引的状态变成UNUSABLE!)。
3) 通过指定 UNRECOVERABLE选项，可以关闭数据库的日志(是否要 alter table table1 nologging 呢?)。这个选项只能和 direct 一起使用。
4) 对于超大数据文件的导入就要用并发操作了，即同时运行多个导入任务.
sqlldr userid=/ control=result1.ctl direct=true parallel=true
sqlldr userid=/ control=result2.ctl direct=true parallel=true
sqlldr userid=/ control=result2.ctl direct=true parallel=true
当加载大量数据时（大约超过10GB），最好抑制日志的产生：
SQL>ALTER TABLE RESULTXT nologging;
这样不产生REDO LOG，可以提高效率。然后在 CONTROL 文件中 load data 上面加一行：unrecoverable， 此选项必须要与DIRECT共同应用。
在并发操作时，ORACLE声称可以达到每小时处理100GB数据的能力！其实，估计能到 1－10G 就算不错了，开始可用结构 相同的文件，但只有少量数据，成功后开始加载大量数据，这样可以避免时间的浪费。
参考：1. Oracle SQL*Loader -- 英文，Sql Loader 的官方使用说明，包含多种类型的 Demo
2. sql loader的用法 -- 列出了 sql loader 的选择参数的中文说明
3. 使用SQL Loader导入大量数据，避免使用SQL频繁写库 -- 一个简单的例子，快带了解 Sql Loader 的用法
4. Oracle SQL Loader的详细语法
5. oracle sql loader全攻略 -- 还算名符其实。并讲了如何用 SQL *Plus 的 spool 或 UTL_FILE 包生成数据文件
6. SQL*Loader Control File Reference -- 英文，控制文件使用参考
7. 学习oracle sql loader 的使用
8. 用sqlloader(sqlldr)装载LOB数据 -- LOB 的内类是一个外部文件，用 sql loader 导入到数据库
9. SQLLDR直接加载几个参数的测试
10.Maximizing SQL*Loader Performance
spool方法
导出数据时，如果用plsql导，数据的记录如果太大，速度慢的影响就会很明显，我们可以用spool方法。
spool常用的设置
set colsep' '; //域输出分隔符
set echo off; //显示start启动的脚本中的每个sql命令，缺省为on
set feedback off; //回显本次sql命令处理的记录条数，缺省为on
set heading off; //输出域标题，缺省为on
set pagesize 0; //输出每页行数，缺省为24,为了避免分页，可设定为0。
set termout off; //显示脚本中的命令的执行结果，缺省为on
set trimout on; //去除标准输出每行的拖尾空格，缺省为off
set trimspool on; //去除重定向（spool）输出每行的拖尾空格，缺省为off
以下是我的例子：第一步是写一个sql的文件，里面是spool的各种配置信息
$ cat test_spool.sql
set feedback off
set heading off
set termout off
set pagesize 0
set linesize 150
set verify off
set echo off
spool /home/test/test_spool_out_file.sql --spool输出的文件
select field1||'|'||field2 from test_spool;
spool off
第二步是写一个脚本，包括有连接的数据库信息等，例子如下：
$ cat test_spool.sh
/home/oracle_app/bin/sqlplus test_user/test_pass << eof
@/home/test/test_spool.sql
exit;
eof
第三步是曾加test_spool.sh的执行权限，并执行test_spool.sh
$ chmod +x test_spool.sh
$./test_spool.sh
这里只介绍了spool的一种用法，另外还有其他的方法和设置，不过从网上的介绍来看，这个方法是比较好的，另外的方法的的主要区别是在sql语句的写法上，还增加了域分隔符的设置而已，出错概率高一些。
参考：Oracle spool 用法小结http://www.diybl.com/course/7_databases/oracle/oraclejs/2008918/143288.html
http://fanzf24.blog.163.com/blog/static/33127648200912411428325/
阅读全文……