正文
Oracle【IT实验室】数据库备份与恢复之二：SQL*Loader
提示：扫一扫查出行【扫一扫了解最新限行尾号】
复制提示
2.1 基本知识
Oracle 的 SQL* LOADER 可以将外部格式化的文本数据加载到数据库表中。通常 与 SPOOL导出文本数据方法配合使用。
1.命令格式
SQLLDR keyword=value [，keyword=value，……]
例：$ sqlldr user/pwd control=emp.ctl data=emp.dat bad=emp.bad log=emp.log
2.控制文件
SQL*LOADER 根据控制文件可以找到需要加载的数据。并且分析和解释这些数据。
控制文件由三个部分组成，具体参数参考帮助文档：1. 全局选件，行，跳过的记录数等；2. INFILE 子句指定的输入数据；3. 数据特性说明。
comment： ——注释
例：
load data infile *
append ——除了 append外，还有 insert、replace、truncate等方式
into table emp fields terminated b y ‘|’
（
no float external， name char（20），
age integer external，
duty char（1），salary float external，
upd_ts date（14） ‘YYYYMMDDHH24MISS’）
begindata
100000000003|Mulder|000020|1|000000005000|20020101000000
100000000004|Scully|000025|2|000000008000|20020101235959
控制文件中infile选项跟sqlldr 命令行中data 选项含义相同，如使用infile *则表明数据在本控制文件以 begin data 开头的区域内。 一些选项：FIELDS TERMINATED BY WHITESPACE FIELDS TERMINATED BY x'09' FILLER_1 FILLER， // 指定某一列将不会被装载
DEPTNO position（1：2）， DNAME position（*：16）， // 指定列的位置SEQNO RECNUM //载入每行的行号
SKIP n // 指定导入时可以跳过多少行数据
3.数据文件
按控制文件数据格式定义的数据行集，
例：
100000000001|Tom|000020|1|000000005000|20020101000000
100000000002|Jerry|000025|2|000000008000|20020101235959
固定格式、可变格式、流记录格式：
固定格式：
当数据固定的格式（长度一样）时且是在文件中得到时，要用 INFILE "fix n"
load data
infile 'example.dat' "fix 11"
into table example
fields terminated b y '，' optionally enclosed by '"'
（col1 char（5）， col2 char（7）） example.dat：
001， cd， 0002，fghi，
00003，lmn，
1， "pqrs"，
0005，uvwx，
可变格式：
当数据是可变格式（长度不一样）时且是在文件中得到时，要用 INFILE "var n".如：
load data
infile 'example.dat' "var 3"
into table example
fields terminated b y '，' optionally enclosed by '"'
（col1 char（5）， col2 char（7）） example.dat：
009hello，cd，010world，im，
012my，name is，
流记录格式： // Stream-recored format：load data infile 'xx.dat' "str '|\n'"
into table xx field terminated b y '，' optionally enclosed by '"'
（col1 char（5）， col2 char（7））
example.dat：
hello， ccd，|
world， bb，|
4. 坏文件
bad=emp.bad坏文件包含那些被 SQL*Loader拒绝的记录。被拒绝的记录可能是不符合要求的记录。
5. 日志文件及日志信息
log=emp.log当 SQL*Loader 开始执行后，它就自动建立 日志文件。日志文件包含有加载的总 结，加载中的错误信息等。
2.2 高级选项
1. Conventional Path Load与Direct Path Load
Conventional-path Load：通过常规通道方式上载。
特点：commit， always gen redo logs， enforce all constraints， fire insert triggers， can load into cluster， other user can make change
rows：每次提交的记录数
bindsize：每次提交记录的缓冲区
readsize：与 bindsize 成对使用，其中较小者会自动调整到较大者
sqlldr 先计算单条记录长度，乘以 rows，如小于 bindsize，不会试图扩张，rows以填充 bindsize；如超出，则以 bindsize 为准。 命令为：
$ sqlldr dbuser/oracle control=emp.ctl log=emp.log rows=10000 bindsize=8192000
Direct-Path Load：
通过直通方式上载，可以跳过数据库的相关逻辑，不进行 SQL解析，而直接将数 据导入到数据文件中。
特点：save， conditionly gen redo logs， enforce PK UK NN， not fire triggers， can not load into cluster， other user can not make change命令为：
$ sqlldr dbuser/oracle control=emp.ctl log=emp.log direct=true
2. SPOOL导出文本数据方法
导入的数据文件可以用 SPOOL导出文本数据方法生成。
SQL*PLUS环境设置
SET NEWPAGE NONE HEADING OFF SPACE 0
PAGESIZE 0 SET TRIMOUT ON TRIMSPOOL ON LINESIZE 2500
注：LINESIZE 要稍微设置大些，免得数据被截断，它应和相应的 TRIMSPOOL结合使用防止导出的文本有太多的尾部空格。
但是如果 LINESIZE 设置太大，会大大降低导出的速度，另外在 WINDOWS下导 出最好不要用 PLSQL导出，速度比较慢，直接用 COMMEND 下的 SQLPLUS命令最 小化窗口执行。对于字段内包含很多回车换行符的应该给与过滤，形成比较规矩的文本 文件。
通常情况下，我们使用 SPOOL方法，将数据库中的表导出为文本文件，如下述：
set trimspool on
set linesize 120 pagesize 2000 newpage 1 heading off term off spool 路径+文件名
select col1||'，'||col2||'，'||col3||'，'||col4||'……' from tablename；
spool off
2.3 脚本
1. 将表中数据记录导出为字段值用分隔符'|'分开的。dat文件
#！/bin/ksh
##################################################################
## 名称： unloadtable
## 功能： 本 shell 用于将表中数据记录导出
## 导出为字段值用分隔符'|'分开的。dat文件
## 编者：
## 日期： 2006.03.18
##################################################################
if [ $# -ne 3 ]
then echo "usage：unloadtable tablename username password."
exit 0
fi
##准备工作
echo "set heading off " >/tmp/$1.col
echo "set pagesize 0" >>/tmp/$1.col
echo "set linesize 800 " >>/tmp/$1.col
echo "set feedback off " >>/tmp/$1.col
echo "set tab off " >>/tmp/$1.col
echo "select column_name||'，' from user_tab_columns where lower（table_name）='$1' order by
column_id； " >> /tmp/$1.col
##产生 select 语句
echo "set heading off " >/tmp/$1.sel
echo "set pagesize 0" >>/tmp/$1.sel
echo "set linesize 800 " >>/tmp/$1.sel
echo "set feedback off " >>/tmp/$1.sel
echo "set tab off " >>/tmp/$1.sel
echo "select " >>/tmp/$1.sel
echo `sqlplus -s $2/$3 < /tmp/$1.col` |sed "s/，/||'|'||/g" |sed "s/||$//g"|sed "s/date/\"date\"/g"
>>/tmp/$1.sel
##生成 dat文件
#echo "from $1；\n/" >>/tmp/$1.sel 由于 / 导致多执行一次 select
echo "from $1；\n" >>/tmp/$1.sel
sqlplus -s $2/$3 < /tmp/$1.sel >$1_tmp.dat
#awk '{if（FNR！=1） print $0}' $1_tmp.dat >$1.dat FNR 选项使得第一条记录选不出
awk '{print $0}' $1_tmp.dat >$1.dat
rm -f $1_tmp.dat
2. 将数据导入到相应表中
#！/bin/ksh
##################################################################
## 名称：loadtable
## 功能：本 shell 用于将已经准备好的。dat数据文件导入相应的表中
## .dat 文件各个字段值用分隔符'|'分开。
## 编者：
## 日期： 2006.03.18
##################################################################
if [ $# -ne 3 ]
then
echo "usage：loadtable tablename username password." exit 0 fi
##准备工作
echo "set heading off " >/tmp/$1.colsql
echo "set pagesize 0" >>/tmp/$1.colsql
echo "set linesize 800 " >>/tmp/$1.colsql
echo "set feedback off " >>/tmp/$1.colsql
echo "set tab off " >>/tmp/$1.colsql
echo "select column_name||'，' from user_tab_columns where lower（table_name）='$1' order by
column_id； " >> /tmp/$1.colsql
##产生 ctl文件
echo "load data" >/tmp/$1.ctl
echo "infile *" >>/tmp/$1.ctl
echo "into table $1" >>/tmp/$1.ctl
echo "fields terminated by '|'" >>/tmp/$1.ctl
echo `sqlplus -s $2/$3 < /tmp/$1.colsql` |sed "s/，$/）/g" |sed "s/^/（/g" >>/tmp/$1.ctl
##开始导入数据
echo "truncate table $1；" >/tmp/$1.sql
sqlplus $2/$3 < /tmp/$1.sql
sqlldr $2/$3 data=$1.dat control=/tmp/$1.ctl log=/tmp/$1.log
