sed命令详解+示例

sed命令解析

sed（Stream EDitor）,流式编辑器

非交互式，基于模式匹配过滤及修改文本           //类比：Vim是一个交互的编辑器

逐行处理，并将结果输出到屏幕

可实现对文本的输出、删除、替换、复制、剪切、导入、导出等各种操作

语法格式：

格式1：前置命令 | sed  [选项]   '[定址符]处理动作’

格式2：sed [选项]   '[定址符]处理动作’文件...

常见命令选项

-i：直接修改文件内容

-n：屏蔽默认输出（全部文本）

-r：启用扩展的正则表达式，若与其他选项一起使用，应作为首个选项

-{}：可组合多个命令，以分号分隔

定址符，即[地址1，[地址2]]

用来指定处理的起、止行数

省略定址符时，默认逐行处理全部文本

“编辑指令”可以为增删改查等指令

“定址符”用来定义需要操作的文本，由“[地址1 [,地址2]]组成

地址可表示为文本的“行号”，或者用来匹配的“/正则表达式/”

正常情况下，sed命令所做的处理只是把操作结果（包括打印、删除等）输出到当前终端屏幕，而并不会对原始文件做任何更改。若希望直接修改文件内容，应添加选项 -i 。为了避免生产环境中因误操作导致系统故障，使用时要谨慎。

给文件添加行号并另存： # cat -n /etc/rc.local > rclocal.txt

基本的处理动作

操作符	用途	指令示例	解释
p	打印行 print	2，4p	输出第2－4行
		2p,4p	输出第2行、第4行
d	删除行 delete	2,4d	删除第2－4行
s	字符串替换 substitution	s/old/new/	将每行的第1 个old替换为new
		s/old/new/3	将每行的第3 个old替换为new
		s/old/new/g	将所有的old都替换为new

替换担任的分隔“/”，可改用其他字符，如＃、＆等，便于修改文件路径

示例：把/bin/bash替换为/sbin/sh (/etc/passwd)

# sed "s/\/bin\/bash/\/sbin\/sh/" /etc/passwd   也可写成

# sed "s#/bin/bash#/sbin/sh#" /etc/passwd

 sed "s9\98\97\99\984\9\98\99g" 文件 ：将98979－－－》9849989

在这里9是特殊符号，加\屏蔽特殊含义

常见处理操作示例

操作	示例	含义解析
输出文本	sed '1p' a.txt   或 sed -n 'p' a.txt	输出所有行，等同于cat a.txt
	sed -n '1p' a.txt	输出第1行
	sed -n '4p' a.txt	输出第4行
	sed -n '$p' a.txt
	sed -n '5,$p' a.txt	从第5行输出到最后一行
	sed -n '4,7p' a.txt	输出第4～7行
	sed -n '4,+10p' a.txt	输出第4行及其后的10行内容，共11行
	sed -n '2p;5p;7p' a.txt sed -n '{2p;5p;7p}' a.txt	输出第2,5,7行       用分号来隔离多个操作（如果有定址条件，则应该使用{ }括起来）
	sed -n '/a/p' a.txt
	sed -n '/A/p' a.txt
	sed -n '/^id/p' a.txt	列出以id开头的行：
	sed -n '/^a/p;/^r/p' a.txt
	sed -n '/local$/p' a.txt	输出以local结尾的行
	sed -n 'p;n' a.txt	输出奇数行，n表示读入下一行文本（隔行）next
	sed -n 'n;p' a.txt	输出偶数行，n表示读入下一行文本（隔行）
	sed -n '$=' a.txt	输出文件的行数，     wc -l返回行数及文件名
删除文本	sed  'd' a.txt	删除所有
	sed  '$d' a.txt	删除文件的最后一行
	sed  '/^$/d' a.txt	删除所有空行
	sed  '1d' a.txt	删除第1行
	sed  '2,5d' a.txt	删除第2～5行
	sed  '5d;7d;9d' a.txt	删除第5、7、9行
	sed '/init/d;/bin/d' a.txt	删除所有包含“init”及“bin”的行
	sed  '/[0-9]/d' a.txt
	sed  '/^#/d' a.txt
	sed  '/^s/d' a.txt
	sed -i  '/^s/d' a.txt	直接删除
	sed  '/^install/d' a.txt	删除以install开头的行
	sed  '/xml/d' a.txt	删除所有包含xml的行，只作输出，不更改原文件，若需要更改，应添加选项-i
	sed  '/xml/！d' a.txt等效于 sed -n '/xml/p' a.txt	删除不包含xml的行，！符号表示取反
替换文本	sed 's/xml/XML/' a.txt	将每行中第1个xml替换为XML
	sed 's/xml/XML/3' a.txt	将每行中第3个xml替换为XML，只作输出，不更改原文件（若需要更改，应添加选项-i）
	sed '2s/xml/XML/3' a.txt	将第2行中第3个xml替换为XML，只作输出，不更改原文件（若需要更改，应添加选项-i）
	sed 's/xml/XML/g' a.txt	将所有的xml都替换为XML
	sed 's/xml//g' a.txt	将所有的xml都删除（替换为空串）
	sed 's/doc/＆s/g' a.txt	将所有的doc都替换为docs，＆代表查找串
	sed '4,7s/^/#/' a.txt	将第4～7行注释掉（行首加#号）
	sed '3,5s/^#//' a.txt	解除文件第3~5行的注释（去掉开头的 # ）
	sed 's/^#an/an/' a.txt	解除以＃an开头的行的注释（去除行首的＃号）
	sed 's/xml\|XML\|e//g' a.txt	删除所有的“xml”、所有的“XML”、所有的字母e，或者的关系用转义方式 \| 来表示

综合运用

1）删除文件中每行的第二个、最后一个字符

分两次替换操作，第一次替换掉第2个字符，第二次替换掉最后一个字符：

# sed 's/.//2;s/.$//' nssw.txt 

2）将文件中每行的第一个、第二个字符互换

每行文本拆分为“第1个字符”、“第2个字符”、“剩下的所有字符”三个部分，然后通过替换操作重排顺序为“2-1-3”：# sed -r 's/^(.)(.)(.*)/\2\1\3/' nssw.txt

3)将第一个字符与最后一字符对调:sed -r “s/^(.)( .*)(.)$/\3\2\1/” nssw.txt

将第一个字符与最后一字符对调:sed -r "s/^(.)(.)(.*)(.)(.)$/\1\4\3\2\5/" nssw.txt

4）删除文件中所有的数字、行首的空格

因原文件内没有数字，行首也没有空格，这里稍作做一点处理，生成一个新测试文件：

# sed 's/o/o7/;s/l/l4/;3,5s/^/  /' nssw.txt > nssw2.txt

# cat nssw2.txt

以nssw2.txt文件为例，删除所有数字、行首空格的操作如下：

# sed -r 's/[0-9]//g;s/^( )+//' nssw2.txt

5）为文件中每个大写字母添加括号：

# sed 's/[A-Z]/(&)/g' nssw.txt        //使用“&”可调用s替换操作中的整个查找串

或者 # sed -r "s/([A-Z])/(\1)/g"  nssw.txt

示例：修改默认运行级别

# sed -i '/^id:/s/3/5/' /etc/inittab            //将默认运行级别修改为5

# grep "^id:" /etc/inittab                      //确认修改结果

示例：修改IP地址（网段）：修改IP地址的网段部分，主机地址不变。

直接修改网卡eth0的配置文件，检查原有的配置内容：

# cat /etc/sysconfig/network-scripts/ifcfg-eth0

IPADDR=192.168.4.4

若希望将IP地址192.168.4.4修改为172.16.16.4，则应该定位到“IPADDR”所在的行，执行相应的替换（仅测试，尚未修改）：

# sed '/^IPADDR/s/192.168.4.4/172.16.16.4/' \

  /etc/sysconfig/network-scripts/ifcfg-eth0 | grep "^IPADDR"

要求只修改网段地址时，可以利用扩展正则表达式的 \1、\2、……等调用，分别对应此前第1个、第2个、…… 以 ()包围的表达式所匹配的内容。

所以上述操作可以改为如下（启用扩展匹配应添加 -r 选项）：

# sed -r -i '/^IPADDR/s/192.168.4.(.*)/172.16.16.\1/' \

/etc/sysconfig/network-scripts/ifcfg-eth0

确认修改结果：# grep "^IPADDR" /etc/sysconfig/network-scripts/ifcfg-eth0

示例：调整httpd服务配置，更改网站根目录

由于需要替换的字符串中有 / ，为了避免与sed替换操作的分隔混淆，可以使用其他字符作为替换分隔，比如可改用“s#old#new#”的方式实现替换：

# sed -i 's#/var/www/html#/opt/wwwroot#' \

/etc/httpd/conf/httpd.conf

# grep "^DocumentRoot" /etc/httpd/conf/httpd.conf

DocumentRoot "/opt/wwwroot"

 

示例：修改/etc/hosts  ：sed -i ‘1a 1.1.1.1 域名’ /etc/hosts

示例：装配匿名FTP服务

通过yum安装vsftpd软件包；修改vsftpd服务配置，开启匿名上传；调整/var/ftp/pub目录权限，允许ftp写入；启动vsftpd服务，并设置开机自运行

1）任务需求及思路分析

vsftpd服务的安装、改目录权限、起服务等操作可以直接写在脚本中。

修改vsftpd.conf配置的工作可以使用sed命令，根据默认配置，只需要定位到以#anon开头的行，去掉开头的注释即可。

2）根据实现思路编写脚本文件

#!/bin/bash

yum -y install vsftpd                             //安装vsftpd软件

cp /etc/vsftpd/vsftpd.conf{,.bak}                  //备份默认的配置文件

sed -i "/^#anon/s/^#//" /etc/vsftpd/vsftpd.conf      //修改服务配置

chown ftp /var/ftp/pub                              //调整目录权限

/etc/init.d/vsftpd restart                          //启动服务

chkconfig vsftpd on                                  //设为自动运行

# chmod +x anonftp.sh

3）验证、测试脚本

运行脚本anonftp.sh：  

# ./anonftp.sh

使用ftp登录服务，测试是否可以上传：

# ftp localhost                          //本机访问测试

……

Name (localhost:root): ftp                          //匿名登录

……

ftp> cd pub                                          //切换到 pub/ 目录

……

ftp> put install.log                   //上传当前目录下的install.log 文件

……

ftp> quit                                          //断开FTP连接

查看/var/ftp/pub新上传的文件：# ls -lh /var/ftp/pub/

示例：clone-vm7脚本

#!/bin/bash

# exit code: 

#    65 -> user input nothing

#    66 -> user input is not a number

#    67 -> user input out of range

#    68 -> vm disk image exists

IMG_DIR=/var/lib/libvirt/images

BASEVM=rh7_template

ROOM=`sed  -n "1p" /etc/hostname |  sed -r 's/(room)([0-9]{1,})(.*)/\2/'`

if [ $ROOM -le 9 ];then

ROOM=0$ROOM

fi

IP=`sed  -n "1p" /etc/hostname |   sed -r 's/(.*)([0-9]+)(.*)/\2/'`

read -p "Enter VM number: " VMNUM

if [ $VMNUM -le 9 ];then

VMNUM=0$VMNUM

fi

 

if [ -z "${VMNUM}" ]; then

    echo "You must input a number."

    exit 65

elif [ $(echo ${VMNUM}*1 | bc) = 0 ]; then

    echo "You must input a number."

    exit 66

elif [ ${VMNUM} -lt 1 -o ${VMNUM} -gt 99 ]; then

    echo "Input out of range"

    exit 67

fi

 

NEWVM=rh7_node${VMNUM}

 

if [ -e $IMG_DIR/${NEWVM}.img ]; then

    echo "File exists."

    exit 68

fi

 

echo -en "Creating Virtual Machine disk image......\t"

qemu-img create -f qcow2 -b $IMG_DIR/.${BASEVM}.img $IMG_DIR/${NEWVM}.img &> /dev/null

echo -e "\e[32;1m[OK]\e[0m"

 

#virsh dumpxml ${BASEVM} > /tmp/myvm.xml

cat /var/lib/libvirt/images/.rhel7.xml > /tmp/myvm.xml

sed -i "/${BASEVM}/s/${BASEVM}/${NEWVM}/" /tmp/myvm.xml

sed -i "/uuid/s/.*<\/uuid>/$(uuidgen)<\/uuid>/" /tmp/myvm.xml

sed -i "/${BASEVM}\.img/s/${BASEVM}/${NEWVM}/" /tmp/myvm.xml

 

sed -i "/mac /s/a1/${ROOM}/" /tmp/myvm.xml

sed -i "/mac /s/a2/${IP}/" /tmp/myvm.xml

sed -i "/mac /s/a3/${VMNUM}/" /tmp/myvm.xml

 

sed -i "/mac /s/b1/${ROOM}/" /tmp/myvm.xml

sed -i "/mac /s/b2/${IP}/" /tmp/myvm.xml

sed -i "/mac /s/b3/${VMNUM}/" /tmp/myvm.xml

 

sed -i "/mac /s/c1/${ROOM}/" /tmp/myvm.xml

sed -i "/mac /s/c2/${IP}/" /tmp/myvm.xml

sed -i "/mac /s/c3/${VMNUM}/" /tmp/myvm.xml

 

sed -i "/mac /s/d1/${ROOM}/" /tmp/myvm.xml

sed -i "/mac /s/d2/${IP}/" /tmp/myvm.xml

sed -i "/mac /s/d3/${VMNUM}/" /tmp/myvm.xml

 

echo -en "Defining new virtual machine......\t\t"

virsh define /tmp/myvm.xml &> /dev/null

echo -e "\e[32;1m[OK]\e[0m"

sed文本块处理

操作符	用途	指令示例	指令解析
i insert	行前插入文本	2iYY	在第2行之前添加文本行“YY”
		4,7iYY	在第4～7行的第一行前添加文本行
a append	行后插入文本	2aYY	在第2行之后添加文本
		/^XX/aYY	在以XX开头的行之后添加文本
c change	替换当前行	2cYY	将第2 行的内容修改为“YY”

处理多行文本：修改后的文本有多行时，以换行符\n分隔，或使用\强制换行

示例：修改主机名配置文件

1）确认修改前的配置 # cat /etc/sysconfig/network

2）使用sed修改主机名配置所在行的内容（c整行替换）

# sed  '/^HOSTNAME/cHOSTNAME=mysvr.tarena.com' /etc/sysconfig/network 

示例：修改hosts文件，添加新的记录

1）确认修改前的配置 # cat /etc/hosts

2）使用sed修改hosts文件，添加两行新纪录（a追加）

# sed  -i  '$a192.168.4.5  svr5.tarena.com svr5\

> 119.75.217.56  www.baidu.com' /etc/hosts

文件导入导出操作

基本动作：r动作应结合-i选项才会存入，否则只输出

  W动作以覆盖的方式另存为新文件

操作符	用途	指令示例	指令解析
r	读取文件	3r b.txt	在第3行下方插入文件b.txt
		4,7r b.txt	在第4～7每一行后插入文件b.txt
w	保存到文件	3w c.txt	将第3行另存为文件c.txt
		4,7w c.txt	将第4～7行另存为文件c.txt

sed -n ‘/^XX/w d.txt’ reg.txt 与sed -n ‘/^XX/p d.txt’ reg.txt > d.txt操作效果相同

 

sed复制剪切

模式空间：存放当前处理的行，将处理结果输出

  若当前行不符合处理条件，则原样输出

          处理完当前行再读入下一行来处理

保持空间：作用类似于“剪贴板”

  默认存放一个空行（换行符\n）

基本动作：

复制：H：模式空间---[追加]--->保持空间

          h：模式空间---[覆盖]--->保持空间

粘贴：G：保持空间---[追加]--->模式空间

      g：保持空间---[覆盖]--->模式空间

示例：把第1－3行复制到文件末尾：sed ‘1,3H;$G’a.txt

 改用’1h;2,3H;$G’可避免出现空行  （出现空行的原因是保持空间内默认已有一个空行)

示例：把第2行复制第4行：# sed '2H;4G' a.txt 追加出现空行

                          # sed '2h;4G' a.txt 不要空行

示例：把第1行剪切到文件末尾：sed ‘1h,1d;$G’a.txt

  把第1-2行剪切到文件末尾：sed ‘1h；2H；1，2d;$G’a.txt

 

sed流控制

！取反操作 ——根据定址条件取反

示例：把/etc/passwd中能登录的用户及其密码(/etc/shadow)提取出来

找到使用bash作登录Shell的本地用户;列出这些用户的shadow密码记录

按每行“用户名 --> 密码记录”保存到getupwd.log

基本思路如下：

1.先用sed工具取出登录Shell为/bin/bash的用户记录，保存为临时文件/tmp/urec.tmp，并计算记录数量

2.再结合while循环遍历取得的账号记录，逐行进行处理

3.针对每一行用户记录，采用掐头去尾的方式获得用户名、密码字串

4.按照指定格式追加到/tmp/getuupwd.log文件

5.结束循环后删除临时文件，报告分析结果

示例：列出不使用bash的用户帐号记录：

# sed -n '/bash$/!p' /etc/passwd

# sed -n '/bash$/s/:.*//p' /etc/passwd

# sed -n '/:\/bin\/bash$/w /tmp/urec.tmp' /etc/passwd 

 

方法一：

#/bin/bash

> /tmp/getupwd.log                                     ## 创建空文件

sed -n '/:\/bin\/bash$/w /tmp/urec.tmp' /etc/passwd   ## 提取符合条件的账号记录

UNUM=$(egrep -c '.' /tmp/urec.tmp)                   ## 取得记录个数

while [ ${i:=1} -le $UNUM ]                     ## 从第1行开始，遍历账号记录

do

    UREC=$(sed -n "${i}p" /tmp/urec.tmp)              ## 取指定行数的记录

    NAME=${UREC%%:*}                                 ## 截取用户名（记录去尾）

    PREC=$(sed -n "/^$NAME:/p" /etc/shadow)      ## 查找与用户名对应的密码记录

    PASS=${PREC#*:}                                  ## 掐头

    PASS=${PASS%%:*}                                ## 去尾，只留下密码记录

    echo "$NAME --> $PASS" >> /tmp/getupwd.log         ## 保存结果

    let i++                                           ## 自增1，转下一次循环

done

/bin/rm -rf /tmp/urec.tmp                           ## 删除临时文件

echo "用户分析完毕，请查阅文件 /tmp/getupwd.log"         ## 完成后提示

# chmod +x ./getupwd.sh 

步骤二：测试、验证执行结果   # ./getupwd.sh     

用户分析完毕，请查阅文件     # less /tmp/getupwd.log 

方法二：

#/bin/bash

NAME=`sed -n "/bash$/s/:.*//p" /etc/passwd`    ## 截取用户名（记录去尾）

for i in $NAME

do                           

    pass1=`grep $i /etc/shadow`              ## 查找与用户名对应的密码记录

    pass2=${pass1#*:}                           ## 掐头

    PASS=${pass2%%:*}                           ## 去尾，只留下密码记录

    echo "$i ---> $PASS"  >>/tmp/getupwd.log

done

echo "用户分析完毕，请查阅文件 /tmp/getupwd.log"       ## 完成后提示

    从上述参考脚本可以发现，使用sed来实现字段提取会比较复杂。下一章课程将会学到awk命令，届时可以通过更简单的方法来改进此脚本内容。

 

 

示例：将日志按最后的时间降序排列

练习用数据，先创建一个文本data.txt，将数据复制进去：

2018-12-24T02:00:45.586+0800 I COMMAND  [conn24809] command shinemonitor.CollDevice command: find { find: "CollDevice", filter: { pn: { $in: [ "B0016480016385", "B0716471013985", "B0716471023384", "B0716471030050", "B0716471049514", "B0716471059334", "B0716471069304", "B0716471078243", "B0716471080711" ]   protocol:op_query 4613ms
2018-12-24T02:00:45.584+0800 I COMMAND  [conn19808] command shinemonitor.CollUsr command: find { find: "CollUsr", filter: { uid: 38882   protocol:op_query 4612ms
2018-12-24T02:00:45.584+0800 I COMMAND  [conn19771] command shinemonitor.CollDevice command: find { find: "CollDevice", filter: { pn: "H4918090264369", devcode: 742, devaddr: 1, sn: "102108771809038", extra.uid: 9201, dts: { $exists: false   protocol:op_query 4580ms
2018-12-24T02:00:45.585+0800 I COMMAND  [conn24811] command shinemonitor.CollPlant command: find { find: "CollPlant", filter: { pid: 41532   protocol:op_query 4549ms
2018-12-24T02:00:45.585+0800 I COMMAND  [conn19825] command shinemonitor.CollPlant command: find { find: "CollPlant", filter: { pid: 42225   protocol:op_query 4540ms
2018-12-24T02:00:45.584+0800 I COMMAND  [conn19773] command shinemonitor.CollPlant command: find { find: "CollPlant", filter: { pid: 45122   protocol:op_query 4537ms
2018-12-24T02:00:45.584+0800 I COMMAND  [conn8] command shinemonitor.CollTempFile command: find { find: "CollTempFile", filter: { w: true   protocol:op_query 4519ms
2018-12-24T02:00:45.585+0800 I COMMAND  [conn19801] command shinemonitor.CollPlant command: find { find: "CollPlant", filter: { uid: 38882   protocol:op_query 4164ms
 

命令：sed -r 's/(.*) ([0-9]*ms$)/\2 \1/' a.txt | sort -nr | sed  -r 's/([0-9]*ms) (.*$)/\2 \1/'