shell之正则表达式及三剑客sed命令

目录

一、sed介绍

二、sed常见用法

1、常见的 sed 命令选项

2、常见的sed操作指令

三、sed案例

1、sed -n 用法

2、sed -e 用法

3、sed结合正则表达式输出指定行

4、删除符合条件的文本(d)

5、插入符合条件的行

6、字符串替换

7、先备份在修改数据 

四、迁移符合条件的文本

五、使用脚本编辑文件

六、sed分组

总结


一、sed介绍

sed(Stream EDitor)是一个强大而简单的文本解析转换工具,可以读取文本,并根据指定的条件对文本内容进行编辑(删除、替换、添加、移动等),最后输出所有行或者仅输出处理的某些行。sed 也可以在无交互的情况下实现相当复杂的文本处理操作,被广泛应用于 Shell 脚本中,用以完成各种自动化处理任务。

sed 的工作流程主要包括读取、执行和显示三个过程。
读取:sed 从输入流(文件、管道、标准输入)中读取一行内容并存储到临时的缓冲区中(又称模式空间,patternspace)。
执行:默认情况下,所有的 sed 命令都在模式空间中顺序地执行,除非指定了行的地址,否则 sed 命令将会在所有的行上依次执行。
显示:发送修改后的内容到输出流。再发送数据后,模式空间将会被清空。
在所有的文件内容都被处理完成之前,上述过程将重复执行,直至所有内容被处理完。

注意:默认情况下,所有的 sed 命令都是在模式空间内执行的,因此输入的文件并不会发生任何变化,除非是用重定向存储输出。

二、sed常见用法

通常情况下调用sed命令有两种格式,如下所示。其中,“参数”是指操作的目标文件,当存在多个操作对象时,文件之间用逗号“,”分隔;而scriptfile表示脚本文件,需要用“-f”选项指定,当脚本文件出现在目标文件之前时,表示通过指定的脚本文件来处理输入的目标文件

sed  [选项]   '操作'   参数

sed  [选项]  -f scriptfile 参数

1、常见的 sed 命令选项

选项 功能
-e 表示用指定命令或者脚本来处理输入的文本文件
-f 表示用指定的脚本文件来处理输入的文本文件
-h 显示帮助
-n 表示仅显示处理后的结果(关闭自动打印)
-i 直接编辑文本文件
-r或-E 使用扩展正则表达式
-s 将多个文件视为独立文件,而不是单个连续的长文件流

2、常见的sed操作指令

“操作”用于指定对文件操作的动作行为,也就是 sed 的命令。通常情况下是采用的“[n1[,n2]]”操作参数的格式。n1、n2 是可选的,不一定会存在,代表选择进行操作的行数,如操作需要在 5~20 行之间进行,则表示为“5,20 动作行为”。常见的操作包括以下几种。

a 增加,在当前行下面增加一行指定内容
c 替换,将选定行替换为指定内容
d 删除,删除选定的行
i 插入,在选定行上面插入一行指定内容
p 打印如果同时指定行,表示打印指定行;如果不指定行,则表示打印所有内容;如果有非打印字符,则以 ASCII 码输出。其通常与“-n”选项一起使用
s 替换,替换指定字符
y 字符转换

三、sed案例

1、sed -n 用法

sed '3p' 2.txt   第3行自动打印

shell之正则表达式及三剑客sed命令_第1张图片

sed -n "3p" 3.txt  等同于 cat test.txt             sed -n 关闭自动打印

shell之正则表达式及三剑客sed命令_第2张图片

 sed -n "2,5p" test.txt    #输出第2到5行的内容

 输出所有奇数行,n 表示读入下一行资料   sed -n "p;n" 3.sh         p;n

shell之正则表达式及三剑客sed命令_第3张图片

 输出偶数行     sed -n "n;p" 3.sh

shell之正则表达式及三剑客sed命令_第4张图片

输出1-5行的奇数行

shell之正则表达式及三剑客sed命令_第5张图片

sed -n '1,5{1~2p}' 3.sh  输出1-5行的奇数行           sed -n '{1~2p}' 3.sh 

shell之正则表达式及三剑客sed命令_第6张图片

sed -n '1,5{2~2p}' 3.sh  输出1-5行的偶数行            sed -n '{2~2p}' 3.sh 

shell之正则表达式及三剑客sed命令_第7张图片

输出第10行到文件尾的偶数行  sed -n '10,${n;p}' 3.sh

 shell之正则表达式及三剑客sed命令_第8张图片

 sed -n "1,+3p" 3.sh     从第1行开始连续输出1-4行

shell之正则表达式及三剑客sed命令_第9张图片

2、sed -e 用法

sed命令可以不只包含一个命令。如果要包含多个命令,只需要每个命令前加上一个 -e 选项即可

shell之正则表达式及三剑客sed命令_第10张图片

 注意:-e选项的后面要接命令内容,不允许再夹杂其它选项

3、sed结合正则表达式输出指定行

sed 命令结合正则表达式时,格式略有不同,正则表达式以 “/” 包围。

:如果遇到特殊符号的情况,扩展正则还需要转义字符“\”。

①sed -n '/the/p' test.txt            输出包含the的行

 ②输出从第四行开始包含the的行         sed -n '4,/the/p' test.txt

shell之正则表达式及三剑客sed命令_第11张图片

③输出包含the 的行所在的行号,等号(=)用来输出行号 

shell之正则表达式及三剑客sed命令_第12张图片

④输出以PI 开头的行   sed -n '/^PI/p' test.txt 

 ⑤输出以数字结尾的行  sed -n '/[0-9]$/p' test.txt

 ⑥输出包含单词wood 的行,\<、\>代表单词边界   sed -n '/\/p' test.txt

4、删除符合条件的文本(d)

①nl test.txt | sed '3d'     或者     sed  '3d'  test.txt   或者sed -i '3d' test.txt

#-i会对文本直接进行修改

#删除第三行

shell之正则表达式及三剑客sed命令_第13张图片

 ②删除第 3~5 行且显示行号   nl test.txt | sed '3,5d'

shell之正则表达式及三剑客sed命令_第14张图片

 ③ //删除包含cross 的行,原本的第 8 行被删除

//删除不包含the 的行,用  !  符号表示取反操作,如'/the/!d'

shell之正则表达式及三剑客sed命令_第15张图片

 ④删除以小写字母开头的行  sed '/^[a-z]/d' test.txt

shell之正则表达式及三剑客sed命令_第16张图片

 ⑤删除以 "." 结尾的行    sed '/\./d' test.txt

shell之正则表达式及三剑客sed命令_第17张图片

 ⑥删除所有空行    sed '/^$/d' test.txt

shell之正则表达式及三剑客sed命令_第18张图片

注意: 若是删除重复的空行,即连续的空行只保留一个, 执行“ sed –e ‘/^$/{n;/^$/d}’test.txt”命令即可实现。其效果与“cat -s test.txt”相同,n 表示读下一行数据。

5、插入符合条件的行

①在某行下添加XX    i  的用法

在第2行上插入你好          sed '2i 你好' test.txt

shell之正则表达式及三剑客sed命令_第19张图片

在含有the行上加一行 你好    sed '/the/i 你好' test.txt

shell之正则表达式及三剑客sed命令_第20张图片

②在某行上添加     a  的用法

在含有张三的行下增加一行  你好啊    cat -n 2.txt | sed '/张三/a 你好啊'

shell之正则表达式及三剑客sed命令_第21张图片

nl 2.txt | sed '2a 你好\n大家好'    在第2行后面插入多行,\n表示换行

shell之正则表达式及三剑客sed命令_第22张图片

 在第2行下增加一行   你好啊                       cat -n 2.txt | sed '2a 你好啊'

shell之正则表达式及三剑客sed命令_第23张图片

③ 替换  c 的用法

第1行替换为大家好    sed '1c 大家好' 2.txt

shell之正则表达式及三剑客sed命令_第24张图片

6、字符串替换

sed 's/the/THE' test.txt              #将每行中的第一个the替换为THE

shell之正则表达式及三剑客sed命令_第25张图片

sed ‘s/l/L/2’ test.txt          #将每行的第二个l替换为L

shell之正则表达式及三剑客sed命令_第26张图片

sed 's/the/THE/g' test.txt  #将文件中所有的the都替换为THE

shell之正则表达式及三剑客sed命令_第27张图片

 sed 's/o/ /g' test.txt    #将所有的o都替换为空字符

shell之正则表达式及三剑客sed命令_第28张图片

  sed 's/^/#/' test.txt  #将所有行前面都加个#shell之正则表达式及三剑客sed命令_第29张图片

sed '/the/s/^/#/' test.txt    #将包含the的行前面加个#

shell之正则表达式及三剑客sed命令_第30张图片

 sed '3,5s/the/THE/g' test.txt        #将3-5行中的the替换为THE

shell之正则表达式及三剑客sed命令_第31张图片

 sed '/the/s/o/A/g' test.txt    #将包含the的行中的o替换为A

shell之正则表达式及三剑客sed命令_第32张图片

7、先备份在修改数据 

sed -i.bak 's/SELINUX=disable/SELINUX=enfocing/' 10

shell之正则表达式及三剑客sed命令_第33张图片

四、迁移符合条件的文本

迁移文本的参数
H: 复制到剪贴板;
g、G: 将剪贴板中的数据覆盖/追加至指定行;
w:保存为文件;
r:读取指定文件;
a:追加指定内容。具体操作方法如下所示。
I,i 忽略大小写

sed '/the/{H;d};$G'  test.txt  #包含the的行迁移至文件末尾,{;}用于多个操作

shell之正则表达式及三剑客sed命令_第34张图片

 sed '1,3/{H;d};6G' test.txt  #将1-3行内容迁移追加到6行后

shell之正则表达式及三剑客sed命令_第35张图片

sed '/张三/w 11' 6.txt 将包含张三的行保存带新建文件11中

shell之正则表达式及三剑客sed命令_第36张图片

sed '/the/r 3.txt' 2.txt  将文件3.txt 的内容添加到包含 the 的每行以后

shell之正则表达式及三剑客sed命令_第37张图片

五、使用脚本编辑文件

使用 sed 脚本将多个编辑指令存放到文件中(每行一条编辑指令),通过 “-f ” 选项来调用

如下操作等于sed '1,3{H;d};5G' 2.txt

shell之正则表达式及三剑客sed命令_第38张图片

 注意:以上除了查看固定多少行的内容,其他所有的操作加上 "-i " 选项,才能真正的对文本进行编辑,不然只能看到操作后的结果,并不能直接对文本能让修改。

shell之正则表达式及三剑客sed命令_第39张图片

六、sed分组

sed -rn 's/(.*)(.*)(.*)/\1/p'

shell之正则表达式及三剑客sed命令_第40张图片

name=root
echo $name
sed -n '/' $name '/p' 12   输出变量值所在行

shell之正则表达式及三剑客sed命令_第41张图片

 提取数字版本号

shell之正则表达式及三剑客sed命令_第42张图片

 提取文件名

总结

sed命令,主要用于修改配置文件中的内容,通过-i 选项,可以使得文件修改内容生效。可以结合正则表达式进行一些复杂的修改,在一键部署各种服务中,可以实现免交互,直接进行修改。

你可能感兴趣的:(linux,运维,服务器)