shell之正则表达式及三剑客sed命令
目录
一、sed介绍
二、sed常见用法
1、常见的 sed 命令选项
2、常见的sed操作指令
三、sed案例
1、sed -n 用法
2、sed -e 用法
3、sed结合正则表达式输出指定行
4、删除符合条件的文本（d）
5、插入符合条件的行
6、字符串替换
7、先备份在修改数据
四、迁移符合条件的文本
五、使用脚本编辑文件
六、sed分组
总结
一、sed介绍
sed（Stream EDitor）是一个强大而简单的文本解析转换工具，可以读取文本，并根据指定的条件对文本内容进行编辑（删除、替换、添加、移动等），最后输出所有行或者仅输出处理的某些行。sed 也可以在无交互的情况下实现相当复杂的文本处理操作，被广泛应用于 Shell 脚本中，用以完成各种自动化处理任务。
sed 的工作流程主要包括读取、执行和显示三个过程。
读取：sed 从输入流（文件、管道、标准输入）中读取一行内容并存储到临时的缓冲区中（又称模式空间，patternspace）。
执行：默认情况下，所有的 sed 命令都在模式空间中顺序地执行，除非指定了行的地址，否则 sed 命令将会在所有的行上依次执行。
显示：发送修改后的内容到输出流。再发送数据后，模式空间将会被清空。
在所有的文件内容都被处理完成之前，上述过程将重复执行，直至所有内容被处理完。
注意：默认情况下,所有的 sed 命令都是在模式空间内执行的，因此输入的文件并不会发生任何变化，除非是用重定向存储输出。
二、sed常见用法
通常情况下调用sed命令有两种格式，如下所示。其中，“参数”是指操作的目标文件，当存在多个操作对象时，文件之间用逗号“，”分隔；而scriptfile表示脚本文件，需要用“-f”选项指定，当脚本文件出现在目标文件之前时，表示通过指定的脚本文件来处理输入的目标文件
sed [选项] '操作' 参数
sed [选项] -f scriptfile 参数
1、常见的 sed 命令选项
| 选项 | 功能 |
|---|---|
| -e | 表示用指定命令或者脚本来处理输入的文本文件 |
| -f | 表示用指定的脚本文件来处理输入的文本文件 |
| -h | 显示帮助 |
| -n | 表示仅显示处理后的结果（关闭自动打印） |
| -i | 直接编辑文本文件 |
| -r或-E | 使用扩展正则表达式 |
| -s | 将多个文件视为独立文件，而不是单个连续的长文件流 |
2、常见的sed操作指令
“操作”用于指定对文件操作的动作行为，也就是 sed 的命令。通常情况下是采用的“[n1[,n2]]”操作参数的格式。n1、n2 是可选的，不一定会存在，代表选择进行操作的行数，如操作需要在 5～20 行之间进行，则表示为“5，20 动作行为”。常见的操作包括以下几种。
| a | 增加，在当前行下面增加一行指定内容 |
| c | 替换，将选定行替换为指定内容 |
| d | 删除，删除选定的行 |
| i | 插入，在选定行上面插入一行指定内容 |
| p | 打印，如果同时指定行，表示打印指定行；如果不指定行，则表示打印所有内容；如果有非打印字符，则以 ASCII 码输出。其通常与“-n”选项一起使用 |
| s | 替换，替换指定字符 |
| y | 字符转换 |
三、sed案例
1、sed -n 用法
sed '3p' 2.txt 第3行自动打印
sed -n "3p" 3.txt 等同于 cat test.txt sed -n 关闭自动打印
sed -n "2,5p" test.txt #输出第2到5行的内容
输出所有奇数行,n 表示读入下一行资料 sed -n "p;n" 3.sh p;n
输出偶数行 sed -n "n;p" 3.sh
输出1-5行的奇数行
sed -n '1,5{1~2p}' 3.sh 输出1-5行的奇数行 sed -n '{1~2p}' 3.sh
sed -n '1,5{2~2p}' 3.sh 输出1-5行的偶数行 sed -n '{2~2p}' 3.sh
输出第10行到文件尾的偶数行 sed -n '10,${n;p}' 3.sh
sed -n "1,+3p" 3.sh 从第1行开始连续输出1-4行
2、sed -e 用法
sed命令可以不只包含一个命令。如果要包含多个命令，只需要每个命令前加上一个 -e 选项即可
注意：-e选项的后面要接命令内容，不允许再夹杂其它选项
3、sed结合正则表达式输出指定行
sed 命令结合正则表达式时，格式略有不同，正则表达式以 “/” 包围。
注：如果遇到特殊符号的情况，扩展正则还需要转义字符“\”。
①sed -n '/the/p' test.txt 输出包含the的行
②输出从第四行开始包含the的行 sed -n '4,/the/p' test.txt
③输出包含the 的行所在的行号,等号(=)用来输出行号
④输出以PI 开头的行 sed -n '/^PI/p' test.txt
⑤输出以数字结尾的行 sed -n '/[0-9]$/p' test.txt
⑥输出包含单词wood 的行,\<、\>代表单词边界 sed -n '/\
4、删除符合条件的文本（d）
①nl test.txt | sed '3d' 或者 sed '3d' test.txt 或者sed -i '3d' test.txt
#-i会对文本直接进行修改
#删除第三行
②删除第 3~5 行且显示行号 nl test.txt | sed '3,5d'
③ //删除包含cross 的行,原本的第 8 行被删除
//删除不包含the 的行,用 ! 符号表示取反操作,如'/the/！d'
④删除以小写字母开头的行 sed '/^[a-z]/d' test.txt
⑤删除以 "." 结尾的行 sed '/\./d' test.txt
⑥删除所有空行 sed '/^$/d' test.txt
注意： 若是删除重复的空行，即连续的空行只保留一个， 执行“ sed –e ‘/^$/{n;/^$/d}’test.txt”命令即可实现。其效果与“cat -s test.txt”相同，n 表示读下一行数据。
5、插入符合条件的行
①在某行下添加XX i 的用法
在第2行上插入你好 sed '2i 你好' test.txt
在含有the行上加一行 你好 sed '/the/i 你好' test.txt
②在某行上添加 a 的用法
在含有张三的行下增加一行 你好啊 cat -n 2.txt | sed '/张三/a 你好啊'
nl 2.txt | sed '2a 你好\n大家好' 在第2行后面插入多行，\n表示换行
在第2行下增加一行 你好啊 cat -n 2.txt | sed '2a 你好啊'
③ 替换 c 的用法
第1行替换为大家好 sed '1c 大家好' 2.txt
6、字符串替换
sed 's/the/THE' test.txt #将每行中的第一个the替换为THE
sed ‘s/l/L/2’ test.txt #将每行的第二个l替换为L
sed 's/the/THE/g' test.txt #将文件中所有的the都替换为THE
sed 's/o/ /g' test.txt #将所有的o都替换为空字符
sed 's/^/#/' test.txt #将所有行前面都加个#
sed '/the/s/^/#/' test.txt #将包含the的行前面加个#
sed '3，5s/the/THE/g' test.txt #将3-5行中的the替换为THE
sed '/the/s/o/A/g' test.txt #将包含the的行中的o替换为A
7、先备份在修改数据
sed -i.bak 's/SELINUX=disable/SELINUX=enfocing/' 10
四、迁移符合条件的文本
迁移文本的参数
H: 复制到剪贴板；
g、G: 将剪贴板中的数据覆盖/追加至指定行；
w：保存为文件；
r：读取指定文件；
a：追加指定内容。具体操作方法如下所示。
I,i 忽略大小写
sed '/the/{H;d};$G' test.txt #包含the的行迁移至文件末尾，{;}用于多个操作
sed '1,3/{H;d};6G' test.txt #将1-3行内容迁移追加到6行后
sed '/张三/w 11' 6.txt 将包含张三的行保存带新建文件11中
sed '/the/r 3.txt' 2.txt 将文件3.txt 的内容添加到包含 the 的每行以后
五、使用脚本编辑文件
使用 sed 脚本将多个编辑指令存放到文件中（每行一条编辑指令），通过 “-f ” 选项来调用
如下操作等于sed '1,3{H;d};5G' 2.txt
注意：以上除了查看固定多少行的内容，其他所有的操作加上 "-i " 选项，才能真正的对文本进行编辑，不然只能看到操作后的结果，并不能直接对文本能让修改。
六、sed分组
sed -rn 's/(.*)(.*)(.*)/\1/p'
name=root
echo $name
sed -n '/' $name '/p' 12 输出变量值所在行
提取数字版本号
提取文件名
总结
sed命令，主要用于修改配置文件中的内容，通过-i 选项，可以使得文件修改内容生效。可以结合正则表达式进行一些复杂的修改，在一键部署各种服务中，可以实现免交互，直接进行修改。