Shell_11_sed

一、sed工作流程

image

sed 是一种在线的、非交互式的编辑器，它一次处理一行内容。处理时，把当前处理的行存储在临时缓冲区
中，称为“模式空间”（pattern space），接着用sed命令处理缓冲区中的内容，处理完成后，把缓冲区的内容
送往屏幕。接着处理下一行，这样不断重复，直到文件末尾。文件内容并没有改变，除非你使用重定向存储输出。
Sed主要用来自动编辑一个或多个文件；简化对文件的反复操作；编写转换程序等。

二、命令格式

先准备一个文件

[root@e5ac44e88027 ~]# head /etc/passwd |grep -n ''   > mypasswd
[root@e5ac44e88027 ~]# cat mypasswd
1:root:x:0:0:root:/root:/bin/bash
2:bin:x:1:1:bin:/bin:/sbin/nologin
3:daemon:x:2:2:daemon:/sbin:/sbin/nologin
4:adm:x:3:4:adm:/var/adm:/sbin/nologin
5:lp:x:4:7:lp:/var/spool/lpd:/sbin/nologin
6:sync:x:5:0:sync:/sbin:/bin/sync
7:shutdown:x:6:0:shutdown:/sbin:/sbin/shutdown
8:halt:x:7:0:halt:/sbin:/sbin/halt
9:mail:x:8:12:mail:/var/spool/mail:/sbin/nologin
10:operator:x:11:0:operator:/root:/sbin/nologin

处理单个文件的命令格式

sed     [options]   '[匹配模式]     sed 的内部命令'       file1

处理多个文件的命令格式

sed     [options]   '[匹配模式]     [sed 的内部命令]'       file1  file2

options 选项是可选的，意思就是没有也行
匹配模式 是可选的用于在文件中每一行进行匹配到模式，模式可以是正则，也可以是文件的行号
内部的命令也是可选的，没想到吧，但是两个单引号是必须的

[root@kube-master sed]# sed '' mypasswd
root:x:0:0:root:/root:/bin/bash
bin:x:1:1:bin:/bin:/sbin/nologin
...以下输出省略...

注：
sed和grep不一样，不管是否找到指定的模式，它的退出状态都是0
只有当命令存在语法错误时，sed的退出状态才是非0

三、支持正则表达式

与grep一样，sed在文件中查找模式时也可以使用正则表达式(RE)和各种元字符。正则表达式是
括在斜杠间的模式，用于查找和替换，以下是sed支持的元字符。
使用基本元字符集 ^, $, ., *, [], [^], \< \>,\(\),\{\}
使用扩展元字符集 ?, +, { }, |, ( )使用扩展元字符的方式：

sed   -r

在实际使用的时候，都会加上 -r 参数，即使没有用的扩展正则也不会有任何影响。

四、sed基本用法

打印

sed 默认会输出文件的每一行，无论这行内容是否能匹配上匹配模式，假如被匹配到的则会再输出一次。

sed   -r   ''     mypasswd
sed   -r   'p'    mypasswd

p 是 sed 的内部命令，是 打印（输出） 的作用

屏蔽默认输出使用 -n 选项

sed -rn 'p'   mypasswd

sed -rn '/root/p'   mypasswd 显示root的行 ^ 匹配root 开头 ^root

搜索替换 -- 这是重点 实际中用的最多

sed会自动打印文件的每一行，同时查找模式匹配的行，找到后执行后面的命令，默认是 p 打印（不加 -n 的情况下）

> 搜索每一行，找到有 root 的，把第一个替换为 shark
sed  -r  's/root/shark/'   mypasswd

> 搜索每一行，找到所有的 root 字符，进行全局替换为 `shark`
sed  -r  's/root/shark/g'    mypasswd

> i  是同时忽略大小写
sed  -r  's/root/shark/gi'    mypasswd 

> 找到含有 root 的进行删除
sed  -r  '/root/d'    mypasswd

> 可以使用不同的 字符 作为界定符号，注意进行转义
sed  -r  '\#root#d'   mypasswd

注意：
当在模式匹配中使用其他界定符号时，需要对其进行转义。
其他界定符用在 s 搜索替换时不必转义。例如：

sed  -r  's#root#shark#'      mypasswd
sed  -r  's%root%shark%'      mypasswd
sed  -r  's|root|shark|'      mypasswd

五、sed扩展

地址（定址）
地址用于决定对哪些 行 进行编辑。地址形式可以是数字、正则表达式或二者的结合。如果没有指定地址，sed将处理输入文件中的所有行。

> 全部分删除
sed  -r  'd'        mypasswd

> 第 3 行删除
sed  -r  '3  d'     mypasswd

> 第 1 行到第 3 行都删除
sed  -r  '1,3  d'             mypasswd

> 含有 root 字符串的行删除
sed  -r  '/root/  d'          mypasswd

> 从含有 root 字符串的行开始，一直到第 5 行进行删除
sed  -r  '/root/,5  d'        mypasswd

> 从行首是 adm 的行开始，一直到 20 行进行删除
sed  -r  '/^adm/,20  d'       mypasswd

> 从行首是 adm 的行，以及此行之后的 2 行进行删除
sed  -r  '/^adm/,+2  d'      mypasswd

> 含有 root 的行不删除，其他都删除
sed  -r  '/root/  !d'         mypasswd

> 奇数行删除，其实就是 匹配到 行号 除以 2 ，余数是 1 的行
sed  -r  '1~2  d'             mypasswd

> 偶数行打印
sed  -rn  '0~2  p'            mypasswd

> 试试下面这个
sed  -rn   '0~3  p'           mypasswd 

六、sed命令

sed命令告诉 sed 对匹配到的行进行何种操作，包括打印、删除、修改等。

命令功能详解

p 打印行
d 删除行

a 在当前行后添加一行或多行
c 用新文本修改（替换）当前行中的文本
i 在当前行之前插入文本
l 列出非打印字符
n 读入下一输入行，并从下一条命令而不是第一条命令开始对其的处理
! 对所选行以外的所有行应用命令

g 全局替换
r 从文件中读
w 将行写入文件

------------------------以下为扩展-----------------------

h  清除保持空间的内容后，把模式空间里的内容复制到保持空间
H  把模式空间里的内容追加到保持空间
g  清除模式空间的内容后， 取出保持空间的内容，并复制到模式空间
G  取出保持空间的内容，追加在模式空间原有内容的后面
x  交换模式空间与保持空间的内容

sed 部分命令示例

替换命令：s

sed -rn 's/[0-9][0-9]/&.5/' mypasswd //&代表在查找串中匹配到的所有内容

sed -r 's/(no)login/\1不可登录/' mypasswd

部分输出为
bin:x:1:1:bin:/bin:/sbin/no不可登录

读文件命令：r

在 mypasswd 文件的第二行下面，插入 从 /etc/hosts 文件中读取到的内容
sed -r '2r /etc/hosts'  mypasswd

在 mypasswd 文件中含有字符 2 下面，插入 从 /etc/hosts 文件中读取到的内容
sed -r '/2/r /etc/hosts' mypasswd

写文件命令：w

把 mypasswd 文件中含有 字符 root 的行写入到文件 newfile, newfile 文件不存在则创建，存在则覆盖
sed -r '/root/w newfile'  mypasswd

把 mypasswd 文件中的第 3 行到最后的内容写入到文件 /new1.txt 中
sed -r '3,$w /new1.txt' mypasswd

追加命令：a

sed -r '$a 1.1.1.1 www.qfedu.com' /etc/hosts

插入命令：i

# sed -r '2i\1111111111111' /etc/hosts
# sed -r '2i111111111\
> 2222222222\
> 3333333333' /etc/hosts

修改命令：c

# sed -r '2c\1111111111111' /etc/hosts
# sed -r '2c\111111111111\
> 22222222222\
> 33333333333' /etc/hosts

获取下一行命令：n

# sed -r '/eastern/{ n; d }' datafile
# sed -r '/eastern/{ n; s/AM/Archile/ }' datafile

暂存和取用命令：h H g G

# sed -r '1h;$G' /etc/hosts
# sed -r '1{h;d};$G' /etc/hosts
# sed -r '1h; 2,$g' /etc/hosts
# sed -r '1h; 2,3H; $G' /etc/hosts

暂存空间和模式空间互换命令：x

# sed -r '4h; 5x; 6G' /etc/hosts

反向选择: !

# sed -r '3d' /etc/hosts
# sed -r '3!d' /etc/hosts

多重编辑选项：-e

# sed -r -e '1,3d' -e 's/Hemenway/Jones/' datafile
# sed -r '1,3d; s/Hemenway/Jones/' datafile

# sed -r '2s/WE/1000phone/g; 2s/Gray/YYY/g' datafile
# sed -r '2{s/WE/1000phone/g; s/Gray/YYY/g}' datafile

七、关于选项

选项 功能

-e 允许多项编辑
-f 指定sed脚本文件名
-n 取消默认的输出
-i inplace，就地编辑
-r 支持扩展元字符

八、sed常见操作

删除配置文件中#号注释行
sed -ri '/^#/d' file.conf

sed -ri '/^[ \t]*#/d' file.conf

sudo sed -ri s/^#baseurl/baseurl/g /etc/yum.repos.d/CentOS-Base.repo
sudo sed -ri s/^mirrorlist/#mirrorlist/g /etc/yum.repos.d/CentOSBase.repo

空格和table键 '/^#/d' [ \t] * 空格和table

删除配置文件中//号注释行

sed -ri '\Y^[ \t]*//Yd' file.conf

删除无内容空行

sed -ri '/^[ \t]*$/d' file.conf

删除注释行及空行：
sed -ri '/^[ \t]*#/d; /^[ \t]*$/d' /etc/vsftpd/vsftpd.conf
sed -ri '/^[ \t]*#|^[ \t]*$/d' /etc/vsftpd/vsftpd.conf
sed -ri '/^[ \t]*($|#)/d' /etc/vsftpd/vsftpd.conf

修改文件：
sed -ri '$a\chroot_local_user=YES' /etc/vsftpd/vsftpd.conf
sed -ri '/^SELINUX=/cSELINUX=disabled' /etc/selinux/config
sed -ri '/UseDNS/cUseDNS no' /etc/ssh/sshd_config
sed -ri '/GSSAPIAuthentication/cGSSAPIAuthentication no' /etc/ssh/sshd_config

给文件行添加注释：
sed -r '2,6s/^/#/' a.txt
sed -r '2,6s/(.*)/#\1/' a.txt
sed -r '2,6s/.*/#&/' a.txt &匹配前面查找的内容

sed -r '3,$ s/^#*/#/' a.txt 将行首零个或多个#换成一个#

sed -r '30,50s/^[ \t]*#*/#/' /etc/nginx.conf
sed -r '2,8s/^[ \t#]*/#/' /etc/nginx.conf

sed中使用外部变量
var1=11111

sed -ri '3a$var1' /etc/hosts

sed -ri "3a$var1" /etc/hosts

sed -ri 3a$var1 /etc/hosts

sed -ri "$a$var1" /etc/hosts

sed -ri '$a'"$var1" /etc/hosts
sed -ri "\$a$var1" /etc/hosts

练习

sed -rn 's/(sha256:\w{12}).*? (sha256:\w{12}).*/\1 \2 /gp' sed-txt

sed -rn '=;s/(sha256:\w{12})\w.*/\1/gp' sed-txt

sed-txt 文件的内容如下：

[python3.7-centos7-sshdd:latest] sha256:1bbafa9d1957 sha256:24968862610c
[] sha256:24968862610c sha256:3b1ba3d5d298
[] sha256:8ece6200fd28 sha256:10a2411f52e9
[] sha256:3b1ba3d5d298 sha256:8ece6200fd28
[python3.7:latest] sha256:3dbb45a8154a sha256:196d12cf6ab1
[] sha256:64927fe9291 sha256:e59ed70975ae
[] sha256:01ef58b32245 sha256:f36a7cb83a26
[] sha256:f36a7cb83a26 sha256:64927fe9291e
[] sha256:e59ed70975ae sha256:65dc03343afa
[] sha256:65dc03343afa sha256:196d12cf6ab19273823e700516e98eb1910b03b17840f9d5509f03858484d321
[centos7-ssh-iproute:latest] sha256:10a2411f52e96abda5deb6301812c5eeba27d543e3ec3713c10b1543eea8f4b6 sha256:b4f8b82a5471b405d1f7c3f9f2b79cfbb5a0dc99e62ec36f7e254326abaf3941
[] sha256:b4f8b82a5471b405d1f7c3f9f2b79cfbb5a0dc99e62ec36f7e254326abaf3941 sha256:7b036082ee3589f8c1ae98d0f77d9aa834860a93dc824c658ab8fc1d4d62f775
[] sha256:7b036082ee3589f8c1ae98d0f77d9aa834860a93dc824c658ab8fc1d4d62f775 sha256:f8f2c35ea601ab92b6bf951b88cda3c0d2d53b50a7148b7b3dedd30265251cbc
[] sha256:f8f2c35ea601ab92b6bf951b88cda3c0d2d53b50a7148b7b3dedd30265251cbc
[centos:latest] sha256:9f38484d220fa527b1fb19747638497179500a1bed8bf0498eb788229229e6e1
[shark_t:latest] sha256:b45dbbbfa951f3d307252abdc54af28ff2acf1637bedeffb0ca9d0b13205aa16 sha256:0a90480a0cff3d9cca1c4bf42afef814ab522c89ec1b3e9bbe58818317f08cd4
[python:2.7-alpine] sha256:66c225e226f92710d686708f7e18e1b8e04e833bae10e0d35cd91b2e69f56848
[] sha256:c09e12066cdb5ea27376f2321e44ec796ff2b7187ff0833a309f404a933cc497 sha256:1bdf972da0a859578e5227befa74603d8ac2575443c4073719c128699c3e1700
[57_mysql57:latest] sha256:f0cc1625db7c08696753f56a8fbc9ae6ef019a1e527239e2a61eb7a52df536bc sha256:ae6316e7d5c6adbf5cf2e532be5c35c379a443f2fd32bf26d495a50862c29f1f
[] sha256:ae6316e7d5c6adbf5cf2e532be5c35c379a443f2fd32bf26d495a50862c29f1f sha256:c09e12066cdb5ea27376f2321e44ec796ff2b7187ff0833a309f404a933cc497
[] sha256:c089812a4c4309e4bb84d5620869e7626a3248e0c50703714a0c9aedafb4663d sha256:e286407c5ada50a96a713ee4f742e369c282b1ca25e8bd7c03306ca03c5d60a8
[] sha256:1bdf972da0a859578e5227befa74603d8ac2575443c4073719c128699c3e1700 sha256:c089812a4c4309e4bb84d5620869e7626a3248e0c50703714a0c9aedafb4663d
[] sha256:e286407c5ada50a96a713ee4f742e369c282b1ca25e8bd7c03306ca03c5d60a8 sha256:0b0fece6284a9bfeb01b1dad8a2c8e0576e7c0cd188d72639c207b6bdb393362
[redis:alpine] sha256:85cb68adadacf2c6fc732c8466b200d802e324f5ef617083b14c3d0aebcf6fd3
[elk_filebeat:latest] sha256:c1e529ea1a2b2fd2b65ba344d48893a256c13aec357014c2602cdc43860b43e7 sha256:d0eb2284d6ad00271dea775295aa7e80ea3aa8c477ca59d41865cf2cb5337b81
[] sha256:d0eb2284d6ad00271dea775295aa7e80ea3aa8c477ca59d41865cf2cb5337b81 sha256:d082d5396389dd8ed064f9606b35607bd0480602b5dea65e48b6ff9ef7bf72e7
[mysql57table:latest] sha256:1f6b23941119538bf0d89c3a3ecd04260325dd1f3cfaf4adec2344e21392e532 sha256:76ac6291d3cf619004b89560eb1e4ff291b71773489691e9b18498f1ee53ff4d
[redis5-alpine:latest] sha256:7ec80dd3172eb8e2bb64ab9e815bab8464c9e431ea13c8b010c61096365cca77 sha256:f15034b5da523e42355f911c244e4ff6743a3d41cef099ff3bc8c5ef6c2b898f
[] sha256:f15034b5da523e42355f911c244e4ff6743a3d41cef099ff3bc8c5ef6c2b898f sha256:8d7ef1101c01e0ea684d19ddfe6c3b8fdba713bdd773c1b7e9721da769d1a5c4
[] sha256:3d64a87d2c58d1e81ec657185390d7534fdadd71f24960db41f41f4bdf1baf9f sha256:dfd0be5df4d804e42c34f0981afa940be273738a6aa818332e32410378f3346c
[] sha256:8ebe0302624a7e5ae2530fa2c28cc2d5e4b1df564bf1a5a6e0a440cbe939bce0 sha256:3d64a87d2c58d1e81ec657185390d7534fdadd71f24960db41f41f4bdf1baf9f
[] sha256:8d7ef1101c01e0ea684d19ddfe6c3b8fdba713bdd773c1b7e9721da769d1a5c4 sha256:8ebe0302624a7e5ae2530fa2c28cc2d5e4b1df564bf1a5a6e0a440cbe939bce0
[] sha256:5884195abfb991495c9c691ff488eb34ae57e2a8fc1cdbb2b1413f8acf7c4b0b sha256:b71a0ced2ca471a723a5ffcb6ecd5b75740da3eaf109441bdf3861945c6a30b9
[] sha256:dfd0be5df4d804e42c34f0981afa940be273738a6aa818332e32410378f3346c sha256:5884195abfb991495c9c691ff488eb34ae57e2a8fc1cdbb2b1413f8acf7c4b0b
[] sha256:b71a0ced2ca471a723a5ffcb6ecd5b75740da3eaf109441bdf3861945c6a30b9 sha256:475d2143c8acc2dad7c0f491d71f83c3f128de9c4fdfbac83459c38ad31a9f50
[] sha256:7b0c0c4e7d747f4a0cfec7786c926f6b814405648df32f081ed72f430c20395d sha256:7cbe246fda5f0bfa2256be83647098d75f61e81a3447107253a657ae95f0e17f
[] sha256:51195ed7d8712f7cf02358ae45fa4693023152ede79043439ac841997b97fc2a sha256:7b0c0c4e7d747f4a0cfec7786c926f6b814405648df32f081ed72f430c20395d
[] sha256:475d2143c8acc2dad7c0f491d71f83c3f128de9c4fdfbac83459c38ad31a9f50 sha256:51195ed7d8712f7cf02358ae45fa4693023152ede79043439ac841997b97fc2a
[] sha256:7cbe246fda5f0bfa2256be83647098d75f61e81a3447107253a657ae95f0e17f sha256:cd8479a8cd62c71c47f5084013d0d53f9949c84780f038e364a41c7ccd389f1c
[] sha256:cd8479a8cd62c71c47f5084013d0d53f9949c84780f038e364a41c7ccd389f1c sha256:196d12cf6ab19273823e700516e98eb1910b03b17840f9d5509f03858484d321
[python3.6:latest] sha256:e8715303a285dae0d31c5f67c305bddd6f9bfa45f97954d30712464904cc9f8a sha256:e14318ebb64cdf6704d34484bd90deb4c4ea25a48fe27eca1c845384e788adf4
[] sha256:e14318ebb64cdf6704d34484bd90deb4c4ea25a48fe27eca1c845384e788adf4 sha256:196d12cf6ab19273823e700516e98eb1910b03b17840f9d5509f03858484d321
[] sha256:71e010efe016fadc1314692e1d152ab2269d81b1ffe8581339eb63064a0ef46a sha256:196d12cf6ab19273823e700516e98eb1910b03b17840f9d5509f03858484d321
[mysqlclient:latest] sha256:308603b4739f92f35e2b719b02f725225c2c6e292c4d8ef4423e665ded102cd6 sha256:71e010efe016fadc1314692e1d152ab2269d81b1ffe8581339eb63064a0ef46a
[] sha256:0b0fece6284a9bfeb01b1dad8a2c8e0576e7c0cd188d72639c207b6bdb393362 sha256:d9cead11f71abb875f90343952eb2c3d39b69b980a000410383e43bdabef4ec4
[] sha256:d9cead11f71abb875f90343952eb2c3d39b69b980a000410383e43bdabef4ec4 sha256:420ddc125e2265eb320efb1098d1531ac209928f8a98493c07246cec8d268760
[] sha256:420ddc125e2265eb320efb1098d1531ac209928f8a98493c07246cec8d268760 sha256:2d040dc68e77e8b01d08a80b3a4e20f9ad87f4c467a80c1b9ff9a2791033e779
[] sha256:2d040dc68e77e8b01d08a80b3a4e20f9ad87f4c467a80c1b9ff9a2791033e779 sha256:b19454a5f17a65be9a9e32ea73a4857a1925d74d79b152737578cc58d31e48eb
[docker.elastic.co/logstash/logstash:6.5.2] sha256:863ee088d6fe0df87779caa3409779e2b84b69c2f0e7614d8ab06c3bf6db820f
[docker.elastic.co/kibana/kibana:6.5.2] sha256:553e0f2ad5748cc119ecc4187e876b4c910ef2facded078bc80b232bbbc5bca1
[docker.elastic.co/elasticsearch/elasticsearch:6.5.2] sha256:0a90480a0cff3d9cca1c4bf42afef814ab522c89ec1b3e9bbe58818317f08cd4
[docker.elastic.co/beats/filebeat:6.5.2] sha256:d082d5396389dd8ed064f9606b35607bd0480602b5dea65e48b6ff9ef7bf72e7
[redis:latest] sha256:5958914cc55880091b005658a79645a90fd44ac6a33abef25d6be87658eb9599
[nginx:alpine] sha256:63356c558c795f9f4ec4d4197f341ebc31a2f708bacbdc53076a149108ce477b
[haproxy:latest] sha256:829b079b1fa5d6ccbd895d589d708652343a40cc4a5002b94c4248c2b44bc919
[] sha256:b19454a5f17a65be9a9e32ea73a4857a1925d74d79b152737578cc58d31e48eb
[mysql/mysql-server:5.7] sha256:76ac6291d3cf619004b89560eb1e4ff291b71773489691e9b18498f1ee53ff4d
[busybox:latest] sha256:59788edf1f3e78cd0ebe6ce1446e9d10788225db3dedcfd1a59f764bad2b2690
[alpine:3.8] sha256:196d12cf6ab19273823e700516e98eb1910b03b17840f9d5509f03858484d321