Shell编程三剑客之Sed

Shell编程三剑客之Sed

  • 一: 文本处理器
    • 1.1:sed工具概述
    • 1.2:sed的工作流程
      • 1.2.1:读取
      • 1.2.2:执行
      • 1.2.3:显示
    • 1.3:sed命令常见方法
      • 1.3.1:常见的sed命令选项
      • 1.3.2:常见的操作
    • 1.4:sed用法示例
      • 1.4.1:输出符合条件的文本(p 表示正常输出)
      • 1.4.2:sed 命令与正则表达式结合使用
    • 1.5:删除符合条件的文本(d)
    • 1.6:替换符合条件的文本
    • 1.7:迁移符合条件的文本
    • 1.8:使用脚本编辑文件
    • 1.9:sed 直接操作文件示例
  • 二:sed命令总结

一: 文本处理器

  • 在 Linux/UNIX 系统中包含很多种文本处理器或文本编辑器,其中包括我们之前学习过的VIM 编辑器与 grep 等。
  • 而 grep,sed,awk 更是 shell 编程中经常用到的文本处理工具,被称之为 Shell 编程三剑客。

1.1:sed工具概述

  • sed(Stream EDitor)是一个强大而简单的文本解析转换工具,可以读取文本,并根据指定的条件对文本内容进行编辑(删除、替换、添加、移动等),最后输出所有行或者仅输出处理的某些行。

  • sed 也可以在无交互的情况下实现相当复杂的文本处理操作,被广泛应用于 Shell 脚本中,用以完成各种自动化处理任务。

1.2:sed的工作流程

  • 读取——》执行——》显示三个过程
  • 在所有的文件内容都被处理完成之前,上述过程将重复执行,直至所有内容被处理完
  • 默认情况下,所有的 sed 命令都是在模式空间内执行的,因此输入的文件并不会发生任何变化,除非是用重定向存储输出

1.2.1:读取

sed 从输入流(文件、管道、标准输入)中读取一行内容并存储到临时的缓冲区中(又称模式空间,pattern space)。

1.2.2:执行

默认情况下,所有的 sed 命令都在模式空间中顺序地执行,除非指定了行的地址,否则 sed 命令将会在所有的行上依次执行

1.2.3:显示

发送修改后的内容到输出流。再发送数据后,模式空间将会被清空。

注意:默认情况下所有的 sed 命令都是在模式空间内执行的,因此输入的文件并不会发生任何变化,除非是用重定向存储输出。

1.3:sed命令常见方法

  • 通常情况下调用 sed 命令有两种格式
sed[选项] '操作' 参数
sed [选项] -f scriptfile 参数
  • 其中,“参数”是指操作的目标文件,当存在多个操作对象时用,文件之间用逗号“,”分隔;

  • 而 scriptfile 表示脚本文件,需要用“-f”选项指定,当脚本文件出现在目标文件之前时,表示通过指定的脚本文件来处理输入的目标文件

1.3.1:常见的sed命令选项

选项 解释
-e 或–expression= 表示用指定命令或者脚本来处理输入的文本文件
-f 或–file= 表示用指定的脚本文件来处理输入的文本文件
-h 或–help 显示帮助
-n、–quiet 或 silent 表示仅显示处理后的结果
-i 直接编辑文本文件,直接编辑源文件

1.3.2:常见的操作

  • “操作”用于指定对文件操作的动作行为,也就是 sed 的命令
  • 通常情况下是采用的[n1[,n2]]”操作参数的格式。n1、n2 是可选的,代表选择进行操作的行数
  • 如操作需要在 5~20 行之间进行,则表示为“5,20 动作行为
操作 解释
a 增加,在当前行下面增加一行指定内容
c 替换,将选定行替换为指定内容
d 删除,删除选定的行
i 插入,在选定行上面插入一行指定内容
p 打印,如果同时指定行,表示打印指定行;如果不指定行,则表示打印所有内容;如果有非打印字符,则以 ASCII 码输出。其通常与“-n”选项一起使用
s 替换,替换指定字符
y 字符转换

1.4:sed用法示例

1.4.1:输出符合条件的文本(p 表示正常输出)

[root@localhost ~]# sed -n 'p' httpd.conf     输出所有内容,等同于 cat httpd.conf
    ...省略内容
[root@localhost ~]# sed -n '3p' httpd.conf	输出第 3 
     ...省略内容
[root@localhost ~]# sed -n '3,5p' httpd.conf	输出第 3~5 
      ...省略内容
[root@localhost ~]# sed -n 'p;n' httpd.conf	输出所有奇数行,n 表示读入下一行资料
     ...省略内容
[root@localhost ~]# sed -n 'n;p' httpd.conf     	输出所有偶数行,n 表示读入下一行资料
     ...省略内容
[root@localhost ~]# sed -n '1,5{p;n}' httpd.conf		输出第 1~5 行之间的奇数行( 135 )
     ...省略内容
[root@localhost ~]# sed -n '10,${n;p}' httpd.conf		输出第 10 行至文件尾之间的偶数行
     ...省略内容

在执行“sed -n‘10,${n;p}’httpd.conf”命令时,读取的第 1 行是文件的第 10 行,读取的第 2行是文件的第 11 行,依此类推,所以输出的偶数行是文件的第 11 行、13 行直至文件结尾, 其中包括空行。

1.4.2:sed 命令与正则表达式结合使用

  • sed 命令结合正则表达式时,格式略有不同,正则表达式以“/”包围
[root@localhost ~]# sed -n '/the/p' httpd.conf		输出包含the 的行
    ...省略部分内容
[root@localhost ~]# sed -n '4,/the/p' httpd.conf		输出从第 4 行至第一个包含 the 的行
    ...省略部分内容
[root@localhost ~]# sed -n '/the/=' httpd.conf		输出包含the 的行所在的行号,等号(=)用来输出行号
    ...省略部分内容
[root@localhost ~]# sed -n '/^PI/p' httpd.conf		输出以PI 开头的行
    ...省略部分内容
[root@localhost ~]# sed -n '/[0-9]$/p' httpd.conf		输出以数字结尾的行
    ...省略部分内容
[root@localhost ~]# sed -n '/\/p' httpd.conf		'输出包含单词wood 的行,\<\>代表单词边界
    ...省略部分内容

1.5:删除符合条件的文本(d)

  • 下面命令中 nl 命令用于计算文件的行数,结合该命令可以更加直观地查看到命令执行的结果
  [root@localhost ~]# nl httpd.conf | sed '3d'	删除第 3 
      ...省略内容
  [root@localhost ~]# nl httpd.conf | sed '3,5d'		删除第 3~5 
      ...省略内容
  [root@localhost ~]# nl httpd.conf | sed '/cross/d'		删除包含cross 的行
      ...省略内容
  [root@localhost ~]# nl httpd.conf | sed '/cross/! d'		删除不包含cross 的行
      ...省略内容
  [root@localhost ~]# sed '/^[a-z]/d' httpd.conf		删除以小写字母开头的行
      ...省略内容
  [root@localhost ~]# sed '/\.$/d' httpd.conf		删除以"."结尾的行
      ...省略内容
  [root@localhost ~]# sed '/^$/d' httpd.conf		删除所有空行
      ...省略内容
  [root@localhost ~]# sed -e '/^$/{n;/^$/d}' httpd.conf		删除重复的空行,即连续的空行只保留一个,效果与“cat -s httpd.conf”相同,n 表示读下一行数据
      ...省略内容
          空行              
 行“sed -e‘/^$/{n;/^$/d}’httpd.conf”命令即可实现。
其效果与“cat -s httpd.conf”相同,n 表示读下一行数据。

1.6:替换符合条件的文本

  • 使用 sed 命令进行替换操作时需要用到 s(字符串替换)、c(整行/整块替换)、y(字符转换)命令选项
  sed 's/the/THE/' httpd.conf		将每行中的第一个the 替换为 THE 
  sed 's/l/L/2' httpd.conf		将每行中的第 2 个l 替换为L 
  sed 's/the/THE/g' httpd.conf		将文件中的所有the 替换为THE
  sed 's/o//g' httpd.conf		将文件中的所有o 删除(替换为空串)
  sed 's/^/#/' httpd.conf		在每行行首插入#
  sed '/the/s/^/#/' httpd.conf			在包含the 的每行行首插入#
  sed 's/$/EOF/' httpd.conf			在每行行尾插入字符串EOF
  sed '3,5s/the/THE/g' httpd.conf		将第 3~5 行中的所有the 替换为 THE
  sed '/the/s/o/O/g' httpd.conf		将包含the 的所有行中的o 都替换为 O

1.7:迁移符合条件的文本

  • 在使用 sed 命令迁移符合条件的文本时,常用到以下参数
H,复制到剪贴板;
g、G,将剪贴板中的数据覆盖/追加至指定行;
w,保存为文件;
r,读取指定文件;
a,追加指定内容
  • 具体操作方法如下所示
  sed '/the/{H;d};$G' httpd.conf			将包含the 的行迁移至文件末尾,{;}用于多个操作
  sed '1,5{H;d};17G' httpd.conf			将第 1~5 行内容转移至第 17 行后
  sed '/the/w out.file' httpd.conf			将包含the 的行另存为文件out.file 
  sed '/the/r /etc/hostname' httpd.conf				将文件/etc/hostname 的内容添加到包含the 的每行以后'
  sed '3aNew' httpd.conf				在第 3 行后插入一个新行,内容为 New 
  sed '/the/aNew' httpd.conf			在包含the 的每行后插入一个新行,内容为 New'
  sed '3aNew1\nNew2' httpd.conf				在第 3 行后插入多行内容,中间的\n 表示换行

1.8:使用脚本编辑文件

  • 使用 sed 脚本,将多个编辑指令存放到文件中(每行一条编辑指令),通过“-f”选项来调用
  sed '1,5{H;d};17G' httpd.conf			将第 1~5 行内容转移至第 17 行后
  以上操作可以改用脚本文件方式:
  [root@localhost ~]# vi opt.list				编辑指令放到/opt.list中
  1,5H
  1,5d
  17G
  [root@localhost ~]# sed -f opt.list httpd.conf 		使用opt.list文件指令编辑httpd.conf文件

1.9:sed 直接操作文件示例

  • 编写一个脚本,用来调整 vsftpd 服务配置:禁止匿名用户,但允许本地用户(也允许写入)
[root@localhost ~]# vim local_only_ftp.sh 
#!/bin/bash
指定样本文件路径、配置文件路径
SAMPLE="/usr/share/doc/vsftpd-3.0.2/EXAMPLE/INTERNET_SITE/vsftpd.conf " CONFIG="/etc/vsftpd/vsftpd.conf"   
备份原来的配置文件,检测文件名为/etc/vsftpd/vsftpd.conf.bak 		备份文件是否存在, 若不存在则使用 cp 命令进行文件备份
[ ! -e "$CONFIG.bak" ] && cp $CONFIG $CONFIG.bak # 
基于样本配置进行调整,覆盖现有文件
sed -e '/^anonymous_enable/s/YES/NO/g' $SAMPLE > $CONFIG
sed -i -e '/^local_enable/s/NO/YES/g' -e '/^write_enable/s/NO/YES/g' $CONFIG 
grep "listen" $CONFIG || sed -i '$alisten=YES' $CONFIG
启动vsftpd 服务,并设为开机后自动运行
systemctl restart vsftpd
systemctl enable vsftpd 
[root@localhost ~]# chmod +x local_only_ftp.sh 		增加权限

二:sed命令总结

  • sed工具除了调用文件或脚本执行命令,否则命令都需要加上’'符号

即:调用 sed 命令有两种格式

sed[选项] '操作' 参数
sed [选项] -f scriptfile 参数

其中,“参数”是指操作的目标文件,当存在多个操作对象时用,文件之间用逗号“,”分隔;

而 scriptfile 表示脚本文件,需要用“-f”选项指定,当脚本文件出现在目标文件之前时,表示通过指定的脚本文件来处理输入的目标文件

- -n选项在符合条件输出和结合正则表达式的时候使用
- {}用于奇数行和偶数行的筛选或者奇数行和偶数号的其他操作
- sed 命令结合正则表达式时,格式略有不同,正则表达式以“/”包围
- 使用sed删除命令时,nl 命令用于计算文件的行数,结合该命令可以更加直观地查看到命令执行的结果,而不使用-n

你可能感兴趣的:(Shell)