文本处理及正则表达式

---

title: 文本处理及正则表达式
date: 2018-10-14 18:18:18
tags:

• VIM
• Find
• Sed
• 正则表达式
• shell脚本

---

文本处理及正则表达式

文件查看

文件查看命令：
cat，tac，rev
cat [OPTION]… [FILE]…
-E：显示行结束符$
-n：对显示出的每一行进行编号
-A：显示所有控制符
-b：非空行编号
-s：压缩连续的空行成一行
tac
rev
文件查看
more: 分页查看文件
more [OPTIONS…] FILE…
-d: 显示翻页及退出提示
less：一页一页地查看文件或STDIN输出
查看时有用的命令包括：
/文本搜索文本
n/N跳到下一个或上一个匹配
less命令是man命令使用的分页器

显示文本前或后行内容*********************************************

head [OPTION]… [FILE]…
-c #: 指定获取前#字节
-n #: 指定获取前#行
-#：指定行数
tail [OPTION]… [FILE]…
-c #: 指定获取后#字节
-n #: 指定获取后#行
-#：同上
-f: 跟踪显示文件fd新追加的内容,常用日志监控
相当于–follow=descriptor
-F: 跟踪文件名，相当于–follow=name --retry
tailf类似tail –f，当文件不增长时并不访问文件
###按列抽取文本cut和合并文件paste***************************************CUT
cut [OPTION]… [FILE]…
-d DELIMITER: 指明分隔符，默认tab
-f FILEDS:
…#: 第#个字段
…#,#[,#]：离散的多个字段，例如1,3,6
…#-#：连续的多个字段, 例如1-6
混合使用：1-3,7
-c按字符切割
–output-delimiter=STRING指定输出分隔符
cut和paste
显示文件或STDIN数据的指定列
cut-d:-f1/etc/passwd
cat /etc/passwd|cut-d:-f7
cut-c2-5/usr/share/dict/words
paste 合并两个文件同行号的列到一行
paste [OPTION]… [FILE]…
-d 分隔符：指定分隔符，默认用TAB
-s : 所有行合成一行显示
示例：
paste f1 f2
paste -s f1 f2

收集文本统计数据wc*****************************************WC

计数单词总数、行总数、字节总数和字符总数
可以对文件或STDIN中的数据运行
wcstory.txt
392371901story.txt
行数字数字节数
常用选项

-l只计数行数
-w只计数单词总数
-c只计数字节总数
-m只计数字符总数
-L显示文件中最长行的长度

文本排序sort

把整理过的文本显示在STDOUT，不改变原始文件
sort[options]file(s)
常用选项

-r执行反方向（由上至下）整理
-R随机排序
-n执行按数字大小整理
-f选项忽略（fold）字符串中的字符大小写
-u选项（独特，unique）删除输出中的重复行
-t c选项使用c做为字段界定符
-k X选项按照使用c字符分隔的X列来整理能够使用多次

uniq

uniq命令：从输入中删除前后相接的重复的行
uniq[OPTION]… [FILE]…
-c: 显示每行重复出现的次数
-d: 仅显示重复过的行
-u: 仅显示不曾重复的行
注：连续且完全相同方为重复
常和sort 命令一起配合使用：
sort userlist.txt | uniq-c

比较文件

比较两个文件之间的区别
difffoo.conffoo2.conf
5c5
< use_widgets=no
.>use_widgets=yes
注明第5行有区别（改变）

取出IP地址的几种方法： *************************************（重点）

ifconfig | sed -r ‘2!d;s/.inet (addr:)?//;s/ .//’ 6和7通用的取出IP地址
ifconfig eth0 | head -2|tail -1| tr -dc '[0-9]. ’ |tr -s ’ ’ |cut -d" " -f2 6系统上
ifconfig eth0|sed -n ‘2p’|sed ‘s@.inet @@’|sed ‘s@ netmask.$@@’ 提取出7上的IP地址，其中@@为分隔符
ifconfig ens33|sed -nr '2s/.t (.) net./\1/gp’ 扩展的正则表达式取出IP，（）为分组，只有一个括号，所以后面写1
ifconfig ens33|sed -nr '2s/（.t) (.)( net.)/\2/gp’ 扩展的正则表达式取出IP，（）为分组，有三个括号，所以后面写2留第二个
ifconfig | sed -nr "s/.inet (.) netmask./\1/p" | head -n 1 取出7的IP
ifconfig | sed -nr "s/.inet (.) netmask.*/\1/p" 取出7的三个网卡IP

查询系统信息 ***********************************************重点

…#RED is content color
…#依次显示出
…#系统版本
…#内核版本
…#CPU型号
…#内存大小
…#最大磁盘利用率
…#hostname
…#IP地址

RED="\033[1;31m"
COLOREND="\033[0m"
echo -e “OS version is $RED‘cat/etc/centos-release‘$COLOREND”
echo -e “kernel version $RED‘uname-r‘$COLOREND”
echo -e “The cpu type is KaTeX parse error: Double superscript at position 42: … name'|tr -s ' '̲|cut -d: -f2`COLOREND”
echo -e “The memory is KaTeX parse error: Double superscript at position 31: …ep Mem|tr -s ' '̲ ':' |cut -d: -…COLOREND”
echo -e “The max disk used is $RED‘df|grep/dev/sd|tr-s""":"|cut-d:-f5|sort-nr|head-1‘$COLOREND”
echo -e “The hostname is $RED$(hostname)$COLOREND”
echo -e “The ipaddr is $RED‘ifconfig|head-2|tail-1|tr-s""":"|cut-d:-f3‘$COLOREND”
unset RED COLOREND

Linux文本处理三剑客

grep：文本过滤(模式：pattern)工具
grep, egrep, fgrep（不支持正则表达式搜索）
sed：stream editor，文本编辑工具
awk：Linux上的实现gawk，文本报告生成器

grep*************************************************(重点)

grep: Global search REgularexpression and Print out the line
作用：文本搜索工具，根据用户指定的“模式”对目标文本逐行进行匹配检查；打印匹配到的行
模式：由正则表达式字符及文本字符所编写的过滤条件

grep [OPTIONS] PATTERN [FILE…]
grep root /etc/passwd
grep "$USER"/etc/passwdgre{p}^{\prime }$USER’ /etc/passwd
grep whoami /etc/passwd
grep命令选项
–color=auto: 对匹配到的文本着色显示
-v: 显示不被pattern匹配到的行
-i: 忽略字符大小写
-n：显示匹配的行号
-c: 统计匹配的行数
-o: 仅显示匹配到的字符串
-q: 静默模式，不输出任何信息
-A #: after, 后#行
-B #: before, 前#行
-C #：context, 前后各#行
-e：实现多个选项间的逻辑or关系
grep –e ‘cat ’ -e ‘dog’ file
-w：匹配整个单词
-E：使用ERE
-F：相当于fgrep，不支持正则表达式
-ffile: 根据模式文件处理

正则表达式*************************************重点

REGEXP：Regular Expressions，由一类特殊字符及文本字符所编写的模式，其中有些字符（元字符）不表示字符字面意义，而表示控制或通配的功能
程序支持：grep,sed,awk,vim, less,nginx,varnish等
分两类：
基本正则表达式：BRE
扩展正则表达式：ERE
grep -E, egrep
正则表达式引擎：
采用不同算法，检查处理正则表达式的软件模块
PCRE（Perl Compatible Regular Expressions）
元字符分类：字符匹配、匹配次数、位置锚定、分组
man 7 regex

基本正则表达式元字符

字符匹配:
. 匹配任意单个字符
[] 匹配指定范围内的任意单个字符，示例：[wang] [0-9] [a-z] [a-zA-Z]
[^] 匹配指定范围外的任意单个字符
[:alnum:] 字母和数字
[:alpha:] 代表任何英文大小写字符，亦即A-Z, a-z
[:lower:] 小写字母[:upper:] 大写字母
[:blank:] 空白字符（空格和制表符）
[:space:]水平和垂直的空白字符（比[:blank:]包含的范围广）
[:cntrl:] 不可打印的控制字符（退格、删除、警铃…）
[:digit:] 十进制数字[:xdigit:]十六进制数字
[:graph:] 可打印的非空白字符
[:print:] 可打印字符
[:punct:] 标点符号

通配符是通配的文件名

正则表达式是配的字符串，文件的内容
【wang】 匹配这四个字符其中的一个
grep “[123]” /etc/passwd查询passwd文件夹里包含123中一个数字的文件
grep -v “[123]” /etc/passwd查询passwd文件夹里不包含123中一个数字的文件
grep “[^123]” /etc/passwd查询passwd文件夹里除了123中一个数字的文件
匹配次数：用在要指定次数的字符后面，用于指定前面的字符要出现的次数
‘* 匹配前面的字符任意次，包括0次
贪婪模式：尽可能长的匹配
.*任意长度的任意字符
?匹配其前面的字符0或1次
+匹配其前面的字符至少1次
{n}匹配前面的字符n次
{m,n}匹配前面的字符至少m次，至多n次
{,n}匹配前面的字符至多n次
{n,}匹配前面的字符至少n次

位置锚定：定位出现的位置

^ 行首锚定，用于模式的最左侧 grep “^bash” /etc/passwd
$ 行尾锚定，用于模式的最右侧 grep "bash$"/etc/passw{d}^{P}ATTERN$ 用于模式匹配整行
^$ 空行
¹$ 空白行
< 或\b词首锚定，用于单词模式的左侧(单词不能包含数字、_、其他字母开头)
> 或\b词尾锚定，用于单词模式的右侧
匹配整个单词**************************************************

正则表达式

分组：() 将一个或多个字符捆绑在一起，当作一个整体处理，如：(root)+
分组括号中的模式匹配到的内容会被正则表达式引擎记录于内部的变量中，这些变量的命名方式为: \1, \2, \3, …
\1表示从左侧起第一个左括号以及与之匹配右括号之间的模式所匹配到的字符
示例：(string1+(string2))
\1 ：string1+(string2)
\2 ：string2
后向引用：引用前面的分组括号中的模式所匹配字符，而非模式本身
或者：|
示例：a|b: a或b C|cat: C或cat (C|c)at:Cat或cat
元字符

^ 行首
$行尾
.任意单一字符
[][]内任意单一字符
[^]除[]内任意单一字符
**前面字符重复不确定次数
++前面字符重复一次以上不确定次数
?？前面字符重复0或1次
\转义符
.*任意长度字符
{n}前面字符重复n次
{n,}前面字符重复n次以上
{m,n}前面字符重复m次和n次之间
[:alnum:]字母和数字
[:alpha:]代表任何英文大小写字符，亦即A-Z, a-z
[:lower:]小写字母
[:upper:]大写字母
[:blank:]水平空白字符（空格和制表符）
[:space:]所有水平和垂直的空白字符（比[:blank:]包含的范围广）
[:cntrl:]不可打印的控制字符（退格、删除、警铃…）
[:digit:]十进制数字
[:graph:]可打印的非空白字符
[:print:]可打印字符
[:punct:]标点符号
[:xdigit:]十六进制数字

egrep及扩展的正则表达式

egrep= grep -E
egrep[OPTIONS] PATTERN [FILE…]
扩展正则表达式的元字符：
字符匹配：
. 任意单个字符
[] 指定范围的字符
[^] 不在指定范围的字符
次数匹配：
*匹配前面字符任意次
?0或1次
+1次或多次
{m}匹配m次
{m,n}至少m，至多n次
位置锚定：
^行首
$行尾
<, \b语首
>, \b语尾
分组：()
后向引用：\1, \2, …
或者：
a|ba或b
C|catC或cat
(C|c)atCat或cat

vim简介*************************************重点

见PDF6中第32，68，69页图片
vi: Visual Interface，文本编辑器
文本：ASCII, Unicode
文本编辑种类：
行编辑器: sed
全屏编辑器：nano, vi
vim-Vi Improved
其他编辑器：
gedit一个简单的图形编辑器
gvim一个Vim编辑器的图形版本

打开文件

vim [OPTION]… FILE…
+#打开文件后，让光标处于第#行的行首，+默认行尾
+/PATTERN打开文件后，直接让光标处于第一个被PATTERN匹配到的行的行首
–b file 二进制方式打开文件
–d file1 file2… 比较多个文件
-m file 只读打开文件
ex file 或vim –e 直接进入ex模式
如果该文件存在，文件被打开并显示内容
如果该文件不存在，当编辑后第一次存盘时创建它
模式转换
命令模式–> 插入模式
iinsert, 在光标所在处输入
I在当前光标所在行的行首输入
aappend, 在光标所在处后面输入
A在当前光标所在行的行尾输入
o在当前光标所在行的下方打开一个新行
O在当前光标所在行的上方打开一个新行

---

插入模式--------> 命令模式
ESC
命令模式--------> 扩展命令模式
:
扩展命令模式--------> 命令模式
ESC,enter

---

扩展命令模式：
:q退出
:q!强制退出，丢弃做出的修改
:wq保存退出
:x保存退出
命令模式
ZZ保存退出
ZQ不保存退出
命令模式光标跳转
字符间跳转：
h: 左l: 右j: 下k: 上
.#COMMAND：跳转由#指定的个数的字符******************

单词间跳转：

w：下一个单词的词首
e：当前或下一单词的词尾
b：当前或前一个单词的词首
。#COMMAND：由#指定一次跳转的单词数
当前页跳转：
H：页首M：页中间行L:页底
zt：将光标所在当前行移到屏幕顶端
zz：将光标所在当前行移到屏幕中间
zb：将光标所在当前行移到屏幕底端
行首行尾跳转：
^: 跳转至行首的第一个非空白字符
0: 跳转至行首
$: 跳转至行尾
行间移动：
.#G、扩展命令模式下：# 跳转至由#指定行
G：最后一行
1G, gg: 第一行
句间移动：
)：下一句(：上一句
段落间移动：
}:下一段{：上一段
命令模式翻屏操作
Ctrl+f: 向文件尾部翻一屏
Ctrl+b: 向文件首部翻一屏
Ctrl+d: 向文件尾部翻半屏
Ctrl+u：向文件首部翻半屏

命令模式操作**********************************************重点

删除命令：
d: 删除命令，可结合光标跳转字符，实现范围删除
d$: 删除到行尾
d^:删除到非空行首
d0:删除到行首
dw:
de:
db:
.#COMMAND
dd: 删除光标所在的行
.#dd：多行删除
D：从当前光标位置一直删除到行尾，等同于d$
复制命令(y, yank)：
y: 复制，行为相似于d命令
y$
y0
y^
ye
yw
yb
.#COMMAND
yy：复制行
.#yy: 复制多行
Y: 复制整行

命令模式

di" 光标在”“之间，则删除”“之间的内容
yi( 光标在()之间，则复制()之间的内容
vi[ 光标在[]之间，则选中[]之间的内容
dtx删除字符直到遇见光标之后的第一个x 字符
ytx复制字符直到遇见光标之后的第一个x 字符
扩展命令模式：地址定界********************按ESC进入命令模式，再按：进入扩展命令模式

地址定界

:start_pos,end_pos
# 具体第#行，例如2表示第2行#,# 从左侧#表示起始行，到右侧#表示结尾行
#,+# 从左侧#表示的起始行，加上右侧#表示的行数 ：2,+3 表示2到5行 . 当前行$‘最后一行.,‘$`-1 当前行到倒数第二行
% 全文, 相当于1,$
/pat1/,/pat2/
从第一次被pat1模式匹配到的行开始，一直到第一次被pat2匹配到的行结束
#,/pat/
/pat/,$
使用方式：后跟一个编辑命令
d
y
w file: 将范围内的行另存至指定文件中
r file：在指定位置插入指定文件中的所有内容
/PATTERN：从当前光标所在处向文件尾部查找
?PATTERN：从当前光标所在处向文件首部查找
n：与命令同方向
N：与命令反方向

---

s: 在扩展模式下完成查找替换操作************************************重点

格式：s/要查找的内容/替换为的内容/修饰符
要查找的内容：可使用模式
替换为的内容：不能使用模式，但可以使用\1, \2, …等后向引用符号；还可以使用“&”引用前面查找时查找到的整个内容
修饰符：
i: 忽略大小写
g: 全局替换；默认情况下，每一行只替换第一次出现
gc:全局替换，每次替换前询问
查找替换中的分隔符/可替换为其它字符，例如
s@/etc@/var@g
s#/boot#/#i

---

命令模式：撤消更改
u撤销最近的更改
#u撤销之前多次更改
U撤消光标落在这行后所有此行的更改
按Ctrl-r重做最后的“撤消”更改
. 重复前一个操作
n.重复前一个操作n次
多文件模式
vim FILE1 FILE2 FILE3 …
:next 下一个
:prev前一个
:first 第一个
:last 最后一个
:wall 保存所有
:qall退出所有
:wqall

---

定制vim的工作特性

配置文件：永久有效
全局：/etc/vimrc***********************
个人：~/.vimrc
扩展模式：当前vim进程有效
(1) 行号
显示：set number, 简写为set nu
取消显示：set nonumber, 简写为set nonu
(2) 忽略字符的大小写
启用：set ic
不忽略：set noic
(3) 自动缩进
启用：set ai
禁用：set noai
(4) 智能缩进
启用：smartindent简写set si
禁用：set nosi
(5) 高亮搜索
启用：set hlsearch
禁用：set nohlsearch
(6) 语法高亮
启用：syntax on
禁用：syntax off
(7) 显示Tab和换行符^I 和$显示
启用：set list
禁用：set nolist
(8) 文件格式
启用windows格式：set fileformat=dos
启用unix格式：set fileformat=unix
简写：set ff=dos|unix
(9) 设置文本宽度
set textwidth=65 (vimonly)
set wrapmargin=15
(10) 设置光标所在行的标识线
启用：set cursorline，简写cul
禁用：set no cursorline
(11) 复制保留格式
启用：set paste
禁用：set nopaste

---

SHELL脚本*********************************************重点

创建shell脚本
第一步：使用文本编辑器来创建文本文件
第一行必须包括shell声明序列：#!
.#!/bin/bash
添加注释
注释以#开头
第二步：运行脚本
给予执行权限，在命令行上指定脚本的绝对或相对路径
直接运行解释器，将脚本作为解释器程序的参数运行
脚本规范
脚本代码开头约定
1、第一行一般为调用使用的语言
2、程序名，避免更改文件名为无法找到正确的文件
3、版本号
4、更改后的时间
5、作者相关信息
6、该程序的作用，及注意事项
7、最后是各版本的更新简要说明
shell脚本示例
#!/bin/bash
#------------------------------------------
#Filename: hello.sh
#Revision: 1.1
#Date: 2017/06/01
#Author: wang
#Email: [email protected]
#Website: www.magedu.com
#Description: This is the first script
#------------------------------------------
#Copyright: 2017 wang
#License: GPL
echo “hello world”

---

.vimrc文件在根目录下，修改：vim .vimrc 文件
可以修改vim的脚本注释作者等信息*******************************************

---

局部变量

变量赋值：name=‘value’
可以使用引用value:
(1) 可以是直接字串; name=“root”
(2) 变量引用：name="$USER"

(3) 命令引用：name=COMMAND name=$(COMMAND)变量引用：${name} $name
“”：弱引用，其中的变量引用会被替换为变量值

‘’：强引用，其中的变量引用不会被替换为变量值，而保持原字符串
显示已定义的所有变量：set
删除变量：unset name
环境变量
变量声明、赋值：
export name=VALUE
declare -x name=VALUE
变量引用：$name, ${name}
显示所有环境变量：
env

printenv
export
declare -x
删除变量：
unset name
退出状态
进程使用退出状态来报告成功或失败
0 代表成功，1－255代表失败
$? 变量保存最近的命令退出状态
例如：
ping-c1-W1hostdown&>/dev/null
echo$?

---

退出状态码***********************************************************8

bash自定义退出状态码
exit [n]：自定义退出状态码
注意：脚本中一旦遇到exit命令，脚本会立即终止；终止退出状态取决于exit命令后面的数字
注意：如果未给脚本指定退出状态码，整个脚本的退出状态码取决于脚本中执行的最后一条命令的状态码

算术运算

bash中的算术运算:help let
+, -, , /, %取模（取余）, （乘方）
实现算术运算：
(1) let var=算术表达式
(2) var=$[算术表达式](3)var=$((算术表达式))
(4) var=$(exprarg1arg2arg3...)(5)declare–ivar=数值(6)echo‘算术表达式’|bc乘法符号有些场景中需要转义，如\ast bash有内建的随机数生成器：$RANDOM（0-32767）
echo $[$RANDOM%50] ：0-49之间随机数
增强型赋值：
+=, -=, =, /=, %=
let varOPERvalue
例如:let count+=3
自加3后自赋值
自增，自减：
例子：
let var+=1
let var++
let var-=1
let var–
let n=1+2
echo $n3n=$（2+3）
2
expr 3+4 错误
expr 3 + 4
7
expr为命令 3+4为参数之间要有空格********************************
echo $[RANDOM%100+1] 取1-100之间的随机数 **
RANDOM为随机数，除以100得到的余数为0-99，+1后为1-100 *****
echo $? 查询命令执行结果

---

& 与 交集****************************************************
| 或 并集
! 非
^ 异或 相同为0 不同为1
&& 短路与 两条命令，第一条为真，则执行第二天2条看真假，第一条为假的情况下直接不执行命令
|| 短路或 两条命令，第一条为假，则执行第二天2条看真假，第一条为真的情况下直接不执行命令
同或 相同为1 不同为0
[ “$str1"!="$str2” ] 判断两个字符串是否相同
bash +x 加sh脚本可以看到脚本运行的过程，可以检查哪里出错
export +定义的变量可使该变量在子进程中也生效
find -name +文件名 查找文件或者安装包

---

bash的数值测试

-v VAR
变量VAR是否设置
数值测试：
-gt是否大于
-ge是否大于等于
-eq是否等于
-ne是否不等于
-lt是否小于
-le是否小于等于
Bash的文件属性测试

文件大小测试：

-s FILE: 是否存在且非空
文件是否打开：
-t fd: fd文件描述符是否在某终端已经打开
-N FILE：文件自从上一次被读取之后是否被修改过
-O FILE：当前有效用户是否为文件属主
-G FILE：当前有效用户是否为文件属组
Bash的文件测试

存在性测试

-a FILE：同-e
-e FILE: 文件存在性测试，存在为真，否则为假
存在性及类别测试
-b FILE：是否存在且为块设备文件
-c FILE：是否存在且为字符设备文件
-d FILE：是否存在且为目录文件
-f FILE：是否存在且为普通文件
-h FILE 或-L FILE：存在且为符号链接文件
-p FILE：是否存在且为命名管道文件
-S FILE：是否存在且为套接字文件

---

使用read命令来接受输入
使用read来把输入值分配给一个或多个shell变量
-p指定要显示的提示
-s 静默输入，一般用于密码
-n N指定输入的字符长度N
-d‘字符’ 输入结束符
-t N TIMEOUT为N秒
read从标准输入中读取值，给每个单词分配一个变量
所有剩余单词都被分配给最后一个变量
read -p “Enter a filename:“ FILE

---

bash如何展开命令行*****************************************重点

把命令行分成单个命令词
展开别名
展开大括号的声明（{}）
展开波浪符声明（~）
命令替换$()和``）
再次把命令行分成命令词
展开文件通配（*、?、[abc]等等）
准备I/0重导向（<、>）
运行命令
防止扩展
反斜线（\）会使随后的字符按原意解释

$echoYourcost:$5.00

Yourcost:$5.00
加引号来防止扩展
单引号（’）防止所有扩展
$（美元符号）－变量扩展
`（反引号）－命令替换
\（反斜线）－禁止单个字符扩展
!（叹号）－历史命令替换

---

Profile类

按功能划分，存在两类：
profile类和bashrc类
profile类：为交互式登录的shell提供配置
全局：/etc/profile, /etc/profile.d/*.sh
个人：~/.bash_profile
功用：
(1) 用于定义环境变量
(2) 运行命令或脚本
Bashrc类
bashrc类：为非交互式和交互式登录的shell提供配置
全局：/etc/bashrc
个人：~/.bashrc
功用：
(1) 定义命令别名和函数
(2) 定义本地变量

---

locate命令

locate KEYWORD
有用的选项

-i不区分大小写的搜索
-n N只列举前N个匹配项目
-r 使用正则表达式
示例
搜索名称或路径中带有“conf”的文件
locate conf
使用Regex来搜索以“.conf”结尾的文件
locate -r ‘.conf$’

---

1. [:space:] ↩︎