[unix shell笔记] - grep家族
相信grep是UNIX和LINUX中使用最广泛的命令之一。grep（全局正则表达式版本）允许对文本文件进行模式查找。如果找到匹配模式，grep打印包含模式的所有行。grep支持基本正则表达式，也支持其扩展集。grep有三种变形，即：
grep：标准grep命令，本章大部分篇幅集中讨论此格式。
egrep：扩展grep，支持基本及扩展的正则表达式，但不支持\q模式范围的应用，与之相对应的一些更加规范的模式，这里也不予讨论。
fgrep：快速grep。允许查找字符串而不是一个模式。不要误解单词fast，实际上它与grep速度相当。
在本章中我们将讨论：
- grep（参数）选项。
- 匹配grep的一般模式。
- 只匹配字母或数字，或两者混用。
- 匹配字符串范围。
实际上应该只有一个grep命令，但不幸的是没有一种简单形式能够统一处理grep的三种变形，将之合而为一，并保持grep单模式处理时的速度。GNU grep虽然在融合三种变形上迈进了一大步，但仍不能区分元字符的基本集和扩展集。上一章只讨论了基本的正则表达式，但在查看grep时也涉及到一 些扩展模式的匹配操作。然而，首先还是先讨论一下在grep和fgrep及egrep中均可使用的grep模式吧。
开始讨论之前，先生成一个文件，插入一段文本，并在每列后加入<Tab>键，grep命令示例中绝大多数将以此为例，其命名为data.f。先来看看data.f的记录结构。
第1列：城市位置编号。
第2列：月份。
第3列：存储代码及出库年份。
第4列：产品代号。
第5列：产品统一标价。
第6列：标识号。
第7列：合格数量。
$ less data.f
48 Dec 3BC1997 LPSX 68.00 LVX2A 138
483 Sept 5AP1996 USP 65.00 LVX2C 189
47 Oct 3ZL1998 LPSX 43.00 KVM9D 512
219 dec 2CC1999 CAD 23.00 PLV2C 68
484 nov 7PL1996 CAD 49.00 PLV2C 234
483 may 5PA1998 USP 37.00 KVM9D 644
216 sept 3ZL1998 USP 86.00 KVM9E 234
1 grep
grep一般格式为：
grep [选项]基本正则表达式[文件]
这里基本正则表达式可为字符串。
1.1 双引号引用
在grep命令中输入字符串参数时，最好将其用双引号括起来。例如："mystring"。这样做有两个原因，一是以防被误解为shell命令，二是可以用来查找多个单词组成的字符串，例如："jetplane"，如果不用双引号将其括起来，那么单词plane将被误认为是一个文件，查询结果将返回"文件不存在"的错误信息。
在调用变量时，也应该使用双引号，诸如：grep"$MYVAR"文件名，如果不这样，将没有返回结果。
在调用模式匹配时，应使用单引号。
1.2 grep选项
常用的grep选项有：
-c 只输出匹配行的计数。
-i 不区分大小写（只适用于单字符）。
-h 查询多文件时不显示文件名。
-l 查询多文件时只输出包含匹配字符的文件名。
-n 显示匹配行及行号。
-s 不显示不存在或无匹配文本的错误信息。
-v 显示不包含匹配文本的所有行。
1.3 查询多个文件
如果要在当前目录下所有.doc文件中查找字符串"sort"，方法如下：
$ grep "sort"*.doc
或在所有文件中查询单词"sort it"
$ grep "sort it" *
现在讲述在文本文件中grep选项的用法。
1.4 行匹配
$ grep -c "48"data.f
4
grep返回数字4，意义是有4行包含字符串"48"。
现在显示包含"48"字符串的4行文本：
$ grep "48" data.f
48 Dec 3BC1997 LPSX 68.00 LVX2A 138
483 Sept 5AP1996 USP 65.00 LVX2C 189
484 nov 7PL1996 CAD 49.00 PLV2C 234
483 may 5PA1998 USP 37.00 KVM9D 644
1.5 行数
显示满足匹配模式的所有行行数：
$ grep -n "48" data.f
1:48 Dec 3BC1997 LPSX 68.00 LVX2A 138
2:483 Sept 5AP1996 USP 65.00 LVX2C 189
5:484 nov 7PL1996 CAD 49.00 PLV2C 234
6:483 may 5PA1998 USP 37.00 KVM9D 644
行数在输出第一列，后跟包含48的每一匹配行。
1.6 显示非匹配行
显示所有不包含48的各行：
$ grep -v "48" data.f
219 dec 2CC1999 CAD 23.00 PLV2C 68
484 nov 7PL1996 CAD 49.00 PLV2C 234
1.7 精确匹配
可能大家已注意到，在上一例中，抽取字符串"48"，返回结果包含诸如484和483等包含"48"的其他字符串，实际上应精确抽取只包含48的各行。注意在每个匹配模式中抽取字符串后有一个<Tab>键，所以应操作如下：
$ grep "48<tab>" data.f
48 Dec 3BC1997 LPSX 68.00 LVX2A 138
<Tab>表示点击tab键。
使用grep抽取精确匹配的一种更有效方式是在抽取字符串后加\>。假定现在精确抽取48，方法如下：
$ grep '48\>' data.f
48 Dec 3BC1997 LPSX 68.00 LVX2A 138
1.8 大小写敏感
缺省情况下，grep是大小写敏感的，如要查询大小写不敏感字符串，必须使用-i开关。在data.f文件中有月份字符Sept，既有大写也有小写，要取得此字符串大小写不敏感查询，方法如下：
$ grep -i "sept" data.f
483 may 5PA1998 USP 37.00 KVM9D 644
216 sept 3ZL1998 USP 86.00 KVM9E 234
8.2 grep和正则表达式
使用正则表达式使模式匹配加入一些规则，因此可以在抽取信息中加入更多选择。使用正则表达式时最好用单引号括起来，这样可以防止grep中使用的专有模式与一些shell命令的特殊方式相混淆。
2.1 模式范围
假定要抽取代码为484和483的城市位置，上一章中讲到可以使用[]来指定字符串范围，这里用48开始，以3或4结尾，这样抽出484或483。
$ grep '48[34]' data.f
483 Sept 5AP1996 USP 65.00 LVX2C 189
484 nov 7PL1996 CAD 49.00 PLV2C 234
483 may 5PA1998 USP 37.00 KVM9D 644
2.2 不匹配行首
如果要抽出记录，使其行首不是48，可以在方括号中使用^记号，表明查询在行首开始。
$ grep '^[^48]' data.f
219 dec 2CC1999 CAD 23.00 PLV2C 68
216 sept 3ZL1998 USP 86.00 KVM9E 234
2.3 设置大小写
使用-i开关可以屏蔽月份Sept的大小写敏感，也可以用另一种方式。这里使用[ ]模式抽取各行包含Sept和sept的所有信息。
$ grep '[Ss]ept' data.f
483 Sept 5AP1996 USP 65.00 LVX2C 189
216 sept 3ZL1998 USP 86.00 KVM9E 234
如果要抽取包含Sept的所有月份，不管其大小写，并且此行包含字符串483，可以使用管道命令，即符号"|"左边命令的输出作为"|"右边命令的输入。举例如下：
$ grep '[Ss]ept' data.f | grep 483
483 Sept 5AP1996 USP 65.00 LVX2C 189
不必将文件名放在第二个grep命令中，因为其输入信息来自于第一个grep命令的输出。
2.4 匹配任意字符
如果抽取以L开头，以D结尾的所有代码，可使用下述方法，因为已知代码长度为5个字符：
$ grep 'K…D' data.f
47 Oct 3ZL1998 LPSX 43.00 KVM9D 512
483 Sept 5AP1996 USP 65.00 LVX2C 189
将上述代码做轻微改变，头两个是大写字母，中间两个任意，并以C结尾：
$ grep '[A-Z][A-Z]..C' data.f
483 Sept 5AP1996 USP 65.00 LVX2C 189
219 dec 2CC1999 CAD 23.00 PLV2C 68
484 nov 7PL1996 CAD 49.00 PLV2C 234
2.5 日期查询
一个常用的查询模式是日期查询。先查询所有以5开始以1996或1998结尾的所有记录。使用模式5..199[6,8]。这意味着第一个字符为5，后跟两个点，接着是199，剩余两个数字是6或8。
$ grep '5..199[6,8]’ data.f
483 may 5PA1998 USP 37.00 KVM9D 644
483 Sept 5AP1996 USP 65.00 LVX2C 189
查询包含1998的所有记录的另外一种方法是使用表达式[0-9]\{3\}[8]，含义是任意数字重复3次，后跟数字8，虽然这个方法不像上一个方法那么精确，但也有一定作用。
$ grep '[0-9]\{3\}[8]' data.f
47 Oct 3ZL1998 LPSX 43.00 KVM9D 512
483 may 5PA1998 USP 37.00 KVM9D 644
216 sept 3ZL1998 USP 86.00 KVM9E 234
2.6 范围组合
必须学会使用[]抽取信息。假定要取得城市代码，第一个字符为任意字符，第二个字符在
0到5之间，第三个字符在0到6之间，使用下列模式即可实现。
$ grep '[0-9][0-5][0-6]' data.f
48 Dec 3BC1997 LPSX 68.00 LVX2A 138
483 Sept 5AP1996 USP 65.00 LVX2C 189
47 Oct 3ZL1998 LPSX 43.00 KVM9D 512
219 dec 2CC1999 CAD 23.00 PLV2C 68
484 nov 7PL1996 CAD 49.00 PLV2C 234
483 may 5PA1998 USP 37.00 KVM9D 644
216 sept 3ZL1998 USP 86.00 KVM9E 234
这里返回很多信息，有想要的，也有不想要的。参照模式，返回结果是正确的，因此这
里还需要细化模式，可以以行首开始，使用^符号：
$ grep '^[0-9][0-5][0-6]' data.f
216 sept 3ZL1998 USP 86.00 KVM9E 234
这样可以返回一个预期的正确结果。
2.7 模式出现机率
抽取包含数字4至少重复出现两次的所有行，方法如下：
$ grep '4\{2,\}' data.f
483 may 5PA1998 USP 37.00 KVM9D 644
上述语法指明数字4至少重复出现两次。
同样，抽取记录使之包含数字999（三个9），方法如下：
$ grep '9\{3,\}' data.f
219 dec 2CC1999 CAD 23.00 PLV2C 68
如果要查询重复出现次数一定的所有行，语法如下，数字9重复出现两次：
$ grep '9\{2,\}' data.f
有时要查询重复出现次数在一定范围内，比如数字或字母重复出现2到6次，下例匹配数字8重复出现2到6次，并以3结尾：
$ grep '6\{2,6}3' myfile
83 - no match
888883 - match
8884 - no match
88883 - match
2.8 使用grep匹配"与"或者"或"模式
grep命令加-E参数，这一扩展允许使用扩展模式匹配。例如，要抽取城市代码为219或216，方法如下：
$ grep -E '219|216' data.f
219 dec 2CC1999 CAD 23.00 PLV2C 68
216 sept 3ZL1998 USP 86.00 KVM9E 234
2.9 空行
结合使用^和$可查询空行。使用-n参数显示实际行数：
$ grep '^$' myfile
2.10 匹配特殊字符
查询有特殊含义的字符，诸如$ . ' " * [] ^ | \ + ? ,必须在特定字符前加\。假设要查询包含"."的所有行，脚本如下：
$ grep '\.' myfile
或者是一个双引号：
$ grep '\"' myfile
以同样的方式，如要查询文件名conftroll.conf（这是一个配置文件），脚本如下：
$ grep 'conftroll\.conf' myfile
2.11 查询格式化文件名
使用正则表达式可匹配任意文件名。系统中对文本文件有其标准的命名格式。一般最多六个小写字符，后跟句点，接着是两个大写字符。例如，要在一个包含各类文件名的文件filename.deposit中定位这类文件名，方法如下：
$ grep '[^a-z]\{1,6/}\.[^A-Z]\{1,2/}' filename.deposit
yrend.AS - match
mothdf - no match
soa.PP - match
qp.RR - match
2.12 查询IP地址
查询DNS服务是日常工作之一，这意味着要维护覆盖不同网络的大量IP地址。有时地址IP会超过2000个。如果要查看nnn.nnn网络地址，但是却忘了第二部分中的其余部分，只知有两个句点，例如nnn.nn..。要抽取其中所有nnn.nnn IP地址，使用[0-9]\{3\}\.[0-0\{3\}\。含义是任意数字出现3次，后跟句点，接着是任意数字出现3次，后跟句点。
$ grep '[0-9]\{3\}\.[0-0\{3\}\.' ipfile
3 类名
grep允许使用国际字符模式匹配或匹配模式的类名形式。
表8-1类名及其等价的正则表达式
| 类 |
等价的正则表达式 |
类 |
等价的正则表达式 |
|
| [[:upper:]] |
[A-Z] |
[[:alnum:]] |
[0-9a-zA-Z] |
|
| [[:lower:]] |
[a-z] |
[[:space:]] |
空格或tab键 |
|
| [[:digit:]] |
[0-9] |
[[:alpha:]] |
[a-zA-Z] |
|
$ grep '5[[:upper:]][[:upper:]]' data.f
483 Sept 5AP1996 USP 65.00 LVX2C 189
483 may 5PA1998 USP 37.00 KVM9D 644
如果要抽取以P或D结尾的所有产品代码，方法如下：
$ grep '[[:upper:]][[:upper:]] [P,D]' data.f
483 Sept 5AP1996 USP 65.00 LVX2C 189
219 dec 2CC1999 CAD 23.00 PLV2C 68
484 nov 7PL1996 CAD 49.00 PLV2C 234
483 may 5PA1998 USP 37.00 KVM9D 644
216 sept 3ZL1998 USP 86.00 KVM9E 234
使用通配符*的匹配模式
现在讲述grep中通配符*的使用。现有文件如下：
$ less testfile
looks
likes
looker
long
下述grep模式结果显示如下：
$ grep 'l.*s' testfile
looks
likes
$ grep 'l.*k.' testfile
looks
likes
$ grep 'oo*' testfile
looks
如在行尾查询某一单词，试如下模式：
$ grep 'device$' *
这将在所有文件中查询行尾包含单词device的所有行。
4 系统grep命令
使用已学过的知识可以很容易通过grep命令获得系统信息。下面几个例子中，将用到管道命令，即符号|，使用它左边命令的输出结果作为它右边命令的输入。
4.1 目录
如果要查询目录列表中的目录，方法如下：
$ ls -l | grep '^d'
如果在一个目录中查询不包含目录的所有文件，方法如下：
$ ls -l | grep '^[^d]'
要查询其他用户和其他用户组成员有可执行权限的目录集合，方法如下：
$ ls -l | grep '^d…..x..x'
4.2 passwd文件
$ grep "louise" /etc/passwd
louise:Xal6gw9G.ZyY:501:501:Accounts Sect 1C:/home/accts/louise:/bin/sh
上述脚本查询/etc/passwd文件是否包含louise字符串，如果误输入以下脚本：
$ grep -s "louise" /etc/password
$
将返回grep命令错误代码'No such file or directory'。
上述结果表明输入文件名不存在，使用grep命令-s开关，可屏蔽错误信息。
返回命令提示符，而没有文件不存在的错误提示。
如果grep命令不支持-s开关，可替代使用以下命令：
$ grep "louise" /etc/password > /dev/null 2>&1
脚本含义是匹配命令输出或错误（2>$1），并将结果输出到系统池。大多数系统管理员称/dev/null为比特池，没关系，可以将之看成一个无底洞，有进没有出，永远也不会填满。
如要保存grep命令的查询结果，可将命令输出重定向到一个文件。
$ grep "louise" /etc/passwd >/tmp/passwd.out
脚本将输出重定向到目录/tmp下文件passwd.out中。
4.3 使用ps命令
使用带有ps x命令的grep可查询系统上运行的进程。ps x命令意为显示系统上运行的所有进程列表。要查看DNS服务器是否正在运行（通常称为named），方法如下：
$ ps ax | grep "named"
PID TTY STAT TIME CMD
211 ? S 4.56 named
303 3 S 0.00 grep named
输出也应包含此grep命令，因为grep命令创建了相应进程，ps x将找到它。在grep命令中使用-v选项可丢弃ps命令中的grep进程。
$ ps ax | grep named | grep -v "grep”
211 ? S 4.56 named
如果ps x不适用于用户系统，替代使用ps -ef。
4.4 对一个字符串使用grep
grep不只应用于文件，也可应用于字符串。为此使用echo字符串命令，然后对grep命令使用管道输入。
$ STR="Mary Joe Peter Pauline"
$ echo $STR | grep "Mary"
Mary Joe Peter Pauline
匹配成功实现。
$ echo $STR | grep "Simon"
因为没有匹配字符串，所以没有输出结果。
5 egrep
egrep代表expression或extendedgrep，适情况而定。egrep接受所有的正则表达式，egrep的一个显著特性是可以以一个文件作为保存的字符串，然后将之传给egrep作为参数，为此使用-f开关。如果创建一个名为grepstrings的文件，并输入484和47：
$ less grepstrings
487
47
$ egrep -f grepstrings data.f
上述脚本匹配data.f中包含484或47的所有记录。当匹配大量模式时，-f开关很有用，而在一个命令行中敲入这些模式显然极为繁琐。
如果要查询存储代码32L或2CC，可以使用（|）符号，意即"|"符号两边之一或全部。
$ egrep '(3ZL|2CC)' data.f
47 Oct 3ZL1998 LPSX 43.00 KVM9D 512
219 Dec 2CC1999 CAD 23.00 PLV2c 68
216 Sept 3ZL1998 USP 86.00 KVM9E 234
可以使用任意多竖线符"|"，例如要查看在系统中是否有帐号louise、matty或pauline，使用who命令并管道输出至egrep。
$ who | egrep (louise|matty|Pauline)
louise pty8
matty tty02
Pauline pty2
还可以使用^符号排除字符串。如果要查看系统上的用户，但不包括matty和pauline，方法如下：
$ who | egrep -v '^(matty|Pauline)'
如果要查询一个文件列表，包括shutdown、shutdowns、reboot和reboots，使用egrep可容易地实现。
$ egrep '(shutdown | reboot) (s)?' *
6 小结
grep灵活，它是一个很强大而流行的工具，像其他许多UNIX工具一样，已经被使用在DOS中。如果要通过文件快速查找字符串或模式，grep是一个很好的选择。简单地说，grep是shell编程中很重要的工具，在使用其他UNIX工具和进行变量替换时将发现这一点。