正则表达式

一、什么是正则表达式?

正则表达式是用“一串符号”描述有共同属性的数据。

那么正则表达式能用作什么呢?

其实正则表达式就是一种工具,和其他工具一样,它是为了解决某一类专门的问题而发明的。从根本上讲,它有两种基本的用途,搜索和替换。

 正则表达式并不是一种完备的程序设计语言,它甚至算不上一种能够直接安装并运行的程序。更准确的说,正则表达式语言是内置于其他语言或软件产品里的“迷你”语言。好在现在几乎所有的语言或工具都支持正则表达式。正则表达式有它自己的语法规则与用法。


二、正则表达式的基本用法

1正则表达式怎么写呢?

格式一:

grep 【选项】 ‘正则表达式’ 文件列表

处理的数据从文件列表中来

格式二、

命令 |gerp 【选项】 ‘正则表达式’

处理数据从命令中来

元字符组成正则表达式,用来匹配有共同属性的数据,

选项用来改变命令的处理方式,是可选项,不写时按默认方式处理

2常用的元字符:

^ : 匹配行首:^a 匹配以字母a开头的行(^ab 显示以a开头,后面紧跟是b的行)

$ :匹配行尾(a$ 匹配以字母a结尾的行)

.$ 匹配除换行符号\n之外的任意单个字符结尾的行

如果想让“.”成为一个字符输出,加转意符号 \

^$ :匹配空行

*匹配前边的正则表达式出现的次数( 次数>=0 )


3常用的选项有:

-v :取反 (输出与正则表达式不匹配的行)

--color :标红显示与正则表达式匹配的数据(默认输出一行)

-n :显示与正则表达式匹配的行在文件中行号

-c :显示与正则表达式匹配的行数

-q :不输出与正则表达式匹配的行(可用于判断要找的字段是否)

-i :忽略大小写匹配

( ) :把数据作为整体来匹配,使用时需要用转义符号

-E :扩展匹配,有转义时直接用E 去掉转义符号


4正则表达式还可以进行范围内匹配

范围内匹配:

【awf】匹配字符a或者w或者f

【091】匹配数字0或者9或者1

【a-z】 匹配所有的小写字母 【A-Z】大写 【a-Z】所有大小写

【0-9】匹配所有的数字

【a-Z0-9】数字和字母

【^a-z】^放到范围内匹配时表示范围内取反,匹配不是小写字母的

【^0-9】不是字母

^【a-z0-9】 匹配以范围内开头

*************注意-有连续的意思,当做字符的时候别放到中间


5正则表达式出现次数匹配

*前面的正则表达式出现0次到多出

\{n,m\}匹配前边的正则表达式出现指定的次数

\{5\}匹配前边的正则表达式必须出现5次

\{5,\}匹配前边的正则表达式次数大于等于5次

\{5,8\}匹配前边的正则表达式最少出现5次,最多出现8次

grep –E ‘g(ooo){3}d’a.txt 三次

grep –E ‘g(ooo){3,}d’a.txt 最少三次


grep –E ‘g(ooo){3,5}d’a.txt 三次到五次


+ 匹配前边的正则表达式出现1次到N次

? 匹配前边的正则表达式出现0次到1次

* 匹配前边的正则表达式出现0次到N次

grep –E ‘go+d’a.txt 一次到多次

grep –E ‘go?d’a.txt 0次到一次


6查找单词

\< 匹配单词的开头

grep –color “\

\> 匹配单词的开头


三、看的好枯燥,下面举例看一下正则表达式的应用:

1、典型的应用场合:grep、egrep检索文本行

使用不带-E选项的grep命令时,支持基本正则匹配模式。比如“word”关键词检索、“^word”匹配以word开头的行、“word$”匹配以word结尾的行……等等。

输出以“r”开头的用户记录:

# grep '^r' /etc/passwd

root:x:0:0:root:/root:/bin/bash

rpc:x:32:32:Portmapper RPC user:/:/sbin/nologin

rpcuser:x:29:29:RPC Service User:/var/lib/nfs:/sbin/nologin

输出以“localhost”结尾的行:

1.# grep 'localhost$' /etc/hosts

2.127.0.0.1 localhost.localdomain localhost

若希望在grep检索式同时组合多个条件,比如输出以“root”或者以“daemon”开头的行,这时候基本正则就不太方便了(“或者”必须转义为“\|”):

1.# grep '^root|^daemon' /etc/passwd         //搜索无结果

# grep '^root\|^daemon' /etc/passwd         //正确获得结果

4.root:x:0:0:root:/root:/bin/bash

5.daemon:x:2:2:daemon:/sbin:/sbin/nologin


而若若使用grep -E或egrep命令,可支持扩展正则匹配模式,能够自动识别 |、{ 等正则表达式中的特殊字符,用起来更加方便,比如:

1.# grep -E '^root|^daemon' /etc/passwd

2.root:x:0:0:root:/root:/bin/bash

3.daemon:x:2:2:daemon:/sbin:/sbin/nologin

或者

# egrep '^root|^daemon' /etc/passwd

使用grep -E 与 使用egrep命令完全等效,推荐使用后者,特别是涉及到复杂的正则表达式的时候;个人也比较喜欢用后者,没有扩展的时候扩展一下,也不会出错。

2)grep、egrep命令的-q选项

选项 -q 表示 quiet(静默)的意思,结合此选项可以只做检索而并不输出,通常在脚本内用来识别查找的目标是否存在,通过返回状态 $? 来判断,这样可以忽略无关的文本信息,简化脚本输出。

比如,检查/etc/hosts文件内是否存在192.168.4.4的映射记录,如果存在则显示“YES”,否则输出“NO”,一般会执行:


# grep '^192.168.4.4' /etc/hosts && echo "YES" || echo "NO"

2.192.168.4.4 svr5.tarena.com svr5

3.YES

这样grep的输出信息和脚本判断后的提示混杂在一起,用户不易辨别,所以可以改成以下操作:

# grep -q '^192.168.4.4' /etc/hosts && echo "YES" || echo "NO"

2.YES

是不是清爽多了,从上述结果也可以看到,使用 -q 选项的效果与使用 &> /dev/null的效果类似。

3)基本元字符 ^、$ —— 匹配行首、行尾

输出默认运行级别的配置记录(以id开头的行):

# egrep '^id' /etc/inittab

2.id:3:initdefault:

统计本地用户中登录Shell为“/sbin/nologin”的用户个数:

# egrep -m10 '/sbin/nologin$' /etc/passwd //先确认匹配正确

2.bin:x:1:1:bin:/bin:/sbin/nologin

3.daemon:x:2:2:daemon:/sbin:/sbin/nologin

4.adm:x:3:4:adm:/var/adm:/sbin/nologin

5.lp:x:4:7:lp:/var/spool/lpd:/sbin/nologin

6.mail:x:8:12:mail:/var/spool/mail:/sbin/nologin

7.uucp:x:10:14:uucp:/var/spool/uucp:/sbin/nologin

8.operator:x:11:0:operator:/root:/sbin/nologin

9.games:x:12:100:games:/usr/games:/sbin/nologin

10.gopher:x:13:30:gopher:/var/gopher:/sbin/nologin

11.ftp:x:14:50:FTP User:/var/ftp:/sbin/nologin

12.[root@svr5 ~]# egrep -c '/sbin/nologin$' /etc/passwd

13.32                                     //结合 -c 选项输出匹配的行数

使用 -c 选项可输出匹配行数,这与通过管道再 wc -l的效果是相同的,但是写法更简便。比如,统计使用“/bin/bash”作为登录Shell的正常用户个数,可执行:

# egrep -c '/bin/bash$' /etc/passwd

26

或者

# egrep '/bin/bash$' /etc/passwd | wc -l

26

4)基本元字符 . —— 匹配任意单个字符

以/etc/rc.local文件为例,确认文本内容:

1.# cat /etc/rc.local

2.#!/bin/sh

3.#

4.# This script will be executed *after* all the other init scripts.

5.# You can put your own initialization stuff in here if you don't

6.# want to do the full Sys V style init stuff.

7.

8.touch /var/lock/subsys/local

输出/etc/rc.local文件内至少包括一个字符(\n换行符除外)的行,即非空行:

1.# egrep '.' /etc/rc.local

2.#!/bin/sh

3.#

4.# This script will be executed *after* all the other init scripts.

5.# You can put your own initialization stuff in here if you don't

6.# want to do the full Sys V style init stuff.

7.touch /var/lock/subsys/local

输出/etc/rc.local文件内的空行(用 –v 选项将条件取反):

.# egrep -v '.' /etc/rc.local

上述取空行的操作与下列操作效果相同:

# egrep '^$' /etc/rc.local

5)基本元字符 +、?、* —— 目标出现的次数

还以/etc/rc.local文件为例:

1. # cat /etc/rc.local

2.#!/bin/sh

3.#

4.# This script will be executed *after* all the other init scripts.

5.# You can put your own initialization stuff in here if you don't

6.# want to do the full Sys V style init stuff.

7.

8.touch /var/lock/subsys/local

输出包括 f、ff、ff、……的行,即“f”至少出现一次:

1. # egrep 'f+' /etc/rc.local

2.# This script will be executed *after* all the other init scripts.

3.# You can put your own initialization stuff in here if you don't

4.# want to do the full Sys V style init stuff.

输出包括init、initial的行,即末尾的“ial”最多出现一次(可能没有):

1.# egrep 'init(ial)?' /etc/rc.local

2.# This script will be executed *after* all the other init scripts.

3.# You can put your own initialization stuff in here if you don't

4.# want to do the full Sys V style init stuff.

输出包括stu、stuf、stuff、stufff、……的行,即末尾的“f”可出现任意多次,也可以没有。重复目标只有一个字符时,可以不使用括号:

1.# egrep 'stuf*' /etc/rc.local

2.# You can put your own initialization stuff in here if you don't

3.# want to do the full Sys V style init stuff.

输出所有行,单独的“.*”可匹配任意行(包括空行):

1.]# egrep '.*' /etc/rc.local

2.#!/bin/sh

3.#

4.# This script will be executed *after* all the other init scripts.

5.# You can put your own initialization stuff in here if you don't

6.# want to do the full Sys V style init stuff.

7.

8.touch /var/lock/subsys/local

输出/etc/passwd文件内“r”开头且以“nologin”结尾的用户记录,即中间可以是任意字符:

1. # egrep '^r.*nologin$' /etc/passwd

2.rpc:x:32:32:Portmapper RPC user:/:/sbin/nologin

3.rpcuser:x:29:29:RPC Service User:/var/lib/nfs:/sbin/nologin

6)元字符 {} —— 限定出现的次数范围

创建一个练习用的测试文件:

1. # vim brace.txt

2.ab def ghi abdr

3.dedef abab ghighi

4.abcab CD-ROM

5.TARENA IT GROUP

6.cdcd ababab

7.Hello abababab World

输出包括ababab的行,即“ab”连续出现3次:

1.otegrep '(ab){3}' brace.txt

2.cdcd ababab

3.Hello abababab World

输出包括abab、ababab、abababab的行,即“ab”连续出现2~4次:

1.]# egrep '(ab){2,4}' brace.txt

2.dedef abab ghighi

3.cdcd ababab

4.Hello abababab World

输出包括ababab、abababab、……的行,即“ab”最少连续出现3次:

1.# egrep '(ab){3,}' brace.txt

2.cdcd ababab

3.Hello abababab World

7)元字符 [] —— 匹配范围内的单个字符

还以前面的测试文件bracet.txt为例:

1.#cat brace.txt

2.ab def ghi abdr

3.dedef abab ghighi

4.abcab CD-ROM

5.TARENA IT GROUP

6.cdcd ababab

7.Hello abababab World

输出包括abc、abd的行,即前两个字符为“ab”,第三个字符只要是c、d中的一个就符合条件:

1.# egrep 'ab[cd]' brace.txt

2.ab def ghi abdr

3.abcab CD-ROM

输出包括大写字母的行,使用[A-Z]匹配连续范围:

1.[root@svr5 ~]# egrep '[A-Z]' brace.txt

2.abcab CD-ROM

3.TARENA IT GROUP

4.Hello abababab World

输出包括“非空格也非小写字母”的其他字符的行,本例中大写字母和 – 符合要求:

1.# egrep '[^ a-zA-Z]' brace.txt

2.abcab CD-ROM

8)单词边界匹配

以文件/etc/rc.local为例:

1.# cat /etc/rc.local

2.#!/bin/sh

3.#

4.# This script will be executed *after* all the other init scripts.

5.# You can put your own initialization stuff in here if you don't

6.# want to do the full Sys V style init stuff.

7.

8.touch /var/lock/subsys/local

输出包括单词“init”的行,文件中“initialization”不合要求:

1.#egrep '\binit\b' /etc/rc.local

2.# This script will be executed *after* all the other init scripts.

3.# want to do the full Sys V style init stuff.

或者:

1.# egrep '\' /etc/rc.local

2.# This script will be executed *after* all the other init scripts.

3.# want to do the full Sys V style init stuff.

输出包括以“init”开头的单词的行,使用 \< 匹配单词左边界:

1.# egrep '\

2.# This script will be executed *after* all the other init scripts.

3.# You can put your own initialization stuff in here if you don't

4.# want to do the full Sys V style init stuff.

或者:

1.# egrep '\binit' /etc/rc.local

2.# This script will be executed *after* all the other init scripts.

3.# You can put your own initialization stuff in here if you don't

4.# want to do the full Sys V style init stuff.

输出包括以“ll”结尾的单词的行,使用 \> 匹配单词右边界:

1.# egrep 'll\>' /etc/rc.local

2.# This script will be executed *after* all the other init scripts.

3.# want to do the full Sys V style init stuff.

或者:

1.#egrep 'll\b' /etc/rc.local

2.# This script will be executed *after* all the other init scripts.

3.# want to do the full Sys V style init stuff.

9)多个条件的组合

通过dmesg启动日志查看与IDE接口、CDROM光盘相关的设备信息:

1.]# egrep '\|\' /var/log/dmesg

2.Uniform Multi-Platform E-IDE driver Revision: 7.00alpha2

3.PIIX4: IDE controller at PCI slot 0000:00:07.1

4.Probing IDE interface ide0...

5.Probing IDE interface ide1...

6.hdc: VMware Virtual IDE CDROM Drive, ATAPI CD/DVD-ROM drive

7.Probing IDE interface ide0...

通过dmesg启动日志查看蓝牙设备、网卡设备相关的信息:

1.#egrep -i 'eth|network|bluetooth' /var/log/dmesg

2.Initalizing network drop monitor service

3.Bluetooth: Core ver 2.10

4.Bluetooth: HCI device and connection manager initialized

5.Bluetooth: HCI socket layer initialized

6.Bluetooth: HCI USB driver ver 2.9

7.Intel(R) PRO/1000 Network Driver - version 7.3.21-k4-3-NAPI

8.e1000: eth0: e1000_probe: Intel(R) PRO/1000 Network Connection