由于正则表达式的内容比较多,所以单独写成一系列文章,主要内容是根据小甲鱼所讲的内容综合一下正则表达式的笔记。

贴上小甲鱼的《Python3 如何优雅地使用正则表达式》系列可观看的博客地址:http://www.cnblogs.com/LoveFishC/tag/Python3/

正则表达式(Regular expressions 也称为 REs,或 regexes 或 regex patterns)本质上是一个微小的且高度专业化的编程语言。它被嵌入到 Python 中,并通过 re 模块提供给程序猿使用。使用正则表达式,你需要指定一些规则来描述那些你希望匹配的字符串集合。这些字符串集合可能包含英语句子、 e-mail 地址、TeX 命令,或任何你想要的东东。

正则表达式模式被编译成一系列的字节码,然后由一个 C 语言写的匹配引擎所执行。对于高级的使用,你可能需要更关注匹配引擎是如何执行给定的 RE,并通过一定的方式来编写 RE,以便产生一个可以运行得更快的字节码。本文暂不讲解优化的细节,因为这需要你对匹配引擎的内部机制有一个很好的理解。但本文的例子均是符合标准的正则表达式语法。
正则表达式语言相对较小,并且受到限制,所以不是所有可能的字符串处理任务都可以使用正则表达式来完成。还有一些特殊的任务,可以使用正则表达式来完成,但是表达式会因此而变得非常复杂。在这种情况下,你可能通过自己编写 Python 代码来处理会更好些;尽管 Python 代码比一个精巧的正则表达式执行起来会慢一些,但可能会更容易理解。

我们将从最简单的正则表达式学习开始。由于正则表达式常用于操作字符串的,因此我们从最常见的任务下手:字符匹配。

大多数字母和字符会匹配它们自身。举个例子,正则表达式 FishC 将完全匹配字符串 "FishC"。(你可以启用不区分大小写模式,这将使得 FishC 可以匹配 "FISHC" 或 "fishc",我们会在后边讨论这个话题。)

当然这个规则也有例外。有少数特殊的字符我们称之为元字符(metacharacter),它们并不能匹配自身,它们定义了字符类、子组匹配和模式重复次数等:

. ^ $ * + ? { } [ ] \ | ( )

在《Python3 如何优雅地使用正则表达式(详解一)》中主要是介绍了以上几种元字符的用法和举例,如有需要可以看看。下面贴上Python3 正则表达式特殊符号及用法(详细列表)

正则表达式的强大之处在于特殊符号的应用,特殊符号定义了字符集合、子组匹配、模式重复次数。正是这些特殊符号使得一个正则表达式可以匹配字符串集合而不只是一个字符串。

注1:为了便于理解,难点的地方均用斜体举了栗子。

一些元字符的实例可参考:《Python3 如何优雅地使用正则表达式(详解四)》

字符

含义

.

表示匹配除了换行符外的任何字符
注:通过设置 re.DOTALL 标志可以使 . 匹配任何字符(包含换行符)

|

A | B,表示匹配正则表达式 A 或者 B

^

  1. (脱字符)匹配输入字符串的开始位置
  2. 如果设置了 re.MULTILINE 标志,^ 也匹配换行符之后的位置

$

  1. 匹配输入字符串的结束位置
  2. 如果设置了 re.MULTILINE 标志,$ 也匹配换行符之前的位置

\

  1. 将一个普通字符变成特殊字符,例如 \d 表示匹配所有十进制数字
  2. 解除元字符的特殊功能,例如 . 表示匹配点号本身
  3. 引用序号对应的子组所匹配的字符串
  4. 详见下方列举

[...]

字符类,匹配所包含的任意一个字符
注1:连字符 - 如果出现在字符串中间表示字符范围描述;如果如果出现在首位则仅作为普通字符
注2:特殊字符仅有反斜线 \ 保持特殊含义,用于转义字符。其它特殊字符如 *、+、? 等均作为普通字符匹配
注3:脱字符 ^ 如果出现在首位则表示匹配不包含其中的任意字符;如果 ^ 出现在字符串中间就仅作为普通字符匹配

{M,N}

M 和 N 均为非负整数,其中 M <= N,表示前边的 RE 匹配 M ~ N 次
注1:{M,} 表示至少匹配 M 次
注2:{,N} 等价于 {0,N}
注3:{N} 表示需要匹配 N 次

*

匹配前面的子表达式零次或多次,等价于 {0,}

+

匹配前面的子表达式一次或多次,等价于 {1,}

?

匹配前面的子表达式零次或一次,等价于 {0,1}

*?, +?, ??

默认情况下 、+ 和 ? 的匹配模式是贪婪模式(即会尽可能多地匹配符合规则的字符串);?、+? 和 ?? 表示启用对应的非贪婪模式。
举个栗子:对于字符串 "FishCCC",正则表达式 FishC+ 会匹配整个字符串,而 FishC+? 则匹配 "FishC"。

{M,N}?

同上,启用非贪婪模式,即只匹配 M 次

(...)

匹配圆括号中的正则表达式,或者指定一个子组的开始和结束位置
注:子组的内容可以在匹配之后被 \数字 再次引用
举个栗子: (\w+) \1 可以字符串 "FishC FishC.com" 中的 "FishC FishC"(注意有空格)

(?...)

(? 开头的表示为正则表达式的扩展语法(下边这些是 Python 支持的所有扩展语法)

(?aiLmsux)

  1. (? 后可以紧跟着 'a','i','L','m','s','u','x' 中的一个或多个字符,只能在正则表达式的开头使用
  2. 每一个字符对应一种匹配标志:re-A(只匹配 ASCII 字符),re-I(忽略大小写),re-L(区域设置),re-M(多行模式), re-S(. 匹配任何符号),re-X(详细表达式),包含这些字符将会影响整个正则表达式的规则
  3. 当你不想通过 re.compile() 设置正则表达式标志,这种方法就非常有用啦
    注意,由于 (?x) 决定正则表达式如何被解析,所以它应该总是被放在最前边(最多允许前边有空白符)。如果 (?x) 的前边是非空白字符,那么 (?x) 就发挥不了作用了。

(?:...)

非捕获组,即该子组匹配的字符串无法从后边获取

(?P...)

命名组,通过组的名字(name)即可访问到子组匹配的字符串

(?P=name)

反向引用一个命名组,它匹配指定命名组匹配的任何内容

(?#...)

注释,括号中的内容将被忽略

(?=...)

前向肯定断言。如果当前包含的正则表达式(这里以 ... 表示)在当前位置成功匹配,则代表成功,否则失败。一旦该部分正则表达式被匹配引擎尝试过,就不会继续进行匹配了;剩下的模式在此断言开始的地方继续尝试。
举个栗子:love(?=FishC) 只匹配后边紧跟着 "FishC" 的字符串 "love"

(?!...)

前向否定断言。这跟前向肯定断言相反(不匹配则表示成功,匹配表示失败)。
举个栗子:FishC(?!.com) 只匹配后边不是 ".com" 的字符串 "FishC"

(?<=...)

后向肯定断言。跟前向肯定断言一样,只是方向相反。
举个栗子:(?<=love)FishC 只匹配前边紧跟着 "love" 的字符串 "FishC"

(?

后向否定断言。跟前向肯定断言一样,只是方向相反。
举个栗子:(?

(?(id/name)yes-pattern|no-pattern)

  1. 如果子组的序号或名字存在的话,则尝试 yes-pattern 匹配模式;否则尝试 no-pattern 匹配模式
  2. no-pattern 是可选的
    举个栗子:(<)?(\w+@\w+(?:.\w+)+)(?(1)>|$) 是一个匹配邮件格式的正则表达式,可以匹配 和 '[email protected]',但是不会匹配 ''

\

下边列举了由字符 '\' 和另一个字符组成的特殊含义。注意,'\' + 元字符的组合可以解除元字符的特殊功能

\序号

  1. 引用序号对应的子组所匹配的字符串,子组的序号从 1 开始计算
  2. 如果序号是以 0 开头,或者 3 个数字的长度。那么不会被用于引用对应的子组,而是用于匹配八进制数字所表示的 ASCII 码值对应的字符
    举个栗子:.+) \1 会匹配 "FishC FishC" 或 "55 55",但不会匹配 "FishCFishC"(注意,因为子组后边还有一个空格)

\A

匹配输入字符串的开始位置

\Z

匹配输入字符串的结束位置

\b

零宽断言,匹配一个单词边界,单词被定义为 Unidcode 的字母数字或下横线字符
举个栗子:\bFishC\b 会匹配字符串 "love FishC"、FishC." 或 "(FishC)"

\B

零宽断言,匹配非单词边界,其实就是与 \b 相反
举个栗子:py\B 会匹配字符串 "python"、"py3" 或 "py2",但不会匹配 "py "、"py." 或 "py!"

\d

  1. 对于 Unicode(str 类型)模式:匹配任何一个数字,包括 [0-9] 和其他数字字符;如果开启了 re.ASCII 标志,就只匹配 [0-9]
  2. 对于 8 位(bytes 类型)模式:匹配 [0-9] 中任何一个数字

\D

匹配任何非 Unicode 的数字,其实就是与 \d 相反;如果开启了 re.ASCII 标志,则相当于匹配 [^0-9]

\s

  1. 对于 Unicode(str 类型)模式:匹配 Unicode 中的空白字符(包括 [ \t\n\r\f\v] 以及其他空白字符);如果开启了 re.ASCII 标志,就只匹配 [ \t\n\r\f\v]
  2. 对于 8 位(bytes 类型)模式:匹配 ASCII 中定义的空白字符,即 [ \t\n\r\f\v]

\S

匹配任何非 Unicode 中的空白字符,其实就是与 \s 相反;如果开启了 re.ASCII 标志,则相当于匹配 [^ \t\n\r\f\v]

\w

  1. 对于 Unicode(str 类型)模式:匹配任何 Unicode 的单词字符,基本上所有语言的字符都可以匹配,当然也包括数字和下横线;如果开启了 re.ASCII 标志,就只匹配 [a-zA-Z0-9_]
  2. 对于 8 位(bytes 类型)模式:匹配 ASCII 中定义的字母数字,即 [a-zA-Z0-9_]

\W

匹配任何非 Unicode 的单词字符,其实就是与 \w 相反;如果开启了 re.ASCII 标志,则相当于 [^a-zA-Z0-9_]

转义符号

正则表达式还支持大部分 Python 字符串的转义符号:\a,\b,\f,\n,\r,\t,\u,\U,\v,\x,\
注1:\b 通常用于匹配一个单词边界,只有在字符类中才表示“退格”
注2:\u 和 \U 只有在 Unicode 模式下才会被识别
注3:八进制转义(\数字)是有限制的,如果第一个数字是 0,或者如果有 3 个八进制数字,那么就被认为是八进制数;其他情况则被认为是子组引用;至于字符串,八进制转义总是最多只能是 3 个数字的长度

下述为小甲鱼上课的一些实例:

复制代码

import re
re.search(r'FishC','I love FishC.com') #search()方法用于在字符串中搜索正则表达式第一次出现的位置
<_sre.SRE_Match object; span=(7, 12), match='FishC'>
re.search(r'.','I love FishC.com') #.可以指代任意内容
<_sre.SRE_Match object; span=(0, 1), match='I'>
re.search(r'Fish.','I love FishC.com')
<_sre.SRE_Match object; span=(7, 12), match='FishC'>
re.search(r'.','I love FishC.com') #通过转义符\,此时寻找真正的.
<_sre.SRE_Match object; span=(12, 13), match='.'>
复制代码
复制代码
re.search(r'\d','I love 123 FishC.com')#匹配数字
<_sre.SRE_Match object; span=(7, 8), match='1'>
re.search(r'\d\d\d','I love 123 FishC.com')
<_sre.SRE_Match object; span=(7, 10), match='123'>
#则我们可以通过这种方式来匹配IP地址
re.search(r'\d\d\d.\d\d\d.\d\d\d.\d\d\d','192.168.111.123')
<_sre.SRE_Match object; span=(0, 15), match='192.168.111.123'>
#但是IP地址的范围应该在0-255之间,而且不一定都是三位数
re.search(r'\d\d\d.\d\d\d.\d\d\d.\d\d\d','192.168.1.1')
#未匹配成功
#接着我们讨论范围的问题
re.search(r'[aeiou]','I love FishC.com')
<_sre.SRE_Match object; span=(3, 4), match='o'>
#匹配的是小写字母o,区分大小写
re.search(r'[aeiouAEIOU]','I love FishC.com')
<_sre.SRE_Match object; span=(0, 1), match='I'>
re.search(r'[a-z]','I love FishC.com')
<_sre.SRE_Match object; span=(2, 3), match='l'>
re.search(r'[0-9]','I love 123 FishC.com')
<_sre.SRE_Match object; span=(7, 8), match='1'>
#接着讨论次数的问题
re.search(r'ab{3}c','abbbc')
<_sre.SRE_Match object; span=(0, 5), match='abbbc'>
#当b不止3个时,匹配失败
re.search(r'ab{3}c','abbbbbbc')
#给定一个b可能出现次数的范围
re.search(r'ab{3,10}c','abbbbbbc')
re.search(r'ab{3,10}c','abbbbbbc')
<_sre.SRE_Match object; span=(0, 8), match='abbbbbbc'>
#如何匹配0-255中的数字
re.search(r'[1]\d\d|2[0-4]\d|25[0-5]]','188')
<_sre.SRE_Match object; span=(0, 3), match='188'>>>> re.search(r'(([01]{0,1}\d{0,1}\d|2[0-4]\d|25[0-5]).){3}([01]{0,1}\d{0,1}\d|2[0-4]\d|25[0-5])','192.168.1.1')
<_sre.SRE_Match object; span=(0, 11), match='192.168.1.1'>
复制代码
注意正则表达式默认的匹配规则是贪婪的,在重复的内容后加上?即表示启用对应的非贪婪模式。

s = 'I love FishC.com'
re.search(r'<.+>',s)
<_sre.SRE_Match object; span=(0, 44), match='I love FishC.com'>
re.search(r'<.+?>',s)
<_sre.SRE_Match object; span=(0, 6), match=''>