[toc]

一、零宽断言-介绍

零宽断言,它匹配的内容不会提取,其作用是在一个限定位置的字符串向前或向后进行匹配查找。

1.1、应用场景

  • 排除查找,查找不含有某段字符串的行

  • 包含查找,查找含有某段字符串的行

二、断言的分类

2.1、正先行断言

什么是正先行断言,就是在字符串相应位置之前进行查找匹配,使用 (?=exp) 匹配exp前面的位置。

import re

str = 'abcgwcab'
pattern = 'bc(?=gw)'
result = re.search(pattern,str)
print(result.group())

# 输出结果
bc

解析:首先查找字符串”abcgwcab”中gw位置,断言为真,然后再匹配 bc,然后再向后匹配。

example:

pattern = 'bc(?=gw)ca'
# 匹配失败,因为找到了 gw 的位置后,断言为真,再向前匹配 bc ,再然后是从 bc 处进行匹配是 gwca ,所以会失败。

pattern = 'bc(?=gw)gwca'
# 匹配成功,输出结果
bcgwca

2.2、反先行断言

什么是反先行断言,使用 (?!exp) 匹配后面跟的不是exp。

import re

str = 'abcgwcab'
pattern = 'bc(?!ww)gw'
result = re.search(pattern,str)
print(result.group())

# 输出结果
bcgw

解析:首先判断字符串是否包含bc,然后判断其后面不是ww,断言为真,然后从 bc 处进行匹配 gw。

2.3、正后发断言

什么是正后发断言,就是在字符串相应位置之后进行查找匹配, (?<=exp) 匹配exp后面的位置

import re

str = 'abcgwcab'
pattern = '(?<=gw)ca'
result = re.search(pattern,str)
print(result.group())

# 输出结果
ca

解析:首先判断字符串是否包含 gw ,然后查找后面是否有 ca,存在,断言为真,则从 ca 处开始继续匹配。

example:

import re

str = 'abcgwcab'
pattern = 'gw(?<=gw)cab'
result = re.search(pattern,str)
print(result.group())

# 输出结果
gwcab

2.4、反后发断言

什么是反后发断言,就是在给定位置的字符串向前查找,(?

import re

str = 'abcgwcab'
pattern = '(?

解析:首先查找字符串中是否包含 gw ,然后判断 gw 前面是不是 bc ,如果是则返回 False。 如果不是,则返回 True,然后从 gw 处开始匹配。

example:

import re

str = 'abcgwcab'
pattern = 'gw(?

三、排除查找

3.1、查找不以 baidu 开头的字符串

  • 源文本
baidu.com
sina.com.cn
  • 代码
import re

source_str = 'baidu.com\nsina.com.cn'
str_list = source_str.split('\n')
print(str_list)

for str in str_list:
    pattern = '^(?!baidu).*$'
    result = re.search(pattern,str)
    if result:
        print(result.group())

# 输出结果
sina.com.cn

解析:^(?!baidu).*$ 从行首开始匹配,查找后面不是 baidu 的字符串。(?!baidu) 这段是反先行断言

3.2、查找不以 com 结尾的字符串

  • 源文本
baidu.com
sina.com.cn
www.educ.org
www.hao.cc
www.redhat.com
  • 代码
import re

source_str = 'baidu.com\nsina.com.cn\nwww.educ.org\nwww.hao.cc\nwww.redhat.com'
str_list = source_str.split('\n')
print(str_list)
# ['baidu.com', 'sina.com.cn', 'www.educ.org', 'www.hao.cc', 'www.redhat.com']

for str in str_list:
    pattern = '^.*?(?

解析:'^.?(?^从行首处匹配,`.?忽略优先,优先忽略不匹配的任何字符。(?反后发断言,匹配该位置不能是com` 字符,'$' 结尾锚定符。 '(?

3.3、查找文本中不含有 world 的行

  • 源文本
I hope the world will be peaceful
Thepeoplestheworldoverlovepeace
Imissyoueveryday
Aroundtheworldin80Days
I usually eat eggs at breakfast
  • 代码
import re

source_str = 'I hope the world will be peaceful\nThepeoplestheworldoverlovepeace\nImissyoueveryday\nAroundtheworldin80Days\nI usually eat eggs at breakfast'
str_list = source_str.split('\n')
print(str_list)
# ['I hope the world will be peaceful', 'Thepeoplestheworldoverlovepeace', 'Imissyoueveryday', 'Aroundtheworldin80Days', 'I usually eat eggs at breakfast']

for str in str_list:
    pattern = '^(?!.*world).*$'
    result = re.search(pattern,str)
    if result:
        print(result.group())

# 输出结果
Imissyoueveryday
I usually eat eggs at breakfast

解析:^ 首先匹配行首,(?!.*world) , 匹配行首后不能有 .*world 的字符, 也就是不能有 xxxxxxxworld 的字符。 这就排除了从行首开始后面有 world 字符的情况了。

四、实战操作

4.1、日志匹配(一)

从日志文件中过滤 [ERROR] 的错误日志,但错误日志又分两种,一种是带 _eMsg 参数的,一种是不带的。

需求是过滤出所有的错误日志,但排除 _eMsg=400 的行。

  • 源文本
[ERROR][2020-04-02T10:27:05.370+0800][clojure.fn__147.core.clj:1] _com_im_error||traceid=ac85e854d7600001b6970||spanid=8a0a0084||cspanid=||serviceName=||errormsg=get-driver-online-status timeou||_eMsg=Read timed out||_eTrace=java.net.SocketTimeoutException: Read timed out

[ERROR][2020-04-02T10:30:17.353+0800][clojure.fn__147.core.clj:1] _com_im_error||traceid=0f05e854e38984b3f1f20||spanid=8a980083||cspanid=||serviceName=||errormsg=Handle request failed||_eMsg=400 Bad Request||_eTrace=sprin.web.Exception$BadRequest: 400 Bad Request

[ERROR][2020-03-25T09:21:16.186+0800][spring.util.HttpPoolClientUtil] http get error
  • 代码
import re

source_str = '[ERROR][2020-04-02T10:27:05.370+0800][clojure.fn__147.core.clj:1] _com_im_error||traceid=ac85e854d7600001b6970||spanid=8a0a0084||cspanid=||serviceName=||errormsg=get-driver-online-status timeou||_eMsg=Read timed out||_eTrace=java.net.SocketTimeoutException: Read timed out\
\n[ERROR][2020-04-02T10:30:17.353+0800][clojure.fn__147.core.clj:1] _com_im_error||traceid=0f05e854e38984b3f1f20||spanid=8a980083||cspanid=||serviceName=||errormsg=Handle request failed||_eMsg=400 Bad Request||_eTrace=sprin.web.Exception$BadRequest: 400 Bad Request\
\n[ERROR][2020-03-25T09:21:16.186+0800][spring.util.HttpPoolClientUtil]'
str_list = source_str.split('\n')
# print(str_list)

for str in str_list:
    pattern = '(^\[ERROR\].*?_eMsg(?!=400).*$)|^\[ERROR\](?!.*_eMsg).*'
    result = re.search(pattern,str)
    if result:
        print(result.group())

# 输出结果
[ERROR][2020-04-02T10:27:05.370+0800][clojure.fn__147.core.clj:1] _com_im_error||traceid=ac85e854d7600001b6970||spanid=8a0a0084||cspanid=||serviceName=||errormsg=get-driver-online-status timeou||_eMsg=Read timed out||_eTrace=java.net.SocketTimeoutException: Read timed out
[ERROR][2020-03-25T09:21:16.186+0800][spring.util.HttpPoolClientUtil]

解析:(^\[ERROR\].*?_eMsg(?!=400).*$) 从行首匹配 [ERROR] ,.*? 忽略优先,优先忽略不匹配的任何字符。_eMsg(?!=400) 找到 _eMsg 字符串,匹配其后面是不是 =400 如果是返回 False。

之后 | 或逻辑符,^\[ERROR\](?!.*_eMsg).* 从行首匹配 [ERROR] ,然后匹配出不包含 xxxxxx_eMsg 的行。

写后面那串或逻辑的目的是为了匹配出,不包含 _eMsg 字段的错误日志。