使用正则表达式时-可能会导致性能下降的情况

目录

前言

正则表达式引擎

NFA自动机的回溯

解决方案


  • 前言

  • 正则表达式是一个用正则符号写出的公式,程序对这个公式进行语法分析,建立一个语法分析树,再根据这个分析树结合正则表达式的引擎生成执行程序(这个执行程序我们把它称作状态机,也叫状态自动机),用于字符匹配
  • 使用不恰当的正则表达式可能会导致很严重的性能问题
  • 比如:

  • 这个正则表达式看起来没什么问题,它可以分为三个部分:
  • 第一部分匹配 http 和 https 协议,第二部分匹配 www. 字符,第三部分匹配许多字符
  • 其实这里会导致 CPU 使用率高的关键原因就是:Java 正则表达式使用的引擎实现是 NFA 自动机,这种正则表达式引擎在进行字符匹配时会发生回溯backtracking
  • 而一旦发生回溯,那其消耗的时间就会变得很长,有可能是几分钟,也有可能是几个小时,时间长短取决于回溯的次数和复杂度
  • 正则表达式引擎

  • 正则表达式引擎就是一套核心算法,用于建立状态机
  • 简单地说,实现正则表达式引擎的有两种方式:DFA 自动机(Deterministic Final Automata 确定型有穷自动机)和 NFA 自动机(Non deterministic Finite Automaton 不确定型有穷自动机)
  • 简单来讲,NFA 对应的是正则表达式主导的匹配,而 DFA 对应的是文本主导的匹配
  • 简单来讲,DFA 自动机的时间复杂度是线性的,更加稳定,但是功能有限;而 NFA 的时间复杂度比较不稳定,有时候很好,有时候不怎么好,好不好取决于你写的正则表达式;但是胜在 NFA 的功能更加强大,所以包括 Java、.NET、Perl、Python、Ruby、PHP 等语言都使用了 NFA 去实现其正则表达式
  • 那 NFA 自动机到底是怎么进行匹配的呢?我们以下面的字符和表达式来举例说明:

  • 要记住一个很重要的点,即:NFA 是以正则表达式为基准去匹配的
  • 也就是说,NFA 自动机会读取正则表达式的一个一个字符,然后拿去和目标字符串匹配,匹配成功就换正则表达式的下一个字符,否则继续和目标字符串的下一个字符比较
    • 首先,拿到正则表达式的第一个匹配符:d
    • 于是拿去和字符串的字符进行比较,字符串的第一个字符是T,不匹配,换下一个
    • 第二个是o,也不匹配,再换下一个
    • 第三个是d,匹配了,那么就读取正则表达式的第二个字符:a
    • 读取到正则表达式的第二个匹配符:a
    • 拿着继续和字符串的第四个字符 a 比较,又匹配了
    • 那么接着读取正则表达式的第三个字符:y
    • 读取到正则表达式的第三个匹配符:y
    • 拿着继续和字符串的第五个字符 y 比较,又匹配了
    • 尝试读取正则表达式的下一个字符,发现没有了,那么匹配结束
  • 上面这个匹配过程就是 NFA 自动机的匹配过程,但实际上的匹配过程会比这个复杂非常多,但其原理是不变的
  • NFA自动机的回溯

  • 了解了 NFA 是如何进行字符串匹配的,接下来我们就可以讲讲这篇文章的重点了:回溯
  • 为了更好地解释回溯,我们同样以下面的例子来讲解:

  • 上面的这个例子的目的比较简单,匹配以 a 开头,以 c 结尾,中间有 1-3 个 b 字符的字符串
  • NFA 对其解析的过程是这样子的:
    • 首先,读取正则表达式第一个匹配符 a 和 字符串第一个字符 a 比较,匹配了
    • 于是读取正则表达式第二个字符
    • 读取正则表达式第二个匹配符 b{1,3} 和字符串的第二个字符 b 比较,匹配了
    • 但因为 b{1,3} 表示 1-3 个 b 字符串,以及 NFA 自动机的贪婪特性(也就是说要尽可能多地匹配),所以此时并不会再去读取下一个正则表达式的匹配符,而是依旧使用 b{1,3} 和字符串的第三个字符 b 比较,发现还是匹配
    • 于是继续使用 b{1,3} 和字符串的第四个字符 c 比较,发现不匹配了
    • 此时就会发生回溯
    • 发生回溯是怎么操作呢?
    • 发生回溯后,我们已经读取的字符串第四个字符 c 将被吐出去,指针回到第三个字符串的位置
    • 之后,程序读取正则表达式的下一个操作符 c,读取当前指针的下一个字符 c 进行对比,发现匹配
    • 于是读取下一个操作符,但这里已经结束了
  • 下面我们回过头来看看前面的那个校验 URL 的正则表达式:

  • 出现问题的 URL 是:

  • 我们把这个正则表达式分为三个部分:
    • 第一部分:校验协议;^([hH][tT]{2}[pP]://|[hH][tT]{2}[pP][sS]://)
    • 第二部分:校验域名;(([A-Za-z0-9-~]+).)+
    • 第三部分:校验参数;([A-Za-z0-9-~\\/])+$
  • 我们可以发现正则表达式校验协议 http:// 这部分是没有问题的,但是在校验 www.fapiao.com 的时候,其使用了 xxxx. 这种方式去校验
  • 那么匹配过程是这样的:
    • 匹配到 www.
    • 匹配到 fapiao.
    • 匹配到 com/dzfp-web/pdf/download?request=6e7JGm38jf.....,你会发现因为贪婪匹配的原因,所以程序会一直读后面的字符串进行匹配,最后发现没有点号,于是就一个个字符回溯回去了
  • 这是这个正则表达式存在的第一个问题
  • 另外一个问题是在正则表达式的第三部分,我们发现出现问题的 URL 是有下划线(_)和百分号(%)的,但是对应第三部分的正则表达式里面却没有
  • 这样就会导致前面匹配了一长串的字符之后,发现不匹配,最后回溯回去
  • 这是这个正则表达式存在的第二个问题
  • 解决方案

  • 明白了回溯是导致问题的原因之后,其实就是减少这种回溯,你会发现如果我在第三部分加上下划线和百分号之后,程序就正常了

  • 运行上面的程序,立刻就会打印出match!!
  • 但这是不够的,如果以后还有其他 URL 包含了乱七八糟的字符呢,我们难不成还再修改一遍
  • 肯定不现实
  • 其实在正则表达式中有这么三种模式:贪婪模式、懒惰模式、独占模式
  • 在关于数量的匹配中,有 + ? * {min,max} 四种两次,如果只是单独使用,那么它们就是贪婪模式
  • 如果在他们之后多加一个 ? 符号,那么原先的贪婪模式就会变成懒惰模式,即尽可能少地匹配
  • 但是懒惰模式还是会发生回溯现象
  • 例如下面这个例子:

  • 正则表达式的第一个操作符 a 与 字符串第一个字符 a 匹配,匹配成功
  • 于是正则表达式的第二个操作符 b{1,3}? 和 字符串第二个字符 b 匹配,匹配成功
  • 因为最小匹配原则,所以拿正则表达式第三个操作符 c 与字符串第三个字符 b 匹配,发现不匹配
  • 于是回溯回去,拿正则表达式第二个操作符 b{1,3}? 和字符串第三个字符 b 匹配,匹配成功
  • 于是再拿正则表达式第三个操作符 c 与字符串第四个字符 c 匹配,匹配成功;于是结束
  • 如果在他们之后多加一个 + 符号,那么原先的贪婪模式就会变成独占模式,即尽可能多地匹配,但是不回溯
  • 于是乎,如果要彻底解决问题,就要在保证功能的同时确保不发生回溯
  • 将上面校验 URL 的正则表达式的第二部分后面加多了个 + 号,即变成这样:

  • 这样之后,运行原有的程序就没有问题了

你可能感兴趣的:(Java基础,正则表达式,java)