正则基础之——神奇的转义

1        概述

这或许会是一个让人迷惑,甚至感到混乱的话题,但也正因为如此,才有了讨论的必要。

在正则中,一些具有特殊意义的字符,或是字符序列,被称作元字符,如“?”表示被修饰的子表达式匹配0次或1次,“(?i)”表示忽略大小写的匹配模式等等。而当这些元字符被要求匹配其本身时,就要进行转义处理了。

不同的语言或应用场景下,正则定义方式、元字符出现的位置不同,转义的方式也是林林总总,不一而同。

2        .NET正则中的字符转义

2.1     .NET正则中的转义符

绝大多数语言中,“\”都被作为转义符,用来转义一些具有特殊意义的字符或字符序列,比如“\n”表示换行,“\t”表示水平制表符等。而这样的转义,应用到正则中,又会有一些意想不到的变化。

话题由C#中一个正则问题引出

string[] test = new string[]{"\\", "\\\\"};

Regex reg = new Regex("^\\\\$");

foreach (string s in test)

{

     richTextBox2.Text += "源字符串: " + s.PadRight(5, ' ') + "匹配结果: " + reg.IsMatch(s) + "\n";

}

/*--------输出--------

源字符串: \    匹配结果: True

源字符串: \\   匹配结果: False

*/

对于这个结果,或许有人会感到迷惑,字符串中的“\\”不是代表一个经过转义的“\”字符吗?而“\\\\”不就应该代表两个经过转义的“\”字符吗?那么上面正则匹配的结果应该是第一个为False,第二个为True才对啊?

对于这一问题,直接解释或许不太容易理解,还是换种方式来解释吧。

比如要匹配的字符是这样的

string test = "(";

那么正则如何写呢?因为“(”在正则中是有特殊意义的,所以写正则时必须对它进行转义,也就是“\(”,而在字符串中,要使用“\\” 来表示“\”本身,也就是

Regex reg = new Regex("^\\($");

这个如果理解了,那再把“(”换回“\”,同样道理,在字符串中,要使用“\\” 来表示“\”本身,也就是

Regex reg = new Regex("^\\\\$");

通过这样的分析,可以看出,其实在以字符串形式声明的正则中,“\\\\”匹配的实际上就是单独的一个“\”字符。总结一下它们之间的关系:

输出到控制台或界面的字符串:\

程序中声明的字符串:string test = "\\";

程序中声明的正则:Regex reg = new Regex("^\\\\$");

这样解释是不是已经可以理解了,那么是不是感觉这样很笨拙?是的,在程序中以字符串形式声明的正则,涉及到转义符时就是这样笨拙的。

所以在C#中,还提供了另一种字符串声明方式,在字符串前加个“@”,就可以忽略转义。

string[] test = new string[] { @"\", @"\\" };

Regex reg = new Regex(@"^\\$");

foreach (string s in test)

{

    richTextBox2.Text += "源字符串: " + s.PadRight(5, ' ') + "匹配结果: " + reg.IsMatch(s) + "\n";

}

/*--------输出--------

源字符串: \    匹配结果: True

源字符串: \\   匹配结果: False

*/

这样就简洁多了,也符合通常的理解。

但同时也带来另一个问题,就是双引号的转义处理。在普通的字符串声明中,可以用“\””对双引号进行转义。

string test = "<a href=\"www.test.com\">only a test</a>";

但是在字符串前加了“@”后,“\”会被识别为“\”字符本身,这样就不能用“\””对双引号进行转义了,需要用“”””对双引号进行转义。

string test = @"<a href=""www.test.com"">only a test</a>";

而在VB.NET中,正则的定义只有一种形式,与C#中加了“@”后的定义方式是一致的。

Dim test As String() = New String() {"\", "\\"}

Dim reg As Regex = New Regex("^\\$")

For Each s As String In test

    RichTextBox2.Text += "源字符串:" & s.PadRight(5, " "c) & "匹配结果:" & reg.IsMatch(s) & vbCrLf

Next

'--------输出--------

'源字符串:\    匹配结果:True

'源字符串:\\   匹配结果:False

'--------------------

2.2     .NET正则中需要转义的元字符

在MSDN中,以下字符作为正则中的元字符,在匹配其本身时,需要对其进行转义

. $ ^ { [ ( | ) * + ? \

但实际应用中,还要根据实际情况来判断,以上字符可能不需要转义,也可能不止以上字符需要转义。

在正常的正则书写过程中,以上字符的转义通常都能被编写人员正常处理,但是在动态生成正则时,就需要格外的注意,否则变量中包含元字符时,动态生成的正则在编译时可能会抛异常。好在.NET中提供了Regex.Escape方法来处理这一问题。比如根据动态获取的id来提取相应的div标签内容。

string id = Regex.Escape(textBox1.Text);

Regex reg = new Regex(@"(?is)<div(?:(?!id=).)*id=(['""]?)" + id  + @"\1[^>]*>(?><div[^>]*>(?<o>)|</div>(?<-o>)|(?:(?!</?div\b).)*)* (?(o)(?!))</div>");

如果不做转义处理,那么动态获取的id如果为“abc(def”这种形式,程序运行过程中就会抛出异常了。

2.3     .NET正则中字符组的转义

在字符组[]中,元字符通常是不需要转义的,甚至于“[”也是不需要转义的。

string test = @"the test string:  . $ ^ { [ ( | ) * + ? \";

Regex reg = new Regex(@"[.$^{[(|)*+?\\]");

MatchCollection mc = reg.Matches(test);

foreach (Match m in mc)

{

     richTextBox2.Text += m.Value + "\n";

}

/*--------输出--------

.

$

^

{

[

(

|

)

*

+

?

\

*/

但是在正则书写时,字符组中的“[”还是建议使用“\[”对其转义的,正则本身就已经是非常抽象,可读性很低的了,如果在字符组中再掺杂进这样不经转义的“[”,会使得可读性更差。而且在出现不正确的嵌套时,可能会导致正则编译异常,以下正则在编译时就会抛异常的。

Regex reg = new Regex(@"[.$^{[(]|)*+?\\]");

然而,.NET的字符组中,是支持集合减法的,在这种正常语法形式下,是允许字符组嵌套的。

string test = @"abcdefghijklmnopqrstuvwxyz";

Regex reg = new Regex(@"[a-z-[aeiou]]+");

MatchCollection mc = reg.Matches(test);

foreach (Match m in mc)

{

     richTextBox2.Text += m.Value + "\n";

}

/*--------输出--------

bcd

fgh

jklmn

pqrst

vwxyz

*/

这种用法可读性很差,应用也很少见,即使有这种需求也可以通过其它方式实现,了解一下即可,不必深究。

话题再回到转义上,字符组中必须转义的只有“\”,而“[”和“]”出现在字符组中时,也是建议一定做转义处理的。另外有两个字符“^”和“-”,出现在字符组中特定位置时,如果要匹配其本身,也是需要转义的。

“^”出现在字符组开始位置,表示排除型字符组,“[^Char]”也就是匹配除字符组中包含的字符之外的任意一个字符,比如“[^0-9]”表示除数字外的任意一个字符。所以在字符组中,要匹配“^”字符本身,要么不放在字符组开始位置,要么用“\^”进行转义。

Regex reg1 = new Regex(@"[0-9^]");

Regex reg2 = new Regex(@"[\^0-9]");

这两种方式都表达匹配任意一个数字或普通字符“^”。

至于“-”在字符组中特殊性,举一个例子。

string test = @"$";

Regex reg = new Regex(@"[#-*%&]");

richTextBox2.Text = "匹配结果:" + reg.IsMatch(test);

/*--------输出--------

匹配结果:True

*/

正则表达式中明明没有“$”,为什么匹配结果会是“True”呢?

[]支持用连字符“-”连接两个字符,来表示一个字符范围。需要注意的是,“-”前后的两个字符是有顺序的,在使用相同的编码时,后面的字符码位应大于或等于前面字符的码位。

for (int i = '#'; i <= '*'; i++)

{

     richTextBox2.Text += (char)i + "\n";

}

/*--------输出--------

#

$

%

&

'

(

)

*

*/

由于“#”和“*”符合要求,“[#-*]”可以表示一个字符范围,其中就包含了字符“$”,所以上面的正则是可以匹配“$”的,如果只是把“-”当作一个普通字符处理,那么要么换个位置,要么把“-”转义。

Regex reg1 = new Regex(@"[#*%&-]");

Regex reg2 = new Regex(@"[#\-*%&]");

这两种方式都表示匹配字符组中列举的字符中的任意一个。

在字符组中,还有一个比较特殊的转义字符,“\b”出现在正则表达式中一般位置时,表示单词边界,也就是一侧为组成单词的字符,另一侧不是;而当“\b”出现在字符组中时,表示的是退格符,与普通字符串中出现的“\b”意义是一样的。

同样的,还有一个容易被忽视,而且经常被忽视的转义符“|”,当“|”出现在正则表达式中一般位置时,表示左右两侧“或”的关系;而当“|”出现在字符组中时,它仅仅表示“|”字符本身,没有任何特殊意义,所以如果不是要匹配“|”本身,而试图在字符组中使用“|”时,是错误的。比如正则表达式“[a|b]”表示的是“a”、“b”、“|”中的任意一个,而不是“a”或“b”。

2.4     .NET正则应用中不可见字符转义处理

对于一些不可见字符,要在字符串中表示时,需要用转义字符,比较常见的有“\r”、“\n”、“\t”等等,而这些字符在正则中应用,就变得有些神奇了,先看一段代码。

string test = "one line. \n another line.";

List<Regex> list = new List<Regex>();

list.Add(new Regex("\n"));

list.Add(new Regex("\\n"));

list.Add(new Regex(@"\n"));

list.Add(new Regex(@"\\n"));

foreach (Regex reg in list)

{

    richTextBox2.Text += "正则表达式:" + reg.ToString();

    MatchCollection mc = reg.Matches(test);

    foreach (Match m in mc)

    {

        richTextBox2.Text += "   匹配内容:" + m.Value + "   匹配起始位置:" + m.Index + "   匹配长度:" + m.Length;

    }

    richTextBox2.Text += "   匹配总数:" + reg.Matches(test).Count + "\n----------------\n";

}

/*--------输出--------

正则表达式:

   匹配内容:

   匹配起始位置:10   匹配长度:1   匹配总数:1

----------------

正则表达式:\n   匹配内容:

   匹配起始位置:10   匹配长度:1   匹配总数:1

----------------

正则表达式:\n   匹配内容:

   匹配起始位置:10   匹配长度:1   匹配总数:1

----------------

正则表达式:\\n   匹配总数:0

----------------

*/

可以看到,前三种写法,输出的正则虽不同,但执行结果却是完全相同的,只有最后一种是没有匹配的。

正则表达式一Regex("\n"),其实就是以普通字符串形式来声明正则的,与用Regex("a")来匹配字符“a”是同样的道理,是不经过正则引擎转义的。

正则表达式二Regex("\\n"),是以正则表达式形式来声明正则的,正如正则中的“\\\\”就等同于字符串中的“\\”一样,正则中的“\\n”就等同于字符串中的“\n”,是经过正则引擎转义的。

正则表达式三Regex(@"\n"),与正则表达式二等价,是字符串前加“@”的写法。

正则表达式四Regex(@"\\n"),其实这个表示的是字符“\”后面跟一个字符“n”,是两个字符,这个在源字符串中自然是找不到匹配项的。

这里需要特别注意的还是“\b”,不同的声明方式,“\b”的意义是不同的。

string test = "one line. \n another line.";

List<Regex> list = new List<Regex>();

list.Add(new Regex("line\b"));

list.Add(new Regex("line\\b"));

list.Add(new Regex(@"line\b"));

list.Add(new Regex(@"line\\b"));

foreach (Regex reg in list)

{

     richTextBox2.Text += "正则表达式:" + reg.ToString() + "\n";

     MatchCollection mc = reg.Matches(test);

     foreach (Match m in mc)

     {

          richTextBox2.Text += "匹配内容:" + m.Value + "   匹配起始位置:" + m.Index + "   匹配长度:" + m.Length + "\n";

     }

     richTextBox2.Text += "匹配总数:" + reg.Matches(test).Count + "\n----------------\n";

}

/*--------输出--------

正则表达式:line_

匹配总数:0

----------------

正则表达式:line\b

匹配内容:line   匹配起始位置:4   匹配长度:4

匹配内容:line   匹配起始位置:20   匹配长度:4

匹配总数:2

----------------

正则表达式:line\b

匹配内容:line   匹配起始位置:4   匹配长度:4

匹配内容:line   匹配起始位置:20   匹配长度:4

匹配总数:2

----------------

正则表达式:line\\b

匹配总数:0

----------------

*/

正则表达式一Regex("line\b"),这里的“\b”是退格符,是不经过正则引擎转义的。源字符串中是没有的,所以匹配结果为0。

正则表达式二Regex("line\\b"),是以正则表达式形式来声明正则的,这里的“\\b”是单词边界,是经过正则引擎转义的。

正则表达式三Regex(@"line\b"),与正则表达式二等价,指单词边界。

正则表达式四Regex(@"line\\b"),其实这个表示的是字符“\”后面跟一个字符“b”,是两个字符,这个在源字符串中自然是找不到匹配项的。

2.5     .NET正则应用中其它转义处理

.NET正则应用中还有一些其它转义方式,虽然用得不多,但也顺便提一下吧。

需求:把字符串中“<”和“>”之间的数字前加上“$”

string test = "one test <123>, another test <321>";

Regex reg = new Regex(@"<(\d+)>");

string result = reg.Replace(test, "<$$1>");

richTextBox2.Text = result;

/*--------输出--------

one test <$1>, another test <$1>

*/

也许你会惊奇的发现,替换结果不是在数字前加了“$”,而是将所有数字都替换为“$1”了。

为什么会这样呢,这是因为在替换结构中,“$”是有特殊意义的,在它后面接数字,表示对对应编号捕获组匹配结果的引用,而有些情况下,需要在替换结果中出现“$”字符本身,但它后面又跟了数字,这时候就需要用“$$”对它进行转义了。而上面这个例子却恰恰是由于这种转义效果导致出现了异常结果,要规避这一问题,可以使替换结果中不出现对捕获组的引用。

string test = "one test <123>, another test <321>";

Regex reg = new Regex(@"(?<=<)(?=\d+>)");

string result = reg.Replace(test, "$");

richTextBox2.Text = result;

/*--------输出--------

one test <$123>, another test <$321>

*/

3       JavaScript及Java中的转义符

JavaScript及Java中正则的转义符处理,以字符串形式声明时,基本上都是与.NET中一致的,简单的介绍一下。

在JavaScript中,以字符串形式声明正则,与C#中的表现是一样的,同样会显得很笨拙。

<script type="text/javascript">

    var data = ["\\", "\\\\"];

    var reg = new RegExp("^\\\\$", "");

    for(var i=0;i<data.length;i++)

    {

        document.write("源字符串:" + data[i]  + "   匹配结果:" + reg.test(data[i]) + "<br />");

    }

</script>

/*--------输出--------

源字符串:\ 匹配结果:true

源字符串:\\ 匹配结果:false

*/

JavaScript中虽然没有提供C#中这种“@”方式的字符串声明方式,但提供了另一种正则表达式的专有声明方式。

<script type="text/javascript">

    var data = ["\\", "\\\\"];

    var reg = /^\\$/;

    for(var i=0;i<data.length;i++)

    {

        document.write("源字符串:" + data[i]  + "   匹配结果:" + reg.test(data[i]) + "<br />");

    }

</script>

/*--------输出--------

源字符串:\ 匹配结果:true

源字符串:\\ 匹配结果:false

*/

JavaScript中

var reg = /Expression/igm;

这种声明方式,一样可以简化含有转义符的正则。

当然,以这种形式声明正则时,“/”自然也就成为了元字符,正则中出现这一字符时,必须进行转义处理。比如匹配链接中域名的正则

var reg = /http:\/\/:([^\/]+)/ig;

很不幸的是,在Java中,目前只提供了一种正则声明方式,也就是字符串形式的声明方式

String test[] = new String[]{"\\", "\\\\" };

String reg = "^\\\\$";

for(int i=0;i<test.length ;i++)

{

  System.out.println("源字符串:" + test[i] + "   匹配结果:" + Pattern.compile(reg).matcher(test[i]).find());

}

/*--------输出--------

源字符串:\   匹配结果:true

源字符串:\\   匹配结果:false

*/

只能期待Java的后续版本能提供这方面的优化了。

你可能感兴趣的:(正则基础之)