Shell正则表达式 & Grep正则表达式 & shell字符串处理

摘自：http://hi.baidu.com/door17/blog/item/7a049a396b6ed7f23b87ce2c.html

http://blog.csdn.net/myvilla/archive/2006/08/31/1150598.aspx

 

Shell正则表达式

一个正则表达式就是由普通字符（例如字符 a 到 z）以及特殊字符（称为元字符）组成的文字模式。该模式描述在查找文字主体时待匹配的一个或多个字符串。正则表达式作为一个模板，将某个字符模式与所搜索的字符串进行匹配。

/ hmcLinux联盟
将下一个字符标记为一个特殊字符、或一个原义字符、或一个 后向引用、或一个八进制转义符。例如，'n' 匹配字符 "n"。'/n' 匹配一个换行符。序列 '//' 匹配 "/" 而 "/(" 则匹配 "("。

^ hmcLinux联盟
匹配输入字符串的开始位置。

$ hmcLinux联盟
匹配输入字符串的结束位置。

* hmcLinux联盟
匹配前面的子表达式零次或多次。例如，zo* 能匹配 "z" 以及 "zoo"。 * 等价于{0,}。

+ hmcLinux联盟
匹配前面的子表达式一次或多次。例如，'zo+' 能匹配 "zo" 以及 "zoo"，但不能匹配 "z"。+ 等价于 {1,}。

? hmcLinux联盟
匹配前面的子表达式零次或一次。例如，"do(es)?" 可以匹配 "do" 或 "does" 中的"do" 。? 等价于 {0,1}。

{n} hmcLinux联盟
n 是一个非负整数。匹配确定的 n 次。例如，'o{2}' 不能匹配 "Bob" 中的 'o'，但是能匹配 "food" 中的两个 o。

{n,} hmcLinux联盟
n 是一个非负整数。至少匹配n 次。例如，'o{2,}' 不能匹配 "Bob" 中的 'o'，但能匹配 "foooood" 中的所有 o。'o{1,}' 等价于 'o+'。'o{0,}' 则等价于 'o*'。

{n,m} hmcLinux联盟
m 和 n 均为非负整数，其中n <= m。最少匹配 n 次且最多匹配 m 次。 "o{1,3}" 将匹配 "fooooood" 中的前三个 o。'o{0,1}' 等价于 'o?'。请注意在逗号和两个数之间不能有空格。

? hmcLinux联盟
当该字符紧跟在任何一个其他限制符 (*, +, ?, {n}, {n,}, {n,m}) 后面时，匹配模式是非贪婪的。非贪婪模式尽可能少的匹配所搜索的字符串，而默认的贪婪模式则尽可能多的匹配所搜索的字符串。例如，对于字符串 "oooo"，'o+?' 将匹配单个 "o"，而 'o+' 将匹配所有 'o'。

. hmcLinux联盟
匹配除 "/n" 之外的任何单个字符。要匹配包括 '/n' 在内的任何字符，请使用象 '[./n]' 的模式。

(pattern) hmcLinux联盟
匹配pattern 并获取这一匹配。所获取的匹配可以从产生的 Matches 集合得到，在VBScript 中使用 SubMatches 集合，在Visual Basic Scripting Edition 中则使用 $0…$9 属性。要匹配圆括号字符，请使用 '/(' 或 '/)'。

(?:pattern) hmcLinux联盟
匹配 pattern 但不获取匹配结果，也就是说这是一个非获取匹配，不进行存储供以后使用。这在使用 "或" 字符 (|) 来组合一个模式的各个部分是很有用。例如， 'industr(?:y|ies) 就是一个比 'industry|industries' 更简略的表达式。

(?=pattern) hmcLinux联盟
正向预查，在任何匹配 pattern 的字符串开始处匹配查找字符串。这是一个非获取匹配，也就是说，该匹配不需要获取供以后使用。例如， 'Windows (?=95|98|NT|2000)' 能匹配 "Windows 2000" 中的 "Windows" ，但不能匹配 "Windows 3.1" 中的 "Windows"。预查不消耗字符，也就是说，在一个匹配发生后，在最后一次匹配之后立即开始下一次匹配的搜索，而不是从包含预查的字符之后开始。

(?!pattern) hmcLinux联盟
负向预查，在任何不匹配Negative lookahead matches the search string at any point where a string not matching pattern 的字符串开始处匹配查找字符串。这是一个非获取匹配，也就是说，该匹配不需要获取供以后使用。例如'Windows (?!95|98|NT|2000)' 能匹配 "Windows 3.1" 中的 "Windows"，但不能匹配 "Windows 2000" 中的 "Windows"。预查不消耗字符，也就是说，在一个匹配发生后，在最后一次匹配之后立即开始下一次匹配的搜索，而不是从包含预查的字符之后开始。

x|y hmcLinux联盟
匹配 x 或 y。例如，'z|food' 能匹配 "z" 或 "food"。'(z|f)ood' 则匹配 "zood" 或 "food"。

[xyz] hmcLinux联盟
字符集合。匹配所包含的任意一个字符。例如， '[abc]' 可以匹配 "plain" 中的 'a'。

[^xyz] hmcLinux联盟
负值字符集合。匹配未包含的任意字符。例如， '[^abc]' 可以匹配 "plain" 中的'p'。

[a-z] hmcLinux联盟
字符范围。匹配指定范围内的任意字符。例如，'[a-z]' 可以匹配 'a' 到 'z' 范围内的任意小写字母字符。

[^a-z] hmcLinux联盟
负值字符范围。匹配任何不在指定范围内的任意字符。例如，'[^a-z]' 可以匹配任何不在 'a' 到 'z' 范围内的任意字符。

/b hmcLinux联盟
匹配一个单词边界，也就是指单词和空格间的位置。例如， 'er/b' 可以匹配"never" 中的 'er'，但不能匹配 "verb" 中的 'er'。

/B hmcLinux联盟
匹配非单词边界。'er/B' 能匹配 "verb" 中的 'er'，但不能匹配 "never" 中的 'er'。

/cx hmcLinux联盟
匹配由x指明的控制字符。例如， /cM 匹配一个 Control-M 或回车符。 x 的值必须为 A-Z 或 a-z 之一。否则，将 c 视为一个原义的 'c' 字符。

/d hmcLinux联盟
匹配一个数字字符。等价于 [0-9]。

/D hmcLinux联盟
匹配一个非数字字符。等价于 [^0-9]。

/f hmcLinux联盟
匹配一个换页符。等价于 /x0c 和 /cL。

/n hmcLinux联盟
匹配一个换行符。等价于 /x0a 和 /cJ。

/r hmcLinux联盟
匹配一个回车符。等价于 /x0d 和 /cM。

/s hmcLinux联盟
匹配任何空白字符，包括空格、制表符、换页符等等。等价于 [ /f/n/r/t/v]。

/S hmcLinux联盟
匹配任何非空白字符。等价于 [^ /f/n/r/t/v]。

/t hmcLinux联盟
匹配一个制表符。等价于 /x09 和 /cI。

/v hmcLinux联盟
匹配一个垂直制表符。等价于 /x0b 和 /cK。

/w hmcLinux联盟
匹配包括下划线的任何单词字符。等价于'[A-Za-z0-9_]'。

/W hmcLinux联盟
匹配任何非单词字符。等价于 '[^A-Za-z0-9_]'。

/xn hmcLinux联盟
匹配 n，其中 n 为十六进制转义值。十六进制转义值必须为确定的两个数字长。例如， '/x41' 匹配 "A"。'/x041' 则等价于 '/x04' & "1"。正则表达式中可以使用 ASCII 编码。.

/num hmcLinux联盟
匹配 num，其中 num 是一个正整数。对所获取的匹配的引用。例如，'(.)/1' 匹配两个连续的相同字符。

/n hmcLinux联盟
标识一个八进制转义值或一个后向引用。如果 /n 之前至少 n 个获取的子表达式，则 n 为后向引用。否则，如果 n 为八进制数字 (0-7)，则 n 为一个八进制转义值。

/nm hmcLinux联盟
标识一个八进制转义值或一个后向引用。如果 /nm 之前至少有is preceded by at least nm 个获取得子表达式，则 nm 为后向引用。如果 /nm 之前至少有 n 个获取，则 n 为一个后跟文字 m 的后向引用。如果前面的条件都不满足，若 n 和 m 均为八进制数字 (0-7)，则 /nm 将匹配八进制转义值 nm。

/nml hmcLinux联盟
如果 n 为八进制数字 (0-3)，且 m 和 l 均为八进制数字 (0-7)，则匹配八进制转义值 nml。

/un hmcLinux联盟
匹配 n，其中 n 是一个用四个十六进制数字表示的 Unicode 字符。例如， /u00A9 匹配版权符号 (?)。

Grep正则表达式

要用好grep这个工具，其实就是要写好正则表达式，所以这里不对grep的所有功能进行实例讲解，只列几个例子，讲解一个正则表达式的写法。

$ ls -l | grep '^a'
通过管道过滤ls -l输出的内容，只显示以a开头的行。

$ grep 'test' d*
显示所有以d开头的文件中包含test的行。

$ grep 'test' aa bb cc
显示在aa，bb，cc文件中匹配test的行。

$ grep '[a-z]/{5/}' aa
显示所有包含每个字符串至少有5个连续小写字符的字符串的行。

$ grep 'w/(es/)t.*/1' aa
如果west被匹配，则es就被存储到内存中，并标记为1，然后搜索任意个字符（.*），这些字符后面紧跟着另外一个es（/1），找到就显示该行。如果用egrep或grep -E，就不用"/"号进行转义，直接写成'w(es)t.*/1'就可以了。

grep正则表达式元字符集（基本集）
^
锚定行的开始 如：'^grep'匹配所有以grep开头的行。

$
锚定行的结束 如：'grep$'匹配所有以grep结尾的行。

.
匹配一个非换行符的字符 如：'gr.p'匹配gr后接一个任意字符，然后是p。

*
匹配零个或多个先前字符 如：'*grep'匹配所有一个或多个空格后紧跟grep的行。 .*一起用代表任意字符。

[]
匹配一个指定范围内的字符，如'[Gg]rep'匹配Grep和grep。

[^]
匹配一个不在指定范围内的字符，如：'[^A-FH-Z]rep'匹配不包含A-R和T-Z的一个字母开头，紧跟rep的行。

/(../)
标记匹配字符，如'/(love/)'，love被标记为1。

/<
锚定单词的开始，如:'/
/>
锚定单词的结束，如'grep/>'匹配包含以grep结尾的单词的行。

x/{m/}
重复字符x，m次，如：'0/{5/}'匹配包含5个o的行。

x/{m,/}
重复字符x,至少m次，如：'o/{5,/}'匹配至少有5个o的行。

x/{m,n/}
重复字符x，至少m次，不多于n次，如：'o/{5,10/}'匹配5--10个o的行。

/w
匹配文字和数字字符，也就是[A-Za-z0-9]，如：'G/w*p'匹配以G后跟零个或多个文字或数字字符，然后是p。

/W
/w的反置形式，匹配一个或多个非单词字符，如点号句号等。

/b
单词锁定符，如: '/bgrepb/'只匹配grep。 

 

Shell字符串处理

1. 构造字符串
   直接构造
   STR_ZERO=hello
   STR_FIRST="i am a string"
   STR_SECOND='success'
   
   重复多次
   #repeat the first parm($1) by $2 times
   strRepeat()
   {
   local x=$2
   if [ "$x" == "" ]; then
   x=0
   fi
   
   local STR_TEMP=""
   while [ $x -ge 1 ];
   do
   STR_TEMP=`printf "%s%s" "$STR_TEMP" "$1"`
   x=`expr $x - 1`
   done
   echo $STR_TEMP
   }
   
   举例：
   STR_REPEAT=`strRepeat "$USER_NAME" 3`
   echo "repeat = $STR_REPEAT"
   
   
2. 赋值与拷贝
   直接赋值
   与构造字符串一样
   USER_NAME=terry
   
   从变量赋值
   ALIASE_NAME=$USER_NAME
   
   
   
3. 联接
   直接联接两个字符串
   STR_TEMP=`printf "%s%s" "$STR_ZERO" "$USER_NAME"`
   使用printf可以进行更复杂的联接
   
   
4. 求长
   求字符数(char)
   COUNT_CHAR=`echo "$STR_FIRST" | wc -m`
   echo $COUNT_CHAR
   
   求字节数(byte)
   COUNT_BYTE=`echo "$STR_FIRST" | wc -c`
   echo $COUNT_BYTE
   
   求字数(word)
   COUNT_WORD=`echo "$STR_FIRST" | wc -w`
   echo $COUNT_WORD
   
   
5. 比较
   相等比较
   str1 = str2
   
   不等比较
   str1 != str2
   
   举例：
   if [ "$USER_NAME" = "terry" ]; then
   echo "I am terry"
   fi
   
   小于比较
   # return 0 if the two string is equal, return 1 if $1 < $2, else 2 strCompare() { local x=0 if [ "$1" != "$2" ]; then x=2 local TEMP=`printf "%s/n%s" "$1" "$2"` local TEMP2=`(echo "$1"; echo "$2") | sort` if [ "$TEMP" = "$TEMP2" ]; then x=1 fi fi echo $x }
6. 测试
   判空
   -z str
   
   判非空
   -n str
   
   是否为数字
   # return 0 if the string is num, otherwise 1
   strIsNum()
   {
   local RET=1
   if [ -n "$1" ]; then
   local STR_TEMP=`echo "$1" | sed 's/[0-9]//g'`
   if [ -z "$STR_TEMP" ]; then
   RET=0
   fi
   fi
   echo $RET
   }
   
   举例：
   if [ -n "$USER_NAME" ]; then
   echo "my name is NOT empty"
   fi
   
   echo `strIsNum "9980"`
   
   
   
7. 分割
   以符号＋为准，将字符分割为左右两部分
   使用sed
   举例：
   命令 date --rfc-3339 seconds 的输出为
   2007-04-14 15:09:47+08:00
   取其＋左边的部分
   date --rfc-3339 seconds | sed 's/+[0-9][0-9]:[0-9][0-9]//g'
   输出为
   2007-04-14 15:09:47
   取+右边的部分
   date --rfc-3339 seconds | sed 's/.*+//g'
   输出为
   08:00
   
   以空格为分割符的字符串分割
   使用awk
   举例：
   STR_FRUIT="Banana 0.89 100"
   取第3字段
   echo $STR_FRUIT | awk '{ print $3; }'
   
   
8. 子字符串
   字符串1是否为字符串2的子字符串
   # return 0 is $1 is substring of $2, otherwise 1
   strIsSubstring()
   {
   local x=1
   case "$2" in
   *$1*) x=0;;
   esac
   echo $x
   }