Hive 正则匹配函数 regexp_extract具体用法
<部分内容为转载>
regexp_extract函数
语法: regexp_extract(string subject, string pattern, int index)
返回值: string
说明： 将字符串subject按照pattern正则表达式的规则拆分，返回index指定的字符。
第一参数： 要处理的字段
第二参数: 需要匹配的正则表达式
第三个参数:
- 0是显示与之匹配的整个字符串
- 1 是显示第一个括号里面的
- 2 是显示第二个括号里面的字段...
注意，在有些情况下要使用转义字符（双斜杠了‘\\’）。
举例：
|
1
2
3
4
5
6
7
8
9
10
11
|
select
regexp_extract(
'x=a3&x=18abc&x=2&y=3&x=4'
,
'x=([0-9]+)([a-z]+)'
,0),
-- x=18abc
regexp_extract(
'x=a3&x=18abc&x=2&y=3&x=4'
,
'^x=([a-z]+)([0-9]+)'
,0),
-- x=a3
regexp_extract(
'https://detail.tmall.com/item.htm?spm=608.7065813.ne.1.Ni3rsN&id=522228774076&tracelog=fromnonactive'
,
'id=([0-9]+)'
,0),
-- id=522228774076
regexp_extract(
'https://detail.tmall.com/item.htm?spm=608.7065813.ne.1.Ni3rsN&id=522228774076&tracelog=fromnonactive'
,
'id=([0-9]+)'
,1),
-- 522228774076
regexp_extract(
'http://a.m.taobao.com/i41915173660.htm'
,
'i([0-9]+)'
,0),
-- i41915173660
regexp_extract(
'http://a.m.taobao.com/i41915173660.htm'
,
'i([0-9]+)'
,1)
-- 41915173660
from
test.dual;
|
正则匹配字符解释：
- ^ 表示开头
- $ 表示结尾
- . 表示任意字符
- * 表示任意多个
补充： regexp_replace(mobile,'[^0-9]','') regexp '1[0-9]{10}' 返回true，则为好的手机号。
1、关于正则表达式的符号及意义
正则表达式由标准的元字符（metacharacters）所构成：
| / |
做为转意，即通常在"/"后面的字符不按原来意义解释，如/b/匹配字符"b"，当b前面加了反斜杆后//b/，转意为匹配一个单词的边界。 |
| ^ | 匹配一个输入或一行的开头，/^a/匹配"an A"，而不匹配"An a" |
| $ | 匹配一个输入或一行的结尾，/a$/匹配"An a"，而不匹配"an A" |
| * | 匹配前面元字符0次或多次，/ba*/将匹配b,ba,baa,baaa |
| + | 匹配前面元字符1次或多次，/ba*/将匹配ba,baa,baaa |
| ? | 匹配前面元字符0次或1次，/ba*/将匹配b,ba |
| (x) | 匹配x保存x在名为$1...$9的变量中 |
| x|y | 匹配x或y |
| {n} | 精确匹配n次 |
| {n,} | 匹配n次以上 |
| {n,m} | 匹配n-m次 |
| [xyz] | 字符集(character set)，匹配这个集合中的任一一个字符(或元字符) |
| [^xyz] | 不匹配这个集合中的任何一个字符 |
| [/b] | 匹配一个退格符 |
| /b | 匹配一个单词的边界 |
| /B | 匹配一个单词的非边界 |
| /cX | 这儿，X是一个控制符，//cM/匹配Ctrl-M |
| /d | 匹配一个字数字符，//d/ = /[0-9]/ |
| /D | 匹配一个非字数字符，//D/ = /[^0-9]/ |
| /n | 匹配一个换行符 |
| /r | 匹配一个回车符 |
| /s | 匹配一个空白字符，包括/n,/r,/f,/t,/v等 |
| /S | 匹配一个非空白字符，等于/[^/n/f/r/t/v]/ |
| /t | 匹配一个制表符 |
| /v | 匹配一个重直制表符 |
| /w | 匹配一个可以组成单词的字符(alphanumeric，这是我的意译，含数字)，包括下划线，如[/w]匹配"$5.98"中的5，等于[a-zA-Z0-9] |
| /W | 匹配一个不可以组成单词的字符，如[/W]匹配"$5.98"中的$，等于[^a-zA-Z0-9]。 |
'[]' 标记一个中括号表达式。
/num 匹配 num，其中 num 是一个正整数。对所获取的匹配的引用。
字符簇：
[[:alpha:]] 任何字母。
[[:digit:]] 任何数字。
[[:alnum:]] 任何字母和数字。
[[:space:]] 任何白字符。
[[:upper:]] 任何大写字母。
[[:lower:]] 任何小写字母。
[[:punct:]] 任何标点符号。
[[:xdigit:]] 任何16进制的数字，相当于[0-9a-fA-F]
[[:<:]],[[:>:]] 标记表示word边界。它们分别与word的开始和结束匹配。word是一系列字字符，其前面和后面均没有字字符。字字符是alnum类中的字母数字字符或下划线(_)
各种操作符的运算优先级：
/ 转义符
(), (?:), (?=), [] 圆括号和方括号
*, +, ?, {n}, {n,}, {n,m} 限定符
^, $, anymetacharacter 位置和顺序
2、regexp_extract函数
regexp_extract(str, regexp[, idx]) - extracts a group that matches regexp
字符串正则表达式解析函数。
参数解释:
其中：
str是被解析的字符串或字段名
regexp 是正则表达式
idx是返回结果 取表达式的哪一部分 默认值为1。
0表示把整个正则表达式对应的结果全部返回
1表示返回正则表达式中第一个() 对应的结果 以此类推
注意点：
要注意的是idx的数字不能大于表达式中()的个数。
否则报错：
实例：
如：
1） select regexp_extract('hitdecisiondlist','(i)(.*?)(e)',0) ;
得到的结果为:
itde
2） select regexp_extract('hitdecisiondlist','(i)(.*?)(e)',1) ;
得到的结果为:
i
3） select regexp_extract('hitdecisiondlist','(i)(.*?)(e)',2) ;
得到的结果为:
td
4） select regexp_extract('x=a3&x=18abc&x=2&y=3&x=4','x=([0-9]+)([a-z]+)',2) from default.dual;得到的结果为:
abc
此外，当前的语句只有2个()表达式 所以当idx>=3的时候 就会报错
FAILED: SemanticException [Error 10014]: Line 1:7 Wrong arguments '5': org.apache.Hadoop.hive.ql.metadata.HiveException: Unable to execute method public Java.lang.String org.apache.hadoop.hive.ql.udf.UDFRegExpExtract.evaluate(java.lang.String,java.lang.String,java.lang.Integer) on objectorg.apache.hadoop.hive.ql.udf.UDFRegExpExtract@2cf5e0f0 of class org.apache.hadoop.hive.ql.udf.UDFRegExpExtract with arguments {x=a3&x=18abc&x=2&y=3&x=4:java.lang.String, x=([0-9]+)[a-z]:java.lang.String, 2:java.lang.Integer} of size 3