大数据之Hive:regexp_extract函数

目录

  • 一、正则的通配符简介
    • 1、正则表达式的符号及意义
    • 2、各种操作符的运算优先级:
  • 二、regexp_extract函数

一、正则的通配符简介

1、正则表达式的符号及意义

符号 含义 实列
/ 做为转意,即通常在"/"后面的字符不按原来意义解释 如" * “匹配它前面元字符0次或多次,/a*/将匹配a,aa,aaa,加了”/"后,/a/* /将只匹配"a* "
. 匹配任何一个字符
^ 匹配一个输入或一行的开头 /^a/匹配"an A",而不匹配"An a"
$ 匹配一个输入或一行的结尾 /a$/匹配"An a",而不匹配"an A"
* 匹配前面元字符0次或多次 /ba*/将匹配b,ba,baa,baaa
+ 匹配前面元字符1次或多次 /ba+/将匹配ba,baa,baaa
? 匹配前面元字符0次或1次 /ba?/将匹配b,ba
(x) 匹配x保存x在名为$1…$9的变量中
x竖y 匹配x或y
{n} 精确匹配n次
{n,} 匹配n次以上
{n,m} 匹配n-m次
[xyz] 字符集(character set),匹配这个集合中的任一一个字符(或元字符)
[^xyz] 不匹配这个集合中的任何一个字符
/d 匹配一个字数字符 //d/ = /[0-9]/
/D 匹配一个非字数字符 //D/ = /[^0-9]/
/s 匹配一个空白字符,包括/n,/r,/f,/t,/v等
/S 匹配一个非空白字符,等于/[^/n/f/r/t/v]/
/w 匹配一个可以组成单词的字符(alphanumeric,这是我的意译,含数字),包括下划线,如[/w]匹配"$5.98"中的5,等于[a-zA-Z0-9]
/W 匹配一个不可以组成单词的字符,如[/W]匹配"$5.98"中的 $,等于[^a-zA-Z0-9]

备注:
‘( )’ 标记一个子表达式的开始和结束位置。
‘[]’ 标记一个中括号表达式。
/num 匹配 num,其中 num 是一个正整数。对所获取的匹配的引用。

2、各种操作符的运算优先级:

转义符>圆括号和方括号>限定符>位置和顺序
具体如下:
/ 转义符
(), ( ?: ), (?=), [] 圆括号和方括号
*, +, ?, {n}, {n,}, {n,m} 限定符
^, $, anymetacharacter 位置和顺序
正则表达式的符号及意义

二、regexp_extract函数

语法: regexp_extract(string subject, string pattern, int index)
返回值: string
说明:将字符串subject按照pattern正则表达式的规则拆分,返回index指定的字符
idx是返回结果 取表达式的哪一部分 默认值为1。
0表示把整个正则表达式对应的结果全部返回
1表示返回正则表达式中第一个() 对应的结果 以此类推。
示例1:

with aa as
(select '特价1.5米大床房(无窗)' as  roomname )
select regexp_extract(roomname,'(特价)(\\d\.\\d)(米大床房)(\\(\\D\+\\))',0) as roomname
from aa
select regexp_extract(roomname,'(特价)(\\d\\.\\d)(米大床房)(\\(\\D+\\))',0) as roomname
from aa
--roomname
--特价1.5米大床房(无窗)
---结论:1、特殊符号如.,()等必须转义,需写成\\.,\\(,\\);
-------- 2、\\D+和\\D\+,效果一样
---------3、 0代表匹配所有,是正则表达式对应的结果全部,而不仅仅是()内的结果,1代表第一个()内匹配的结果

示例2:

select regexp_extract('hitdescisiondlist','i(.*?)e',1) as r1
	   regexp_extract('hitdescisiondlist','(i)(.*?)(e)',2) as r2
       regexp_extract('x=a3&x=18abc&x=2&y=3&x=4','x=([0-9]+)([a-z]+)',2) as r3;
 --r1 r2 r3
 --td td abc

示例3:

select regexp_extract('15|Range,16|5,31|369728,17|1',"(15\\|)(.*?)(\\,)",2) as r1,
       regexp_extract('16|5,15|30,31|369728,17|1',"(15\\|)(.*?)(\\,)",2) as r2,
       regexp_extract('16|5,31|369728,17|1,15|Range',"(15\\|)(.*?)(\\,)",2) as r3,
       regexp_extract('15|30',"(15\\|)(.*?)(\\,)",2) as r4;
 --r1 r2 r3 r4
 --Range 30   

示例4:

select regexp_extract('15|Range,16|5,31|369728,17|1',"15\\|(([A-Za-z]{1,})|(\\d{1,}))",1) as r1,
       regexp_extract('16|5,15|30,31|369728,17|1',"15\\|(([A-Za-z]{1,})|(\\d{1,}))",1) as r2,
       regexp_extract('16|5,31|369728,17|1,15|Range',"15\\|(([A-Za-z]{1,})|(\\d{1,}))",1) as r3,
       regexp_extract('15|30',"15\\|(([A-Za-z]{1,})|(\\d{1,}))",1) as r4,
       regexp_extract('15|Range',"15\\|(([A-Za-z]{1,})|(\\d{1,}))",1) as r5,
       regexp_extract('16|5,15|Range,31|369728,17|1',"15\\|(([A-Za-z]{1,})|(\\d{1,}))",1) as r6,
       regexp_extract('16|5,15|Range,31|369728,17|1',"15\\|(\\w\+)",1) as r7;
       --r1 r2 r3 r4 r5 r6 r7 r8
       --Range 30 Range 30 Range Range Range
       --结论:\\+,\+,{1,}实现的效果相同;

示例5:

select
regexp_extract( 'x=a3&x=18abc&x=2&y=3&x=4' , 'x=([0-9]+)([a-z]+)' ,0),   -- x=18abc
regexp_extract( 'x=a3&x=18abc&x=2&y=3&x=4' , '^x=([a-z]+)([0-9]+)' ,0),  -- x=a3
regexp_extract( 'https://detail.tmall.com/item.htm?spm=608.7065813.ne.1.Ni3rsN&id=522228774076&tracelog=fromnonactive' , 'id=([0-9]+)' ,0),     -- id=522228774076
regexp_extract( 'https://detail.tmall.com/item.htm?spm=608.7065813.ne.1.Ni3rsN&id=522228774076&tracelog=fromnonactive' , 'id=([0-9]+)' ,1),     -- 522228774076
regexp_extract( 'http://a.m.taobao.com/i41915173660.htm' , 'i([0-9]+)' ,0),             -- i41915173660
regexp_extract( 'http://a.m.taobao.com/i41915173660.htm' , 'i([0-9]+)' ,1)              -- 41915173660
;

示例6:

select regexp_extract('name:zhangsan,sex:男,age:20','name:(.*?)(\\,)',1);--zhangsan
select regexp_extract('name:zhangsan,sex:男,age:20','name:([a-zA-Z]\+)',1);--zhangsan
select regexp_extract('name:zhangsan,sex:男,age:20','name:([a-zA-Z]+)',1);--zhangsan
select regexp_extract('name:zhangsan,sex:男,age:20','name:([a-zA-Z]{1,})',1);--zhangsan

示例7:

select 
case when regexp_extract(mysql_table,'(\\.)(\\S+)',2) <> '' then regexp_extract(mysql_table,'(\\.)(\\S+)',2)
else mysql_table
end as mysql_table

示例8:

select 
regexp_extract(trim(query_sql),'FROM(\\s+)[^\\(](.*?)(\\s+WHERE)',2) ta_name

示例9:

select 
case
when regexp_extract(
query_sql,
"(\.=*\\'|in*\\(\\')([0-9a-z]{16})(\\')",
2
) <> '' then 1
else 0
end as openid_tag,
case
when regexp_extract(
query_sql,
"(\.=*\\'|in*\\(\\')(\\d{15})(\\')",
2
) <> '' then 1
else 0
end as imei_tag

示例10:

---提取root.stat:后面的0.9645
select 
regexp_extract('root.etl:0.7898,root.stat:0.9654','root\\.stat\\:(\\d\\.\\d+)',1) as flag
-----0.9645

示例11:

---regexp_replace和regexp_extract搭配
select 
regexp_replace(regexp_extract('1abcdft|2geyahecy|3hyeayu458a', '(1)(.*?)\\|', 0),'\\|','') as trace1 
,regexp_replace(regexp_extract('1abcdft|2geyahecy|3hyeayu458a', '(2)(.*?)\\|', 0),'\\|','') as trace2 
,regexp_extract('1abcdft|2geyahecy|3hyeayu458a', '3\\S+', 0) as trace3
,regexp_extract('1abcdft|2geyahecy|3hyeayu458a', '3([0-9A-Za-z]{0,})', 0) as trace4
;

以上是一些练习,正则匹配博大精深,共勉;

你可能感兴趣的:(大数据系列二,hive,hadoop,big,data)