大数据之Hive:regexp_extract函数案例

目录

  • 一、正则的通配符简介
    • 1、正则表达式的符号及意义
    • 2、各种操作符的运算优先级:
  • 二、案例
    • 数据
    • 要求
    • 分析
    • 实现
    • 输出结果
    • 实现2
    • 实现3
  • 总结

一、正则的通配符简介

1、正则表达式的符号及意义

符号 含义 实列
/ 做为转意,即通常在"/"后面的字符不按原来意义解释 如" * “匹配它前面元字符0次或多次,/a*/将匹配a,aa,aaa,加了”/"后,/a/* /将只匹配"a* "
. 匹配任何一个字符
^ 匹配一个输入或一行的开头 /^a/匹配"an A",而不匹配"An a"
$ 匹配一个输入或一行的结尾 /a$/匹配"An a",而不匹配"an A"
* 匹配前面元字符0次或多次 /ba*/将匹配b,ba,baa,baaa
+ 匹配前面元字符1次或多次 /ba+/将匹配ba,baa,baaa
? 匹配前面元字符0次或1次 /ba?/将匹配b,ba
(x) 匹配x保存x在名为$1…$9的变量中
x竖y 匹配x或y
{n} 精确匹配n次
{n,} 匹配n次以上
{n,m} 匹配n-m次
[xyz] 字符集(character set),匹配这个集合中的任一一个字符(或元字符)
[^xyz] 不匹配这个集合中的任何一个字符
/d 匹配一个字数字符 //d/ = /[0-9]/
/D 匹配一个非字数字符 //D/ = /[^0-9]/
/s 匹配一个空白字符,包括/n,/r,/f,/t,/v等
/S 匹配一个非空白字符,等于/[^/n/f/r/t/v]/
/w 匹配一个可以组成单词的字符(alphanumeric,这是我的意译,含数字),包括下划线,如[/w]匹配"$5.98"中的5,等于[a-zA-Z0-9]
/W 匹配一个不可以组成单词的字符,如[/W]匹配"$5.98"中的 $,等于[^a-zA-Z0-9]

备注:
‘( )’ 标记一个子表达式的开始和结束位置。
‘[]’ 标记一个中括号表达式。
/num 匹配 num,其中 num 是一个正整数。对所获取的匹配的引用。

2、各种操作符的运算优先级:

转义符>圆括号和方括号>限定符>位置和顺序
具体如下:
/ 转义符
(), ( ?: ), (?=), [] 圆括号和方括号
*, +, ?, {n}, {n,}, {n,m} 限定符
^, $, anymetacharacter 位置和顺序
正则表达式的符号及意义

二、案例

数据

with temp as 
(select '[{favorite=["电影":杀死比尔,"电视剧":宰相刘罗锅],age=15,gender:男}]' as attributes ---第一行
union all 
select '[{favorite="像风一样的女人",age=未知,gender:男}]' as attributes ---第二行
union all 
select '[{favorite=28, gender:女,age=15}]' as attributes ---第三行
union all 
select '[{gender:女,favorite=["综艺","动漫"],age=15 }]' as  attributes ---第四行
)

要求

将favorite的值,age的值和gender的值取出来

分析

  1. 目前从temp表可知表中可知表里面只有一个attributes(特征)字段,这个字段其实包含三个字段,分别为favorite和age和gender
  2. 该字段类型不是标准的json格式,哪怕转换成标准的json格式也不太容易,假设转成json,你首先要处理最外层的中括号,其次json里面的key是有双引号的,你需要给key添加双引号,再次字段类型也不一致,age=15和age=未知;
  3. 综上分析需要使用regexp_extract函数
  4. 使用regexp_extract函数需要注意什么?注意字段顺序不一样,不是统一的,这是第一点;第二点有些逗号后面有空格,有些没有,花括号前有些有空格,有些没有;第三点favorite和age后面是等号,gender后面是冒号;

实现

select 
regexp_extract (attributes,'favorite\\=(.*?)(\\,\\s{0,1}age|\\,\\s{0,1}gender|\\s{0,1}\\})',1) as favorite
,regexp_extract (attributes,'age\\=(.*?)(\\s{0,1}\\}|\\,\\s{0,1}favorite|\\,\\s{0,1}gender)',1) as age
,regexp_extract (attributes,'gender\\:(.*?)(\\s{0,1}\\}|\\,\\s{0,1}favorite|\\,\\s{0,1}age)',1) as gender
from  temp
;

输出结果

favorite age gender
[“电影”:杀死比尔,“电视剧”:宰相刘罗锅] 15
“像风一样的女人” 未知
28 15
[“综艺”,“动漫”] 15

实现2

虽然说转json比较麻烦,但还是可以实现的,需要一些技巧;主要的问题是加引号,其次是去最外层的中括号,其他是一些小细节;

----去除空格字符和里面的引号(会在加引号时有干扰)等,第一个replace去空格,第二个去除双引号
select  regexp_replace( regexp_replace(attributes,'\\n|\\r|\\t|\\s',''),'\\"','')
from temp
----处理最外层的中括号,并加最外层的引号
select  regexp_replace(regexp_replace(regexp_replace( regexp_replace(attributes,'\\n|\\r|\\t|\\s',''),'\\"',''),'\\[\\{','\\{\\"'),'\\}\\]','\\"\\}')
from temp
----最终处理
select  regexp_replace(regexp_replace(regexp_replace(regexp_replace(regexp_replace(regexp_replace(regexp_replace(regexp_replace(regexp_replace( regexp_replace(attributes,'\\n|\\r|\\t|\\s',''),'\\"',''),'\\[\\{','\\{\\"'),'\\}\\]','\\"\\}'),'gender\\:','gender\\='),'\\=','\\"\\:\\"'),'\\,','\\&'),'\\&age','\\"\\,\\"age'),'\\&gender','\\"\\,\\"gender'),'\\&favorite','\\"\\,\\"favorite') as attributes
from temp 

至此终于到最标准的json格式了,处理json可以使用get_json_object,也可以使用json_tuple

select 
get_json_object(attributes,'$.favorite')
,get_json_object(attributes,'$.age')
,get_json_object(attributes,'$.gender')
from  
(select  regexp_replace(regexp_replace(regexp_replace(regexp_replace(regexp_replace(regexp_replace(regexp_replace(regexp_replace(regexp_replace( regexp_replace(attributes,'\\n|\\r|\\t|\\s',''),'\\"',''),'\\[\\{','\\{\\"'),'\\}\\]','\\"\\}'),'gender\\:','gender\\='),'\\=','\\"\\:\\"'),'\\,','\\&'),'\\&age','\\"\\,\\"age'),'\\&gender','\\"\\,\\"gender'),'\\&favorite','\\"\\,\\"favorite') as attributes
from temp 
) tt 
select 
json_tuple(attributes,'favorite','age','gender') 
from  
(select  regexp_replace(regexp_replace(regexp_replace(regexp_replace(regexp_replace(regexp_replace(regexp_replace(regexp_replace(regexp_replace( regexp_replace(attributes,'\\n|\\r|\\t|\\s',''),'\\"',''),'\\[\\{','\\{\\"'),'\\}\\]','\\"\\}'),'gender\\:','gender\\='),'\\=','\\"\\:\\"'),'\\,','\\&'),'\\&age','\\"\\,\\"age'),'\\&gender','\\"\\,\\"gender'),'\\&favorite','\\"\\,\\"favorite') as attributes
from temp 
) tt 

select 
b.favorite
,b.age
,b.gender
from (
select  regexp_replace(regexp_replace(regexp_replace(regexp_replace(regexp_replace(regexp_replace(regexp_replace(regexp_replace(regexp_replace( regexp_replace(attributes,'\\n|\\r|\\t|\\s',''),'\\"',''),'\\[\\{','\\{\\"'),'\\}\\]','\\"\\}'),'gender\\:','gender\\='),'\\=','\\"\\:\\"'),'\\,','\\&'),'\\&age','\\"\\,\\"age'),'\\&gender','\\"\\,\\"gender'),'\\&favorite','\\"\\,\\"favorite') as attributes
from temp
) tt lateral view
json_tuple(attributes,'favorite','age','gender') b as favorite,age,gender


实现3

select 
attributes['favorite'] as favorite
,attributes['gender'] as gender
,attributes['age'] as age
from (
select 
str_to_map(attributes,',','=') as attributes
from  
(
select  
regexp_replace(regexp_replace(regexp_replace(regexp_replace(regexp_replace(regexp_replace(regexp_replace( regexp_replace(attributes,'\\n|\\r|\\t|\\s',''),'\\"',''),'\\:','\\='),'\\,','\\&'),'\\&age','\\,age'),'\\&favorite','\\,favorite'),'\\&gender','\\,gender'),'(\\[\\{)|(\\}\\])','') as attributes
from  temp
) tt 
) ttm

总结

首先需要明确的是,上面中的例子是人为制造的,非常不规则,所以导致处理起来非常麻烦,里面有好几个中括号,中括号里面是逗号分割,还有gender专门后面编成冒号,这些无疑加大了处理难度;上述使用三种方法进行处理,优先级:regexp_extract >str_to_map>get_json_object;

你可能感兴趣的:(大数据系列三,hive,hadoop,数据仓库)