数据分析师必知的那些Hive-SQL

     作者:宝器

     来源:数据管道

大家好,我是宝器。

昨天了那篇文章「对不起,让大家失望了」之后,收到了写文章以来最多的私信和赞赏,感谢大家鼓励。

至于赞赏这个东西,了解的应该知道,我极少开,支持一个头像就可以了,真的不需要金额过大。相对于赞赏,我更希望看到大家认真对宝器的建议。

文末放了一个可以跟宝器留言互动的链接,目的是想更好的定位要推送更新的内容,从留言板和私信看很多旁友对求职实用性的内容需求更大,摘取部分读者的留言和私信:

数据分析师必知的那些Hive-SQL_第1张图片

看的出来,这些读者都很用心看过我的内容。所以按照需求,今天立马安排上。

关于数据分析岗位,首先是数据,然后才是分析,那怎么取数是基础且非常重要的一步。这里的获取数据不是指用爬虫爬取一些如评论、点赞的数据来分析。

为什么

你想如果你就职于淘宝,现在老板需要你看一下最近的活跃用户,了解一下新用户的访客特征。

怎么做

第一步当然是在公司的数据仓库获取数据,这些数据依赖哪些表,表的关系,为什么创建这张表,你是需要知道的,因为表肯定是为业务需求所设计。而分析也是为了更好的业务增长,这样才能形成一个完整的闭环。

我的观点是,以分析促进业务增长,以业务增长培养更好的分析思维、分析角度、分析高度,其一是为公司获取利益,其二是提升自己。

关于数据仓库的数据是怎么来的,可能你还要花时间了解一下关于数据埋点,这里不做过多介绍,重点讲如何取数、为什么会有Hive-SQL的概念。

那首先介绍一下为什么需要Hive这样的工具,可以思考一个问题,如果现在你使用的表是淘宝当月的月活表,我想这里面的数据量肯定是亿级别的,这面临的是大规模数据处理的问题,如果用传统的方法,可能你做个最简单的查询都需要一两天。

这当然不现实

通俗的理解Hive是一个基于Hadoop的开源的数据仓库工具,用于存(HDFS)和处理(MapReduce)海量结构化数据。使用MapReduce计算,HDFS储存。

关于HDFS、MapReduce是啥,不重要,可以理解为一个用于分布式计算,一个用于存储数据的分布式文件系统就行。

那这跟SQL又有什么关系

因为SQL简单的语法就可以帮我们进行复杂统计分析之类的活,而Hive相当于提供一层转化,让传统的数据人员不需要了解复杂MapReduce分布式计算的编写,就可以通过SQL解决大数据的计算问题,降低难度。

Hive和传统数据库的区别可以直接看下图。

数据分析师必知的那些Hive-SQL_第2张图片

好像听上去也很复杂?那这些都需要知道吗?

其实不用,关于Hive的设计、怎么优化性能这些是数据开发的小伙伴所需要关心的问题,分析师的话,实际上了解一下原理就可以了。

授人以鱼不如授人以渔,如果现在我直接把《Hive编程指南》的知识点复现一遍,肯定会让大家还是觉得知识太多了。

所以这部分我画了2张思维导图,注释了哪些部分的知识点了解一下就可以了,哪些需要熟练掌握甚至精通的,这样的话会节省很多时间去阅读更重要的内容,更好的应对DA岗的面试和工作。

01

需要简单了解的

数据分析师必知的那些Hive-SQL_第3张图片

其中星标部分需要熟练

02

需要重点掌握的

数据分析师必知的那些Hive-SQL_第4张图片

其中星标部分需要精通

数据分析师必知的那些Hive-SQL_第5张图片

◆ ◆ ◆  ◆ 

长按二维码关注我们


数据森麟公众号的交流群已经建立,许多小伙伴已经加入其中,感谢大家的支持。大家可以在群里交流关于数据分析&数据挖掘的相关内容,还没有加入的小伙伴可以扫描下方管理员二维码,进群前一定要关注公众号奥,关注后让管理员帮忙拉进群,期待大家的加入。

管理员二维码:

猜你喜欢

 笑死人不偿命的知乎沙雕问题排行榜

 用Python扒出B站那些“惊为天人”的阿婆主!

 全球股市跳水大战,谁最坑爹!

● 上万条数据撕开微博热搜的真相!

● 你相信逛B站也能学编程吗

你可能感兴趣的:(数据分析师必知的那些Hive-SQL)