Hadoop 3.x【大数据概念】

1. 大数据概念

大数据（Big Data）：指无法在一定时间范围内用常规软件工具进行捕捉、管理和处理的数据集合，是需要新处理模式才能具有更强的决策力、洞察发现力和流程优化能力的海量、高增长率和多样化的信息资产。

大数据主要解决，海量数据的采集、存储和分析计算问题。

按顺序给出数据存储单位：bit、Byte、KB、MB、GB、TB、PB、EB、ZB、YB、BB、NB、DB
1 Byte = 8 bit、1 K = 1024 Byte、1 MB = 1024 K、1 G = 1024 M、1 T = 1024 G、1 P = 1024 T

2. 大数据特点（4V）

大数据的特点总结来说就是四个 " V "

大量数据（volume）：数据量庞大，从 TB 级别跃升到 PB 级别
截至目前，人类生产的所有印刷材料的数据量是200PB，而历史上全人类总共说过的话的数据量大约是5EB。当前，典型个人计算机硬盘的容量为TB量级，而一些大企业的数据量已经接近EB量级。

多样化（variety）：网络日志、视频、图片、地理信息等

价值密度（value）：价值密度与数据总量成反比。如何通过强大的机器算法更迅速地完成数据的价值 “提纯” 成为目前大数据下期待解决的问题

速度快（velocity）：大数据区分与传统数据的最显著特征，一秒定律

这是大数据区分于传统数据挖掘的最显著特征。根据IDC的“数字宇宙”的报告，预计到2025年，全球数据使用量将达到163ZB。在如此海量的数据面前，处理数据的效率就是企业的生命。

3. 大数据应用场景

1. 抖音：推荐的都是你喜欢的视频

2. 电商站内广告推荐

3. 零售：分析用户的消费习惯，为用户购买商品提供方便，从而提升商品销量

4. 物流仓储：京东物流，上午下单下午送达、下午下单次日上午送达

5. 保险
海量数据挖掘及风险预测，主力保险行业精准营销，提升精细化定价能力。

6. 金融
多维度体现用户特征，帮助金融机构推荐优质客户，防范欺诈风险。

7. 房产
大数据全面助力房地产行业，打造精准投策与营销，选出更合适的地，建造更合适的楼，卖给更合适的人。

8. 人工智能 + 5G + 物联网 + 虚拟与现实

4. 大数据发展前景

1. 党的十九大提出“推动互联网、大数据、人工智能和实体经济深度融合”。

2. 2020年初，中央推出34万亿“新基建”投资计划
   

3. 下一个风口
   先入行者吃肉，后入行者喝汤，最后到的买单

4. 人才紧缺、竞争压力小

5. 工资高！！！

5. 大数据部分间业务流程分析

6. 大数据部门内组织结构