从业大数据方向,需要掌握哪些技能,具体学习路线是什么?

  一、大数据相关工作介绍

  大数据方向的工作目前主要分为三个主要方向:

  1. 大数据工程师

  2. 数据分析师

  3. 大数据科学家

  4. 其他(数据挖掘等)

二、大数据工程师的技能要求

  附上大数据工程师技能图:

从业大数据方向,需要掌握哪些技能,具体学习路线是什么?_第1张图片

必须掌握的技能11条

  1. Java高级(虚拟机、并发)

  2. Linux 基本操作

  3. Hadoop(HDFS+MapReduce+Yarn )

  4. HBase(JavaAPI操作+Phoenix )

  5. Hive(Hql基本操作和原理理解)

  6. Kafka

  7. Storm/JStorm

  8. Scala

  9. Python

  10. Spark (Core+sparksql+Spark streaming )

  11. 辅助小工具(Sqoop/Flume/Oozie/Hue等)

高阶技能6条

  1. 机器学习算法以及mahout库加MLlib

  2. R语言

  3. Lambda 架构

  4. Kappa架构

  5. Kylin

  6. Alluxio

三、学习路径

  加米谷大数据理论+代码+实战+实操的独有课程体系,下面是加米谷的0基础大数据开发课程大纲:

  第一阶段:Java设计与编程思想

  学习内容:Java设计与编程思想

  学习目标:Java基础、Java面向对象、Java高级、数据库与JDBC

  学习效果:熟练掌握Java语法并灵活运用,能够开发后台应用

  第二阶段:Web前端开发

  学习内容:Web前端开发

  学习目标:HTML基础、CSS3基础、JS脚本编程

  学习效果:能够基于HTML+CSS+JQuery进行前端开发

  第三阶段:JavaEE进阶

  学习内容:JavaEE进阶

  学习目标:JavaWeb后端开发、SSM框架

  学习效果:掌握主流JavaWeb框架并灵活运用

  第四阶段:大数据基础

  学习内容:大数据基础

  学习目标:Linux基础、Maven基础

  学习效果:熟练掌握Linux及Maven等相关知识并灵活运用

  第五阶段:HDFS分布式文件系统

  学习内容:HDFS分布式文件系统

  学习目标:HDFS原理剖析、HDFS编程

  学习效果:深入理解HDFS的原理并灵活运用

  第六阶段:MapReduce分布式计算模型

  学习内容:MapReduce分布式计算模型

  学习目标:MapReduce原理剖析、MapReduce实践

  学习效果:熟练掌握MapReduce原理并灵活运用

  第七阶段:Yarn分布式资源管理器

  学习内容:Yarn分布式资源管理器

  学习目标:Yarn原理剖析、Yarn实践

  学习效果:深入理解Yarn的原理并调优

  第八阶段:Zookeeper分布式协调服务

  学习内容:Zookeeper分布式协调服务

  学习目标:Zookeeper原理剖析、Zookeeper实践

  学习效果:深入理解Zookeeper的原理并灵活运用

  第九阶段:Hbase分布式数据库

  学习内容:Hbase分布式数据库

  学习目标:Hbase原理剖析、Hbase编程实践

  学习效果:深入理解Hbase的原理并灵活运用及调优

  第十阶段:Hive分布式数据仓库

  学习内容:Hive分布式数据仓库

  学习目标:Hive原理剖析、Hive编程实践

  学习效果:深入理解Hive的原理并灵活运用

  第十一阶段:FlumeNG分布式数据采集系统

  学习内容:FlumeNG分布式数据采集系统

  学习目标:FlumeNG原理剖析、FlumeNG编程实践

  学习效果:熟练掌握FlumeNG的各种应用场景

  第十二阶段:Sqoop大数据迁移系统

  学习内容:Sqoop大数据迁移系统

  学习目标:Sqoop原理剖析、Sqoop编程实践

  学习效果:熟练掌握Sqoop并灵活运用

  第十三阶段:Scala大数据黄金语言

  学习内容:Scala大数据黄金语言

  学习目标:Scala语法剖析、Scala应用实践

  学习效果:熟练掌握Scala各种语法并灵活运用

  第十四阶段:kafka分布式总线系统

  学习内容:kafka分布式总线系统

  学习目标:kafka原理剖析、kafka编程实践

  学习效果:深入理解kafka原理并灵活运用及调优

  第十五阶段:SparkCore大数据计算基石

  学习内容:SparkCore大数据计算基石

  学习目标:SparkCore核心原理、SparkCore实践

  学习效果:深入理解SparkCore原理并灵活运用及调优

  第十六阶段:SparkSQL数据挖掘利器

  学习内容:SparkSQL数据挖掘利器

  学习目标:SparkSQL核心原理、SparkSQL实践

  学习效果:熟练掌握SparkSQL的各种应用场景并灵活运用

  第十七阶段:SparkStreaming流失计算平台

  学习内容:SparkStreaming流失计算平台

  学习目标:SparkStreaming核心原理、SparkStreaming实践

  学习效果:深入理解SparkStreaming原理及各种应用场景和调优

  第十八阶段:SparkMllib机器学习平台

  学习内容:SparkMllib机器学习平台

  学习目标:SparkMllib算法模型及核心原理、SparkMllib实践

  学习效果:熟练掌握SparkMllib的常用算法并灵活运用

  第十九阶段:SparkGraphx图计算平台

  学习内容:SparkGraphx图计算平台

  学习目标:SparkGraphx核心原理、SparkGraphx实践

  学习效果:深入理解SparkGraphx的原理并灵活运用

  第二十阶段:大数据项目实战

  学习内容:大数据项目实战

  学习目标:4个大数据项目的实战

  学习效果:能够基于所学知识在真实的项目中操练

人工智能、大数据、云计算和物联网的未来发展值得重视,均为前沿产业,有兴趣的朋友,可以查阅多智时代,在此为你推荐几篇优质好文:

  1. 大数据时代,主要需要什么类型的人才

  2. 大数据技术平台的分类,学习指南之精华

  3. 成为一名合格的数据分析师,需要从哪几个方向入手,学习哪些基本知识

你可能感兴趣的:(大数据)