大数据工程师和Java后台开发的技术要求区别

  每家公司对大数据工作和java开发的要求不尽相同,目前长期从事数据库管理、挖掘、编程工作的人,包括传统的量化分析师、hadoop方面的工程师,以及任何在工作中需要通过数据来进行判断决策的管理者,比如某些领域的运营经理等,都可以尝试大数据工程师职位。

大数据工程师和Java后台开发的技术要求区别_第1张图片

  一、大数据工程师和后台开发的技能差别有多大?

  本人非计算机专业出身,java没系统学过,喜欢写代码,要找工作了。

  现在很迷茫,不知道应该往哪个方面突击突击,是老老实实的弄弄java看看hadoop源码?还是研究研究scala,还是用Python写写爬虫搞搞网络编程?还是把C++好好复习复习,马上就找工作了,不知道该把时间往哪个技能上冲。

  后台开发也得看具体职位,如果是做产品,多去看看当前流行的那些开发技术,简历里至少要有个拿得出手的项目。如果是做基础架构的,要把数据结构和算法,操作系统,网络编程之类的基本功打扎实,这一块知识点多,水也深。

  大数据工程师的话,至少要熟悉storm, hadoop, spark之间优缺点,性能挑优,监控之类的,这块面比较广,各种开源的分布式系统多了解一下,kafka, elasticsearch, influxdb, fluentd之类的。当然,数据结构和算法也很重要。

  大数据主要从侧重对数据的存储、分析,会涉及到分布式存储系统、分布式计算系统、机器学习、数据可视化等方面,每一个方面都可以深入学习很长时间;

  后台开发主要侧重网络编程、多线程/多进程调度、操作系统、各类数据库存取等,同样每一点都可以深挖;

  二、一个大数据工程师到底应该会什么?

  关于这个问题最终还是要落实到企业需求上。每家公司对大数据工作的要求不尽相同:有的强调数据库编程、有的突出应用数学和统计学知识、有的则要求有咨询公司或投行相关的经验、有些是希望能找到懂得产品和市场的应用型人才。

  由于目前大数据人才匮乏,对于公司来说,很难招聘到合适的人才—既要有高学历,同时最好还有大规模数据处理经验。因此很多企业会通过内部挖掘。

  目前长期从事数据库管理、挖掘、编程工作的人,包括传统的量化分析师、Hadoop方面的工程师,以及任何在工作中需要通过数据来进行判断决策的管理者,比如某些领域的运营经理等,都可以尝试大数据工程师职位。

  三、关于大数据工程师需要掌握的知识,不妨从以下6个方面入手:

  1、Java语言基础:

  Java开发介绍、熟悉Eclipse开发工具、Java语言基础、Java流程控制、Java字符串、Java数组与类和对象、数字处理类与核心技术、I/O与反射、多线程、Swing程序与集合类

  2、HTML、CSS与JavaScript

  PC端网站布局、HTML5+CSS3基础、WebApp页面布局、原生JavaScript交互功能开发、Ajax异步交互、jQuery应用

  3、JavaWeb和数据库

  数据库、JavaWeb开发核心、JavaWeb开发内幕

  4、LinuxHadoopt体系

  Linux体系、Hadoop离线计算大纲、分布式数据库Hbase、数据仓库Hive、数据迁移工具Sqoop、Flume分布式日志框架

  5、Spark生态体系

  Python编程语言、Scala编程语言、Spark大数据处理、Spark—Streaming大数据处理、Spark—Mlib机器学习、Spark—GraphX 图计算

  6、大数据分析 —AI(人工智能)

  Data Analyze工作环境准备数据分析基础、数据可视化、Python机器学习、图像识别神经网络、自然语言处理社交网络处理。

你可能感兴趣的:(个人技术分享)