五年Java外包转型大数据架构

乔二爷(化名)是我学习群的元老,我们去年就认识,他是五年Java经验的老鸟。去年年底他刚开始学大数据的时候给我打过电话,咨询一些学习路线上的问题,那时刚转型大数据的我给了他几点不太成熟的建议,今年年初就成功转型了,并且从数据开发到现在的架构,实属牛逼。

个人介绍

我乔二爷,专科,坐标二线城市。14年8月毕业开始从事Java开发,月薪3800,在外地驻场两年多,17年初开始接触大数据,18年底开始系统学习,今年开始正式全职做大数据相关的开发和架构工作。薪资涨幅40%,当前年薪20万+。

为什么想转大数据

今天距离去年下决心从上家公司要离开时差不多有一年的时间。这一年来,自己的心智和心态都发生了不小的改变。这一节的主题是为什么我要想转大数据?

其实在在遇到锋哥之前,在2017年初,我在云南出差驻场的时候就开始在接触大数据。我记得那是从元旦节开始的,当时是买的黑马2016年的几块几包邮那种。了解到大数据的时候,简直开启了我的新世界的大门,从薪资的角度来讲,普遍比Java 高,也是我无法拒绝的。当初看这个很大程度就是看到薪资去的。

转型之前的工作

在17年年中回到成都总公司到18年4月份左右,陆陆续续的进入到公司的其他业务线,但是工作内容跟大数据并没有沾边,没有用上。这段时间内,时不时的晚上也在回来看看视频学习,那时候学习习惯不好,很多内容就看看,并没有去写一些代码,做一些笔记去理解它们。当然了,吸收的效果也就比较差了。

这段时间其实是有个业务有实时计算的问题,当时先从前台定时任务去触发请求过来再到后台从数据库里面查询,跑了一段时间,越来越慢,因为很多页面时一分钟一次,一次要读取十来个接口,页面才能拼装完成。

由于这是数据都有时间的特性,也就是可以通过时间维度来组装,日数据可以从小时统计,月的可以从天累计,年的可以从月累计。就这样,请求进来,只需要当天的数据从数据库里面拉以外,其他的时间段的数据都从缓存里面取出来拼装。这一次改造,基本上解决了频繁查库,还有慢的问题。但是冷启动的时候这个缓存怎么做,是个问题,当时我们

你可能感兴趣的:(大数据,大数据架构,大数据开发)