大数据开发常用技术

月度总结 | 2022年03月 | 考研与就业的抉择 | 确定未来走大数据开发路线

一、时间线梳理3月3日，寻找到同专业的就业伙伴3月5日，着手准备Java八股文，决定先走Java后端路线3月8月，申请到了校图书馆的考研专座，决定暂时放弃就业，先准备考研，买了数学和408的资料书3月9日-3月13日，因疫情原因，宿舍区暂封，这段时间在准备考研，发现内容特别多3月13日-3月19日，大部分时间在刷Hadoop、Zookeeper、Kafka的视频，同时在准备实习的项目3月20日，退

「已注销」·2024-09-14 23:30

科锐国际（计算机类），汤臣倍健，中建三局，宁德时代，途游游戏，得物，顺丰，康冠科技24春招内推

职能类、IT技术类、商业分析类、生产运营类【内推链接】https://sourl.cn/JSDhLU【推荐码】ES3W2T②科锐国际(OD项目组--计算机专场)【招聘岗位】软件开发工程师、软件测试工程师、大数据开发工程师

weixin_53585422·2024-09-14 22:54

实时数仓之实时数仓架构(Hudi)(1)，2024年最新熬夜整理华为最新大数据开发笔试题

+Hudi：湖仓一体数据管理框架，用来管理模型数据，包括ODS/DWD/DWS/DIM/ADS等；+Doris：OLAP引擎，同步数仓结果模型，对外提供数据服务支持；+Hbase：用来存储维表信息，维表数据来源一部分有Flink加工实时写入，另一部分是从Spark任务生产，其主要作用用来支持FlinkETL处理过程中的LookupJoin功能。这里选用Hbase原因主要因为Table的HbaseC

2401_84181221·2024-09-09 19:04

chapter01 Java语言概述知识点Note

JavaSEJavaEEJavaME大数据Java基础常用技术栈mysqlJDBCSSMspring+springmvc+mybatisLinuxnacosHadoopFlinkJAVAEE消息队列rabbitMQdocker

月下绯烟·2024-09-08 18:42

HiveSQL一本通 - 案例实操，2024年最新大数据开发编程基础班

count(stu_id)stu_countfromscore_infogroupbycourse_idhavingstu_count>=15;（3）查询结果。course_idstu_count0119021903196.3.4查询结果排序和分组指定条件1.查询学生的总成绩并按照总成绩降序排序（1）思路分析。本题主要考查分组聚合和orderby关键字的使用。（2）查询语句。hive>select

疯狂的石头。·2024-09-07 13:47

Spark一些个人总结

在此我们探索了Spark的原理，以及其在大数据开发中的重要作用。一、Spark是什么Spark是一个用来实现快速，通用的集群

易逑实战数据·2024-09-06 09:39

最全金融数据_PySpark-3(2)，大数据开发学习的三个终极问题及学习路线规划

既有适合小白学习的零基础资料，也有适合3年以上经验的小伙伴深入学习提升的进阶课程，涵盖了95%以上大数据知识点，真正体系化！由于文件比较多，这里只是将部分目录截图出来，全套包含大厂面经、学习笔记、源码讲义、实战项目、大纲路线、讲解视频，并且后续会持续更新需要这份系统化资料的朋友，可以戳这里获取frompyspark.ml.evaluationimportBinaryClassificationEv

2401_84185145·2024-09-05 23:38

linux下的多路复用io（select,poll,epoll）

多路复用I/O是在网络编程中处理多个文件描述符的常用技术，允许程序在一个线程内同时监控多个I/O事件（如读、写或异常），而不必为每个I/O操作创建一个线程。

lexc_·2024-09-04 01:07

Java 快速入门知识精简（1）

内存的申请与释放提供了相对安全的内存管理和访问机制特点三：跨平台性由JVM负责Java程序在系统中的运行JVMforUNIXJVMforWindowsJVMforMac应用领域：JavaWeb开发后台开发大数据开发

Tangy范·2024-09-03 16:18

大数据开发技术HBase优化与特点分析

高可用在HBase中Hmaster负责监控RegionServer的生命周期，均衡RegionServer的负载，如果Hmaster挂掉了，那么整个HBase集群将陷入不健康的状态，并且此时的工作状态并不会维持太久。所以HBase支持对Hmaster的高可用配置。关闭HBase集群（如果没有开启则跳过此步）[atguigu@hadoop102hbase]$bin/stop-hbase.sh在con

at小白在线中·2024-09-02 13:32

外行学习快速入行大数据开发指南

大数据是对海量数据进行存储、计算、统计、分析处理的一系列处理手段，处理的数据量通常是TB级，甚至是PB或EB级的数据，这是传统数据处理手段所无法完成的，其涉及的技术有分布式计算、高并发处理、高可用处理、集群、实时性计算等，汇集了当前IT领域热门流行的IT技术。大数据是什么？投资者眼里是金光闪闪的两个字：资产。比如，Facebook上市时，评估机构评定的有效资产中大部分都是其社交网站上的数据。如果把

weixin_45732643·2024-09-01 03:58

Hash哈希学习笔记

值分散，减少碰撞hash算法的构成:hash函数的初始化构造hash函数：典型的函数包括除余法H(k)=(k)modpH(k)=(k)modpH(k)=(k)modp、elfhash等等冲突解决方法：（常用技术

lawhelo·2024-08-30 13:43

大数据分析与大数据开发两者的区别是怎样的?

大数据主要分为两个就业方向：①大数据开发②大数据分析大数据分析：主要负责现有数据价值提炼与挖掘，包括业务增长点挖掘，产品改进点挖掘，业务分析指标体系构建，业务分析报告出具等大数据开发：主要负责大数据平台与应用开发

泰迪智能科技01·2024-08-29 10:18

Python大数据学习day01——大数据开发概论

目录大数据概念大数据特点大数据应用场景大数据分析业务步骤大数据职业规划大数据学习路线1.大数据解决问题海量数据存储——海量数据运算——海量数据迁移2.大数据特点（大、多、值、快、信）数据体量大种类和来源多源化实现低价值密度速度快数据的质量准确可信3.大数据应用4.大数据分析步骤明确分析目的思路——数据收集——数据处理（ETL）——数据分析——数据展现——撰写报告5.大数据职业规划6.大数据学习路线

笨小孩124·2024-08-28 12:46

面试笔记8.24

项目你的项目中涉及大数据开发，那你的代码工程是怎么搭建的？正确答案：在我的项目中涉及大数据开发时，我通常会采用分布式的架构，比如使用Hadoop或者Spark等大数据处理框架。

励志秃头码代码·2024-08-26 16:55

分布式系统架构手册

ArchManual分布式系统架构手册项目介绍ArchManual不是：某个技术架构的深度剖析某个技术框架的源码分析某个技术工具的安装运维某个技术类库的代码示例而是：常用分布式技术的总体概览常用技术主题的归纳总结常用技术框架的归类罗列常用技术架构的简单分享希望成为

ArchManual·2024-08-25 08:36

用Go实现伪静态URL重写功能

在Web开发中，伪静态URL已成为优化网站架构和提升SEO的常用技术手段。尤其是在内容管理系统（CMS）中，灵活的URL重写功能不仅能改善用户体验，还能帮助网站更好地与搜索引擎对接。

开发小程序的之朴·2024-08-22 15:27

大数据开发（Hive面试真题-卷二）

大数据开发（Hive面试真题）1、举几个Hive开窗函数例子？什么要有开窗函数，和聚集函数区别？2、说下Hive是什么？跟数据仓库区别？3、Hive架构？4、Hive数据倾斜以及解决方案？

Key-Key·2024-03-20 05:14

大数据开发（Kafka面试真题-卷一）

大数据开发（Kafka面试真题）1、请解释以下ApacheKafka是什么？它在大数据系统中的角色是什么？2、请解释以下Kafka的工作原理和它与传统消息队列服务的不同之处？

Key-Key·2024-03-18 23:05

Java开发从入门到精通（七）：Java的面向对象编程OOP：常用API

Java大数据开发和安全开发（一）Java的常用API1.1Object类1.1toString1.1equals方法1.1对象克隆clone1.1Objects类1.1包装类1.1StringBuilder1.1StringBuffer1.1StringJoiner1.1Math

HACKNOE·2024-03-18 02:37

大数据开发（Spark面试真题-卷一）

大数据开发（Spark面试真题）1、什么是SparkStreaming？简要描述其工作原理。2、什么是Spark内存管理机制？请解释其中的主要概念，并说明其作用。

Key-Key·2024-03-13 07:58

大数据开发（Spark面试真题-卷六）

大数据开发（Spark面试真题）1、SparkHashPartitioner和RangePartitioner的实现？

Key-Key·2024-03-12 02:16

大数据开发（Hadoop面试真题-卷二）

大数据开发（Hadoop面试真题）1、在大规模数据处理过程中使用编写MapReduce程序存在什么缺点？如何解决这些问题？

Key-Key·2024-03-12 02:15

大数据开发（Hadoop面试真题-卷九）

大数据开发（Hadoop面试真题）1、Hivecount(distinct)有几个reduce，海量数据会有什么问题？

Key-Key·2024-03-09 10:06

我的创作纪念日

机缘读大二的时候开始尝试记录学习笔记，刚开始再到仅仅为了对自己学习内容做回顾，后来发现可以帮助身边其他人，再到后来随着粉丝增多，陆续接到合作及平台邀请，期间自己的技术方向也从大数据开发转为算法领域，这一路走来并不容易

GoAI·2024-02-20 05:52

Java和人工智能哪个好？

在Java开发方向，像Java后端开发、大数据开发、微服务架构师、云计算架构师等高级岗位，收入会相对较高。而在人工智能领域，像机器学习工程师、深度学习工程师、自然语言处理工程师、数据科学家等方向的

华清远见成都中心·2024-02-20 04:50

学习大数据开发，需要满足哪些条件？学历，性别，专业有限制吗？

首先对于零基础的童鞋想参加大数据开发学习，需要：1、一些数学常识，尤其是想从事数据分析这一块，至少要了解常用计算模型

yoku酱·2024-02-19 23:22

Spring-boot入门

参考：[1]官方文档SpringBootReferenceGuide[2]慕课网SpringBoot开发常用技术整合SpringBoot可以用来干什么？

HTMK_GT_MK·2024-02-19 12:45

Hadoop+Spark+MongoDB+MySQL+C#大数据开发项目最佳实践

一、前言随着IT技术的飞速发展，各行各业都已在广泛尝试使用大数据技术提供更稳健和优质的服务。目前，医疗IT系统收集了大量极具价值的数据，但这些历史医疗数据并没有发挥出其应有的价值。为此，本文拟利用医院现有的历史数据，挖掘出有价值的基于统计学的医学规则、知识，并基于这些信息构建专业的临床知识库，提供诊断、处方、用药推荐功能，基于强大的关联推荐能力，极大地提高医疗服务质量，减轻医疗人员的工作强度。二、

yiyidsj·2024-02-14 07:08

大数据开发之Sqoop详细介绍

备注:测试环境CDH6.3.1Sqoop1.4.7一.Sqoop概述ApacheSqoop（SQL-to-Hadoop）项目旨在协助RDBMS与Hadoop之间进行高效的大数据交流。用户可以在Sqoop的帮助下，轻松地把关系型数据库的数据导入到Hadoop与其相关的系统(如HBase和Hive)中；同时也可以把数据从Hadoop系统里抽取并导出到关系型数据库里。Sqoop是一个在结构化数据和Had

只是甲·2024-02-14 01:17

学习大数据要有这样的学习思路才行

我们在系统学习大数据的之前，要先了解大数据开发是在什么系统平台下进行的。所以我们在学之前要先学习Linux的知识，这部分显得格外的重要。

尚学先生·2024-02-14 01:33

数据库课设——汽车信息租赁管理系统

目录课程设计目的时间及任务安排基本要求系统实现功能需求系统分析与设计数据库设计运行结果截图开发环境个人总结此处是本课程设计任务书指导教师：班级：计算1503地点：机房课程设计目的1、综合运用Java程序设计课程和其他相关课程的理论和知识，掌握面向对象程序设计的一般方法、常用技术及技巧

一季春秋·2024-02-13 20:40

大数据开发 | 最流行的项目管理工具Maven

什么是Maven？Maven是优秀的项目管理和构建工具，能让我们更为方便的来管理和构建项目，从最基础的环境配置，到maven核心知识点的应用。Maven简化和标准化项目建设过程。处理编译，分配，文档，团队协作和其他任务的无缝连接。Maven增加可重用性并负责建立相关的任务。Maven是干什么？Maven就可以帮你构建工程，管理jar包，编译代码，还能帮你自动运行单元测试，打包，生成报表，甚至能帮你

程序员不敲代码·2024-02-13 10:47

Java从入门到精通

1、首先要学习JavaSE，掌握Java语言本身、Java核心开发技术以及Java标准库的使用；2、如果继续学习JavaEE，那么Spring框架、数据库开发、分布式架构就是需要学习的；3、如果要学习大数据开发

nightluo·2024-02-13 01:52

小白入门大数据，这一篇就够了

所以不论是计算机专业的程序员，还是非计算机专业准备转行计算机的跨行人员都想学习大数据，从事大数据开发工作。但是当你站在一个行业门外的时候，你更多的是看到他的价值和前景，这会促使你义无反顾地往里冲。但

弄潮大数据·2024-02-12 18:03

JVM调优的一些常用技术

JVM（Java虚拟机）调优是一个复杂的过程，涉及到对JVM运行时行为的监控和调整，以提高应用程序的性能和响应速度，减少内存使用，避免内存泄漏等问题。以下是一些常用的JVM调优技术：###1.堆（Heap）大小调整堆是JVM用于存储对象实例的内存区域，调整堆大小是最基本的调优手段之一。通过调整初始堆大小（-Xms）和最大堆大小（-Xmx）参数，可以控制JVM堆的大小。太小的堆会导致频繁的垃圾回收（

dreammaker阿甘·2024-02-12 12:48

一本Python爬虫的书，凭什么能畅销10W册

Python作为一种广泛应用的编程语言，在Web开发、大数据开发、人工智能开发和嵌入式开发等领域都有着重要的应用。Python的易学性、清晰性和可移植性等特点使它得到很多技术人士的喜爱。

程序员老冉·2024-02-12 11:21

常用技术分析图表：蜡烛图

蜡烛图又称K线图，其起源于日本，是中国投资者使用最为广泛的一种图表。蜡烛图也包含开盘价、收盘价、最低价和最高价4种价格。传统蜡烛图分为阴阳线，其中阴线为黑色，表示下跌，阳线为白色，表示上涨。阴线实体的上边缘为开盘价，下边缘为收盘价，上下影线的端点对应最高价和最低价；阳线则刚好相反，其实体的下边缘为开盘价，上边缘为收盘价，上下影线的端点也分别对应时段内最高价和最低价。目前市面上的分析软件都可以修改蜡

技术投机客·2024-02-12 08:21

大数据开发之电商系统架构从零到一

福兴信息科技：揭秘电商系统架构，从零到一打造大数据驱动的购物新世界了解更多信息，请关注：福兴信息科技了解更多信息，请关注：福兴信息科技随着互联网的迅猛发展，电子商务已成为人们生活中不可或缺的一部分。然而，背后的电商系统架构是如何构建的呢？今天，就让我们一起跟随福兴信息科技的脚步，从零开始，探索大数据驱动的电商系统架构的奥秘。一、从零开始：规划电商系统架构蓝图在福兴信息科技，我们深知电商系统架构的重

福兴信息科技·2024-02-10 17:55

app开发常用技术

1.本地数据库2.socket长连接3.json转listview4.通知栏开发5.获取定位6.服务器集群7.页面生命周期8.网络检查9.弹框10.webview11.获取通讯录12.声音通知13.图片选择与上传14.视频上传15.声音录制与播放16.视频通话17.语音通话18.短信接口19.虚拟号码技术20.一键登录技术21.语音转文字22.视频剪辑压缩23.图片剪裁与压缩24.二维码生成与识别

温正实·2024-02-10 15:21

京东面试总结

出现的问题：大数据开发没有理论支撑，应该可以涉及多一点的应用方面；其次引导面试官提问MapReduce；在

小小少年Boy·2024-02-09 21:45

学习大数据应该掌握哪些技能

想要了解大数据开发需要掌握哪些技术，不妨先一起来了解一下大数据开发到底是做什么的~1、什么是大数据？

我想去吃ya·2024-02-09 13:15

使用 Kubernetes 部署 Flink 应用

作者:薄荷脑https://blog.csdn.net/zjerryj/article/details/100063858大数据技术与架构点击右侧关注，大数据开发领域最强公众号！

王知无(import_bigdata)·2024-02-09 06:38

大数据从何学起？大数据脑图+学习路线清晰的告诉你！

【大数据开发学习资料领取方式】：加入大数据技术学习交流扣扣群458345782，点击加入群聊，私信管理员即可免费领取第一阶段linux+搜索+hadoop体系Linux基础→sh

yoku酱·2024-02-08 18:16

大数据系列—数据迁移(Sqoop,Flume,DataX)对比学习（stage3）

MynameisJinsuo.Shi.一个不正经的大数据开发工程师，目前从事在公司主要进行CDP平台的数据接入、数据的ETL、数据的融合与事件的展开工作。

道-闇影·2024-02-08 06:07

图解大数据 | 大数据分析挖掘-Spark初步

Dashesand·2024-02-08 03:22

数仓：用户行为类指标一网打尽

关注公众号，回复关键字【资料】，获取【10万字大数据框架面试知识点】与【大数据开发的命令手册】先来看下用户类行为指标说明，然后下面详解常写的指标。

大数据左右手·2024-02-07 09:35

数仓：事实表设计方法，原则和三种类型选择

关注公众号，回复关键字【资料】，获取【10万字大数据框架面试知识点】与【大数据开发的命令手册】事实表设计方法事实表作为数据仓库维度建模的核心，紧紧围绕着业务过程来设计。