数据开发第6页

大数据开发：实时数仓架构层次设计

今天的大数据开发学习分享，我们就主要来讲讲大数据实时数仓架构设计的问题。大数据实时数仓架构，通常来说，分为数据接入、数据计算、数据存储三个大的层次。

成都加米谷大数据·2023-11-28 16:52

聊聊API 安全

近年来，应用市场成为各大互联网平台企业的最爱，Facebook、Twitter、新浪微博、微信公众号、抖音等均使用了这种模式，即平台和第三方开发者之间建立一种合作共赢机制，平台方允许第三方调取数据开发应用并部署在平台上

技术琐话·2023-11-28 11:23

大数据开发学习笔记linux java hadoop环境变量配置

linux下配置环境变量javahadoopvim/etc/profile在文件最下方加入以下代码exportJAVA_HOME=java目录exportHADOOP_HOME=hadoop目录exportPATH=HADOOP_HOME/bin:PATHexportCLASSPATH=.:JAVA_HOME/lib/tools.jarexportJAVA_HOMEexportHADOOP_HOM

我还不够强·2023-11-27 20:39

大数据开发：数据库中间件的两种设计方案

今天的大数据开发分享，我们就来讲讲，数据库中间件的两种设计方案。目前来说，市面上典型的数据库中间件设计方案就是两种：Proxy、Smart-client。数据库中间件的设计原理，其实也很简单。

成都加米谷大数据·2023-11-27 20:58

计算机毕业设计|基于SpringBoot+MyBatis框架的电脑商城的设计与实现（系统概述与环境搭建）

在数据开发的原则下，提出了一种逻辑的开发流程，以用户-收货地址-商品类别-商品-收藏-购物车-订单为顺序，确保

星川皆无恙·2023-11-27 16:07

【2023 云栖】阿里云田奇铣：大模型驱动 DataWorks 数据开发治理平台智能化升级

云布道师本文根据2023云栖大会演讲实录整理而成，演讲信息如下：演讲人：田奇铣|阿里云DataWorks产品负责人演讲主题：大模型驱动DataWorks数据开发治理平台智能化升级随着大模型掀起AI技术革新浪潮

云布道师·2023-11-27 16:05

为什么学习大数据，大数据专家写给大数据分析学习者的10个理由

因为大数据爆发，因此出现了大数据开发、大数据分析这两大主流的工作方向，目前这两个方向是很热门，不少人已经在开始转型往这两个方向发展，相较而言，转向大数据分析的人才更多一点，而同时也有不少人在观望中，这边小编收集了十个为什么要学习大数据分析的十个理由

大数据学习01·2023-11-27 11:40

【数据中台】开源项目（1）-LarkMidTable

LarkMidTable是一站式开源的数据中台，实现中台的基础建设，数据治理，数据开发，监控告警，数据服务，数据的可视化，实现高效赋能数据前台并提供数据服务的产品。

码农丁丁·2023-11-27 09:38

0基础转行，学Java和大数据有什么区别？大数据学习步骤是什么？

Java和大数据如何选大数据方向有很多，目前我们经常说的大数据学习，其实指的是大数据开发！大数据开发顾名思义学习的主要技术就是编程技术，零基础学习大数据是需要从java和linux学起的。

yoku酱·2023-11-27 07:45

【数据中台】开源项目（2）-Moonbox计算服务平台

此外Moonbox还提供数据服务、数据管理、数据工具、数据开发等基础支持，可

码农丁丁·2023-11-27 00:44

学java有前途吗？初学者如何学好java？

经过了这么多年的使用和发展，java语言可以说已经是成功的建立奇了一个很庞大的体系，java语言在后端开发、Web开发、大数据开发、Android开发等领域都有着非常广泛的应用。

AI小菜鸡一个·2023-11-26 03:11

python之UDP网络应用程序开发

缘友一世·2023-11-26 03:40

大数据开发之运维面试题汇总分享

Q1：集群线上扩容如何达到自动化？线上扩容，规模正常都是以10+以上，如果都以课堂所示，人肉操作，时间投入与产出比不匹配，人力造成很大的不必要浪费，想学习老师线上集群实际扩容的方案。A:课堂所示兼顾了小白同学，所以是手把手纯人肉搭建，产线环境扩容数量少则几十多则上百，人肉肯定不行，我们公司的运维分为IAAS运维、大数据运维、应用运维，大数据运维工程师在扩容集群时，需要向IAAS运维工程师以工单的方

at小白在线中·2023-11-25 19:43

大数据开发之Kafka篇----Kafka入门(2)

部署试用篇说了这么就的Kafka理论知识，我们也需要实际操作一波了Zookeeper部署使用Kafka肯定离不开使用Zookeeper的，这里我们介绍一下在3台机器上部署Zookeeper的过程(但我就只在我是在我本机上演示的，就只能展示单机版的了)首先下载Zookeeper的压缩包，然后解压并到Zookeeper目录下tar-xzvfzookeeper-3.4.6.tar.gz-C/home/t

豆豆总·2023-11-25 17:40

同程数科基于 Apache Doris 构建统一实时数仓，查询提速数十倍！

为帮助业务人员提升数据开发的效率与质量，同程数科历经三代架构演进，最终引入ApacheDoris搭建统一实时数仓，在后续的实际应用中，将实时数仓平台化，进一步构建了一站式数据平台Ark，为业务人

SelectDB技术团队·2023-11-25 13:29

《微信小程序开发从入门到实战》学习二十七

3.4开发参与投票页面3.4.2借用伪造数据开发功能为了便于开发，新建一个编译模式：之前没看文章，每次都习惯性填完投票创建的信息提交再跳转看效果。好累。添加变异模式开发真方便。

那长长遥远的路·2023-11-25 10:32

ChatGPT 上新，效果炸裂，知识平台才是大模型的最佳狩猎场

数新网络可提供大数据开发管理、安全合规、建模分析、价值流通等多种服务，让大数据、AI和数据价

数新网络·2023-11-25 09:22

Kafka集成Flink

集成Flink一、Flink环境准备二、Flink生产者1.在包名下创建java类：FlinkKafkaProducer三、Flink消费者Flink是一个在大数据开发中非常常用的组件。

Smartaotao·2023-11-24 04:46

大数据开发之Hive优化篇6-Hive on spark

备注:Hive版本2.1.1一.HiveonSpark介绍Hive是基于Hadoop平台的数据仓库，最初由Facebook开发，在经过多年发展之后，已经成为Hadoop事实上的SQL引擎标准。相较于其他诸如Impala、Shark（SparkSQL的前身）等引擎而言，Hive拥有更为广泛的用户基础以及对SQL语法更全面的支持。Hive最初的计算引擎为MapReduce，受限于其自身的Map+Red

只是甲·2023-11-23 12:06

基于流计算 Oceanus（Flink） CDC 做好数据集成场景

无论是在在企业数据中台的建设，亦或者是打造一站式数据开发和数据治理的PASS平台。首先需要做的就是进行跨应用的数据融合计算，需要将数据从孤立的数据源中采集出来，汇集到可被计算平台高效访问的目的地。

腾讯云大数据·2023-11-23 09:07

DataWorks实践笔记-从入门到精通

DataWorks是阿里出品的一站式大数据开发与治理平台，基于MaxCompute/EMR/MC-Hologres等大数据计算引擎，网络上的教程很多，但是一般都比较冗长。

qq_43548990·2023-11-22 13:58

阿里大数据工程师：教你如何快速的搭建数据库

下面我们来讲大数据开发核心流程。当我们接到一个需求，首先会进行需求分析，然后做工作流设计，比如这个任务是什么时候跑的、依赖于哪些业务。工作流设计完成后进行数据采集和数据同步。接下去就是数据开发，我们

yoku酱·2023-11-22 13:03

数据有了，如何构建数据资产?

本次分享从以下四个环节展开：场景介绍架构设计数据开发应用开发01场景介绍为了让大家更好的了解这些产品的应用，首先模拟一个企业应用场景demo：有一家中型的零售商，客户和销售数据分散在不同系统中。

淋风沐雨·2023-11-22 06:10

大数据学习路线图让你轻松掌握大数据技术学习

互联网时代每个企业每天都要产生庞大的数据，对数据进行储存，对有效的数据进行挖掘分析并应用需要依赖于大数据开发，大数据开发课程采用真实商业数据源并融合云计算+机器学习，让学员有实力入职一线互联网企业。

金光闪闪耶·2023-11-22 02:59

一文搞定 SQL Server 执行计划

导读数据开发过程中，开发完成的SQL发布到生产环境，经常会发生SQL执行慢甚至根本无法执行，如何避免这种情况呢？这一篇我们分析一下SQLServer的执行计划是如何生成及如何阅读评估执行计划。

Data-Developer·2023-11-22 00:50

基于Flink打造实时计算平台为企业赋能

点击上方蓝色字体，选择“设为星标”回复”资源“获取更多资源大数据技术与架构点击右侧关注，大数据开发领域最强公众号！大数据真好玩点击右侧关注，大数据真好玩！

王知无(import_bigdata)·2023-11-21 10:40

springboot微信小程序的纪念馆门票在线预约管理系统19rtj

纪念馆在线预约管理系统采用Java语言，Springboot框架，基于mysql数据开发，实现了用户、展馆信息、展馆预约、酒店信息、留言板等内容进行管理，本小程序具有良好的兼容性和适应性，为用户提供更多的信息

QQ_402205496·2023-11-21 09:21

Scala学习笔记

大数据开发中常用Scala进行功能开发，而且大数据处理和计算框架Flink和Spark都是基于Scala开发的，学习Scala不仅是进行业务开发的前提，而且是深入研究大数据前言技术的基础。

火影启源·2023-11-21 02:02

便捷、高效、智能—从运维视角看星环科技大数据基础平台TDH

日前，星环科技发布了大数据基础平台TDH8.1.0，新版本围绕页面布局重构，集群升级和超大集群管理能力等方面进行了全新升级，极大程度地提升了用户数据开发管理体验。

星环科技·2023-11-21 00:00

【2023云栖】大模型驱动DataWorks数据开发治理平台智能化升级

DataWorks产品负责人田奇铣发布了DataWorksCopilot、DataWorksAI增强分析、DataWorks湖仓融合数据管理等众多新产品能力，让DataWorks这款已经发展了14年的大数据开发治理平台产品

阿里云大数据AI技术·2023-11-20 11:22

大数据开发(20)-Skew join

&&大数据学习&&系列专栏：哲学语录:承认自己的无知，乃是开启智慧的大门如果觉得博主的文章还不错的话，请点赞+收藏⭐️+留言支持一下博主哦skewjoin的原理是，为倾斜的大key单独启动一个mapjoin任务进行计算，其余key进行正常的commonjoin。在一般情况下，是否开启skewjoin取决于具体的使用场景。skewjoin是一种优化技术，主要用于大数据处理中的join操作。当处理大表

viperrrrrrr·2023-11-20 07:06

大数据开发(19)-hash table详解

&&大数据学习&&系列专栏：哲学语录:承认自己的无知，乃是开启智慧的大门如果觉得博主的文章还不错的话，请点赞+收藏⭐️+留言支持一下博主哦在Map-side聚合中，每个Map任务（mapper）都会维护一个独立的哈希表（hashtable）。在MapReduce框架中，每个Map任务都是独立的，它们分别处理输入数据集的不同部分。每个Map任务都会创建一个哈希表，用于存储键值对（key-valuep

viperrrrrrr·2023-11-20 07:36

HDFS、MapReduce原理--学习笔记

1.Hadoop框架1.1框架与Hadoop架构简介（1）广义解释从广义上来说，随着大数据开发技术的快速发展与逐步成熟，在行业里，Hadoop可以泛指为：Hadoop生态圈。

祈愿lucky·2023-11-20 06:33

ClickHouse（十四）ClickHouse技术分享ppt

昨天在公司做了ClickHouse的技术分享介绍，给公司的小伙伴们分享了ClickHouse的初认识、特性、使用场景，以及与我们旧数据开发架构的对比。

高并发·2023-11-20 05:42

大数据开发面试经验总结1（慢慢学习补充）

字节一面1.介绍项目的时候，把自己项目中的数据特点说一下，比如多少字段，多少数据量，大约什么类型，以及输出的‘数据类型和要求，中间进行哪些操作，一步步怎么进行的2.会问到数据库索引数据库索引：官方介绍索引是帮助MySQL高效获取数据的数据结构。更通俗的说，数据库索引好比是一本书前面的目录，能加快数据库的查询速度。一般来说索引本身也很大，不可能全部存储在内存中，因此索引往往是存储在磁盘上的文件中的（

L-JankinLee·2023-11-20 01:46

大数据开发面试（一）

1、Kafka和Flume的应用场景？Kafka和Flume的应用场景如下：Kafka：定位消息队列，适用于多个生产者和消费者共享一个主题队列的场景。适用于需要高吞吐量、可扩展性和容错能力的场景。主要用于大数据处理、实时数据流分析和日志收集等场景。Flume：定位数据传输，主要用于将数据从源头传输到目标存储系统。适用于需要将大量数据发送到HDFS、HBase等存储系统的场景。具有较强的可靠性、可扩

ChlinRei·2023-11-20 01:41

分组表，分桶表

nohuphive--servicemetastore&（2）启动Metastore服务nohuphive--servicehiveserver2&（3）查看进程信息lsof-i:100002，分区表概述定义：在大数据开发中

祈愿lucky·2023-11-19 15:29

Django学习生涯_02

Django学习—学员管理系统前台开发开发首页输出数据提交数据优化数据开发首页在student/view.py文件下编写代码fromdjango.shortcutsimportrender#Createyourviewshere.defindex

随心~·2023-11-19 09:23

大数据开发：kafka集群搭建步骤示例

今天的大数据开发学习分享，我们主要来讲讲在Hadoop集群上如何搭建和配置kafka集群。一、集群规划首先看一下集群规划，3台节点都搭建kafka,并且每个节点都需要提前安装有zookeeper集群。

成都加米谷大数据·2023-11-19 08:53

Numpy+Pandas+Matplotlib，Python数据分析三剑客从入门到进阶

Python数据之道·2023-11-19 00:44

Flink 内核原理与实现-状态原理

可以关注下公众号，专注数据开发、数据架构之路，热衷于分享技术干货。前言状态在Flink中叫作State,用来保存中间计算结果或者缓存数据。根据是否需要保存中间结果，分为无状态计算和有状态计算。

857技术社区·2023-11-18 18:54

大数据开发学习笔记

前言：本文介绍了各个大数据开发框架及数据库的学习记录链接有什么问题欢迎大家留言或者私信交流~Hadoophadoop集群搭建+hive安装_hadoop集群安装hive-CSDN博客Hadoop基础入门

THE WHY·2023-11-17 16:01

广州云栖大会：阿里云携手虎牙，首次落地直播行业边缘节点及云企业网服务

2018年11月22日，由阿里巴巴集团主办的广东省大数据开发者大会暨2018广东云栖大会在广州正式召开，其中以助力游戏企业畅游全球为主题的游戏云专场也在上午如期举办。

阿里云云栖号·2023-11-17 06:58

大数据应用开发线上班（学徒班）课程大纲

泰迪智能科技大数据应用开发线上班课程使用当下流行的Hadoop+Spark大数据框架，全面、深入地探讨了大数据开发、大数据分析、数据仓库等技术。

泰迪智能科技·2023-11-16 19:23

SQL中的字符串截取函数

字符串截取函数，也是我们在数据开发分析的过程中比较常用的函数，比较常用的函数，有四个left()、right()、substr()、substring_index()函数。

晓之以理的喵~~·2023-11-15 15:54

生产环境中的面试问题，实时链路中的Kafka数据发现某字段值错误，怎么办？...

首先，我们在做数据开发的过程中涉及到一些基本要素：时效性保障、质量保障、稳定性保障，此外还有敏捷性、可管

王知无(import_bigdata)·2023-11-15 10:29

大数据工作流_【大数据开发】OOZIE的工作流调度及功能架构（一）

常见的JBMP(工作流调度框架)：1.Crontab：详情见新闻网关指标张景宇，公众号：数据信息化【大数据开发】Hive的高级应用之新闻网关键指标统计(九)2.Azkaban3.Oozie+Hue4.Zeusoozie

weixin_39918682·2023-11-14 21:03

大数据平台作业调度系统详解－理论篇

大数据开发平台的核心组件之一：作业调度系统。作业调度系统是一个相对复杂的系统，涉及的内容繁杂，针对的场景多种多样，实现的方案千差万别，是一个需要理论和实践并重的系统。

javastart·2023-11-14 20:27

大数据开发面试知识点复习1

文章目录大数据开发复习课程课程目标1、大数据开发复习2、面试流程2.1、面试准备2.2、准备简历2.3、投递简历2.4、面试2.5、入职3、基础复习3.1、idea3.11、idea常用快捷键3.12、

爱敲代码的小黑·2023-11-14 06:44

大数据开发-Spark调优常用手段

Spark调优spark调优常见手段，在生产中常常会遇到各种各样的问题，有事前原因，有事中原因，也有不规范原因，spark调优总结下来可以从下面几个点来调优。1.分配更多的资源分配更多的资源：它是性能优化调优的王道，就是增加和分配更多的资源，这对于性能和速度上的提升是显而易见的，基本上，在一定范围之内，增加资源与性能的提升，是成正比的；写完了一个复杂的spark作业之后，进行性能调优的时候，首先第

Hoult-吴邪·2023-11-14 06:39

推荐频道

数据开发