大数据开发数据中台第7页

记一次系统上线的JVM调优

前言开发了大半年的数据中台系统，近期在测试环境上线压测，监控JVM时发现GC频繁，开启GC日志后发现隔几秒就要做一次MinorGC（对新生代内存进行回收），并且堆内存不到十分之一的时候就进行GC（测试-

南风过境jz·2023-12-06 04:05

数据中台学习和实战系列文章

【华为数据之道学习笔记】1-2华为数字化转型与数据治理-CSDN博客【华为数据之道学习笔记】非数字原生企业的特点-CSDN博客【数字化转型方法论读书笔记】选型数据中台的几大建议-CSDN博客【数字化转型方法论读书笔记

码农丁丁·2023-12-05 22:32

【数据中台】开源项目（4）-BitSail

介绍BitSail是字节跳动开源的基于分布式架构的高性能数据集成引擎,支持多种异构数据源间的数据同步，并提供离线、实时、全量、增量场景下的全域数据集成解决方案，目前服务于字节内部几乎所有业务线，包括抖音、今日头条等，每天同步数百万亿数据。开源地址：GitHub-bytedance/bitsail:BitSailisadistributedhigh-performancedataintegratio

码农丁丁·2023-12-05 22:55

大数据开发：Hive表的基本操作

今天的大数据开发分享，我们就来讲讲Hive表的基本操作。Hive创建表createtable语句遵从sql语法习惯，只不过Hive的语法更灵活。例如，可以定义表的数据文件存储位置，使用的存储格式等。

成都加米谷大数据·2023-12-05 20:41

Java大数据开发入门教程：使用Hadoop处理海量数据

本文将为大家介绍Java大数据开发的基本概念和Hadoop的使用方法，帮助读者入门大数据开发。一、什么是大数据开发？大数据开发是指通过使用分布式计算框架和相关技术，对海量数据

C红毛丹·2023-12-05 19:29

大数据开发：Hive on Spark设计原则及架构

今天的大数据开发分享，我们来讲讲HiveonSpark设计原则及架构。

成都加米谷大数据·2023-12-05 01:44

大数据开发：Kafka消息存储到Broker的流程

今天的大数据开发学习分享，我们就主要来讲讲Kafka消息存储到Broker的流程。

成都加米谷大数据·2023-12-04 23:34

《数据中台：让数据用起来》书评

有幸被选中为数澜科技《数据中台：让数据用起来》抢鲜品鉴者，首先感谢数澜科技的小伙伴们能够系统的介绍和分享关于数据中台相关理念、知识、技术及工具。

礼_7f0b·2023-12-04 06:36

数据中台架构原理与开发实战：数据分析与决策支持

作者：禅与计算机程序设计艺术1.背景介绍数据中台（DataStudio）是一个重要的开源工具和框架，用于帮助企业进行数据采集、清洗、加工、存储、分析和可视化。

禅与计算机程序设计艺术·2023-12-03 23:15

【数据中台】开源项目（3）-Linkis

关于LinkisLinkis在上层应用程序和底层引擎之间构建了一层计算中间件。通过使用Linkis提供的REST/WebSocket/JDBC等标准接口，上层应用可以方便地连接访问MySQL/Spark/Hive/Presto/Flink等底层引擎，同时实现统一变量、脚本、用户定义函数和资源文件等用户资源的跨上层应用互通，以及通过REST标准接口提供了数据源管理和数据源对应的元数据查询服务。作为计

码农丁丁·2023-12-03 23:42

数据中台方案

平台引擎DataSphereStudio基于插拔式的集成框架设计，及计算中间件Linkis，可轻松接入上层各种数据应用系统，让数据开发变得简洁又易用。在统一的UI下，DataSphereStudio以工作流式的图形化拖拽开发体验，将满足从数据交换、脱敏清洗、分析挖掘、质量检测、可视化展现、定时调度到数据输出应用等，数据应用开发全流程场景需求。数据治理引擎数据平台的数据治理：数据治理是一个大而全的治

aaaak_·2023-12-03 23:11

【数据中台】开源项目（3）-DataSphere Studio

DataSphereStudio（简称DSS）是微众银行自研的数据应用开发管理集成框架。基于插拔式的集成框架设计，及计算中间件Linkis，可轻松接入上层各种数据应用系统，让数据开发变得简洁又易用。在统一的UI下，DataSphereStudio以工作流式的图形化拖拽开发体验，将满足从数据交换、脱敏清洗、分析挖掘、质量检测、可视化展现、定时调度到数据输出应用等，数据应用开发全流程场景需求。DSS通

码农丁丁·2023-12-03 23:10

浅析数据中台技术架构

@toc引言数据中台总体架构图前面我们通过理论层面对数据中台有了一定的了解，下面我们通过架构层面来详细看一下数据中台的设计。数据中台是位于底层存储计算平台与上层的数据应用之间的一整套体系。

kobe_OKOK_·2023-12-03 15:23

大数据开发：HDFS Erasure Coding机制

今天的大数据开发分享，我们就来讲讲HDFSErasureCoding机制。1、HDFS备份机制的问题为了提供容错，HDFS根据复制因子的大小在不同的DataNodes节点复制文件块数据。

成都加米谷大数据·2023-12-03 14:29

大数据湖项目建设方案：文档全文101页，附下载

关键词：大数据解决方案，数据湖解决方案，数据治理解决方案，数据中台解决方案一、大数据湖建设思路1、明确目标和定位：明确大数据湖的目标和定位是整个项目的基础，这可以帮助我们确定项目的内容、规模、所需的技术以及如何评估项目的效果

方案365·2023-12-03 08:05

【数据中台】开源项目（5）-Amoro

介绍AmoroisaLakehousemanagementsystembuiltonopendatalakeformats.WorkingwithcomputeenginesincludingFlink,Spark,andTrino,Amorobringspluggableandself-managedfeaturesforLakehousetoprovideout-of-the-boxdataw

码农丁丁·2023-12-03 08:05

复杂JSON的实时接入解析与可视化展示

数据在后端处理好通过API将JSON返回给前端页面2、SaaS产品对外通过WebAPI返回JSON提供数据服务，而不是让用户直接连接到数据库（这样太危险，而且数据库服务通常是多租户公用，无法直接登录访问）3、数据中台已经得到广泛应用

Crystalllleee·2023-12-02 21:46

Mysql基本概念和Sql基本语法

数据库的基本概念DB:表视图索引存储过程触发器EventsDB可以想象成为一个文件夹，表就是文件夹里面的excel文件一般作为大数据开发来说只需要掌握前面三个就可以了字段类型1.数值类型int整数long

吃货大米饭·2023-12-02 17:19

开源多组件数据中台整体框架设计

本文参考该论证思维工具，结合自身的工作经验，来论证下当前为什么“开源多组件数据中台”是政务数据应用的选择之一。一、什么是数据中台？

开源数据中台·2023-12-02 01:50

数据中台架构原理与开发实战：数据中台项目管理流程

作者：禅与计算机程序设计艺术1.背景介绍数据架构概述数据架构（DataArchitecture）作为IT企业运用新型信息技术（IT）技术革命带来的变革，已经成为越来越重要的领域。随着互联网、移动互联网、物联网、云计算等新一代技术的发展，人类活动产生的数据量正在以指数级增长。而数据架构就成为了构建和维护这些海量数据的基石。由于数据量的爆炸性增长，传统单体数据库已无法满足业务需求的同时，还面临新的挑战

禅与计算机程序设计艺术·2023-12-02 01:49

数据中台架构原理与开发实战：数据可视化与数据报表

2017年，阿里巴巴集团发布了"支付宝数据中台",该平台旨在打通数据分析、决策制定和营

禅与计算机程序设计艺术·2023-12-01 23:48

大数据开发：Hbase集群安装配置入门

今天的大数据开发学习分享，我们就主要来讲讲Hbase集群安装配置入门。

成都加米谷大数据·2023-12-01 22:39

数据中台之核心调度模块的设计

目录1.DAG图的设计1.1功能设计要点1.2数据库设计要点2.调度器设计2.1XXL-JOB调度架构特点

数据与后端架构提升之路·2023-12-01 12:51

数据中台之OneService

OneService定义数据服务（OneService）作为统一的数据服务出口，实现了数据的统一市场化管理，有效地降低数据开放门槛的同时，保障了数据开放的安全。如何构建OneService●第一步：API定义API的定义包括：快速配置参数、选择排序字段、API类型多样性、数据预览、复制字段等方面。API的类型又包括生成API、注册API、服务分组及服务编排这4个方面。●第二步：API发布API的发

数据与后端架构提升之路·2023-12-01 12:50

一文读懂：制造业头部企业如何构建经营分析数字化体系

用BI数据分析手段，通过SAPBW/4HANA、SAPSACPlanning、数据中台、Hadoop等构建大数据平台，实现企业经营分析的数字化在近年逐步被认可和推崇，尤其是数字化场景的经营分析会成为数字化转型的亮点应用之一

智扬信达·2023-12-01 09:11

零基础学习大数据的方向和路线

大数据三大学习方向：大数据开发师、大数据架构师、大数据运维师互联网科技发展蓬勃兴起，人工智能时代来临，抓住下一个

weixin_44386638·2023-11-30 18:50

如何高效优雅的完成一次机器学习服务部署？一文详解部署难点以及实战案例...

本篇作者fanstuck世界五百强私企大数据工程师，工作与研究方向为大数据开发和数据分析，个人喜欢研究技术和算法。数据分析领域优质创

亚马逊云开发者·2023-11-30 18:02

基于Apache doris怎么构建数据中台(五)-数据质量管理

上一次我们讲了，数据怎么进行快速的接入，这次我们讲在接入及后续的数据处理中质量怎么控制如何更加合理、高效的监控每类作业的运行状态，并将原本分散、孤岛式的监控日志信息通过规则引擎集中共享、关联、处理；洞察关键信息，形成事前预判、事中监控、事后跟踪的质量管理闭环流程；沉淀故障问题，搭建解决方案的知识库体系。在数据质量监管平台的规划建设中，面临如下挑战：缺乏统一监控视图，离线和实时作业监控分散，影响性、

张家锋·2023-11-30 17:48

学Java有什么用？Java就业前景怎么样？

Java语言经过多年的使用和发展建立起了一个庞大的生态体系，在Web开发、Android开发、大数据开发、后端开发等领域都有广泛的应用。

程序媛小白·2023-11-30 14:49

数据中台具体是怎么解决数据孤岛的？_光点科技

为了解决这一问题，数据中台应运而生。数据中台是一种新型的数据管理架构，旨在打破数据孤岛，通过集中处理和管理数据，提高数据的可访问性和可用性。具体来说，

光点数据治理·2023-11-30 14:22

光点数据中台能干啥？怎么做？用在哪？_光点科技

数据中台的支持是企业中任何高层次的业务应用不可或缺的。数据中心面向的公司业务不再是单一业务线，而是从公司整体角度审视业务全景，寻找可重用的沉淀能力。今天，让我们来了解一下。

光点数据治理·2023-11-30 14:52

企业的数据中台到底指的是什么？_光点科技

随着数据技术的不断发展和企业数据应用的广泛应用，越来越多的企业开始将数据中台作为数字化转型的核心战略之一。那么，企业的数据中台到底指的是什么呢？

光点数据治理·2023-11-30 14:52

光点高校数据中台，助力高校信息化迎来发展新格局_光点科技

数据是教育信息化改革创新过程中的核心资产。从大数据的角度构建高校数据治理体系，支持高校管理信息向智能化服务和教育数字化转型，已成为必然趋势。然而，高校拥有更大的数据规模、更复杂的数据类型、更密集的数据交换和对数据治理的需求。因此，数据的应用仍然或多或少困扰着许多学校。为了清除这些信息问题，充分满足高校的数据进行应用市场需求，光点科技基于在大数据研究领域积累的技术优势和实施经验，为高校提供相关数据中

光点数据治理·2023-11-30 14:51

企业数据中台（CDP）为什么突然火了？_光点科技

数据中台CDP其实是从2019年开始火的。

光点数据治理·2023-11-30 14:21

使用Java+SSM(Spring+SpringMVC+Mybatis)实现在线电影推荐网电影推荐系统豆瓣电影爬虫基于用户、物品的协同过滤推荐算法机器学习、人工智能、大数据开发

使用Java+SSM(Spring+SpringMVC+Mybatis)实现在线电影推荐网电影推荐系统豆瓣电影爬虫基于用户、物品的协同过滤推荐算法机器学习、人工智能、大数据开发MovieRecommendWeb

linge511873822·2023-11-30 05:05

Hadoop大数据开发__Spark on YARN模式分布式集群安装部署

1、下载解压sparkcd/home/hadoop/apptar-zxvfspark-3.3.0-bin-hadoop3.tgzrmspark-3.3.0-bin-hadoop3.tgzln-sspark-3.3.0-bin-hadoop3spark2、修改spark-env.shcd/home/hadoop/app/spark/confvispark-env.sh#追加下面的路径HADOOP_C

姚华军·2023-11-30 02:32

数据中台架构原理与开发实战：数据中台的数据索引与搜索

作者：禅与计算机程序设计艺术1.背景介绍随着互联网的蓬勃发展，社会数据越来越多地被收集、处理、分析并呈现出来。如何在快速变化的社会环境下有效管理、发现和利用这些海量数据，是一个非常重要的问题。2017年，英国政府发布了“数字转型”的新数据指南，要求各级政府在年底前推出基于数据的决策支持工具，对社会数据进行采集、处理、存储、分析、呈现、利用，形成信息经济。而最近十几年里，随着数据产业的兴起，数据中心

禅与计算机程序设计艺术·2023-11-30 01:38

数据中台为什么不好搞？

从2015年阿里提出“大中台”的数据中台战略，到2019年大厂及中台服务商“大兴”数据中台，再到2021年大厂又开始拆中台。数据中台从小甜甜变成牛夫人仅仅用了2年时间，为什么这么快数据中台就不香了？

码农code之路·2023-11-30 00:03

数据中台·实时开发计算平台

什么是数据中台·实时计算平台？实时计算（实时开发）是为构建一套一站式、高性能实时大数据处理平台，广泛适用于流式数据处理场景。

数据先生·2023-11-30 00:33

数据中台整体设计思路复盘

首先，什么是数据中台，由于每个企业每种项目对中台的定义不同，这里仅仅给一个概念：数据中台是指通过数据技术，对海量数据进行采集、计算、存储、加工，同时统一标准和口径。

qq_33744471·2023-11-30 00:32

数据中台：数据模型设计

但是在数据中台构建之前，分析师经常发现⾃⼰没有可以复⽤的数据，不得不使⽤原始数据进⾏清洗、加⼯、计算指标。由于他们⼤多是⾮技术专业出⾝，写的SQL质量⽐较差，甚⾄⻅过5层以上的嵌套。这种SQ

小晨说数据·2023-11-30 00:31

阿里云数据中台核心引擎

核心引擎MaxCompute阿里离线数据计算平台（离线数仓）原名ODPS,阿里巴巴自主研发的海量数据处理平台MaxCompute处理存储在TableStore的数据（不负责收集数据到TableStore中），使用Fluentd服务（类似的服务还有kafka、LogHub、DataX等，都大同小异，这里我用Fluentd作描述只是方便），通过Fluentd我们轻松的创建任务去按时读取各台服务器上的日

hsabrina·2023-11-30 00:30

奇点云数据中台技术汇（三）| DataSimba系列之计算引擎篇

随着移动互联网、云计算、物联网和大数据技术的广泛应用，现代社会已经迈入全新的大数据时代。数据的爆炸式增长以及价值的扩大化，将对企业未来的发展产生深远的影响，数据将成为企业的核心资产。如何处理大数据，挖掘大数据的价值，让大数据为企业的发展保驾护航，将是未来信息技术发展道路上关注的重点。传统的数据处理方式通常是将数据导入至专门的数据分析工具中，这样会面临两个问题：1、如果源数据非常大时，往往数据的移动

cuba7764·2023-11-30 00:00

数据中台架构原理与开发实战：数据中台的数据分析工具与平台

然而，对于数据中台的设计、搭建、运维、应用等工作仍存在一定的难度。如何快速、高效地构建出一个满足多变性、变化快、数据量大、并发访问量大的数据服务，是一个值得研究的问题。在本文中，作者通过从用户视角

禅与计算机程序设计艺术·2023-11-30 00:30

大数据管理平台（数据中台）方案及重难点技术分析

1.大数据管理平台(数据中台)1.1.系统概述需求描述建设大数据管理中台，按照统一的数据规范和标准体系，构建统一数据采集-治理-共享标准、统一技术开发体系、统一接口API，实现数据采集、平台治理，业务应用三层解耦

打码人的日常分享·2023-11-29 14:30

大数据开发：Flink容错机制Task Failover策略

那么Flink是怎么处理的呢，今天的大数据开发分享，我们就来讲讲这个TaskFailover策略。

成都加米谷大数据·2023-11-29 12:37

如何进行指标质量治理——指标系统（提质篇）

作者介绍@小风数据中台产品负责人；UBDC全域大数据峰会“灯塔人物”；擅长埋点模型、指标治理，数仓架构等；“数据人创作者联盟”成员。01指标质量治理概述指标质量治理主要分为两个部分：提质与增效。

一个数据人的自留地·2023-11-29 08:26

华为认证大数据工程师（HCIA-Big Data）--练习题

BCDA.实时数据处理B.基于行业领域知识库快速构建数据中台C.云上数据平台快速搭建D.一站式的数据运营治理平台2、A

大沙头三马路·2023-11-29 08:05

数据中台行业发展概况及展望

随着企业业务创新不断加快，对数据开发的响应速度提出更高的要求，数据中台就诞生在这样的大背景下。

大数据v·2023-11-29 01:20

数据中台能力成熟度评估模型

会上，中国信息通信研究院云计算与大数据研究所大数据与区块链部高级业务主管王卓发布了《数据中台能力成熟度模型》框架。一.数据中台的相关背景首先，我们来介绍一下这项工作的背景。从

公众号:肉眼品世界·2023-11-28 19:25

推荐频道

大数据开发数据中台