数据仓库数据中台数据湖第12页

支撑EB级规模的大数据平台深度揭秘

编者按：4月20日，云栖大会走进深圳，由阿里云高级数据仓库专家陈鹏宇（花名：不老）分享的环节内容量巨大，引发现场用户关注。

weixin_33915554·2023-12-31 11:51

Flink 内容分享(十八)：基于Flink＋Iceberg构建企业数据湖实战

的准备工作创建和使用CatalogIcebergDDL命令IcebergSQL查询IcebergSQL写入使用DataStream读取使用DataStream写入前言随着大数据存储和处理需求的多样化，如何构建一个统一的数据湖存储

之乎者也··2023-12-31 11:21

【为数据之道学习笔记】5-7五类数据主题联接的应用场景

目前，数据湖汇聚了大量的原始数据，用户不再需要到各个源系统调用数据，而是统一从数据湖调用。由于数据湖中的数据

码农丁丁·2023-12-31 09:36

ETL数据清洗

ETL一词较常用在数据仓库，但其对象并不限于数据仓库在运行核心业务MapReduce程序之前，往往要先对数据进行清洗，清理掉不符合用户要求的数据。

栈溢出了·2023-12-31 09:26

大促秒杀更顺滑｜忆联携手南大通用，提供数据密集型存储新范式

面对瞬时流量高并发、海量数据查询等应用场景，固态硬盘凭借其高吞吐量、低时延等特征逐渐成为大数据时代下数据存储的重要载体，是当前本地部署的数据仓库产品重要搭载硬件，可满足电商大促场景下大规模数据的存储和查询需

Union Memory忆联·2023-12-31 07:27

大数据应用发展史：从搜索引擎时代到机器学习时代

文章目录搜索引擎时代数据仓库时代数据挖掘时代机器学习时代小结大数据技术的使用经历了一个发展过程从最开始的Google在搜索引擎中开始使用大数据技术，到现在无处不在的各种人工智能应用，伴随着大数据技术的发展

善守的大龙猫·2023-12-31 05:11

【遇见Doris】Apache Doris (incubating) 0.12.0版本预览

What'sDorisDoris是一款基于Mesa模型的MPP、列式数据仓库，具

ApacheDoris·2023-12-31 03:15

数据仓库基础理论

前端时间，使用阿里云MaxCompute做数据仓库，处理大数据的分析处理，整理一下数据仓库的基础理论。

大斜千变·2023-12-31 03:12

数据库MySQL入门课程

简介1.什么是数据库1.1、什么是数据库数据库：DB（DataBase）概念：数据仓库，软件，安装在操作系统之上1.2、数据库分类关系型数据库：SQL（StructuredQueryLanguage）MySQL

射手座的程序媛·2023-12-31 02:51

读书笔记--构建数据湖仓阅读有感

为什么在数据治理过程中提出数据湖仓构建？数据湖如果没有分析基础设施的建设，就会形成数据沼泽或臭水沟，因为没有人用，也不知道数据之间的关系。

一马平川的大草原·2023-12-30 07:38

文档型非关系数据库MongoDB经验总结

数据仓库是在数据库管理系统管理控制下在一定介质中创建的数据库管理系统：数据库管理软件，用于建立维护操作数据库数据库系统：由数据库和数据库管理系统等构成的数据库开发工具集合。

大强哥666·2023-12-30 07:19

AI大模型时代下运维开发探索第二篇：基于大模型(LLM)的数据仓库

在SREWorks社区聚集了很多进行运维数仓建设的同学，大家都会遇到类似的挑战和问题：数仓中存储大量数据消耗成本，但很多存储的数据却并没有消费。进数仓的ETL学习成本高、管理成本高，相关同学配合度低，以及上游结构改动后ETL却迟迟无人调整。数仓中数据的时效性、准确性问题，导致很多场景无法完全依赖数仓展开。上面的种种让推广数仓的同学很犯难：明明花了大力气构建了统一数仓，但却又受限于各种问题，无法让其

阿里云大数据AI技术·2023-12-30 07:39

数据中台-架构、构建与体系建设

数据中台-架构、构建与体系建设数据中台架构数据中台构建方法论技术体系数据体系服务体系运营体系数据中台功能架构数据中台技术架构企业构建数据中台评估统计分析阶段决策支持阶段数据驱动阶段运营优化阶段数据汇集-

Ybb_studyRecord·2023-12-30 03:53

大数据实践之路读后感

CSDN博客商业银行数据资产估值白皮书，推荐系统源码下载-CSDN博客用友BIP数据资产入表解决方案白皮书，推荐系统源码下载-CSDN博客1、内容总体概括简单来说一下，本书内容可以分四个大部分：一是介绍了数据中台的五大功能模块即元数据中心

Michael_Shentu·2023-12-29 19:24

重磅发布！《2022中国数据智能产业图谱+中国企业数智化转型升级服务全景图》

中新赛克海睿思从数千家企业中脱颖而出，成功入选大数据、大数据分析平台、数据中台等3大板块，被评选为典型代表企业。此图谱中，中新赛克海睿思入选的核心服

海睿思·2023-12-29 17:24

长文解读 "数据仓库" 面试必备知识

数仓分层数仓简介1.数据仓库和数据库的区别数据仓库：数据量特别的大，TB~PB级别会保留历史数据一般使用OLAP分析（On-LineAnalyticalProcessing），联机分析处理（聚合操作），

you的日常·2023-12-29 15:28

Apache Druid任意文件读取漏洞（CVE-2021-36749）

1.漏洞描述ApacheDruid是一个集时间序列数据库、数据仓库和全文检索系统特点于一体的分析性数据平台。

chaojixiaojingang·2023-12-29 13:31

浅识数据库与数据仓库的区别

通常我们会认为数据库与数据仓库都是用来存储数据的一个库，好像并没有什么明显区别，下面就从几个方面简单认识一下两者的区别。从名称角度区分数据库(Database)：用来存储一些基础的、核心的数据。

QYHuiiQ·2023-12-29 09:28

什么是ETL?

这个过程通常用于将数据从一个或多个数据源抽取出来，进行必要的处理和转换，最终加载到目标数据库、数据仓库或其他系统中。

小玉起起·2023-12-29 09:25

数据仓库-数仓优化小厂实践

大数据点滴·2023-12-29 09:25

数据库是否可以直接作为数据仓库的数据源

在数据仓库使用数据时，我们是否可以直接将数据库作为数据源？如果使用了，会存在哪些问题？

QYHuiiQ·2023-12-29 09:54

大数据技术16：数据湖和湖仓一体

前言：近几年大数据概念很多，数据库和数据仓库还没搞清楚，就又出了数据湖，现在又开始流行湖仓一体。互联网公司拼命造高大上概念来忽略小白买单的能力还是可以的。

Java架构何哥·2023-12-29 04:05

云卷云舒：如何选择正确的数据库

2，产品新版发布，建议技术创新角度使用新型数据库，如云原生数据库、数据仓库，对于生产需求不匹配带来的需求，建议选型不变，过渡期间完成选择，云数据库是首选。

Cloud云卷云舒·2023-12-28 20:32

巧妙实现四大实时功能 | Linkis与Hudi结合的数据湖构建实践

近段时间，我们也调研和实现了hudi作为我们数据湖落地的方案，他帮助我们解决了在hdfs上进行实时upsert的问题，让我们能够完成诸如实时ETL,实时对账等项目。hudi作为一个数据湖的实

康月牙·2023-12-28 20:02

数据仓库（八）：数据仓库中数据库设计的基本模型

关于多维模型的内容可参考Kimball的著作《数据仓库工具箱：维度建模的完全指南》等。广泛采用的数据库设计模型有两种：关系型和多维型。

iteye_14608·2023-12-28 18:27

银行数仓建模方法论

为了更好地管理和利用这些数据，银行数据仓库体系应运而生。在前面的文章中，我们介绍了银行数据仓库体系的基础知识，本篇文章将重点介绍银行数据仓库体系实践（7）—数据模型设计及流程。

添柴少年yyds·2023-12-28 18:56

数据仓库架构以及数据模型的设计

1、什么是数据仓库？权威定义：数据仓库是一个面向主题的、集成的、相对稳定的、反映历史变化的数据集合，用于支持管理决策。

添柴少年yyds·2023-12-28 18:24

Hudi中MOR与COW区别，MOR表新建后ro/rt区别

近期在频繁与数据湖hudi打交道，将一些心得进行简要总结，供大家参考。

p1i2n3g4·2023-12-28 17:41

Flink开发利器StreamX

背景Hadoop体系虽然在目前应用非常广泛，但架构繁琐、运维复杂度过高、版本升级困难，且由于部门原因，数据中台需求排期较长，我们急需探索敏捷性开发的数据平台模式。

Apache StreamPark·2023-12-28 15:34

Vuex介绍

通俗点讲可以想象为一个“前端数据库”（数据仓库），管理前端项目变量。2、Vuex的作用：Vuex的作用可以防止变量名重复，管理变量。3、Vuex的能够解

落日飞行·2023-12-28 14:02

数据仓库基本信息

数据仓库基本理论数据仓库（英语：DataWarehouse，简称数仓、DW）,是一个用于存储、分析、报告的数据系统。

许一世流年绝不嵩手 cium·2023-12-28 11:46

hql、数据仓库、sql调优、hive sql、python

SQL/HQLHQL(HibernateQueryLanguage)是面向对象的查询语言SQL的操作对象是数据列、表等数据库数据;而HQL操作的是类、实例、属性#FROMStringhql="fromcom.demo.bean.User"="select*fromuser"#WHERE"formUseruwhereu.id=1"="select*formuserwhereid=1"#查询出一个St

许一世流年绝不嵩手 cium·2023-12-28 11:46

数据仓库与数据集成架构：数据仓库与数据仓库规范与标准的制定与应用

1.背景介绍数据仓库是一种用于存储和管理大量结构化数据的系统，它的主要目的是为了支持数据分析和报告。数据仓库通常包括一个或多个数据源，这些数据源可以是来自不同的系统或来自不同的数据库。

一枚可爱的程序女孩·2023-12-28 05:45

数据中台架构原理与开发实战：从数据采集到数据清洗

1.背景介绍数据中台是一种架构模式，主要用于解决企业内部数据的采集、存储、清洗、分析和应用等问题。

一枚可爱的程序女孩·2023-12-28 05:13

构建高效数据中台：集群规划与搭建的最佳实践指南

架构设计Rack(机架)配置建议大数据集群规划安装细节见配套文档YARN资源管理平台队列调度策略CapacityScheduler默认配置下，CapacityScheduler将尝试保证每个队列在其分配的容量内公平地使用资源。然而，Hadoop也支持通过调整队列的权重和使用抢占策略来优化资源的使用。例如&

数据与后端架构提升之路·2023-12-28 04:20

MetaBase指南-Mac下的注册&安装

如果你经有了清洗好的数据仓库，那么用这个是最快速的办法生成数据仪表板，而不用再去用什么BI工具。

啥都会点的狐狸·2023-12-28 03:51

Hive

Hive是基于Hadoop的一个数据仓库工具，可以将结构化的数据文件映射为一张表(类似于RDBMS中的表)，并提供类SQL查询功能；Hive是由Facebook开源，用于解决海量结构化日志的数据统计。

之古·2023-12-28 02:58

下载-安装-启动elasticsearch

ElasticSearch基于ApacheLuence构建的开源搜索引擎采用Java编写，提供简单的易用的RestfulAPI轻松的横向扩展，可支持PB级的结构化或非结构化数据处理应用场景海量数据分析引擎站内搜索引擎数据仓库安装下载地址这里我下载的是

媛猿YY·2023-12-28 02:55

Hive 部署

一、介绍ApacheHive是一个分布式、容错的数据仓库系统，支持大规模的分析。

有人看我吗·2023-12-27 23:54

GBASE南大通用 GCDW&阿里云计算巢：自动化部署云原生数据仓库

目前，GBASE南大通用已与阿里云计算巢合作，双方融合各自技术优势，助力企业用户实现云上数据仓库的自动化部署，让用户在云端获取数据仓库服务“更简单”，让用户在云端使用数据仓库服务“更便捷”，满足企业用户对高效便捷

GBASE数据库·2023-12-27 21:51

GBASE南大通用-Teradata迁移到GBase 8a解决方案

GBASE南大通用自主研发的GBase8aMPP(GBaseUPLDW)分布式逻辑数据仓库，已经完成了100+用户TeraData等国外数据库替换迁移。

GBASE数据库·2023-12-27 21:51

【知乎大数据技术】用Flink取代Spark Streaming！知乎实时数仓架构演进

“数据智能”(DataIntelligence)有一个必须且基础的环节，就是数据仓库的建设，同时，数据仓库也是公司数据发展到一定规模后必然会提供的一种基础服务。

yoku酱·2023-12-27 19:34

数据库基础面试第三弹

然而，MyISAM引擎非常适合于读密集型的应用，例如数据仓库

测试萧十一郎·2023-12-27 19:57

Flink实时电商数仓之Doris框架（七）

主要实现的功能有：实时看板面向企业内部分析师和管理者的报表面向用户或者客户的高并发报表分析即席查询统一数仓构建：替换了原来由Spark,Hive，Kudu,Hbase等旧框架数据湖联邦查询：通过外表的方式联邦分析位于

十七✧ᐦ̤·2023-12-27 16:47

DataFunSummit：2023年数据湖架构峰会-核心PPT资料下载

面对如此大规模的数据，无论是分析型场景、流批一体、增量数仓都得益于湖仓一体等数据湖技术的发展而变得越来越容易解决。从核心架构、性能优化、湖仓一体、最佳实践等方面带来数据湖的最新技术和内容实践经验总结。

百家峰会·2023-12-27 16:03

HBase基础知识（六）：HBase 对接 Hive

1.HBase与Hive的对比1．Hive(1)数据仓库Hive的本质其实就相当于将HDFS中已经存储的文件在Mysql中做了一个双射关系，以方便使用HQL去管理查询。

依晴无旧·2023-12-27 14:49

浅谈数据仓库运营

好的数据仓库需要提前规划和好的运营，才能支持企业的发展，为企业提供数据分析基础。

qq_36120059·2023-12-27 12:53

Hadoop真的要死了吗？

我们已经看到了运营由这两家公司和其他公司部署的所有数据湖的巨大机会，而这样的机会在两年前可能连想都不敢想”。Conflue

伯雅之英·2023-12-27 11:23

电商数据分析-03-电商数据采集

参考最最最全数据仓库建设指南，速速收藏！！第1章数据仓库概念数据仓库规划1.1数仓搭建我们这里所说的数据仓库，是基于大数据体系的，里面包含标签类目，区别于传统的数据仓库。

IT从业者张某某·2023-12-27 11:14

推荐频道

数据仓库数据中台数据湖