E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
数据中台数据仓库
大数据新视界 -- Hive
数据仓库
设计的优化原则(2 - 16 - 4)
亲爱的朋友们,热烈欢迎你们来到青云交的博客!能与你们在此邂逅,我满心欢喜,深感无比荣幸。在这个瞬息万变的时代,我们每个人都在苦苦追寻一处能让心灵安然栖息的港湾。而我的博客,正是这样一个温暖美好的所在。在这里,你们不仅能够收获既富有趣味又极为实用的内容知识,还可以毫无拘束地畅所欲言,尽情分享自己独特的见解。我真诚地期待着你们的到来,愿我们能在这片小小的天地里共同成长,共同进步。本博客的精华专栏:大数
青云交
·
2025-01-19 05:49
大数据新视界
#
Hive
之道
Hive
数据仓库
优化原则
数据分区
存储格式
查询优化
B
树索引
查询性能
大数据
【MySQL】深入解析“Data too long”错误:原因、解决方案与优化策略
实战应用应用场景问题与解决方案五、优化与改进潜在问题改进建议六、常见问题问题列举解决方案七、总结与展望一、引言MySQL作为世界上最受欢迎的开源关系型数据库管理系统之一,其稳定性和灵活性使其在Web应用、
数据仓库
和其他需要高性能数据存储的场景中占据主导
master_chenchengg
·
2025-01-18 22:12
sql数据库
mysql
数据库
【数仓】数据质量监控
数据质量管理作为
数据仓库
的一个重要模块,主要可以分为数据的健康标准量化、监控和保障。
和风与影
·
2025-01-18 13:15
数据仓库
大数据
数据库
数据挖掘
数据仓库
数据仓库
数据质量监控:实现准确决策的关键
随着企业数据量的不断增加,
数据仓库
已成为企业运营的重要支柱。为了保证
数据仓库
中的数据能够准确、及时地支持决策,
数据仓库
数据质量监控变得至关重要。本文将重点介绍
数据仓库
数据质量监控的相关概念和实践方法。
百度_开发者中心
·
2025-01-18 12:44
程序人生
数据仓库
的复用性:流程层面
在
数据仓库
建设中,流程层面的复用性是提高开发效率和数据质量的关键。通过标准化ETL流程、模块化设计,以及实时与离线共用的架构,可以最大化数据处理流程的复用性,降低复杂度。以下是详细的介绍和落地方案。
PersistDZ
·
2025-01-18 10:58
大数据与AI
数据仓库
数据仓库
复用性:业务需求复用性设计
数据仓库
的业务需求复用性设计是提升数据架构灵活性和扩展性的关键部分。
PersistDZ
·
2025-01-18 10:58
大数据与AI
数据仓库
传统数据湖和
数据仓库
的“中心化瓶颈”
传统数据湖和
数据仓库
的**“中心化瓶颈”**,主要是由于其架构设计和治理模式的局限性,无法有效应对现代企业中数据规模的快速增长和组织复杂性。
PersistDZ
·
2025-01-18 00:45
数据架构
数据仓库
数据湖
中心化
什么是
数据仓库
?
什么是
数据仓库
?
狮歌~资深攻城狮
·
2025-01-17 22:57
数据仓库
2024年最新Python:Page Object设计模式_python page object,BTAJ大厂最新面试题汇集
知识体系:含编程语言、算法、大数据生态圈组件(Mysql、Hive、Spark、Flink)、
数据仓库
、Python、前端等等。网上学习资料一大堆,但如果学到的知识不成体系,遇到问题时只是
m0_60707708
·
2025-01-17 20:36
程序员
python
设计模式
开发语言
案例分享|快速了解实时湖仓集一体技术如何助力企业降本增效
1.替代TD仓、Hadoop湖,助力农商行构建一体化数据平台某农商行最初构建了Teradata
数据仓库
、Oracle小数据平台以及Hadoop数据湖。
·
2025-01-17 20:42
mysql
IDC权威认可!工业领域最佳实践案例!
星环科技×中航电梯
数据中台
项目入选该报告的最佳实践案例。
·
2025-01-17 19:29
人工智能
数仓数据分层(ODS DWD DWS ADS)换个角度看
数仓数据分层简介1.背景数仓是什么,其实就是存储数据,体现历史变化的一个
数据仓库
.因为互联网时代到来,基于数据量的大小,分为了传统数仓和现代数仓.传统数仓,使用传统的关系型数据库进行数据存储,因为关系型数据库本身可以使用
闻香识代码
·
2025-01-17 16:28
大数据
数仓
数据仓库
大数据
ods
dw
万字详解数仓分层设计架构 ODS-DWD-DWS-ADS
ODS-DWD-DWS-ADS数据分层的意义1、清晰数据结构2、数据血缘追踪3、数据复用,减少重复开发4、把复杂问题简单化5、屏蔽原始数据的(影响),屏蔽业务的影响ETL操作1、数据抽取2、数据清洗3、数据转换4、数据加载
数据中台
包含的内容很多
_Jordan
·
2025-01-17 16:56
自己写的
数据仓库
大数据分层存储架构:ODS、DWD、DWM与DWS详解
在大数据领域中,ODS、DWD、DWM和DWS代表了
数据仓库
的不同层次,它们共同构成了大数据的分层存储结构。这种结构的设计有助于提高数据查询效率,降低成本,并满足不同的业务需求。
从零开始学习人工智能
·
2025-01-17 15:51
大数据
spark
分布式
数仓分层ODS、DWD、DWM、DWS、DIM、DM、ADS
往期推荐数仓入门:数据分析模型、数仓建模、离线实时数仓、Lambda、Kappa、湖仓一体-CSDN博客数仓常见名词解析和名词之间的关系-CSDN博客
数据仓库
及数仓架构概述-CSDN博客大数据HBase
青秋.
·
2025-01-17 15:17
数据仓库
大数据
数据仓库
数据仓库
的复用性:模型层面通用指标体系、参数化模型、版本化管理
在
数据仓库
设计中,复用性是一个关键原则,它不仅能提升数据资产的使用效率,还能降低开发成本、优化系统运维。
PersistDZ
·
2025-01-17 06:30
大数据与AI
数据仓库
spark
大数据
数据仓库
的复用性:深入的主题域设计方案
以下是深入的主题域设计方案,涵盖从基础理论、业务分析到技术实现的各个层面,力求全面、实用,适用于复杂业务场景(例如:企业级多租户SaaS系统或跨领域的大型
数据仓库
建设)。
PersistDZ
·
2025-01-17 06:00
数据仓库
大数据
Hive 窗口函数与分析函数深度解析:开启大数据分析的新维度
Hive窗口函数与分析函数深度解析:开启大数据分析的新维度在当今大数据蓬勃发展的时代,Hive作为一款强大的
数据仓库
工具,其窗口函数和分析函数犹如一把把精巧的手术刀,助力数据分析师们精准地剖析海量数据,
自节码
·
2025-01-17 02:25
大数据
hive
数据分析
hadoop
MDX语言的数据库交互
MDX主要用于查询多维数据集(如OLAP数据立方体),在商业智能和
数据仓库
领域得到了广泛应用。本文将深入探讨MDX的基本概念、语法、应用场景以及与其他数据库交互的方式
Linux520小飞鱼
·
2025-01-17 00:38
包罗万象
golang
开发语言
后端
大数据新视界 -- Hive
数据仓库
设计模式:星型与雪花型架构(2 - 16 - 3)
亲爱的朋友们,热烈欢迎你们来到青云交的博客!能与你们在此邂逅,我满心欢喜,深感无比荣幸。在这个瞬息万变的时代,我们每个人都在苦苦追寻一处能让心灵安然栖息的港湾。而我的博客,正是这样一个温暖美好的所在。在这里,你们不仅能够收获既富有趣味又极为实用的内容知识,还可以毫无拘束地畅所欲言,尽情分享自己独特的见解。我真诚地期待着你们的到来,愿我们能在这片小小的天地里共同成长,共同进步。本博客的精华专栏:大数
青云交
·
2025-01-16 23:03
大数据新视界
#
Hive
之道
Hive
数据仓库
星型架构
雪花型架构
对比分析
大数据应用
Hive
大数据
为AI聊天工具添加一个知识系统 之32 三“中”全“会”:推理式的ISA(父类)和IOS(母本)以及生成式CMN (双亲委派)之1
数据中台
三端架构的中间端(信息系统架构ISA:proxyserverAPI(消解-回收代理的应用程序接口)),业务中台三层结构(智能操作系统:brokerserviceSPI(消费者-生产者代理的服务提供者接口
一水鉴天
·
2025-01-16 20:03
智能制造
软件智能
人工语言
人工智能
【MySQL】入门篇—MySQL简介:MySQL的历史与发展
MySQL因其高性能、可靠性和灵活性而被广泛应用于各种场景,包括Web应用、企业级应用和
数据仓库
等。
AI人H哥会Java
·
2025-01-16 18:18
MySQL
sql
mysql
数据库
【职业发展】从ETL到大数据:如何规划你的数据职业生涯?
ETL就是
数据仓库
项目建设和日常维护中的一种工作,ETL,就是抽取、转换、装载的英文缩写。但是这个现实中都是使用相应工具软件的。至于怎么抽取,怎么转换、怎么装载,都是与具体业务相结合的。
·
2025-01-16 15:41
数据仓库
——维度表一致性
数据仓库
基础笔记思维导图已经整理完毕,完整连接为:
数据仓库
基础知识笔记思维导图维度一致性问题从逻辑层面来看,当一系列星型模型共享一组公共维度时,所涉及的维度称为一致性维度。
墨染丶eye
·
2024-09-16 09:15
背诵
数据仓库
如何建设
数据中台
(五)——数据汇集—打破企业数据孤岛
数据汇集——打破企业数据孤岛要构建企业级
数据中台
,第一步就是将企业内部各个业务系统的数据实现互通互联,打破数据孤岛,主要通过数据汇聚和交换来实现。
weixin_47088026
·
2024-09-16 00:42
学习记录和总结
中台
数据中台
程序人生
经验分享
大模型训练数据库Common Crawl
CommonCrawl的数据收集和处理过程包括使用Python开源爬虫工具收集全球范围内的网站数据,并将其上传到CommonCrawl基金会的
数据仓库
中。
WindyChanChan
·
2024-09-15 23:40
数据集
语言模型
数据库
数据仓库
介绍
数据仓库
数据仓库
的概念
数据仓库
的主要特征
数据仓库
的主流开发语言-sql结构化数据sql语句
数据仓库
的概念
数据仓库
(英语:DataWarehouse,简称数仓、DW),是一个用于存储、分析、报告的数据系统
阿龙的代码在报错
·
2024-09-15 16:08
数据分析
数据仓库
数据库
大数据之flink与hive
flink,因为线上经验确实不多,这也是我需要补的地方,没有条件创造条件,先来一篇吧flink:高性能低延迟流批一体的分布式计算框架基于事件时间对实时数据精准处理快速响应支持批处理,高效离线分析和数据挖掘
数据仓库
的引擎丰富数据源
星辰_mya
·
2024-09-14 21:17
大数据
flink
hive
hive血缘关系之输入表与目标表的解析
接了一个新需求:需要做
数据仓库
的血缘关系。正所谓兵来将挡水来土掩,那咱就动手吧。
zxfBdd
·
2024-09-14 20:38
hive
大数据治理
大数据
数据中台
-建设思路:从理论到实践,打造企业数据驱动引擎
数据中台
-建设思路:从理论到实践,打造企业数据驱动引擎摘要:在数字化时代,数据已成为企业的核心资产。如何有效地管理和利用数据,是企业数字化转型的关键。
数据中台
作为一种新型的数据管理架构,应运而生。
赛博不良人
·
2024-09-14 07:50
大数据
数据仓库
影响数据分析导致数据建模错误!你可能都没发觉的几个小细节
避免常见的建模错误1.开始实施时没有明确的行动计划当涉及到的分析,如
数据仓库
或Elasticube建模数据资
丨程序之道丨
·
2024-09-13 17:51
从零到一建设
数据中台
- 架构概览
数据中台
功能架构概览
数据中台
相关名词解释1.
数据仓库
:
数据仓库
是一个面向主题的、集成的、相对稳定的、反映历史变化的数据集合,用于支持管理决策。因此,其重点在于数据的集合。
我码玄黄
·
2024-09-13 16:42
从零到一建设数据中台
架构
数据中台
中台架构
Python基础知识进阶之正则表达式_头歌python正则表达式进阶
知识体系:含编程语言、算法、大数据生态圈组件(Mysql、Hive、Spark、Flink)、
数据仓库
、Python、前端等等。网上学习资料一大堆,但如果学到的知识不成体系,遇到问题时只是
前端陈萨龙
·
2024-09-13 13:50
程序员
python
学习
面试
离线数仓VS实时数仓
离线
数据仓库
(OfflineDataWarehouse)和实时
数据仓库
(Real-timeDataWarehouse)的实施有一些相似之处,但也存在显著的差异。
james二次元
·
2024-09-13 03:14
数据仓库
数据仓库
大数据
数仓建模之维度表&指标表
在
数据仓库
中,维度和指标是两个重要的概念。维度(Dimension):维度是一种描述业务过程中各种属性的方法,用于对业务过程进行分析和归类。
锵锵锵锵~蒋
·
2024-09-12 20:01
数据研发
数据仓库
数据研发
Hadoop常见面试题整理及解答
Hadoop常见面试题整理及解答一、基础知识篇:1.把
数据仓库
从传统关系型数据库转到hadoop有什么优势?答:(1)关系型数据库成本高,且存储空间有限。
叶青舟
·
2024-09-12 19:24
Linux
hdfs
大数据
hadoop
linux
2024年最全使用Python求解方程_python解方程(1),字节面试官迟到
知识体系:含编程语言、算法、大数据生态圈组件(Mysql、Hive、Spark、Flink)、
数据仓库
、Python、前端等等。网上学习资料一大堆,但如果学到的知识不成体系,遇到问题时只是
2401_84569545
·
2024-09-12 02:33
程序员
python
学习
面试
一文说清什么是
数据仓库
01
数据仓库
的概念
数据仓库
的概念可以追溯到20世纪80年代,当时IBM的研究人员开发出了“商业
数据仓库
”。本质上,
数据仓库
试图提供一种从操作型系统到决策支持环境的数据流架构模型。
数据分析小兵
·
2024-09-11 23:15
数据中台系列
spark
大数据
分布式
数据分析
数据挖掘
数据仓库
美团点评酒旅
数据仓库
建设实践
美团点评酒旅
数据仓库
建设实践:https://tech.meituan.com/2017/05/26/hotel-dw-layer-topic.html
大数据金猫
·
2024-09-11 19:19
数据仓库
大数据平台(
数据中台
、数据中枢、数据湖、数据要素)建设方案
大数据平台(
数据中台
、数据中枢、数据湖、数据要素)建设方案大数据平台(
数据中台
、数据中枢、数据湖、数据要素)建设方案项目背景和目标项目背景项目目标建设原则与策略
数据中台
架构设计整体架构设计思路数据采集层数据存储层数据计算层数据服务层数据中枢功能实现数据治理功能数据资产管理功能数据安全管控功能数据服务总线功能数据湖存储与计算方案数据湖存储架构设计数据湖计算框架选择数据湖应用场景分析数据湖安全与合规性
数字化建设方案
·
2024-09-11 04:26
数字化转型
数据治理
主数据
数据仓库
大数据
数据中台
建设方案-基于大数据平台(下)
数据中台
建设方案-基于大数据平台(下)1
数据中台
建设方案1.1总体建设方案1.2大数据集成平台1.3大数据计算平台1.3.1数据计算层建设计算层技术含量最高,最为活跃,发展也最为迅速。
FRDATA1550333
·
2024-09-11 03:49
大数据
数据库架构
数据库开发
数据库
大数据平台--调度系统
调度系统是
数据仓库
的重要组成部分,也是每个银行或公司一个基础软件或服务,需要在全行或全公司层面进行规划,在全行层面统一调度工具和规范,由于数据类系统调度作业较多,交易类系统批量优先级高,调度系统的整体架构如下
小瓶盖的猪猪侠
·
2024-09-10 20:36
数据库,
数据仓库
,数据湖,湖仓一体到底是什么区别
昨天结束的一场面试,面试官问了下我对
数据仓库
和数据湖的理解,根据之前的理解我说了下数据湖是
数据仓库
某些时候的缓存,然后面试官反问说我确定这个用词对吗?
大数据小尘
·
2024-09-10 14:46
数据库
数据仓库
spark
第八章 外部数据和
数据仓库
[TOC]第八章外部数据和
数据仓库
8.0概述外部数据:产生于企业外部系统的数据(非企业内部系统)外部数据典型来源:商报、新闻、研究报告、分析报告等外部数据不能自由导入,需要统一进入仓库原因1:自由导入容易丢失源信息原因
晨磊的微博
·
2024-09-10 09:52
数据仓库
系列篇之基本概述
@Author:Spinach|GHB@Link:http://blog.csdn.net/bocai8058文章目录前言什么是
数据仓库
数据仓库
与数据库的区别为什么要建立
数据仓库
及数仓平台的优势为什么要建立
数据仓库
大数据数仓平台的特点或优势
数据仓库
和数据集市的关系前言通过收集资料
小学僧来啦
·
2024-09-09 09:53
数据仓库
数据仓库
数据库
大数据
数据域VS主题域
数据域和主题域是
数据仓库
中两个重要的概念,他们在
数据仓库
建设和数据分析中扮演着不同的角色,两者有着明显的区别。数据域:以业务系统的角度,对业务过程进行归纳,抽象出来的数据域。
陈吉俊
·
2024-09-09 03:43
spark
大数据
分布式
MySQL数据库运维:深度解析与实践指南
⭐️全流程数据技术实战指南:全面讲解从数据采集到数据可视化的整个过程,掌握构建现代化数据平台和
数据仓库
的核心技术和方法。⭐
野老杂谈
·
2024-09-09 01:58
数据库
mysql
运维
Hive的优势与使用场景
Hive的优势Hive作为一个构建在Hadoop上的
数据仓库
工具,具有许多优势,特别是在处理大规模数据分析任务时。
傲雪凌霜,松柏长青
·
2024-09-08 17:07
后端
大数据
hive
hadoop
数据仓库
大数据面试题:说下为什么要使用Hive?Hive的优缺点?Hive的作用是什么?
它提供了一种SQL(结构化查询语言)方言,可以查询存储在Hadoop分布式文件系统(HDFS)中的数据或其他和Hadoop集成的文件系统,如MapR-FS、Amazon的S3和像HBase(Hadoop
数据仓库
蓦然_
·
2024-09-08 15:50
大数据面试题
hive
大数据开发面试题
大数据面试
详解神策数据银行对公业务数字化运营解决方案
在此背景下,数据全生命周期的闭环体系成为银行数字化运营的引擎,发挥
数据中台
和业务中台相辅相成、相互支撑的作用,构建以客户数据为
汪功校
·
2024-09-08 04:34
大数据
上一页
1
2
3
4
5
6
7
8
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他