E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
数仓命名规范
【
数仓
】数据仓库高频面试题题英文版(1)
【
数仓
】数据仓库高频面试题题英文版(1)【
数仓
】数据仓库高频面试题题英文版(2)【
数仓
】数据仓库高频面试题题英文版(3)WhatisDataWarehouse?
和风与影
·
2025-01-27 01:13
面试
数据仓库
TypeError: ‘str‘ object is not callable的几种情况及解决办法
这种情况的解决办法就是:严格遵守
命名规范
,避免命名冲突。第二个可能,是字符串后面加了括号调用的缘故。这一般是由于不了解,对某个对象的细节不清楚,错把属性看成了函数。
兔兔爱学习兔兔爱学习
·
2025-01-26 02:44
pandas
python
机器学习
深度学习
人工智能
[JS]学习笔记2 -- JAVAScript数据类型
命名规范
:和变量一致注:常量不允许重新赋值,在声明的时候必须要赋值(初始化)二、数据类型1、基本数据类型1.1数字型number学习中的数字,整数、小数、正数、负数可以有很多操作:算数+:求和-:求差*
Jizhi_Zhang
·
2025-01-25 17:03
JavaScript学习笔记
javascript
学习
笔记
服务行业的数据管理实践:TapData Cloud 如何助力连锁酒店物业的全球化运营优化
维护数据管道的诸多烦扰,轻量替代OGG,Kettle等同步工具,以及基于Kafka的ETL解决方案,「CDC+流处理+数据集成」组合拳,加速仓内数据流转,帮助企业将真正具有业务价值的数据作用到实处,将“实时
数仓
·
2025-01-25 10:01
数据库
数据仓库面试题集锦(附答案和
数仓
知识体系)
17、
数仓
架构为什么要分层?光阴似箭,岁月如刀。小编已经从刚毕业时堤上看风的白衣少年,变成了一个有五年开发经验的半老程序员。
2401_83703951
·
2025-01-25 03:19
程序员
数据仓库
【Flink 实战系列】Flink CDC 实时同步 Mysql 全量加增量数据到 Hudi
开发的变化数据获取组件(Changedatacapture),简单的说就是来捕获变更的数据,ApacheHudi是一个数据湖平台,又支持对数据做增删改查操作,所以FlinkCDC可以很好的和Hudi结合起来,打造实时
数仓
JasonLee实时计算
·
2025-01-24 09:31
Flink
实战系列
hbase
spark
大数据
数仓
建模—初识数据治理
数仓
建模—初识数据治理随着企业数据爆炸式增长,企业在用数时,会存在数据孤岛问题、数据建设不规范指标口径不统一数据查询计算不稳定数据安全等问题。因而各个公司也开始了数据治理,推动数据规范建设及使用。
不二人生
·
2025-01-24 00:52
数仓建模
数据仓库
数仓建模
用增结算
数仓
化改造:在/离线调度系统的构建与应用
导读移动运营推广平台(OPS)承载着百度内部移动应用/移动搜索业务的用户增长预算的全流程结算线上化管控功能,为了解决用增业务发展规模扩大、原有技术架构老旧、无离线
数仓
系统等一系列的问题,针对全域结算数据启动了整体的架构改造
百度Geek说
·
2025-01-22 23:39
百度
架构
大数据
重构
看懂
数仓
:维度设计
一、维度的基本概念维度是维度建模的基础和灵魂。在维度建模中,将度量称为“事实”将环境描述为“维度”,维度是用于分析事实所需要的多样环境。例如在分析交易过程时,可以通过买家、卖家、商品和时间等维度描述交易发生的环境。维度所包含的表示维度的列,称为维度属性。维度属性是查询约束条件、分组和报表标签生成的基本来源,是数据易用性的关键。例如,在查询请求中,获取某类目的商品、正常状态的商品等,是通过约束商品类
剑客狼心
·
2025-01-22 18:32
大数据
维度设计
数据仓库
数仓
建模:维度表合并时,如何确保数据的完整性?
目录1.数据映射和合并规则2.数据清洗和转换3.数据完整性检查4.数据补全和关联5.数据验证和测试6.日志和监控往期精彩1.数据映射和合并规则思路:建立清晰的数据映射和合并规则,明确如何将源维度表的数据合并到目标维度表中,确保重要信息不丢失。具体操作:明确合并逻辑:对于要合并的维度表,确定每个字段的合并规则。例如,在合并dim_marketing_channel和dim_marketing_sou
莫叫石榴姐
·
2025-01-22 13:19
收获不止一点
java
前端
大数据
数据分析
算法
hive
Databend 特性系列(1)|Databend 数据生命周期
Databend是一个使用Rust研发、开源、完全面向云架构的新式
数仓
,提供极速的弹性扩展能力,致力于打造按需、按量的DataCloud产品体验。
Databend
·
2025-01-22 07:06
数据库
java
开发语言
新一代实时神器-Fluss初识及部署
在作者看来,其实Fluss目前的主要替换者是Kafka,它的出现也是为了替换kafka在实时
数仓
链路中
本旺
·
2025-01-20 06:01
大数据
Flink
Fluss
flink
大数据
数据结构
etl
SS00023.PBpositions——|Hadoop&PB级离线
数仓
.v02|——|Griffin.v02|Griffin部署|
一、Griffin编译准备###---软件解压缩[root@hadoop02~]#ls/opt/yanqi/software/griffin-griffin-0.5.0.zip/opt/yanqi/software/griffin-griffin-0.5.0.zip[root@hadoop02~]#cd/opt/yanqi/software/[root@hadoop02software]#unzi
yanqi_vip
·
2025-01-19 21:30
数据库
hadoop
hive
大数据
hdfs
一文读懂数据仓库构建流程(超详细)
相信大家都知道
数仓
分层架构(ods、dwd、dim、dws等)。
嗨皮一会吧
·
2025-01-19 15:41
数仓构建
数据仓库
数仓
建模(五)选择
数仓
技术栈:Hive & ClickHouse & 其它
在大数据技术的飞速发展下,数据仓库(DataWarehouse,简称
数仓
)成为企业处理和分析海量数据的核心工具。
昊昊该干饭了
·
2025-01-19 08:45
数仓建模
大数据
hive
clickhouse
hadoop
关于大规模实时
数仓
搭建,我有几条心得...
现状闲鱼作为一款闲置交易APP,在二手交易市场中是当之无愧的佼佼者。闲鱼从2014年诞生到现在七整年间持续增长,在这高速增长的背后带来的是每天近百亿的曝光点击浏览等数据,在这些数据规模如此庞大的背后也会带来诸多关于实时性的问题:•用户反馈商品曝光异常,如何快速定位?•产品同学圈了一批商品,如何查看该样本的实时报表?•发现问题总是晚一步,如何在第一时间获取自定义的预警信息?•......为了解决上述
闲鱼技术
·
2025-01-19 06:28
大数据
数据分析
java
编程语言
人工智能
【AIcoding技术必知必会】12问--前后端联调是什么?
具体步骤准备阶段前后端团队共同制定接口文档(APIDocumentation)确定接口的请求方式(GET/POST等)定义请求参数和返回数据格式(通常是JSON)约定接口的
命名规范
srzxy42
·
2025-01-19 01:43
AI
coding技术必知必会
ai
产品经理
学习
集群间hive
数仓
迁移
方式一:(此方法需要建库建表)第一步:建库建表在原集群hive上查看迁移表的建表语句及所在库,然后在新集群hive上建库建表;showcreatetabletb_name;createdatabasedb_name;createtabletb_name.....第二步:转移数据文件到新集群;在旧集群中下载数据到本地hadoopfs-get/user/hive/warehouse/dc_ods.db
one code
·
2025-01-18 17:15
database
【
数仓
】数据质量监控
之前提到了数据质量:【
数仓
】数据质量我在面试中也碰到了数据质量的问题,没回答出来。今天学习一下数据质量监控原则。欢迎点击此处关注公众号。
和风与影
·
2025-01-18 13:15
数据仓库
大数据
数据库
数据挖掘
数据仓库
大数据-257 离线
数仓
- 数据质量监控 监控方法 Griffin架构
点一下关注吧!!!非常感谢!!持续更新!!!Java篇开始了!目前开始更新MyBatis,一起深入浅出!目前已经更新到了:Hadoop(已更完)HDFS(已更完)MapReduce(已更完)Hive(已更完)Flume(已更完)Sqoop(已更完)Zookeeper(已更完)HBase(已更完)Redis(已更完)Kafka(已更完)Spark(已更完)Flink(已更完)ClickHouse(已
武子康
·
2025-01-18 10:29
大数据
离线数仓
大数据
数据仓库
java
后端
hadoop
hive
智能数据时代:如何优化
数仓
模型的复用性
在
数仓
岗位面试中,相信很多同学都频繁被问到“模型复用性”相关面试题。这个也是很多企业
数仓
建设中非常关注的问题,因为在企业
数仓
建设中
数仓
模型的复用性,更是有着多方面的关键意义。
Python编程杰哥
·
2025-01-18 00:44
llama
人工智能
easyui
前端
设计模式
数智化转型 | 星环科技Defensor 助力某银行数据分类分级
某银行作为数字化转型的先行者,面临着一项艰巨的任务:如何高效、准确地对分布在多个业务系统、业务库与
数仓
数湖中的约80万个字段进行数据分类和分级。
·
2025-01-18 00:56
数据库
案例分享|快速了解实时湖仓集一体技术如何助力企业降本增效
该农商行基于星环科技实时湖仓集一体平台,替代了Teradata
数仓
、Oracle数据平台和Hadoop数据湖三个平台,一体化架构同时满足数据湖海量汇集、复杂
数仓
模型
·
2025-01-17 20:42
mysql
采用海豚调度器+Doris开发
数仓
保姆级教程(满满是踩坑干货细节,持续更新)
目录一、采用海豚调度器+Doris开发平替CDHHdfs+Yarn+Hive+Oozie的理由。1.架构复杂性2.数据处理性能3.数据同步与更新4.资源利用率与成本6.生态系统与兼容性7.符合信创或国产化要求二、ODS层接入数据接入kafka实时数据踩坑的问题细节三、海豚调度器调度Doris进行报表开发创建带分区的表在doris进行开发调试开发海豚调度器脚本解决shell脚本使用MySQL命令行给
大模型大数据攻城狮
·
2025-01-17 19:56
海豚调度器从入门到精通
doris
海豚调度器
离线数仓
实时数仓
国产代替
信创大数据
flink数仓
数仓
数据分层(ODS DWD DWS ADS)
ODSDWDDWSDWS,俗称的数据服务层,也有叫做数据聚合层.不过按照经典数据建模理论,一般称之为前者,也就是数据服务层,为更上层的ADS层或者直接面向需求方服务.DWS建模,一般使用主题建模,维度建模等方式主题建模,顾名思义,围绕某一个业务主体进行数据建模,将相关数据抽离提取出来.如,将流量会话按照天,月进行聚合将每日新用户进行聚合将每日活跃用户进行聚合维度建模,其实也差不多,不过是根据业务需
123 黑曼巴
·
2025-01-17 16:29
大数据
数据仓库
数仓
数据分层(ODS DWD DWS ADS)换个角度看
数仓
数据分层简介1.背景
数仓
是什么,其实就是存储数据,体现历史变化的一个数据仓库.因为互联网时代到来,基于数据量的大小,分为了传统
数仓
和现代
数仓
.传统
数仓
,使用传统的关系型数据库进行数据存储,因为关系型数据库本身可以使用
闻香识代码
·
2025-01-17 16:28
大数据
数仓
数据仓库
大数据
ods
dw
万字详解
数仓
分层设计架构 ODS-DWD-DWS-ADS
参考:万字详解
数仓
分层设计架构ODS-DWD-DWS-ADS数据分层的意义1、清晰数据结构2、数据血缘追踪3、数据复用,减少重复开发4、把复杂问题简单化5、屏蔽原始数据的(影响),屏蔽业务的影响ETL操作
_Jordan
·
2025-01-17 16:56
自己写的
数据仓库
数仓
分层ODS、DWD、DWM、DWS、DIM、DM、ADS
往期推荐
数仓
入门:数据分析模型、
数仓
建模、离线实时
数仓
、Lambda、Kappa、湖仓一体-CSDN博客
数仓
常见名词解析和名词之间的关系-CSDN博客数据仓库及
数仓
架构概述-CSDN博客大数据HBase
青秋.
·
2025-01-17 15:17
数据仓库
大数据
数据仓库
数仓
实践:如何优雅的设计DWS层?
对于
数仓
的分层,大家最耳熟能详的就是基于OneData方法论的三层
数仓
划分,分别是:数据引入层(ODS,OperationalDataStore)、数据公共层(CDM,CommonDimenionsModel
云 祁
·
2025-01-17 14:37
#
----
数仓理论
数仓实践
大数据
数据仓库
维度建模
实时
数仓
方实际落地如何选型和构建
实时
数仓
方实际落地如何选型和构建一、为何需要实时
数仓
架构随着数字化进程的推进,企业产生的数据越来越多,与此同时企业对数据的需求也变得越来越复杂多样。
活在风浪里~
·
2025-01-17 04:15
大数据架构
大数据体系
数据治理
数据仓库
大数据
数据挖掘
YashanDB完成中国信通院关系型数据库安全能力专项测试
YashanDB产品简介崖山数据库系统是深圳计算科学研究院(简称“深算院”)和深圳崖山科技有限公司(简称“崖山科技”)自主研发设计的新型数据库管理系统,提供包括单机主备、共享集群、空间数据库、分布式实时
数仓
等系列数据库产品及配套开发
·
2025-01-16 18:20
数据库sql
数据仓库介绍
数据仓库数据仓库的概念数据仓库的主要特征数据仓库的主流开发语言-sql结构化数据sql语句数据仓库的概念数据仓库(英语:DataWarehouse,简称
数仓
、DW),是一个用于存储、分析、报告的数据系统
阿龙的代码在报错
·
2024-09-15 16:08
数据分析
数据仓库
数据库
Java高并发编程详解系列-深入理解Thread构造
这里首先提供一个JDK1.6的ThreadAPI截图线程
命名规范
从源码分析可以看到在Thread类中默认提供了线程的命名方式,这个
nihui123
·
2024-09-15 02:26
高并发
Java高并发
Java
高并发
前端入门:JavaScript基础介绍
JavaScript最初受Java启发而开始设计的,目的之一就是“看上去像Java”,因此语法上有类似之处,一些名称和
命名规范
也借自Java。
虞锦雯
·
2024-09-15 00:28
枚举,注解
自定义类实现枚举1.不需要提供setXxx方法,因为枚举对象值通常为只读2.对枚举对象/属性使用final+static共同修饰,实现底层优化3.枚举对象名通常使用全部大写,常量的
命名规范
(XXX_XXX
柴...
·
2024-09-14 22:21
韩顺平学习
java
开发语言
数仓
开发之DWD层完整使用 (第五章)
数仓
开发之DWD层完整使用一、流量域未精加工的事务事实表1、主要任务1)数据清洗(ETL)2)新老访客状态标记修复3)分流2、思路1)数据清洗(ETL)2)新老访客状态标记修复(1)前端埋点新老访客状态标记设置规则
小坏讲微服务
·
2024-09-13 13:22
数据仓库
hadoop
scala
kafka
离线
数仓
VS实时
数仓
离线数据仓库(OfflineDataWarehouse)和实时数据仓库(Real-timeDataWarehouse)的实施有一些相似之处,但也存在显著的差异。以下是两者在几个关键方面的对比:相同点:数据集成:都需要从多个数据源提取、转换和加载数据(ETL/ELT)。都需要处理数据清洗、去重和规范化,以保证数据的一致性和准确性。数据建模:都需要进行数据建模,设计数据仓库的星型或雪花模型,定义事实表
james二次元
·
2024-09-13 03:14
数据仓库
数据仓库
大数据
数仓
建模之维度表&指标表
在数据仓库中,维度和指标是两个重要的概念。维度(Dimension):维度是一种描述业务过程中各种属性的方法,用于对业务过程进行分析和归类。维度包括时间、地点、人员、产品、客户等各种业务属性,是数据分析的基础。指标(Measure):指标是衡量业务过程效果的标准,是数据分析的重要指标。指标包括数量、金额、时间、比率、百分比等,用于衡量业务过程的各种结果。在数据仓库中,通常会使用维度表和指标表来进行
锵锵锵锵~蒋
·
2024-09-12 20:01
数据研发
数据仓库
数据研发
Java中项目名、包名、类名、接口名、方法名、类名
命名规范
(简单示范)
项目名(ProjectName)例子:my-blog-system说明:这是一个简单的博客系统项目,使用连字符(-)来分隔“my”、“blog”和“system”这三个单词,全部使用小写字母。包名(PackageName)例子:com.example.blog.service说明:这个包名遵循了公司或组织域名反转的规则(假设example.com是域名),并添加了blog.service来进一步描
我叫WJP
·
2024-09-11 01:08
java
开发语言
数据库,数据仓库,数据湖,湖仓一体到底是什么区别
先说下上面的答案,数据仓库和数据湖可以是互相独立存在的,不存在谁是谁的缓存一说,但是如果涉及到湖仓一体的时候,
数仓
是结构化的数据访问入口,而底层的数据湖是可以作为
数仓
的底层的存储支持。要了解各个概念
大数据小尘
·
2024-09-10 14:46
数据库
数据仓库
spark
实时
数仓
之实时
数仓
架构(Hudi)(1)
目前比较流行的实时
数仓
架构有两类,其中一类是以Flink+Doris为核心的实时
数仓
架构方案;另一类是以湖仓一体架构为核心的实时
数仓
架构方案。
2401_84164527
·
2024-09-09 19:34
程序员
架构
2024年大数据最新实时
数仓
之实时
数仓
架构(Hudi)
技术框架Kafka:用于接入数据源;FlinkCDC:如果直接接入业务数据源可以考虑CDC方式,如果通过Kafka缓冲接入业务数据可以忽略;Flink:用于数据ETL,包括接入数据、处理数据及输出数据全链路数据计算任务;Spark:用于数据ETL,包括处理数据及输出数据全链路数据计算任务;Hudi:湖仓一体数据管理框架,用来管理模型数据,包括ODS/DWD/DWS/DIM/ADS等;Doris:O
2401_84185556
·
2024-09-09 19:34
程序员
大数据
架构
实时
数仓
之实时
数仓
架构(Hudi)(1),2024年最新熬夜整理华为最新大数据开发笔试题
+Hudi:湖仓一体数据管理框架,用来管理模型数据,包括ODS/DWD/DWS/DIM/ADS等;+Doris:OLAP引擎,同步
数仓
结果模型,对外提供数据服务支持;+Hbase:用来存储维表信息,维表数据来源一部分有
2401_84181221
·
2024-09-09 19:04
程序员
架构
大数据
数据仓库系列篇之基本概述
@Author:Spinach|GHB@Link:http://blog.csdn.net/bocai8058文章目录前言什么是数据仓库数据仓库与数据库的区别为什么要建立数据仓库及
数仓
平台的优势为什么要建立数据仓库大数据
数仓
平台的特点或优势数据仓库和数据集市的关系前言通过收集资料
小学僧来啦
·
2024-09-09 09:53
数据仓库
数据仓库
数据库
大数据
数仓
还是湖仓?专家圆桌深度解析
近期,Databricks以超过10亿美元的价格收购了Tabular——ApacheIceberg的商业支持公司,这一动作加剧了Snowflake和Databricks在开放湖仓标准发展上的竞争。这起收购也突显了数据湖表格式在现代数据分析架构中的关键地位。在上月的StarRocksMeetup活动中,四位湖仓技术专家代表ApacheIceberg、ApacheHudi、ApachePaimon和S
StarRocks_labs
·
2024-09-08 19:49
数据仓库
数据库
大数据
数据分析
湖仓一体
Vue 3 中 provide 和 inject 高级用法与最佳实践
《Vue3中provide和inject高级用法与最佳实践》一、基本概念二、高级用法(一)提供函数(二)响应式数据(三)多值提供三、最佳实践(一)封装通用服务(二)避免过度依赖(三)
命名规范
(四)结合Vuex
暖阳浅笑-嘿
·
2024-09-07 07:12
vue.js
前端
javascript
JAVA基础:数据类型、
命名规范
1.2
命名规范
Java中有很多的知识点都需要命名,如:变量,方法,类,接口等等。
No regret.
·
2024-09-06 10:50
java
开发语言
CSS选择器的
命名规范
1.模块化命名例如:与布局相关的样式以“g”为开头。如“g-content”和“g-header”;与挂钩相关的样式以“j”为开头。如“j-open”和“j-request”;与元件相关的样式以“m”为开头。如“m-dropMenu”和“m-slider”;与状态相关的样式以“s”为开头。如“s-current”和“s-selected”;与工具相关的样式以“u”为开头。如“u-clearfix”
前端_小智
·
2024-09-05 20:17
HTML
数据仓库之【商品订单数据
数仓
】10:数据可视化工具:Zeppelin安装部署、Zeppelin使用
一、数据可视化数据可视化这块不是项目的重点,不过为了让大家能有一个更加直观的感受,我们可以选择一些现成的数据可视化工具实现。咱们前面分析过,想要查询hive中的数据可以使用hue,不过hue无法自动生成图表。所以我们可以考虑使用Zeppelin针对一些复杂的图表,可以选择定制开发,使用echarts、finebi组件实现。二、Zeppelin安装部署注意:不要使用Zeppelin0.8.2版本,这
做一个有趣的人Zz
·
2024-09-05 15:45
hadoop
hive
数据仓库
hive
big
data
【GaussDB(DWS)】
数仓
部署架构与物理结构分析
数仓
架构与物理结构分析一、部署架构二、物理结构三、测试验证一、部署架构华为数据仓库服务DWS,集群版本8.1.3.x集群拓扑结构:上述拓扑结构为DWS单AZ高可靠部署架构,为减少硬件故障对系统可用性的影响
若兰幽竹
·
2024-09-03 20:06
GaussDB
DWS
gaussdb
上一页
1
2
3
4
5
6
7
8
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他