E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
数仓命名规范
hive
数仓
-数据的质量管理
版本20231116要理解数据的质量管理,应具备hive数据仓库的相关知识文章目录1.理解什么是数据的质量管理:2.数据质量管理的规划数据质量标准的分类3.数据质量管理解决方案1.ods层的数据质量校验1)首先在hive上建立一个仓库,添加数据质量监控表2)然后建立检查检查表3)创建数据检验曾量表通用的脚本4)创建数据检测全量表的脚本5)脚本的运行2.dwd层的数据质量校验1)建立dwd层校验表2
江南正晓时
·
2023-11-17 01:33
hive
hadoop
数据仓库
C#语言自学总结Day 02
前言C#自学Day02前言1.注释符2.常用快捷键3.变量3.1变量的引入3.2变量的类型3.3变量的写法3.4变量的类型4.变量的使用规范5.变量的
命名规范
5.1注意事项5.2
命名规范
6.赋值运算符7
爱学习的时小糖
·
2023-11-17 01:59
unity
c#
Hudi数据湖相关资料
ApacheHudi源码解读hudi各类资料:字节电商场景基于ApacheHudi的落湖实践阿里云AnalyticDB基于FlinkCDC+Hudi实现多表全增量入湖实践Lambda架构向湖仓一体架构演进的的实时电商
数仓
建设
后季暖
·
2023-11-16 23:46
1024程序员节
Concepts~有关k8s对象
目录对象管理参考资料对象命名与ID
命名规范
:命名空间(namespace)labels(标签)Annotations(注释)label与annotation的最佳实践对象管理k8s对象管理方式分3类,命令式对象管理
zpsimon
·
2023-11-16 21:10
K8S
单片机c语言程序注释,单片机C基本编程规范
1.基本规则格式清晰、注释简明扼要、
命名规范
易懂、函数模块化、程序易读易维护、功能准确实现、代码空间效率和时间效率高、适度的可扩展性、单片机编程规范-标识符
七231fsda月~
·
2023-11-16 19:08
单片机c语言程序注释
c51语言的注释,单片机C51编程规范
3单片机C51编程规范-总则l格式清晰l注释简明扼要l
命名规范
易懂l函数模块化l程序易读易维护l
欧阳竞
·
2023-11-16 19:08
c51语言的注释
「Python编程基础」第2章:小试牛刀
文章目录一、在交互式环境中体验Python语言二、Python数学操作符三、基础数据类型:整型、浮点型、字符串四、字符串的拼接和复制五、变量的应用六、变量名的
命名规范
七、正式编写我们的第一个程序八、我们的
测试划水老师傅
·
2023-11-16 14:00
#
Python「编程基础」
python
开发语言
【云栖2023】姜伟华:Hologres Serverless之路——揭秘弹性计算组
本文根据2023云栖大会演讲实录整理而成,演讲信息如下:演讲人:姜伟华|阿里云计算平台事业部资深技术专家、阿里云实时
数仓
Hologres研发负责人演讲主题:HologresServerless之路——揭秘弹性计算组实时化成为了大数据平台的核心演进趋势
阿里云大数据AI技术
·
2023-11-16 12:29
serverless
云原生
Databend 开源周报第 119 期
Databend是一款现代云
数仓
。专为弹性和高效设计,为您的大规模分析需求保驾护航。自由且开源。即刻体验云服务:https://app.databend.cn。
Databend
·
2023-11-16 07:20
开源
数据库
AIGC
Flink 1.12的CDC
基于Flink构建流批一体的实时
数仓
是目前数据仓库领域比较火的实践方案。随着Flink的不断迭代,其提供的一系列技术特性使得用户构建流批一体的应用变得越来越方便。
'煎饼侠
·
2023-11-15 19:56
Flink
数据仓库入门简介
一,数组仓库介绍数据仓库(英语:DataWarehouse,简称
数仓
、DW)是一个为数据分析而设计的企业级数据管理系统。它旨在支持企业决策过程中的数据分析和业务智能。
浮生夢
·
2023-11-15 17:12
数据仓库
第八章:枚举
枚举的实现方式自定义类实现枚举使用enum关键字实现枚举枚举使用细则不需要提供setXxx方法,因为枚举对象值通常为只读对枚举对象/属性使用final+static共同修饰,实现底层优化枚举对象通常使用全部大写,常量的
命名规范
枚举
好好锅
·
2023-11-15 16:03
#
Java面向对象编程高级知识
java
StarRocks × Apache Flink:如何构建简单强大的实时
数仓
架构
当前在构建实时
数仓
时,由于数据源的多样性,需要使用不同的采集工具,如Flume、Canal、Logstash。对于不同的业务,我们通常会采用不同的分析引擎。
大数据技术架构
·
2023-11-15 16:27
大数据
数据库
人工智能
数据分析
java
从0开始学习JavaScript--初识JavaScript
JavaScript最初受Java启发而开始设计的,目的之一就是“看上去像Java”,因此语法上有类似之处,一些名称和
命名规范
也借自Java,但JavaScr
晓之以理的喵~~
·
2023-11-15 15:54
JavaScript
javascript
前端
java
【用户实践】openGauss5.0在某省医保局实时
数仓
应用
一、项目背景采用数据同步软件将各系统的数据库下的数据实时同步到openGauss数据库中;建立实时
数仓
;可以在实时
数仓
自行查询、分析、统计数据及报表;同时横向集成公共服务区和核心业务区生产库数据、集成其他委办局数据
renxyz
·
2023-11-15 12:11
数据库
Redis键(Keys)
本文将深入探讨Redis中键的管理和操作,包括键的
命名规范
、常用的键操作命令以及一些最佳实践。我们将详细介绍如何合理命名键、如何使用键的过期和持久化特性、如何批量删除键等技巧,旨在帮助读者更好地理解
zhizhiqiuya
·
2023-11-15 11:18
Redis
redis
数据库
缓存
Hive
数仓
数据质量治理
1.数据质量概述数据质量是数据创建价值的保障基石,高质量的数据为数据统计、分析和应用提供了可信任的必要条件。数据质量管理是指在数据创建、加工、使用和迁移等过程中,通过开展数据质量定义、过程控制、监控、问题分析和整改、评估和考核等一系列管理活动,提高数据质量以满足业务要求。可按照"谁创建,谁负责;谁加工,谁负责;谁提供,谁负责"的原则界定数据质量管理责任,由数据流转环节的各责任方对管辖范围内的数据质
笑看风云路
·
2023-11-15 10:58
hive
hive
大数据
数据仓库
数据质量
数据治理
Hadoop完全分布式安装
Hadoop完全分布式安装前言之前有搭建过一次Hadoop完全分布式集群但是没有记录,最近开始着手自己搭个模拟
数仓
需要搭建集群,趁此机会记录一下搭建的过程。
薇安娜
·
2023-11-15 05:43
Hadoop
hadoop
大数据
hive sql生成
数仓
分钟维表
目录一、建表ddl二、加工格式说明三、加工sql四、示例结果数据一、建表ddlcreatetabledim_pub_minute(date_timestampbigintcomment'时间戳',date_strstringcomment'时间-日期时分秒',day_strstringcomment'日期',time_strstringcomment'时分秒',hour_strstringcomm
chimchim66
·
2023-11-15 03:39
数据仓库
hive
sql
hadoop
python 语法基础篇
f-string数据类型数字型字符串列表字典元组集合数据类型转换可迭代对象通用方法运算符算数运算符赋值运算符比较运算符逻辑运算符成员运算符三元运算符身份运算符位运算符标识符变量名、函数名、类名等统称为标识符
命名规范
佛系的老肖
·
2023-11-14 22:21
python
python
开发语言
软件测试/测试开发丨探索标识符在编程中的重要性
命名规范
标识符的命名,需要遵从4项规范。1.见名知意一个项目中会存在大量的变量名,函数名,方法名,类名等标识符,所以在对标识符进行命名时,见名知意是第一准则。例如:get_name、is_selec
测试开发软件测试性能测试自动化测试
·
2023-11-14 22:35
软件测试
python
工作记录--(关于接口设计)---每天学习多一点
1、
命名规范
我们写代码,不仅仅是为了实现当前的功能,也要有利于后面的维护。所谓的维护,就是代码不仅仅是写给自己看的,也是给别人看的。所以接口定义要清晰易懂、
命名规范
。
什么什么啊啊啊
·
2023-11-14 21:17
工作
学习
java
spring
大数据调度系统对比
0.前言有了数据平台,有了数据仓库,那就需要一个系统来调度和管理
数仓
的任务,因此调度系统的地位可见之重要。
Impl_Sunny
·
2023-11-14 21:01
调度管理
#
对比&选型
调度系统
Azkaban
实时
数仓
-Flink使用总结
阿里云实时计算Flink版是阿里云基于ApacheFlink构建的企业级、高性能实时大数据处理系统。具备一站式开发运维管理平台,支持作业开发、数据调试、运行与监控、自动调优、智能诊断等全生命周期能力。本期将对Flink的使用进行总结。1.Flink产品回顾阿里云实时计算Flink版是阿里云基于ApacheFlink构建的企业级、高性能实时大数据处理系统。具备一站式开发运维管理平台,支持作业开发、数
高阳很捷迅
·
2023-11-14 18:42
IT管理
数据分析
flink
大数据
实时数仓
Java代码编程格式规范
Java代码编程格式规范目录1前言.52适用范围.53
命名规范
.53.1Package的命名.53.2Class的命名.53.3Class变量的命名.63.4StaticFinal变量的命名.63.5常量
BoltBear
·
2023-11-14 16:10
java
java
p2p
linq
Python变量命名及规范
Python变量命名及规范Python的变量
命名规范
通常遵循以下规则:1.变量名只能包含字母、数字和下划线(),不能以数字开头。2.变量名不能使用保留字(例如if、else、while等等)。
吉量*
·
2023-11-14 09:56
python
python
代码规范
Hive工具的介绍(一)
一、Hive是什么要了解Hive是什么得先了解一下
数仓
(数据仓库)的概念,什么又是数据仓库呢?
xiaoxie_advent
·
2023-11-14 09:15
大数居
hadoop
数据仓库
大数据
Hive
Python基础语法-函数的定义与调用
def函数名称():函数体(要运行的代码) return表达式函数代码块以def开头,函数名称的
命名规范
遵循标识符的规范(函数一般使用蛇形命名法:使用下划线_连接单词),函数名称后要紧跟()和冒号,()
胖困困
·
2023-11-14 07:04
Python
笔记
python
数据仓库、
数仓
分层 01
1.数据仓库的基本概念数据仓库,英文名称为DataWarehouse,可简写为DW或DWH。数据仓库的目的是构建面向分析的集成化数据环境,为企业提供决策支持(DecisionSupport)。它出于分析性报告和决策支持目的而创建。数据仓库本身并不“生产”任何数据,同时自身也不需要“消费”任何的数据,数据来源于外部,并且开放给外部应用,这也是为什么叫“仓库”,而不叫“工厂”的原因。2.数据仓库的主要
啊策策
·
2023-11-14 06:17
Hive
数据仓库
数仓主要特征
数仓分层
数仓
分层的好处
分层好处:1,复杂问题简单化:将复杂的任务分解成多层来完成,每一层只处理简单的任务,方便定位问题2,减少重复开发:规范数据分层,通过中间层数据,能够减少极大的重复计算,增加计算一次的结果的重复性3,隔离原始数据:不论是数据的异常还是数据的敏感性,使真实数据与统计数据解耦开数据集市和数据仓库的区别:数据集市是微型数据仓库,通常有更少的数据,更少的主题,更少的历史数据,是部门级别的,一般只能为某个局部
Alienware^
·
2023-11-14 06:17
数据仓库
数据仓库
数仓
分层总结
数据仓库分为四层ods、dwd、dws、adsods层上是一些原始的数据,存放原始数据,直接加载原始日志、数据(事件表),保持数据原貌不作处理,也就是做一个备份的作用,不要解析数据创建支持LZO压缩的表:减少存储空间100g_10g\5g单双json创建分区表:防止全表扫描(导数据:全量、新增、新增和变化)dwd层是根据ods层表进行解析,然后清除脏数据,敏感信息的处理例如身份证脱敏,掩码、加密、
月升11
·
2023-11-14 06:41
数据仓库
hive
大数据
数据仓库
数据仓库之
数仓
分层及hive分层
目录一、数据仓库之
数仓
分层(一)为什么要分层?
javastart
·
2023-11-14 06:09
数据仓库
数据仓库
数据库
大数据
简单搞定
数仓
搭建:
数仓
分层
我们建议将数据仓库分为三层,自下而上为:数据引入层(ODS,OperationDataStore)、数据公共层(CDM,CommonDataModel)和数据应用层(ADS,ApplicationDataService)。数据仓库的分层和各层级用途如下图所示。数据引入层ODS(OperationDataStore):存放未经过处理的原始数据至数据仓库系统,结构上与源系统保持一致,是数据仓库的数据准
白枭
·
2023-11-14 06:08
数仓
bigdata
大数据开发
数据建模
数据仓库
数仓
分层介绍
文章目录
数仓
分层的意义是什么?
程少亭
·
2023-11-14 06:36
数据仓库
big
data
etl
数仓
(一)数据分层
文章目录数据分层好处数据运营层数据仓库层数据应用层事实表`(FactTable)`维表层(`Dimension`)表命名规则聚合粒度以及加工频率字段说明抽取方式字段
命名规范
数据表名
命名规范
表分区字段说明任务
命名规范
大厂分层架构爱奇艺
666呀
·
2023-11-14 06:05
数仓
数据仓库
数据挖掘
big
data
【数据仓库】
数仓
分层方法
文章目录一.
数仓
分层的意义1.清晰数据结构。2.减少重复开发3.方便数据血缘追踪4.把复杂问题简单化5.屏蔽原始数据的异常6.数据仓库的可维护性二.如何进行
数仓
分层?
roman_日积跬步-终至千里
·
2023-11-14 06:01
数据仓库
数据仓库
spark
大数据
软件版本
命名规范
1.版本
命名规范
软件版本号有四部分组成,第一部分为主版本号,第二部分为次版本号,第三部分为修订版本号(阶段版本号),第四部分为日期版本号加希腊字母版本号,希腊字母版本号共有五种,分别为base、alpha
放牛的小牧童
·
2023-11-14 01:07
软件版本规范
设计规范
软件工程
几种常见的命名法
文章目录驼峰(大驼峰、小驼峰)下划线匈牙利Googlec/c++
命名规范
驼峰(大驼峰、小驼峰)驼峰命名比较常见于windows平台编程,这样的变量名看上去就像驼峰峰一样此起彼伏,采取此命名方法能够比较清楚地识别变量名含义
簡然
·
2023-11-14 01:50
#
编程规范
数仓
hive锁(Hive Lock)
昨天数据仓库hive中一张中间表lock,导致所有依赖这个表的任务失败。影响挺大,借此总结一下以备后面查用。1.Hive锁的类型hive目前主要有两种锁,SHARED(共享锁S)和Exclusive(排他锁X)。共享锁S和排他锁X它们之间的兼容性关系如下:1)查询操作使用共享锁,共享锁是可以多重、并发使用的2)修改表操作使用独占锁,它会阻止其他的查询、修改操作3)可以对分区使用锁。以下情况会触发锁
Vincer_DB
·
2023-11-13 16:34
大数据
hive
hive锁
sqlserver2008彻底卸载
windowsInstallerCleanUp二、下载安装后在最近添加中打开三、下载sqlserver卸载工具集合四、注册表删除五、残余文件删除六、修改注册表权限七、重启之后背景介绍最近接到公司的一个任务,我们要搞实时
数仓
了
潘小磊
·
2023-11-13 14:31
工具
sqlserver
microsoft
数据库
Doris为数据分析而生的olap数据库:数据模型和数据分区使用详解
ApacheDoris可以满足多种数据分析需求,如
数仓
T+1模式固定历史报表,实时数据分析等。数据模型:Doris中的字段类型:TINYINT1字节范围:-2^7+1~2^7-1SMALLINT2字
HD0do(迪答数据)
·
2023-11-13 12:02
Doris
实时大数据
数据库
Git之分支与版本->课程目标及知识点的应用场景,分支的场景应用,标签的场景应用
1.课程目标及知识点的应用场景Git分支和标签的
命名规范
分支dev/test/pre/pro(即master)dev:开发环境--windows(自己的电脑)test:测试环境--windows/linux
朱琳均
·
2023-11-13 12:31
git
一款高效、简洁的数据处理和清洗加工工具,值得收藏!
JVS智能BI通过创新性的
数仓
式存储、流程化加工、直观模拟化配置和用户友好的界面化管理等特性,使数据分析变得触手可及,同时也极大地提高了数据处理和分析的效率。JVS-BI特点介绍数
jonyleek
·
2023-11-13 11:15
java
gitee
开源
大数据
数据分析
如何把一个接口设计好?
命名规范
我们写代码,不仅仅是为了实现当前的功能,也要有利于后面的维护。所谓的维护,就是代码不仅仅是写给自己看的,
IT枫斗者
·
2023-11-13 08:01
编程学习
JAVA基础工作中实际总结
面试
java
word
微服务
Java基础——局部变量和常量
变量名:自定义,参照
命名规范
变量是程序中最基本的存储单元,包含变量类型
少爷晚安。
·
2023-11-13 07:46
Java基础(完善中)
java
开发语言
[hive]
数仓
分层|用户纬度拉链表|维度建模
redirect=%2Fdb%2F241289一、
数仓
分层1、ODS层:原始数据层ODS(O=originalD=dataS=store)1)设计要点存储来自多个业务系统、前端埋点、爬虫获取的一系列数据源的数据
胖胖学编程
·
2023-11-12 16:52
数仓
hive
大数据
hadoop
Pytest自动化测试框架
Pytest命名规则练习(多选)下面哪个测试方法,符合pytest
命名规范
A、测试类TestDemoB、测试方法test_demoC、测试文件testdemoD、测试包test_demo答案是:ABDPycharm
小梧敲代码
·
2023-11-12 15:02
pytest
软件测试
程序员
接口测试
自动化测试
测试工程师
C++
命名规范
目录一、文件排版方面二、注释方面三、命名方面四、代码风格方面五、类型六、表达式七、函数八、类九、错误处理十、性能十一、兼容性对于不同的编程语言来说,具体的编码规范可以有很大的不同,但是其宗旨都是一致的,就是保证代码在高质量完成需求的同时具备良好的可读性、可维护性。例如我们可以规定某个项目的C语言程序要遵循这样的规定:变量的命名,头文件的书写和#include等等。下面是一些广为采用的编码规范:GN
韩师兄_
·
2023-11-12 11:39
C++
c++
开发语言
Flink在汽车行业的应用【面试加分系列】
然后总结发出来方便大家阅读;另外一方面,看这些汇报对你的面试帮助会很大,特别是面试前可以看看即将面试公司在大数据前沿的发展动向(我曾经就有过一次经历,面试网易云音乐前,我在B站看了一个大佬分享的网易云实时
数仓
三石大数据
·
2023-11-12 09:15
面经
bigdata
大数据
面试
数据仓库
Git分支&标签
目录一,分支环境的的功能及特点分支的策略分支的相关指令二,标签1.查看所有标签2.创建tag3.删除tag4.分支与版本一,分支1.分支的
命名规范
dev/test/pre/pro(即master)2.分支的作用创建了一个属于自己的分支
呼啦啦dxy
·
2023-11-12 08:38
java
开发语言
上一页
13
14
15
16
17
18
19
20
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他