E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
--------【数据仓库】
数据仓库
面试题汇总
逻辑数据映射(LogicalDataMap)用来描述源系统的数据定义、目标
数据仓库
的模型以及将源系统的数据转换到
数据仓库
中需要做操作和处理方式的说明文档,通常以表格或Excel的格式保存如下的信息:目标表名
DB架构
·
2023-03-10 07:15
数据仓库
程序员面试题基地
etl
数据仓库
数据库
欢迎来到大数据时代-----赶快来了解一些大数据的基础知识
linux、hadoop、hive三者形成一体,掌握这些知识就可以独立基于
数据仓库
是实现离线数据分析的可视化报表开发。大数据导论:数据是什么?
Aggressive-Cute
·
2023-03-09 21:15
大数据知识的学习与总结
big
data
大数据
linux
2019-11-15
数据架构:
数据仓库
:BI分析:数据化运营:方法论:分布式文件存储:并行计算:
阳光照我心房
·
2023-03-09 19:38
数仓建设保姆级教程,离线和实时一网打尽(理论+实战)
本文大纲:因内容较多,带目录的PDF查看是比较方便的:数仓建设保姆级教程PDF文档一、数仓基本概念1.
数据仓库
架构我们在谈数仓之前,为了让大家有直观的认识,先来谈数仓架构,“架构”是什么?
园陌
·
2023-03-09 16:58
关于ETL的两种架构(ETL架构和ELT架构)
ETL一词较常用在
数据仓库
,但其对象并不限于
数据仓库
。ETL是构建
数据仓库
的重要一环,用户从数据源抽取出所需的数据,经过数据清洗,最终按照预先定义好的
数据仓库
模型,将数据加载到
数据仓库
中去。
m0_66404702
·
2023-03-09 10:37
etl
架构
数据仓库
初识
数据仓库
一、什么是
数据仓库
数据库-->OLTP:(on-linetransactionprocessing)翻译为联机事务处理记录某类业务事件的发生,如购买行为,银行交易行为,当行为产生后,系统会记录是谁在何时何地做了何事
code.song
·
2023-03-09 07:06
数据仓库
数据库
数据挖掘
2020-04-13
大数据之Hive一.Hive基本概念1.什么是HiveHive是Facebook开源用于处理海量结构化日志的数据统计Hive是基于Hadoop的一个
数据仓库
工具,将结构化数据文件映射成一张表,并提供类SQL
叛逆与成功
·
2023-03-09 06:28
50000字,数仓建设保姆级教程,离线和实时一网打尽(理论+实战) 上
文档大纲:一、数仓基本概念1.
数据仓库
架构我们在谈数仓之前,为了让大家有直观的认识,先来谈数仓架构,“架构”是什么?这个问题从来就没有一个准确的答案。
浪尖聊大数据-浪尖
·
2023-03-01 07:14
数据仓库
数据库
scipy
makefile
crm
【SQL开发实战技巧】系列(二十):
数据仓库
中时间类型操作(进阶)获取季度开始结束时间以及如何统计非连续性时间的数据
系列文章目录【SQL开发实战技巧】系列(一):关于SQL不得不说的那些事【SQL开发实战技巧】系列(二):简单单表查询【SQL开发实战技巧】系列(三):SQL排序的那些事【SQL开发实战技巧】系列(四):从执行计划讨论UNIONALL与空字符串&UNION与OR的使用注意事项【SQL开发实战技巧】系列(五):从执行计划看IN、EXISTS和INNERJOIN效率,我们要分场景不要死记网上结论【SQ
赵延东的一亩三分地
·
2023-03-01 07:12
Oracle开发运维实战
数据仓库
计算季度开始结束时间
非连续性数据统计
相同月份
非连续性
【SQL开发实战技巧】系列(十七):
数据仓库
中时间类型操作(初级)确定两个日期之间的工作天数、计算—年中周内各日期出现次数、确定当前记录和下一条记录之间相差的天数
系列文章目录【SQL开发实战技巧】系列(一):关于SQL不得不说的那些事【SQL开发实战技巧】系列(二):简单单表查询【SQL开发实战技巧】系列(三):SQL排序的那些事【SQL开发实战技巧】系列(四):从执行计划讨论UNIONALL与空字符串&UNION与OR的使用注意事项【SQL开发实战技巧】系列(五):从执行计划看IN、EXISTS和INNERJOIN效率,我们要分场景不要死记网上结论【SQ
赵延东的一亩三分地
·
2023-03-01 07:42
Oracle开发运维实战
sql
lag
lead
两个日期之间工作日
当前记录的上一条记录
【SQL开发实战技巧】系列(十八):
数据仓库
中时间类型操作(进阶)INTERVAL、EXTRACT以及如何确定一年是否为闰年及周的计算
系列文章目录【SQL开发实战技巧】系列(一):关于SQL不得不说的那些事【SQL开发实战技巧】系列(二):简单单表查询【SQL开发实战技巧】系列(三):SQL排序的那些事【SQL开发实战技巧】系列(四):从执行计划讨论UNIONALL与空字符串&UNION与OR的使用注意事项【SQL开发实战技巧】系列(五):从执行计划看IN、EXISTS和INNERJOIN效率,我们要分场景不要死记网上结论【SQ
赵延东的一亩三分地
·
2023-03-01 07:42
Oracle开发运维实战
sql
INTERVAL
EXTRACT
last_day
next_day
【SQL开发实战技巧】系列(十九):
数据仓库
中时间类型操作(进阶)如何一个SQL打印当月或一年的日历?如何确定某月内第一个和最后—个周内某天的日期?
系列文章目录【SQL开发实战技巧】系列(一):关于SQL不得不说的那些事【SQL开发实战技巧】系列(二):简单单表查询【SQL开发实战技巧】系列(三):SQL排序的那些事【SQL开发实战技巧】系列(四):从执行计划讨论UNIONALL与空字符串&UNION与OR的使用注意事项【SQL开发实战技巧】系列(五):从执行计划看IN、EXISTS和INNERJOIN效率,我们要分场景不要死记网上结论【SQ
赵延东的一亩三分地
·
2023-03-01 07:42
Oracle开发运维实战
sql
打印日历
第一个和最后一个周内某天日期
lag
lead
游戏高度可配置化:通用数据引擎(data-e)及其在模块化游戏开发中的应用构想图解
游戏高度可配置化:通数据引擎在模块化游戏开发中的应用构想图解ygluu码客卢益贵目录一、前言二、模块化与插件1、常规模块化2、插件式模块化(插件开发)三、通用数据引擎理论与构成1、名字系统(数据类型)2、
数据仓库
ygluu
·
2023-02-28 07:30
All
我的文章
学术
游戏开发
模块化
数据引擎
游戏引擎
条件系统
数据仓库
学习笔记一
概念
数据仓库
是决策支持系统(dss)和联机分析应用数据源的结构化数据环境。
数据仓库
研究和解决从数据库中获取信息的问题。
数据仓库
的特征在于面向主题、集成性、稳定性和时变性。
jin6872115
·
2023-02-28 07:33
数据仓库
数据仓库
数据仓库
相关术语
数据仓库
数据集市事实维度级别数据清洗数据采集数据转换联机分析处理(OLAPOnlineAnalyticalProcessing)切片切块星型模式雪花模式粒度度量度量值口径指标原子指标:派生指标衍生指标标签自然键持久键代理键退化维度下钻上卷
jane9872
·
2023-02-28 07:02
数据仓库
数据挖掘
数据库
银行数据类项目测试实施与管理问题探讨
如风险类项目、市场分析、
数据仓库
、反欺诈、反洗钱、业绩考核等数据
泊涯
·
2023-02-26 08:34
测试管理
如何成为一个合格的数据架构师?
【与数据同行】已开通综合、
数据仓库
、数据分析、产品经理、数据治理及机器学习六大专业群,加微信号frank61822702为好友后入群。
傅一平
·
2023-02-26 07:46
小尝试:基于指标体系的
数据仓库
搭建和数据可视化
小尝试:基于指标体系的
数据仓库
搭建和数据可视化关于作者:小姬,某知名互联网公司产品专家,对数据采集、生产、加工有所了解,期望多和大家交流数据知识,以数据作为提出好问题的基础,发觉商业价值。
木东居士
·
2023-02-26 07:55
大数据杀熟?我从银行数仓项目学到了什么
乍一看,文章跟
数据仓库
技术相关,本以为讲述银行
数据仓库
项目。但顺着往下看,却是一场大戏。文章开始,就交代了
数据仓库
,对银行的重要
dbLenis
·
2023-02-26 07:24
数据仓库
数据可视化
jdbc
db2
jwt
银行数仓体系发展之路
银行的
数据仓库
往往汇聚了银行主要系统的客户、业务、财务等数据,为银行的日常运营分析、市场营销、风险控制、财务分析、内部审计、监管报送提供数据支持和服务。银行的数字化实践必须建设好数仓体系。
易观
·
2023-02-26 07:54
浅谈银行的
数据仓库
:分层架构篇
为什么要对
数据仓库
进行分层自从大数据平台hadoop及其技术火起来之后,无论是政企、民企还是各类金融机构,都掀起了一股大数据技术转型、
数据仓库
重构、智能数据分析、AI等一系列黑科技且高大上的热潮。
大数据的奇妙冒险
·
2023-02-26 07:53
数据仓库
数据仓库
架构
【
数据仓库
】【第八章】【
数据仓库
建模方法论 - 维度建模】【维度表】拉链表
拉链表使用场景拉链表一般应用于维度表的设计中;当维度表中的每日发生变化的记录数比较少(学名叫做缓慢变化维度表),但是我们又想存储表中所有的历史数据,这时候可以用拉链表什么是拉链表拉链表会在维度表中添加两个字段,一个是该行记录的生效时间,一个是该行记录的失效时间,用于记录每条信息的生命周期;对于新增的记录来说,生效时间就是当天,失效时间为无穷大对于失效的记录来说,比如说7月3号对记录进行了修改,此时
败给你的黑色幽默丶
·
2023-02-26 07:22
数据仓库
数据仓库
如何构建银行
数据仓库
如何构建银行
数据仓库
数据仓库
技术作为一项数据管理领域的新技术,其精髓在于针对联机分析处理(OLAP)提出了一种综合的解决方案,与以往很多技术不同的是,它主要是一种概念,在此概念指导下完成系统的构造。
weixin_34130389
·
2023-02-26 07:52
数据库
开发工具
数据结构与算法
如何从优化SQL入手提高
数据仓库
的ETL效率(转载)
1引言
数据仓库
建设中的ETL(Extract,Transform,Load)是数据抽取、转换和装载到模型的过程,整个过程基本是通过控制用SQL语句编写的存储过程和函数的方式来实现对数据的直接操作,SQL
weixin_33802505
·
2023-02-26 07:22
数据库
大数据
数据仓库
系列之维度建模
上一篇文章我已经简单介绍了数据分析中为啥要建立
数据仓库
,从本周开始我们开始一起学习
数据仓库
。
weixin_30552635
·
2023-02-26 07:21
大数据
数据库
银行
数据仓库
体系实践_【实战剖析】某国际性商业银行的
数据仓库
建设经验分享...
原标题:【实战剖析】某国际性商业银行的
数据仓库
建设经验分享编者按全面的信息体系架构,是支持商业银行战略决策、经营管理和风险控制的坚实基础。
李管春
·
2023-02-26 07:51
银行数据仓库体系实践
ETL优化(转载)
1.引言
数据仓库
建设中的ETL(Extract,Transform,Load)是数据抽取、转换和装载到模型的过程,整个过程基本是通过控制用SQL语句编写的存储过程和函数的方式来实现对数据的直接操作,SQL
weixin_30315435
·
2023-02-26 07:21
维度建模的基本概念及过程
维度建模的基本概念及过程摘要:本文首先介绍维度模型中的维度表和事实表这2个基本构成要素的基础知识;其次,介绍设计维度模型的4个基本步骤;再次,围绕某银行为实现业务价值链数据集成的需要,介绍多维体系结构中的3个关键性概念:
数据仓库
总线结构
JeanWan
·
2023-02-26 07:20
sql
维度建模
数据仓库
维度建模是什么
维度模型是
数据仓库
领域大师RalphKimball所倡导,以分析决策的需求出发构建模型,构建的数据模型为分析需求服务,因此它重点解决用户如何更快速完成分析需求,同时还有较好的大规模复杂查询的响应性能。
WQ同学
·
2023-02-26 07:49
维度建模方法论
二、经典数仓架构理论围绕着维度建模,那就不得不了解,早期的
数据仓库
构架方法。这里介绍一下两个经典的数仓架构理论。
清风和月明
·
2023-02-26 07:47
大数据
数据仓库
数据建模
数仓建模理论--维度建模
总线架构:维度建模的
数据仓库
中,有一个概念叫BusArchitecture,中文一般翻译为“总线架构”。
Dylan ZhaoHT
·
2023-02-26 07:47
数据仓库
数仓建模
数据仓库
Kettle工具下的ETL优化思路 |
数据仓库
面试
1、首先找到瓶颈(重现问题;日志)要知道你的性能瓶颈在哪,可能有时候你使用了不恰当的方式,导致整个操作都变慢,观察kettlelog生成的方式来了解你的ETL操作最慢的地方。2、排查方向:(1)源->(2)目标->(3)转换顺序一步一步进行优化。源:对读操作的优化读数据量大–>大数据优化?尽量缩小输入的数据集的大小(增量更新也是为了这个目的)没有索引目标:对写操作的优化数据库性能本身问题写的数据量
数据分析小Y
·
2023-02-26 07:42
数据仓库
数仓:浅谈银行业的数仓构建实践
文章目录简介一、银行数仓画像二、银行业数仓建设2.1数据总线2.2
数据仓库
ODM层2.3
数据仓库
SDM层2.4
数据仓库
FDM层2.5
数据仓库
ADM层2.6数据服务三、项目管理简介
数据仓库
,对从事IT行业的从业者来说并不是个陌生的名词
Freedom3568
·
2023-02-26 06:04
数据仓库
数据中台
数据仓库
数据挖掘
数仓
银行
实践
维度建模的三种模式
1.星型模式星型模式是维度模型中最简单的形式,也是
数据仓库
以及数据集市开发中使用最广泛的形式。星型模式由事实表和维度表组成,一个星型模式中可以有一个或多个事实表,每个事实表引用任意数量的维度表。
心情这个东西
·
2023-02-26 06:03
Hive
笔记
数据仓库
CentOS8/windows下安装kettle填坑过程分享
背景有一个业务数据库,因为数据量比较大,所以只存储一个月内的数据,然而进行大数据分析等需要足够大的数据量,一个月的数据是远远不够的,所以就需要将业务数据库里的数据每天定时抽取到分析数据库,积累大量数据,也就是构建
数据仓库
大数据坚为
·
2023-02-25 13:03
CentOS8
kettle
linux
centos
数据库
etl
大数据
Tapdata Connector 实用指南:实时数仓场景之数据实时同步至 ClickHouse
典型用例包括数据库到数据库的复制、将数据引入
数据仓库
或数据湖,以及通用ETL处理等。随着TapdataConnector的不断增长,我们最新推出《
·
2023-02-24 20:37
数据库
【离线数仓-5-
数据仓库
环境准备】
离线数仓-5-
数据仓库
环境准备离线数仓-5-
数据仓库
环境准备1.
数据仓库
运行环境1.Hive环境搭建1.Hive引擎2.HiveonSpark配置2.Yarn环境配置2.
数据仓库
开发环境3.模拟数据准备离线数仓
Apache Minor Trend
·
2023-02-24 18:28
数据仓库
大数据
数据治理
数据仓库
大数据
揭穿数据分析的六大谎言
权威组织GartnerGroup的定义:一类由
数据仓库
(或数据集市)、
·
2023-02-24 15:16
数据库、
数据仓库
和数据湖的区别
数据库数据湖
数据仓库
一、区别:数据湖作为一个集中的存储库,可以在其中存储任意规模的所有结构化和非结构化数据。在数据湖中,可以存储数据不需要对其进行结构化,就可以运行不同类型的分析。
清棂露
·
2023-02-23 07:26
数据仓库
数据库
数据库、
数据仓库
与数据湖的概念与基本特点
一、数据库1,定义:数据库(Database)是按照数据结构来组织、存储和管理数据的仓库,它产生于距今六十多年前,随着信息技术和市场的发展,特别是二十世纪九十年代以后,数据管理不再仅仅是存储和管理数据,而转变成用户所需要的各种数据管理的方式。数据库有很多种类型,从最简单的存储有各种数据的表格到能够进行海量数据存储的大型数据库系统都在各个方面得到了广泛的应用。2,特点:(1)数据结构化让数据彼此之间
晓之以理的喵~~
·
2023-02-23 07:55
数据库
大数据
数据分析
数据仓库
数据库
MySQL数据库与
数据仓库
有什么区别
而且
数据仓库
的搭建如此麻烦,维护也不方便,还不如直接用MySQL。存在即合理,我带着这些疑惑重新看了一些资料,终于理清楚他们的区别啦。想要理解他们的区别首先要理解什么是OLTP和OLAP系统。
老白炸鸡叔
·
2023-02-23 07:24
大数据
数据库
数据仓库
mysql
详解
数据仓库
、数据湖、数据中台和湖仓一体
一、前言数字化转型浪潮卷起各种新老概念满天飞,数据湖、
数据仓库
、数据中台轮番在朋友圈刷屏,有人说“数据中台算个啥,数据湖才是趋势”,有人说“再见了数据湖、
数据仓库
,数据中台已成气候”……企业还没推开数字化大门
奔跑者-辉
·
2023-02-23 07:53
hive
湖仓一体
数据仓库
数据库
数据挖掘
从数据安全治理角度梳理数据库、
数据仓库
、数据湖、数据平台、数据中台之间的区别和关系
我们在做数据安全时不可避免会涉及到数据的存储和调取,那不同企业在描述自己数据存储和调取的系统时,会提到各种各样的称呼:数据库、
数据仓库
、数据湖、大数据平台,目前还出现了数据中台。
谷雨之际
·
2023-02-23 07:53
数据安全
数据库
数据仓库
oracle
数据库、
数据仓库
与数据湖
主要特点:结构化程度高独立性强冗余度低2
数据仓库
数据仓库
,由
数据仓库
之父比尔·恩门
L13763338360
·
2023-02-23 07:50
数仓
数据仓库
数据平台发展史-从
数据仓库
数据湖到数据湖仓
数据平台发展史-从
数据仓库
数据湖到数据湖仓做数据的同学经常听到一些数据相关的术语,常见的包括
数据仓库
,逻辑
数据仓库
,数据湖,数据湖仓/湖仓一体,数据网格datamesh,数据编织datafabric等.
明哥的IT随笔
·
2023-02-23 07:50
IT感悟
大数据平台
架构
数据仓库
数据库
大数据
数据仓库
与数据湖的区别
数据湖通常包含用于高级分析应用程序的各种大数据集,而
数据仓库
则存储用于基本BI、分析和报告用途的传统事务数据。下面,让我们更仔细地看一下这两个数据存储以及它们之间的差异。1.什么是数据湖?
Jelly lee
·
2023-02-23 07:49
数据库
数据仓库
大数据
Tapdata Connector 实用指南:数据入仓场景之数据实时同步到 BigQuery
典型用例包括数据库到数据库的复制、将数据引入
数据仓库
或数据湖,以及通用ETL处理等。引用随着TapdataConnector的不断增长,我们最新推
·
2023-02-20 18:52
mysql数据库
Teradata退出中国背后:云数仓成为行业主流发展趋势
近日,
数据仓库
巨头Teradata(天睿公司)内部宣布退出在中国市场,引发业界广泛关注。作为
数据仓库
行业的明星企业,Teradata进入中国二十余年来,曾经一度占据中国
数据仓库
市场半壁江山。
·
2023-02-20 14:36
数据库postgresql
关于数仓基础知识的超全概括!
周末和大家分享一些数仓基础知识的小集锦,希望能对你有些帮助~1、什么是
数据仓库
?权威定义:
数据仓库
是一个面向主题的、集成的、相对稳定的、反映历史变化的数据集合,用于支持管理决策。
浪尖聊大数据-浪尖
·
2023-02-20 07:24
数据仓库
大数据
数据库
人工智能
java
一文搞懂数据治理方法论
2、开展数据治理的背景和价值2.1背景–企业
数据仓库
/BI建设–数据集成/SOA–大数据–数据质量问题和影响–主数据管理–公共业务术语–合规问题–安全问题–兼并收购2.2价值–提升数据质量(80.2%)
vthinkwen
·
2023-02-20 07:22
大数据
java
数据分析
上一页
50
51
52
53
54
55
56
57
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他