E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
【数据仓库】
ETL&
数据仓库
复习
文章目录ETL1.1、岗位所需技能点数据分析师2.1、岗位所需技能点
数据仓库
3.1、岗位所需技能点1、
数据仓库
1.1、
数据仓库
与数据库区别1.2、
数据仓库
分层架构1.3、为什么要分层1.4、维度数据模型
爱敲代码的小黑
·
2023-12-03 01:23
数据仓库
etl
hive
数据仓库
商业智能BI中的ETL到底是什么?
商业智能BI中有许多定义,诸如
数据仓库
、数据挖掘、OLAP等,还有一个不得不提的定义,那就是ETL。在BI工程师或相关的职位招聘中,ETL也是必不可少的一项技能。那么,ETL到底是什么呢?
data2006
·
2023-12-03 01:22
数据分析
bi
etl
数据仓库
计算机科学与技术毕业生简历,计算机科学与技术专业应届毕业生简历范文
计算机科学与技术专业:计算机科学与技术健康状况:良好知识结构主修课:C语言,离散数学,JAVA语言,数据结构,操作系统,系统结构,编译原理,数据库原理,计算机网络专业课程:ORACAL实用数据库,DB2UDB数据库,
数据仓库
weixin_39878760
·
2023-12-02 23:03
计算机科学与技术毕业生简历
一本书读懂数据治理
读后感数据湖和
数据仓库
的对比数据治理的价值数据管理存在的问题数据治理的4个层面数据治理8项举措数据治理7种能力数据治理7把利剑书摘企业
4935同学
·
2023-12-02 23:24
大数据
Hive----基本概念
2、Hive是基于Hadoop的一个
数据仓库
工具,可以将结构化的数据文件映射为一张表,并提供类SQL查询功能。
Hi杯酒故人
·
2023-12-02 21:21
An Unsupervised Representation to Predict the Future of Patients from the Electronic Health Records
特别是三层去噪自动编码器堆栈用于捕获约EHRs的汇总EHR中的分层规则和依存关系来自西奈山
数据仓库
的700,000名患者
仓小鼠
·
2023-12-02 18:14
人工智能
论文
大数据——一文详解
数据仓库
概念(
数据仓库
的分层概念和维度建模详解)
1、ods是什么?ods层最好理解,基本上就是数据从源表拉过来,进行etl,比如MySQL映射到Hive,那么到了Hive里面就是ods层。ods全称是OperationalDataStore,操作数据存储——“面向主题的”,数据运营层,也叫ods层,是最接近数据源中数据的一层,数据源中的数据,经过抽取、洗净、传输,也就说传说中的ETL之后,装入本层。本层的数据,总体上大多是按照源头业务系统的分类
静惘
·
2023-12-02 15:14
大数据
大数据
数据仓库
(星型、雪花、星座、交叉连接)多维数据模型各种类型优劣分析
概述在
数据仓库
的建设中,一般都会围绕着星型模型和雪花模型来设计表关系或者结构,同时从模型中又衍生出星座模型和交叉模型。下面我们先来理解这几种模型的概念和比较。事实和维度我们先来了解一下事实和维度。
真不爱学习
·
2023-12-02 10:21
【乌卡时代】实用算法/数据结构
数据仓库
数据库
数据挖掘
2023.12.1 --
数据仓库
之 拉链表
目录什么是拉链表为什么要做拉链表?没使用拉链表:使用了拉链表:题中订单拉链表的形成过程实现语句什么是拉链表拉链表是缓慢渐变维的一种解决方案.拉链表,记录每条信息的生命周期,一旦一条记录的生命周期结束,就重新开始一条新的记录,并把当前日期放入生效开始日期,如果当前信息至今都有效,就在结束日期中填入一个最大值(9999-12-31)为什么要做拉链表?拉链表适合于:数据会发生变化,但是大部分是不变的比如
白白的wj
·
2023-12-02 09:19
数据仓库
sql
hive
hadoop
大数据
数据库开发
速通MySql
一、简介1、什么是数据库
数据仓库
,用来存储数据。
bunny playing games
·
2023-12-02 08:31
测试开发
经验分享
mysql
sklearn中tfidf的计算与手工计算不同详解
sklearn中tfidf的计算与手工计算不同详解引言:本周
数据仓库
与数据挖掘课程布置了word2vec的课程作业,要求是手动计算corpus中各个词的tfidf,并用sklearn验证自己计算的结果。
stay_foolish12
·
2023-12-02 02:17
sklearn
tf-idf
人工智能
直播电商
数据仓库
直播电商
数据仓库
一.数仓及其维度什么是数仓
数据仓库
,简称数仓,(DataWarehouse)。
李昊哲小课
·
2023-12-01 21:31
数据分析
大数据
数据库
数据仓库
大数据
数据分析
数据可视化
数据库
数据库开发
finebi
缓慢变化维 (Slowly Changing Dimension) 常见的三种类型及原型设计
开篇介绍在从OLTP业务数据库向DW
数据仓库
抽取数据的过程中,特别是第一次导入之后的每一次增量抽取往往会遇到这样的问题:业务数据库中的一些数据发生了更改,到底要不要将这些变化也反映到
数据仓库
中?
叫我老村长
·
2023-12-01 16:57
(免费领源码)java#ssm#mysql 招聘客户管理系统78049-计算机毕业设计项目选题推荐
摘要由于数据库和
数据仓库
技术的快速发展,招聘客户管理系统建设越来越向模块化、智能化、自我服务和管理科学化的方向发展。
2301_3224142804
·
2023-11-30 21:53
python
django
mysql
java
小程序
php
c#
c语言知识
一、内存what从硬件形态上讲,内存就是一个物理设备,从功能上讲,内存是一个
数据仓库
,程序在执行前都有被装载到内存中,才能被中央处理器处理(CPU)执行。
快乐的tomato
·
2023-11-30 18:35
电商平台
数据仓库
搭建02-Hadoop集群搭建
1,项目说明本项目来源于github电商平台
数据仓库
搭建。项目为个人学习记录,项目代码及文件可访问电商平台
数据仓库
搭建获得。2,项目准备虚拟机准备虚拟机开发工具为VMware15。
王小磊~
·
2023-11-30 13:04
电商数据仓库搭建
hadoop
数据仓库
hive
sql
大数据
数据仓库
搭建
目录1
数据仓库
概念1.1什么是
数据仓库
1.2OLTP与OLAP2项目需求及架构设计3项目框架4框架版本选型4.1Hadoop版本综述4.2社区版与第三方发行版的比较4.2.1.Apache社区版4.2.2
赵广陆
·
2023-11-30 13:32
bigdata
数据仓库
00Hadoop
数据仓库
平台
在这里是学习大数据的第一站什么是
数据仓库
常见大数据平台组件及介绍什么是
数据仓库
在计算领域,
数据仓库
(DW或DWH)也称为企业
数据仓库
(EDW),是一种用于报告和数据分析的系统,被认为是商业智能的核心组件
kk_io
·
2023-11-30 13:29
数据仓库
hadoop
数据仓库
大数据
数据仓库
数据管理模型
数据仓库
分为贴源层、
数据仓库
层、数据服务层,有人叫做数仓数据模型,或者叫"数据管理模型”。
zhulangfly
·
2023-11-30 13:52
数据仓库
大数据
历史拉链表
介绍历史拉链表历史拉链表是一种数据模型,主要针对
数据仓库
设计中表存储数据的方式而定义的。它记录一个事物从开始到当前状态的所有变化的信息。
zealscott
·
2023-11-30 12:03
2019-12-11
Hive是基于Hadoop的一个
数据仓库
工具,可以将结构化的数据文件映射为一张表,并提供类SQL查询功能。
diedfish_qyf
·
2023-11-30 11:41
【物联网与大数据应用】Hadoop数据处理
Hadoop利用分而治之的思想为大数据提供了一整套解决方案,如分布式文件系统HDFS、分布式计算框架MapReduce、NoSQL数据库HBase、
数据仓库
工具Hive等。
Bosenya12
·
2023-11-30 09:06
大数据
hadoop
分布式
AntDB“超融合+流式实时数仓”——快速实现企业全链路实时化
实时数据平台,快速实现企业全链路实时化引入
数据仓库
、数据挖掘、HTAP等先进理念,通过实时数据应用平台来装载庞大的信息量,进行实时分析处理,克服数据处理过程中的困难,是当下各企事业单位、互联网、金融,政务等行业核心系统建设的重点
亚信安慧AntDB数据库
·
2023-11-30 03:01
大数据
antdb数据库
antdb
数据库
元数据管理|Hive Hooks和Metastore监听器介绍
元数据管理是
数据仓库
的核心,它不仅定义了
数据仓库
有什么,还指明了
数据仓库
中数据的内容和位置,刻画了数据的提取和转换规则,存储了与
数据仓库
主题有关的各种商业信息。
大数据技术与数仓
·
2023-11-29 21:58
【数据挖掘】国科大刘莹老师数据挖掘课程作业 —— 第一次作业
homewrok11.假定
数据仓库
中包含4个维:date,product,vendor,location;和两个度量:sales_volume和sales_cost。
不牌不改
·
2023-11-29 20:00
【国科大】
数据挖掘
spark
大数据
【
数据仓库
】Spark算子
第一关:转换算子之map和distinct算子输出每个元素及其长度并去重。//第一步:通过获取rdd中每个元素的长度创建新的rdd1valrdd1=rdd.map(x=>x.length())//第二步:通过zip把rdd1和rdd组合创建rdd2valrdd2=rdd.zip(rdd1)//第三步:去重valrdd3=rdd2.distinct()//第四步:输出结果rdd3.foreach(p
「已注销」
·
2023-11-29 12:05
数据仓库高级技术
scala
Spark
HCIA-Big Data华为认证大数据工程师 习题册 含答案
查看课堂笔记(含习题册)目录1.大数据发展趋势与鲲鹏大数据2.HDFS分布式文件管理系统和ZooKeeper3.Hive分布式
数据仓库
4.HBase技术原理5.MapReduce和Yarn技术原理6.Spark
k Chivalrous man
·
2023-11-29 08:16
大数据
大数据
华为
ANT324 | 升级
数据仓库
ANT324|升级
数据仓库
关键字:[AmazonWebServicesre:Invent2023,AmazonRedshift,DataWarehouseModernization,RedshiftCapabilities
just2gooo
·
2023-11-29 02:57
aws
使用Kafka、Flink、Druid构建实时数据系统架构
等待数据发送到ETL工具,等待数据批量处理,等待数据加载到
数据仓库
中,甚至等待查询完成运行。
guohuang
·
2023-11-28 23:51
kafka
flink
系统架构
大数据
hive总结
Hive是基于Hadoop的
数据仓库
工具,提供了类似SQL的查询功能,可查询存储在HDFS中的数据。Hive的架构和组件包括用户接口、驱动、元数据存储和存储处理层。Hive将HQL转
墨苏玩电脑
·
2023-11-28 18:26
hive
hadoop
数据仓库
细说
数据仓库
上篇
用空间换时间,通过大量的预处理来提升应用系统的用户体验(效率),因此
数据仓库
会存在大量冗余的数据;不分层的话,如果源业务系统的业务规则发生变化将会影响整个数据清洗过程,工作量巨大。
派可数据
·
2023-11-28 18:53
数据仓库
数据要素
商业智能
spark
大数据
分布式
商业智能BI
数据仓库
数据仓库
建模下篇
在实际业务中,给了我们一堆数据,我们怎么拿这些数据进行数仓建设呢,数仓工具箱作者根据自身多年的实际业务经验,给我们总结了如下四步。数仓工具箱中的维度建模四步走:维度建模四步走这四步是环环相扣,步步相连。下面详细拆解下每个步骤怎么做1、选择业务过程维度建模是紧贴业务的,所以必须以业务为根基进行建模,那么选择业务过程,顾名思义就是在整个业务流程中选取我们需要建模的业务,根据运营提供的需求及日后的易扩展
派可数据
·
2023-11-28 18:10
商业智能
数据要素
数据仓库
数据仓库
大数据
信息可视化
数据库
HDFS与Hive实战 + 滴滴出行数据分析
HDFS与Hive实战+滴滴出行数据分析1.HDFS1.1分布式文件系统1.2HDFS的Shell命令行1.3启动Hadoop集群1.4大数据环境清单2.
数据仓库
2.1
数据仓库
与数据库区别3.Hive3.1
jialun0116
·
2023-11-28 16:41
大数据
Hive
数据仓库
数据库
数据仓库
数据挖掘
hadoop
大数据
大数据开发:实时数仓架构层次设计
在大数据实时计算处理领域,
数据仓库
提供重要的支持,从传统的离线数仓到实时数仓,大数据带动了相应的市场需求,而从架构层次来说,实时数仓也有新的值得挖掘的技术点。
成都加米谷大数据
·
2023-11-28 16:52
ODPS SQL优化总结
本文结合作者多年的数仓开发经验,结合ODPS平台分享
数据仓库
中的SQL优化经验。背景
数据仓库
,是一个面向主题、集成的、随时间变化的、信息本身相对稳定的数据集合。
小二上酒8
·
2023-11-28 14:09
odps
sql
hive
java
开发语言
StarRocks 的学习笔记
StarRocks的学习笔记文章目录StarRocks的学习笔记1.介绍1.1StarRocks特性1.2使用场景1.3OLAP多维分析1.4实时
数据仓库
1.5高并发查询1.6统一分析2.系统架构2.1StarRocks
白居不易.
·
2023-11-28 11:36
StarRocks
hive
数据仓库
-Hive1.
数据仓库
1.1.基本概念英文名称为DataWarehouse,可简写为DW或DWH。
淳●简蜡基●茨德
·
2023-11-28 10:14
hive
hive
为啥说用了Hbase速度会变快???
都知道
数据仓库
现在一般来说是Hive和kafka,数据平台目前还使用的是hive,但是hive的查询是很慢的,所以为了效率我们引入了Kylin,Kylin并没有大数据存储功能,它所做的只是将
数据仓库
里的数据预计算
AceCream佳
·
2023-11-28 06:44
详解数仓中的数据分层:ODS、DWD、DWM、DWS、ADS
何为数仓DWDatawarehouse(可简写为DW或者DWH)
数据仓库
,是在数据库已经大量存在的情况下,它是一整套包括了etl、调度、建模在内的完整的理论体系。
禅与计算机程序设计艺术
·
2023-11-28 00:17
在
数据仓库
中拉链表的使用
使用场景:在
数据仓库
中,拉链表可以用于处理维度表的历史时间变化优点:使用拉链表的优势在于能够有效地追踪维度属性的历史变化使用方法:设计拉链表结构:在维度表中添加拉链表所需字段,如开始日期,结束日期,这些字段用来表示维度属性历史变化情况初始化拉链表
linbokang
·
2023-11-27 19:15
数据仓库
数据分析
hadoop
insert overwrite table:
数据仓库
和数据分析中的常用技术
一、介绍:INSERTOVERWRITETABLE是用于覆盖(即替换)目标表中的数据的操作。它将新的数据写入表中,并删除原有的数据。这个操作适用于非分区表和分区表。二、使用场景:1、数据更新:当您需要更新表中的数据时,可以使用覆写操作。通过覆写,您可以将新的数据写入表中,替换原有的数据。这在需要定期更新或替换表中数据的情况下非常有用。2、数据重载:如果您需要重新加载表中的数据,覆写操作可以清空表并
linbokang
·
2023-11-27 19:45
数据仓库
数据分析
hive
大数据
数据仓库
,Sqoop--学习笔记
数据仓库
介绍1.
数据仓库
概念
数据仓库
概念创始人在《建立
数据仓库
》一书中对
数据仓库
的定义是:
数据仓库
(DataWarehouse)是一个面向主题的(SubjectOriented)、数据集成的(Integrated
祈愿lucky
·
2023-11-27 16:38
大数据
大数据
数据仓库
sqoop
CDP体系化建设1-CDP综述
当中会涉及到数据的集成和加工,包含对埋点、
数据仓库
的数据重定义和应用。包含标签开发管理、人群创建、人群同步等。会基于数据底层提供的查询服务,
数据产品小lee
·
2023-11-27 12:13
大数据
产品经理
数据建模
数仓分层能减少重复计算,为啥能减少?如何减少?这篇文章包懂!
很多时候,看一些数据领域的文章,说到为什么做
数据仓库
、
数据仓库
要分层,我们经常会看到一些结论:因为有ABCD…等等理由,比如降低开发成本、减少重复计算等等好处然后,多数人就记住了ABCD。
数据产品小lee
·
2023-11-27 12:42
大数据
数据仓库
数据建模
产品经理
hive杂谈
数据仓库
是一个面向主题的、集成的、非易失的、随时间变化的,用来支持管理人员决策的数据集合,
数据仓库
中包含了粒度化的企业数据。
数据仓库
的主要特征是:主题性、集成性、非易失性、时变性。
灵海之森
·
2023-11-27 06:25
hive
hadoop
数据仓库
StarRocks与ClickHouse
现在ROLAP计算存储一体的
数据仓库
主要有三种,即StarRocks(DorisDB),ClickHouse和ApacheDoris。应用最广的数据查询系统主要有Druid,Kylin和HBase。
Yuan_CSDF
·
2023-11-26 19:11
数据库
OLAP
大数据
火山引擎 ByteHouse 的增强型数据导入技术实践
作为一款OLAP引擎,火山引擎云原生
数据仓库
ByteHouse源于开源ClickHouse,在字节跳动多年打磨下,提供更丰富的能力和更强性能,能为用户带来极速分析体验,支撑实时数据
字节跳动技术团队
·
2023-11-26 13:04
火山引擎
数据仓库
:简要理解
数据仓库
是为企业所有级别的决策制定过程,提供所有类型数据支持的战略集合。它是单个数据存储,出于分析性报告和决策支持目的而创建。
宅家学算法
·
2023-11-26 08:45
Hive
数据仓库
数据仓库
的介绍
数据仓库
的基本概念
数据仓库
,英文名称为DataWarehouse,可简写为DW或DWH。
程序猿小1z
·
2023-11-25 09:49
hive
数据仓库
Hive
Hive3.1.2目录Hive3.1.21、
数据仓库
概念1.2、传统仓库面临的挑战2、Hive简介2.1、Hive的特点2.2、Hive的优缺点2.3、Hive与Hadoop生态系统中的关系2.4、Hive
忄凝^
·
2023-11-25 09:48
大数据
hadoop
大数据
hive
上一页
8
9
10
11
12
13
14
15
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他