数据仓库数据中台数据湖第29页

Maxcompute批量分区删除

ps:Maxcompute数据仓库建设的分享。

Wesin·2023-10-17 10:41

大数据开发复习（1）

就业岗位介绍面试流程最重要的是简历基础复习JavamysqlLinuxday02HDFSMapReducehive(sqlboy)HBASEday03kafkaredisesday04scalasparkflinkday05etl数据仓库

小码上线·2023-10-17 09:55

数据批处理速度慢？不妨试试这个

大部分业务统计都会要求以某日作为截止点，而且为了不影响生产系统的运行，跑批任务一般会在夜间进行，这时候才能将生产系统当天产生的新明细数据导出来，送到专门的数据库或数据仓库完成跑批

字母哥课堂·2023-10-17 08:47

金融用户实践｜分布式存储支持数据仓库业务系统性能验证

作者：深耕行业的SmartX金融团队闫海涛估值是指对资产或负债的价值进行评估的过程，这对于投资决策具有重要意义。每个金融公司资管业务人员都期望能够实现实时的业务估值，快速获取最新的数据和指标，从而做出更明智的投资决策。为了更好地实现实时估值，某金融客户使用SmartX分布式块存储产品SMTXZBS进行系统性能优化探索，并与本地硬盘环境进行了对比测试。本文将重点分享客户在估值业务系统效率提升方向上所

志凌海纳SmartX·2023-10-17 01:22

什么是商业智能（BI），就看这篇文章足够了

百度商业智能BI有很多很多官方的定义，各种解释，实际上从这么多年的经验出发，对商业智能BI的定义我认为不需要弄得很复杂，就三条：第一，商业智能BI是一套完整的由数据仓库、查询报表、数据分析等组成的数据类技术解决方案

派可数据BI可视化·2023-10-17 00:50

数据仓库的基本概述之扫盲系列

数据仓库的诞生原因随着互联网的普及，信息技术已经深入到各行各业，并逐步融入到企业的日常运营中。然而，当前企业在信息化建设过程中遇到了一些困境与挑战。1、历史数据积存。

派可数据BI可视化·2023-10-17 00:50

数字化时代，数据仓库究竟是干什么的？

无论你是否专门从事大数据开发，作为一个开发人员，应该都听说过数据仓库的概念，那你知道为什么会出现数据仓库？数据仓库究竟是干嘛的吗？有什么价值和意义呢？那么本文就带到入门，揭开数据仓库的面纱。

派可数据BI可视化·2023-10-17 00:16

数仓建设规范说明书

概述本⽂档是数据仓库规范设计说明书，旨在规范化、统⼀化数据仓库整体建设。通过数仓架构设计、数仓模型设计、数仓开发规范、数据质量规范这四个⽅⾯对整体数仓建设做好规范化的指导。

贾斯汀玛尔斯·2023-10-16 18:39

LAS Spark 在 TPC-DS 的优化揭秘

TPC-DS是一个模拟复杂数据仓库环境的测试基准，LASSpark通过采用规则优化、缓存优化和运行时优化三类优化策略，实现了超越社区版本的巨大性能提升，且已在内部生产环境得到验证。文末更有专属彩

字节数据平台·2023-10-16 14:26

「数仓建设」主题域划分

一、前言数据仓库具有面向主题的特性，那么就会有主题的概念，数仓建设是遵循纵向分层开发，横向划分主题域设计，数仓分层就不在这次谈了，这次我会结合本人数仓工作实践总结的经验来聊聊数仓主题域划分，同时会引申出主题划分

大数据阶梯之路·2023-10-16 12:38

阿里云“玩转云上 StarRocks3.0 湖仓分析”，开启数据分析新范式

通过存算分离架构，帮助用户降低存储成本、提升计算弹性；通过数据湖

阿里云大数据AI技术·2023-10-16 12:27

SQL Server 2005 中的商务智能和数据仓库

SQLServer2005中的商务智能和数据仓库(1)【导读】本文概述了SQLServer2

yangwl·2023-10-16 09:19

【大数据】 Hive安装【学习笔记】

什么是HiveHive是一个数据仓库基础设施工具，用于处理Hadoop中的结构化数据。它位于Hadoop的顶部，用于汇总大数据

一个平凡de人·2023-10-16 06:31

Hive-SQL学习笔记

HIVE-SQLDDL（DataDefinationLanguage）DML（Datamanipulationlanguage）DQL（dataquerylanguage）Hive是基于Hadoop的一个数据仓库工具

Sais_Z·2023-10-16 06:00

大数据--hive学习笔记

一、Hive简介建立在Hadoop之上的数据仓库架构hive的设计目标：可伸缩、可扩展、容错及输入格式松耦合！一套方便的实施数据抽取（ETL）的工具。一种让用户对数据描述其结构的机制。

TaroLee·2023-10-16 06:29

缩略语

MV-MachineVision-机器视觉DL-DeepLearning-深度学习；DM-DataMining-数据挖掘；DS-DataSciences-数据科学；DW-DataWarehousing-数据仓库

小白学步·2023-10-16 03:49

Doris入门了解

Doris（以前称为Palo）是一种用于大规模数据存储和分析的开源分布式数据仓库，它允许您高效地存储和查询大量数据，是大数据处理生态系统的一部分。

花开终为谢·2023-10-16 01:15

【大数据】Apache Hive数仓（学习笔记）

一、数据仓库基础概念1、数仓概述数据仓库（数仓、DW）：一个用于存储、分析、报告的数据系统。OLAP（联机分析处理）系统：面向分析、支持分析的系统。

rexhao_wmh·2023-10-15 15:36

大数据技术Hive详解

Hive是基于Hadoop的一个数据仓库工具，可以将结构化的数据文件映射为一张表，并提供类SQL查询功能。本质是：将HQL转化成MapReduce程序。

wespten·2023-10-15 12:04

Hadoop Hive sql 语法详解

Hive是基于Hadoop构建的一套数据仓库分析系统，它提供了丰富的SQL查询方式来分析存储在Hadoop分布式文件系统中的数据，可以将结构化的数据文件映射为一张数据库表，并提供完整的SQL查询功能，可以将

hong2511·2023-10-15 12:30

走进Hive

什么是HiveHadoop的一个数据仓库工具，可以将结构化的数据文件映射为一张数据库表，并提供类SQL查询功能，构建在分布式HDFS系统运行的数据库应用场景大数据集的批处理作用，做离线的数据分析日志分析多维度数据分析海量结构化数据离线分析统计网站一个时间段内的

、小H·2023-10-15 09:15

反范式化设计

反范式化设计通常用于需要高度优化的读取密集型应用程序，如数据仓库和大数据分析。其实就是使用空间来换取时间。

冷风扇666·2023-10-15 06:26

数据湖和数据仓库的区别？

进行数据分析工作的时候会用到很多的工具，比如说数据湖和数据仓库，不过这两者之间的差异和区别，可能会让人困惑。那么大家知道不知道数据湖和数据仓库的区别是什么呢？

RonnieZhang1989·2023-10-15 03:25

与其他云提供商相比，Azure 中的分析速度快 14 倍，成本却低 94％。为什么还要寻寻觅觅？

只有Azure能够提供从数据提取到存储到数据仓库再到机器学习和商业智能的最全面的分析服务组合。每一项服务都经过精心调整，能够以无与伦比的价值提供行业领先的性能、安全性和易用性。

醍醐灌顶·2023-10-14 23:48

用于数据仓库现代化的云原生数据流的案例

数据仓库现代化，从使用Stitch的批处理ETL到使用Kafka的流式ETL大多数组织的用例简单且标准：提取、转换和加载(ETL)Salesforce数据到GoogleBigQuery数据仓库，以便企业可以使用这些数据

wouderw·2023-10-14 23:45

新一代大数据技术：构建PB级云端数仓实践

在数据大爆炸时代，随着企业的业务数据体量的不断发展，半结构化以及无结构化数据越来越多，传统的数据仓库面临重大挑战。

腾讯云开发者·2023-10-14 23:07

Google云平台构建数据ETL任务的最佳实践

假设我们的业务场景需要定期从Kafka中获取数据，经过一些数据清洗，数据关联，数据Enrich操作之后，把数据写入到Bigquery数据仓库，从而方便以后生成统计分析报表。Go

gzroy·2023-10-14 23:04

大数据学习(11)-hive on mapreduce详解

&&大数据学习&&系列专栏：哲学语录:承认自己的无知，乃是开启智慧的大门如果觉得博主的文章还不错的话，请点赞+收藏⭐️+留言支持一下博>主哦前面的学习我们知道Hive是一个基于Hadoop的数据仓库工具

viperrrrrrr·2023-10-14 22:31

人大金仓分析型数据库分区表介绍

表分区是逻辑的：数据库在逻辑上划分大表来提升查询性能并且有利于数据仓库维护任务，例如把旧数据移出数据仓库。

天宫空间站·2023-10-14 18:56

大中型机场基于效能的机场运行管理体系（PBAM）探讨

这些问题包括：1.基于机场业务运行的单一领域而非跨领域的流程需求设计，业务烟囱和数据断点始终存在；2.大力建设的数据中台项目，产出的数据普遍未实际反哺和促进各类应用

机场信息系统研究员·2023-10-14 14:15

二、SpringCloud Alibaba + Spring Boot + mybatis +数据中台+多租户saas+前后端分离Spring Cloud Alibaba Nacos之服务注册中心入门

1.Nacos简介1.1.为什么叫Nacos？前四个字母分别为Naming和Configuration的前两个字母，最后的s为service。1.2.Nacos是什么？nacos是第二代微服务SpringCloudAlibaba开源的一款注册中心和分布式配置中心组件，其功能上为第一代微服务SpringCloud中Eureka和Config的结合体。简而言之，Nacos可以实现分布式服务注册与发现和

m0_68459853·2023-10-14 13:30

数据仓库DW-理论知识储备

数据仓库DW数据仓库具备采集数据、分析数据、存储数据的功能，最后得出一些有用的数据，一些目标数据来使用。采集来自不同源的数据，然后对这些数据进行分析和计算得出一些有用的指标，提供数据决策支持。

躺着听Jay·2023-10-14 09:37

hive 复合类型_Hive实战：详解Hive复合数据类型

1.概述Hive作为大数据中离线数据的存储,并把Hive作为构建数据仓库的环境，一般情况下数据仓库的数据类型都是基本数据类型如int、string、double等，但是有时候也会需要一些复合数据结构来存储数据

杨海宏·2023-10-14 04:51

starrocks

starrocks分布式OLAP数据库系统，高效支持大数据量级的多维分析、实时分析、高并发分析等多种数据分析场景定位面向在线报表和分析的数据仓库系统。它采用了全面向量化技术，比同类产品平均快3-5倍。

EnndmeRedis·2023-10-14 01:44

Flink CDC使用DataStream API方式同步数据到Iceberg数据湖

目录1.背景2.同步表情况3.程序4.结果说明1.背景虽然使用SQL的方式进行同步非常方便。但是该方式，每向一个Iceberg目标表导入数据，都会向集群提交一个Application，非常消耗集群的资源通过DataStreamAPI的方式，可以只检索Mysql的数据源一次，就可同步多个数据库的多个数据表。然后通过Flink的SideOutput将数据分成多个流。然后再将多个流分别导入到不同的Ice

Bulut0907·2023-10-14 01:45

apache atlas 案例_元数据治理 Apache Atlas

采用Hadoop必须考虑数据管理的实际情况，元数据与数据治理成为企业级数据湖的重要部分。该项

CelioHsu·2023-10-13 18:47

Apache atlas 元数据管理治理平台使用和架构

随着企业业务量的逐渐膨胀，数据日益增多，不同业务线的数据可能在多种类型的数据库中存储，最终汇集到企业的数据仓库中进行整合分析，这个时候如果想要追踪数据来源，理清数据之间的关系将会是一

白鸽呀·2023-10-13 18:13

Vuex获取、修改参数值及异步数据处理

可以将其想象为一个“前端数据库”（数据仓库），让其在各个页面上实现数据的共享包括状态，并且可操作。（核心就是解决组件间的通讯问题）1.2vuex核心State（单一状态树）：存储

Java_文昊‍️·2023-10-13 14:15

MaxCompute全套攻略

概况介绍大数据计算服务(MaxCompute，原名ODPS，产品地址：https://www.aliyun.com/product/odps)是一种快速、完全托管的TB/PB级数据仓库解决方案。

JQW_FY·2023-10-13 13:08

阿里巴巴大数据计算平台MaxCompute全套攻略

大数据计算服务(MaxCompute，原名ODPS)是一种快速、完全托管的TB/PB级数据仓库解决方案。

chulicheng5417·2023-10-13 13:36

建立hive-solr外部映射表用于solr4版本

hive-solr4使用Hive读写solr4，由于市面上没有solr4这个版本的组件于是我自己根据hive-solr5的代码改了一个（一）Hive+Solr简介Hive作为Hadoop生态系统里面离线的数据仓库

胖子捏肚子·2023-10-13 13:55

【Vue】之Vuex的入门使用，取值，修改值，同异步请求处理---保姆级别教学

可以想象为一个“前端数据库”（数据仓库），让其在各个页面上实现数据的共享包括状态，并且可操作1.2Vuex的核心概念State（状态）

Love-Java.·2023-10-13 09:46

hive小文件合并机制_转：Hive小文件合并

但是在数据仓库中，越是上层的表其汇总程度就越高，数据量也就越小。而且这些表通常会按日期进行分区，随着时间的推移，HDFS的文件数目就会逐渐增加。

亿码数码·2023-10-13 08:56

hive小文件合并机制_hive小文件合并

但是在数据仓库中，越是上层的表汇总程度就越高，数据量也就越小，而且这些表通常会有日期分区，随着时间的推移，HDFS的文件数目就会逐步增加。

大Victor·2023-10-13 08:56

AI数据中台：企业数字化转型的加速引擎丨曼孚科技

20世纪90年代中后期，企业信息化转型进入快速发展时期，此阶段企业内部IT建设主要以数据库、ERP为主。当业务部门面临新需求或者出现新问题时，企业技术部门往往需要从业务需求的探查、技术壁垒的打通等从上到下各个方面来建设新系统。长此以往，企业内部业务体系形成以烟囱架构形式存在的系统，每个系统的建成都自成一体，每个部门各自满足业务部门的需求。随着移动互联网技术的不断发展，信息传递速度进一步加快。通过移

曼孚科技·2023-10-13 03:53

软件设计师学习笔记（六）数据库技术基础（一）

数据库技术基础（一）一、数据库基本概念1、数据库体系结构1、分布式数据库特点2、分布式数据库透明性2、三级模式结构——三级模式和两级映射3、数据仓库二、数据库设计过程三、概念设计阶段1、概念设计过程2、

ؓ初尘·2023-10-13 00:23

软件设计师笔记之数据库系统基础

（1）数据库模型（概念模式、外模式、内模式）（2）数据模型，ER图，规范化（3）数据操作（4）数据库语言（5）数据库管理系统的功能和特征（6）数据库的控制功能（7）数据仓库和分布式数据库基础知识数据库系统的考点主要集中在

Zcoder`Blog·2023-10-13 00:50

结合数据中台的政务数据共享体系

数据中台数据中台更强调数据模型的统一构建技术数据的综合利用，而数据将会在数据中心进行统一的落地服务管理。

XLBJ·2023-10-12 22:00

初学Docker容器网络不得不看的学习笔记

【技术沙龙002期】数据中台：宜信敏捷数据中台建设实践|宜信技术沙龙将于5月23日晚8点线上直播，点击报名一、关于DockerDocker是一个开源的应用容器引擎，基于Go语言并遵从Apache2.0协议开源

宜信技术学院·2023-10-12 17:54

Dremio：新一代数据湖仓引擎

Dremio数据湖引擎1、什么是Dremio2、数据湖仓2.1、什么是数据湖仓2.2、数据湖仓的历史和演变2.3、开放数据对数据湖和湖仓的重要性2.4、数据湖仓的作用2.5、数据湖仓如何工作2.6、数据湖仓的元素

对许·2023-10-12 15:03

推荐频道

数据仓库数据中台数据湖