数仓数据湖第8页

Spark内容分享(二十)：网易基于 Kyuubi + Spark 内核优化以及实践

AQE–History2.AQE–Shuffle3.AQE-SmallReducePartition4.AQE–SkewedReducePartition5.AQE–OptimizePlanKyuubi+Spark数仓类任务优化实践

之乎者也··2024-01-02 10:21

MongoDB学习红宝书 - MongoDB官网使用指南

进入网站首页后，会看到顶端简洁明了的导航栏：产品：包含云服务Atlas、MongoDBStich、Server、Compass，Charts以及最新推出的Atlas数据湖等MongoDB所有产品解决方案

MongoDB中文社区·2024-01-02 09:17

最容易出错的 Hive Sql 详解

前言在进行数仓搭建和数据分析时最常用的就是sql，其语法简洁明了，易于理解，目前大数据领域的几大主流框架全部都支持sql语法，包括hive，spark，flink等，所以sql在大数据领域有着不可替代的作用

奔跑者-辉·2024-01-02 07:30

Databricks中国启示录：一场蓄谋已久的技术与商业战 | 企服国际观察

图片来源：视觉中国ITValue6月底，刚刚结束的Data+AISummit上，Databricks宣布将数据湖表格式DeltaLake的API完全开源。

ITValue·2024-01-01 14:53

Flink的优势

主要应用场景包括实时数仓、实时大屏、实时推荐、实时报表、实时风控和实时监控，当然还有其他一些应用场景。总之，实时计算的业务需求，一般都会用Flink进行开发。

有味青年·2024-01-01 13:01

Impala导出csv文件

场景：当数仓环境为大数据集群（impala），临时从数仓取数导出为csv文件使用impala-shell命令把文件导出为本地csv文件--正常导出impala-shell-q"SELECT*FROMyour_table

n_avo7_i·2023-12-31 18:34

详解Lambda和Kappa架构的区别

二、架构详解1、随着大数据的发展，人们逐渐对系统的实时性提出了要求，为了计算一些实时指标，就在原来离线数仓的基础上增加了一个实时计

小枫@码·2023-12-31 18:55

数据湖三剑客，大数据时代的新范式？

随着互联网高速发展，大数据技术快速发展和迅速迭代，降低了用户处理海量数据的门槛，越来越多的应运场景出现在我们的身边存储和处理需求越来越多样化，逐渐呈现出数据仓库往数据湖方向发展、批处理往流式处理发展、本地部署往云模式发展的趋势

疯码牛·2023-12-31 15:33

Flink 内容分享(十八)：基于Flink＋Iceberg构建企业数据湖实战

的准备工作创建和使用CatalogIcebergDDL命令IcebergSQL查询IcebergSQL写入使用DataStream读取使用DataStream写入前言随着大数据存储和处理需求的多样化，如何构建一个统一的数据湖存储

之乎者也··2023-12-31 11:21

【为数据之道学习笔记】5-7五类数据主题联接的应用场景

目前，数据湖汇聚了大量的原始数据，用户不再需要到各个源系统调用数据，而是统一从数据湖调用。由于数据湖中的数据

码农丁丁·2023-12-31 09:36

实时数仓应用价值（下）

博客浅析研发支出费用化和资本化的区别-CSDN博客商业银行数据资产估值白皮书，推荐系统源码下载-CSDN博客用友BIP数据资产入表解决方案白皮书，推荐系统源码下载-CSDN博客六、具体五种方案的解析业界常见的实时数仓方案有这几种

Michael_Shentu·2023-12-31 00:46

Flink实时电商数仓（九）

用户注册汇总表需求分析统计各窗口的注册用户数，写入Doris思路分析读取kafka用户注册主题数据转换数据结构string->JSONObject->javaBean使用user_info表中的数据代表用户注册设置水位线开窗聚合写入Doris具体实现创建用户注册统计类继承BaseApp,设置端口，并行度，kafka消费者组，kafka主题（Topic_user_register）启动zookeep

十七✧ᐦ̤·2023-12-30 11:16

Flink实时电商数仓（八）

用户域登录各窗口汇总表主要任务：从kafka页面日志主题读取数据，统计七日回流用户：之前活跃的用户，有一段时间不活跃了，之后又开始活跃，称为回流用户当日独立用户数：同一个用户当天重复登录，只算作一个独立用户。思路分析读取kafka页面主题数据转换数据结构：String->JSONObject过滤数据，uid不为null登录的两种情况用户打开应用后自动登录用户打印应用后没有登录，浏览后跳转到登录页面

十七✧ᐦ̤·2023-12-30 09:55

读书笔记--构建数据湖仓阅读有感

为什么在数据治理过程中提出数据湖仓构建？数据湖如果没有分析基础设施的建设，就会形成数据沼泽或臭水沟，因为没有人用，也不知道数据之间的关系。

一马平川的大草原·2023-12-30 07:38

AI大模型时代下运维开发探索第二篇：基于大模型(LLM)的数据仓库

在SREWorks社区聚集了很多进行运维数仓建设的同学，大家都会遇到类似的挑战和问题：数仓中存储大量数据消耗成本，但很多存储的数据却并没有消费。

阿里云大数据AI技术·2023-12-30 07:39

数据中台-架构、构建与体系建设

构建与体系建设数据中台架构数据中台构建方法论技术体系数据体系服务体系运营体系数据中台功能架构数据中台技术架构企业构建数据中台评估统计分析阶段决策支持阶段数据驱动阶段运营优化阶段数据汇集-打破企业数据孤岛数据开发-提取数据价值数据体系建设贴源数据层ODS(OperationalDataStore)统一数仓层

Ybb_studyRecord·2023-12-30 03:53

Flink实时电商数仓之DWS层

需求分析关键词统计关键词出现的频率IK分词进行分词需要引入IK分词器，使用它时需要引入相关的依赖。它能够将搜索的关键字按照日常的使用习惯进行拆分。比如将苹果iphone手机，拆分为苹果，iphone,手机。org.apache.dorisflink-doris-connector-1.17com.janeluoikanalyzer测试代码如下：publicclassIkUtil{publicsta

十七✧ᐦ̤·2023-12-29 17:19

长文解读 "数据仓库" 面试必备知识

数仓分层数仓简介1.数据仓库和数据库的区别数据仓库：数据量特别的大，TB~PB级别会保留历史数据一般使用OLAP分析（On-LineAnalyticalProcessing），联机分析处理（聚合操作），

you的日常·2023-12-29 15:28

数据仓库-数仓优化小厂实践

大数据点滴·2023-12-29 09:25

大数据技术16：数据湖和湖仓一体

前言：近几年大数据概念很多，数据库和数据仓库还没搞清楚，就又出了数据湖，现在又开始流行湖仓一体。互联网公司拼命造高大上概念来忽略小白买单的能力还是可以的。

Java架构何哥·2023-12-29 04:05

巧妙实现四大实时功能 | Linkis与Hudi结合的数据湖构建实践

近段时间，我们也调研和实现了hudi作为我们数据湖落地的方案，他帮助我们解决了在hdfs上进行实时upsert的问题，让我们能够完成诸如实时ETL,实时对账等项目。hudi作为一个数据湖的实

康月牙·2023-12-28 20:02

分享7个Python实战项目代码，让你分分钟晋级大老！快收藏_python编程作品

听两个聊天机器人互相聊天：3、分析唐诗的作者是李白还是杜甫：4、彩票随机生成35选7：5、自动写检讨书：6、屏幕录相机，抓屏软件：7、制作Gif动图：一、Python入门二、Python爬虫三、数据分析四、数据库与ETL数仓五

老-程序员·2023-12-28 19:38

银行数仓建模方法论

随着金融行业的不断发展，银行业务越来越复杂，数据量也越来越大。为了更好地管理和利用这些数据，银行数据仓库体系应运而生。在前面的文章中，我们介绍了银行数据仓库体系的基础知识，本篇文章将重点介绍银行数据仓库体系实践（7）—数据模型设计及流程。一、数据模型设计数据模型设计是银行数据仓库体系的核心，它是对银行业务进行抽象和概括的过程。在设计数据模型时，需要考虑以下几个方面：业务需求：数据模型的设计必须符合

添柴少年yyds·2023-12-28 18:56

Hudi中MOR与COW区别，MOR表新建后ro/rt区别

近期在频繁与数据湖hudi打交道，将一些心得进行简要总结，供大家参考。

p1i2n3g4·2023-12-28 17:41

ODS DW APP DIM 数仓

ODS：通过ETL工具从源端系统抽取数据，存入ODS层；DW：从ODS层数据进行抽取并按主题进行分类存储；DWD（数据明细层）：会对ODS的数据做一定的清洗和汇总，然后生成DWM中间表；DWM（数据中间层）：对DWD中的数据按照一定维度进行汇总后，放到DWS中的一张表；DWS（数据服务层）：从DWM中间表中按主题进行高度汇总业务宽表，满足各项业务需要；APP：依据DWS中的宽表数据，进行应用（可视

p1i2n3g4·2023-12-28 17:41

数据仓库基本信息

数据仓库基本理论数据仓库（英语：DataWarehouse，简称数仓、DW）,是一个用于存储、分析、报告的数据系统。

许一世流年绝不嵩手 cium·2023-12-28 11:46

ETL项目实战--学习笔记

Extract，数据抽取=>抽取的是其他数据源中的数据T:Transform，数据转换=>将数据转换为统一的格式,消除异常值,缺失值,对于错误的逻辑进行修改L:Load，数据加载=>将不同数据源的数据处理后加载到数仓或者输出到指定位置

祈愿lucky·2023-12-28 11:46

Hive 部署

HiveMetastore（HMS）提供了一个中央元数据存储库，可以轻松地进行分析，以做出明智的数据驱动决策，因此它是许多数据湖架构的关键组件。

有人看我吗·2023-12-27 23:54

知乎实时数仓架构演进

从智能商业的角度来讲，数据的结果代表了用户的反馈，获取结果的及时性就显得尤为重要，快速的获取数据反馈能够帮助公司更快的做出决策，更好的进行产品迭代，实时数仓在这一过程中起到了不可替代的作用。

yoku酱·2023-12-27 19:34

Flink实时电商数仓之Doris框架（七）

主要实现的功能有：实时看板面向企业内部分析师和管理者的报表面向用户或者客户的高并发报表分析即席查询统一数仓构建：替换了原来由Spark,Hive，Kudu,Hbase等旧框架数据湖联邦查询：通过外表的方式联邦分析位于

十七✧ᐦ̤·2023-12-27 16:47

DataFunSummit：2023年数据湖架构峰会-核心PPT资料下载

面对如此大规模的数据，无论是分析型场景、流批一体、增量数仓都得益于湖仓一体等数据湖技术的发展而变得越来越容易解决。从核心架构、性能优化、湖仓一体、最佳实践等方面带来数据湖的最新技术和内容实践经验总结。

百家峰会·2023-12-27 16:03

从报表需求到报表开发的流程

报表开发背后涉及到需求调研和数仓开发的支持。二、目标梳理从报表需求提出到报表需求实现整个生

qq_36120059·2023-12-27 12:55

基于Kettle和帆软Finereport的血缘解析

开发人员排查数据质量问题步骤：首先和业务人员对接了解是哪里数据不准确，要定位是哪张报表，然后查看报表后面数据来源，然后一路排查数仓。往往定位到数据问题耗时比较高，开发断层导致找到相关任务比较难。

qq_36120059·2023-12-27 12:55

浅谈数据仓库运营

二、目标提高数据仓库存储性能和开发质量以及数据质量三、数据运营指标3.1开发质量表名规范性：检验数据库表名是否按照数仓表名规范，表名是否按照词根翻译字段名规范性：检验表字段名是否按照词根中文进行翻译字段类型规范性

qq_36120059·2023-12-27 12:53

Hadoop真的要死了吗？

我们已经看到了运营由这两家公司和其他公司部署的所有数据湖的巨大机会，而这样的机会在两年前可能连想都不敢想”。Conflue

伯雅之英·2023-12-27 11:23

电商数据分析-03-电商数据采集

第1章数据仓库概念数据仓库规划1.1数仓搭建我们这里所说的数据仓库，是基于大数据体系的，里面包含标签类目，区别于传统的数据仓库。下面我们来将这张图分解，逐个做简要分析。

IT从业者张某某·2023-12-27 11:14

电商数据分析-02-电商业务介绍及表结构

参考电商业务简介大数据项目之电商数仓、电商业务简介、电商业务流程、电商常识、业务数据介绍、电商业务表、后台管理系统可以把excel复制为markdown的网站举个例子:1.1电商业务流程电商的业务流程可以以一个普通用户的浏览足迹为例进行说明

IT从业者张某某·2023-12-27 11:14

数据分享 I 2022年各省市POI数据，数据总量上亿，推荐下载！

数据名称:POI数据数据格式:Shp、Excel数据时间:2022年数据几何类型:点数据坐标系:WGS84坐标系数据来源：网络公开数据湖北省POI数据示意图广东省POI数据示意图上海市POI数据示意图浙江省

吧唧数据·2023-12-27 09:59

数据库开发常见面试题

ORACLE和kettle1、DeleteTruncateDrop区别2、DML、DDL3、经常使用到得函数4、KETTLE内存溢出解决方案5、kettle中黄色的锁，绿色的对勾，红色的停止代表的意思6、数仓架构

'接受现实'·2023-12-27 06:54

hive学习笔记

一、Hive基本概念1.1hive是什么hive是基于hadoop的一个数仓分析工具，hive可以将hdfs上存储的结构化的数据，映射成一张表，然后让用户写HQL(类SQL)来分析数据telupdown138383843813451567138383843953451567138383844012411657713838384413453157571383838434353551567567

不爱吃鱼的馋猫·2023-12-27 06:05

从零开始学大数据框架Hudi，这些学习网站，助你一臂之力！

介绍：ApacheHudi是一个开源的流数据湖平台，由Uber开发并现在已经成为Apache的顶级项目。

知识分享小能手·2023-12-26 20:39

大数据实战项目 -- 实时数仓

文章目录一、实时数据1.1日志采集器1.1日志生成器1.3日志分发器1.4采集流脚本二、实时采集2.1项目搭建2.2Kafka数据获取2.3Redis数据去重2.4ES数据存储2.5精准一次性消费2.6Kibana可视化配置2.7发布数据接口三、实时监控3.1Canal3.1.1配置MySQL3.1.2安装canal3.2CanalODS层数据分流3.3Maxwell3.4MaxwellODS层数

L小Ray想有腮·2023-12-26 18:53

电商数仓笔记7_数据仓库系统（数仓搭建-DWD层，数仓搭建-DWS层，数仓搭建-DWT层，数仓搭建-ADS层）

电商数仓一、数仓搭建-DWD层1、DWD层（用户行为日志）（1）日志解析思路（2）get_json_object函数使用（3）启动日志表（4）页面日志表（5）动作日志表（6）曝光日志表（7）错误日志表（

明灭18·2023-12-26 17:47

电商数仓笔记6_数据仓库系统（数仓搭建-ODS层，数仓搭建-DIM层）

电商数仓一、数仓搭建-ODS层1、ODS层（用户行为数据）（1）创建日志表ods_log（2）Shell中单引号和双引号区别（3）ODS层日志表加载数据脚本2、ODS层（业务数据）（1）ODS层业务表首日数据装载脚本

明灭18·2023-12-26 17:17

四、电商数据仓库系统——第5章数据仓库设计

5.1数据仓库分层规划优秀可靠的数仓体系，需要良好的数据分层结构。合理的分层，能够使数据体系更加清晰，使复杂问题得以简化。以下是该项目的分层规划。5.2数据仓库构建流程以下是构建数据仓库的完整流程。

怕被各位卷死·2023-12-26 17:47

电商数仓项目----笔记七(数仓DIM层)

所谓的维度层其实就是分析数据的角度，维度层保存的表其实是分析数据的角度，比如：--性别，年龄，品牌，品类这层的表主要用于统计分析，因此DIM层的数据存储格式为orc列式存储+snappy压缩（时间短）orc列式存储的好处：查询的时候不需要扫描全部的数据，而只需要读取每次查询涉及的列，这样可以将I/O消耗降低N倍，另外可以保存每一列的统计信息(min、max、sum等)，实现部分的谓词下推。由于每一

zmx_messi·2023-12-26 17:16

Iceberg1.4.2 java 表管理（DDL和DML）操作

数据湖目前最大的问题是缺少数据治理能力，像元数据管理，表管理等能力都没有，一般这种管理需要通过web应用进行管理。

smileyboy2009·2023-12-26 10:26

idea开发delta.io数据湖

delta.io是三大数据湖之一，Iceberg和hudi.国内人用的比较多，delta国外的大厂用的比较多，主要来源与databrack.像苹果，adobe，阿里等公司用的是delta.io，相对来说比较成熟一些

smileyboy2009·2023-12-26 10:52

Flink电商实时数仓（六）

交易域支付成功事务事实表从topic_db业务数据中筛选支付成功的数据从dwd_trade_order_detail主题中读取订单事实数据、LookUp字典表关联三张表形成支付成功宽表写入Kafka支付成功主题执行步骤设置ttl，通过Intervaljoin实现左右流的状态管理获取下单明细数据：用户必然要先下单才有可能支付成功，因此支付成功明细数据集必然是订单明细数据集的子集。要注意：Interv

十七✧ᐦ̤·2023-12-26 07:25

打造绿色计算数智动力 HashData 入选“绿色计算最具价值解决方案”

酷克数据（HashData）作为国内云原生数仓领军企业，受邀参加本次大会，为观众呈现了HashData云数仓的技

HashData酷克数据·2023-12-26 00:53

推荐频道

数仓数据湖