数仓数据质量

实时数仓Hologres：推出计算组实例/支持JSON数据/向量计算+大模型等新能力

阿里云ODPS系列产品以MaxCompute、DataWorks、Hologres为核心，致力于解决用户多元化数据的计算需求问题，实现存储、调度、元数据管理上的一体化架构融合，支撑交通、金融、科研、等多场景数据的高效处理，是目前国内最早自研、应用最为广泛的一体化大数据平台。本期将重点介绍Hologres推出计算组实例Hologres支持JSON数据Hologres向量计算+大模型能力Hologre
阿里云云栖号·2023-09-28 10:34

ArcGIS操作小技巧(二)之网络路径分析

本次操作小技巧主要目的是：验证矢量化路网的连通性与路径最短的可选择性，用来解决多重条件下路径最优问题；其次可以为导航、选路、配送等开发工作提供数据质量的保证。
ZHOU-LONG·2023-09-28 10:52

大数据架构师——音乐数据中心平台离线数仓综合项目（三）

文章目录音乐数据中心平台离线数仓综合项目第二个业务：机器详细信息统计需求模型设计数据处理流程1.将数据导入MySQL业务库2.使用Sqoop工具抽取数据到HiveODS层3.使用SparkSQL对ODS
讲文明的喜羊羊拒绝pua·2023-09-27 23:11

离线数仓搭建_09_ODS层数据导入

文章目录11.0数仓搭建ODS层11.1ODS层（用户行为数据11.1.1创建日志表ods_log11.1.2Shell中单引号和双引号区别11.1.3ODS层日志表加载数据脚本11.2ODS层（业务数据
Fang GL·2023-09-27 23:39

1——Hive数仓项目完整流程（在线教育）

目录前言一、项目架构二、软件相关作用1.大数据相关软件2.数仓2.1数据仓库与数据库2.2数据仓库和数据集市2.3维度分析2.4指标3.数仓建模3.1建模理论3.2维度建模3.3维度建模的三种模型3.4
@—笨小孩—@·2023-09-27 23:39

Hive+Spark离线数仓工业项目--ODS层及DWD层构建（1）

目标：自动化的ODS层与DWD层构建实现-掌握Hive以及Spark中建表的语法规则-实现项目开发环境的构建-自己要实现所有代码注释-ODS层与DWD层整体运行测试成功数仓分层回顾目标：回顾一站制造项目分层设计实施
骨灰级收藏家·2023-09-27 23:38

一百八十三、大数据离线数仓完整流程——步骤二、在Hive的ODS层建外部表并加载HDFS中的数据

一、目的经过6个月的奋斗，项目的离线数仓部分终于可以上线了，因此整理一下离线数仓的整个流程，既是大家提供一个案例经验，也是对自己近半年的工作进行一个总结。
天地风雷水火山泽·2023-09-27 23:07

如何做数据测试？

--转自挖数网自己备份用这个网貌似挂掉了数据质量是数据应用的核心基础，数据测试是非常重要的一环，若质量把控不够严格，后续所有的行为都可能有偏差甚至错误，所以做好数据测试很关键，如下是针对怎样做好数据测试的一些总结核心理论以小博大
Ryan96·2023-09-27 21:58

储存过程之拉链表

很多做数仓的朋友在面试的时候都会被问到，你写过的最难的存储过程是什么，这时候我们都会想到拉链表，拉链表真的那么难吗，下面我简单介绍一下拉链表作用，以及制作思路，希望可以帮到你。
yuxiu_1191610370·2023-09-27 20:47

数仓_Hive全部基础知识点

文章目录1Hive入门1.1什么是Hive1.2Hive的优缺点1.2.1优点1.2.2缺点1.3Hive架构原理1.4Hive和数据库的比较1.4.1查询语言1.4.2数据存储位置1.4.3数据更新1.4.4索引1.4.5执行1.4.6执行延迟1.4.7可扩展性1.4.8数据规模2Hive安装2.1Hive安装地址2.2Hive安装部署3Hive数据类型3.1基本数据类型3.2集合数据类型3.3
oifengo·2023-09-27 20:45

Hive数仓项目之数仓分层、数仓工具的使用

往期内容：Hive数仓项目架构说明、环境搭建及数据仓库基础知识今日内容:1)教育项目数仓分层(知道,明确每一层的作用)2)数仓工具的相关的使用(操作)2.1HUE相关的使用(操作HDFSHIVE,OOZIE
黑马程序员官方·2023-09-27 20:14

Hive电商数仓实战

项目描述以电商数据为基础，详细介绍数据处理流程，结合hive数仓、spark开发采用多种方式实现大数据分析。
GoAI·2023-09-27 20:14

数仓开发常用hive命令

在做数仓开发或指标开发时，是一个系统工程，要处理的问题非常多，经常使用到下面这些hive命令：内部表转外部表altertable${tablename}settblproperties('EXTERNAL
大模型大数据攻城狮·2023-09-27 20:41

数据标准--实战

我们期望将数据标准真正应用到实践中去，帮助客户解决资产化不足、数据质量难以提升、数据开发效率低等问题，于是网易开始了数据标准的建设。
000X000·2023-09-27 19:11

实时数仓混沌演练实践

一、背景介绍目前实时数仓提供的投放实时指标优先级别越来越重要，不再是单独的报表展示等功能，特别是提供给下游规则引擎的相关数据，直接对投放运营的广告投放产生直接影响，数据延迟或者异常均可能产生直接或者间接的资产损失
得物技术·2023-09-27 17:12

详解flink中Look up维表的使用

维表是一个很常见的概念，一般用于sql的join中，对流式数据进行数据补全，比如我们的sourcestream是来自日志的订单数据，但是日志中我们只是记录了订单商品的id，并没有其他的信息，但是我们把数据存入数仓进行数据分析的时候
大数据技术与应用实战·2023-09-27 17:19

实时数仓入门训练营：实时计算 Flink 版 SQL 实践

简介：《实时数仓入门训练营》由阿里云研究员王峰、阿里云高级产品专家刘一鸣等实时计算Flink版和Hologres的多名技术/产品一线专家齐上阵，合力搭建此次训练营的课程体系，精心打磨课程内容，直击当下同学们所遇到的痛点问题
阿里开发者·2023-09-27 16:14

大数据Flink（九十）：Lookup Join（维表 Join）

文章目录LookupJoin（维表Join）LookupJoin（维表Join）LookupJoin定义（支持Batch\Streaming）：LookupJoin其实就是维表Join，比如拿离线数仓来说
Lansonli·2023-09-27 09:42

Databend 开源周报第112期

Databend是一款现代云数仓。专为弹性和高效设计，为您的大规模分析需求保驾护航。自由且开源。即刻体验云服务：https://app.databend.cn。
Databend·2023-09-27 09:20

基于 DTS 同步 MySQL 全增量数据至 CKafka，构建实时数仓的最佳实践

背景介绍随着IT技术与大数据的不断发展，越来越多的企业开始意识到数据的价值，通过大数据分析，可以帮助企业更深入地了解用户需求、更好地洞察市场趋势。目前大数据分析在每个业务运营中都发挥着重要作用，成为企业提升市场竞争力的关键举措之一。通常企业会构建数据湖仓，将多个数据源通过数据集成技术，汇集一起进行数据分析。由此，数据集成成为了构建数据湖仓的必经之路，然而企业在数据集成过程中却面临很多棘手问题。全量
·2023-09-26 21:29

腾讯音乐基于 Apache Doris + 大模型构建全新智能数据服务平台

在内容数仓搭建的过程中，我们的工作始终围绕降本增效为主要目的进行优化与迭代，希望在数据服务方面不断提升产品工具的开发与分析效率，同时在数仓架构方面能够有效减少架构成本与资源开销。
·2023-09-26 19:55

Spark或Hive数仓生命周期管理

在做数仓开发过程中，遇到一个问题就是随着数据量增大，存储空间增加惊人：hdfs的文件要存3份（可以修改副本份数），ods、dwd、dws、ads等各层都需要存储空间，指标计算过程如果内存不够又会缓冲在硬盘
大模型大数据攻城狮·2023-09-26 06:50

二维码智慧门牌管理系统：智能化地址管理，提升社会治理效率

一、地址管理挑战在本市，地址未标准化导致的地址名称混乱，同一地址多个名称带来的数据应用难题，部门间缺乏协同工作导致数据质量下降，流动
产品顾问徐文·2023-09-26 03:40

LLM-TAP随笔——语言模型训练数据【深度学习】【PyTorch】【LLM】

文章目录3、语言模型训练数据3.1、词元切分3.2、词元分析算法3、语言模型训练数据数据质量对模型影响非常大。典型数据处理：质量过滤、冗余去除、隐私消除、词元切分等。
来杯Sherry·2023-09-26 03:00

CC00055.pbpositions——|Hadoop&PB级数仓.V13|——|PB数仓.v13|核心交易分析|DWS层建表|加载数据|

一、DWS层建表及数据加载说明###---DIM、DWD=>数据仓库分层、数据仓库理论~~~#需求：计算当天~~~全国所有订单信息~~~全国、一级商品分类订单信息~~~全国、二级商品分类订单信息~~~大区所有订单信息~~~大区、一级商品分类订单信息~~~大区、二级商品分类订单信息~~~城市所有订单信息~~~城市、一级商品分类订单信息~~~城市、二级商品分类订单信息###---需要的信息：订单表、订
yanqi_vip·2023-09-25 21:38

大数据-案例-离线数仓-在线教育：MySQL(业务数据)-ETL(Sqoop)-＞Hive数仓【ODS层-数据清洗-＞DW层(DWD-统计分析-＞DWS)】-导出(Sqoop)-＞MySQL-＞可视化

一、商业BI系统概述商业智能系统，通常简称为商业智能系统，是商业智能软件的简称，是为提高企业经营绩效而采用的一系列方法、技术和软件的总和。通常被理解为将企业中的现有数据转换为知识并帮助企业做出明智的业务决策的工具。BI系统中的数据来自企业的其他业务系统。例如，一个面向业务的企业，其业务智能系统数据包括业务系统订单、库存、交易账户、客户和供应商信息，以及企业所属行业和竞争对手的数据，以及其他外部环境
u013250861·2023-09-25 21:37

【离线数仓-9-数据仓库开发DWS层设计要点-1d/nd/td表设计】

离线数仓-9-数据仓库开发DWS层设计要点-1d/nd/td表设计离线数仓-9-数据仓库开发DWS层设计要点-1d/nd/td表设计一、DWS层设计要点二、DWS层设计分析-1d/nd1.DWS层设计一
Apache Minor Trend·2023-09-25 21:37

一百八十五、大数据离线数仓完整流程——步骤四、在Hive的DWD层建动态分区表并动态加载数据

一、目的经过6个月的奋斗，项目的离线数仓部分终于可以上线了，因此整理一下离线数仓的整个流程，既是大家提供一个案例经验，也是对自己近半年的工作进行一个总结。
天地风雷水火山泽·2023-09-25 21:07

一百八十七、大数据离线数仓完整流程——步骤六、在ClickHouse的ADS层建表并用Kettle同步Hive中DWS层的结果数据

一、目的经过6个月的奋斗，项目的离线数仓部分终于可以上线了，因此整理一下离线数仓的整个流程，既是大家提供一个案例经验，也是对自己近半年的工作进行一个总结。
天地风雷水火山泽·2023-09-25 21:07

一百八十四、大数据离线数仓完整流程——步骤三、在Hive中建基础库维度表并加载MySQL中的维度表数据

一、目的经过6个月的奋斗，项目的离线数仓部分终于可以上线了，因此整理一下离线数仓的整个流程，既是大家提供一个案例经验，也是对自己近半年的工作进行一个总结。
天地风雷水火山泽·2023-09-25 21:06

离线数仓问题总结

一、采集1.1maxwell中的默认JDBC驱动包其版本不适用于MySQL5.7版本二、数仓2.1关于hive如何支持json类型的字段主要在建表语句上指定上DROPTABLEIFEXISTSods_log_inc
落花雨时·2023-09-25 20:36

离线数仓——（活跃用户ODS层建表及加载数据，活跃用户DWD层建表及加载数据，活跃用户DWS层建表及加载数据，活跃用户ADS层建表及加载数据）

文章目录活跃用户ODS层建表及数据加载活跃用户DWD层建表及加载数据活跃用户活跃用户DWS层建表及加载数据活跃用户ADS层建表及加载数据活跃用户ODS层建表及数据加载离线数仓架构如下图所示：详细概念参考数据仓库
想做CTO的任同学...·2023-09-25 20:36

2——Hive数仓项目完整流程（在线教育）

在线教育（二）在线教育（二）在线教育（二）一、教育项目数仓分层1.1原有基础分层1.2教育项目分层二、数仓工具的使用2.1HUE的使用2.2Sqoop的使用三、全部流程3.1全量数据流程3.1.1需求分析
@—笨小孩—@·2023-09-25 20:06

离线数仓的概述

1、数仓的概述数仓主要是用于数据的存储、管理和分析数仓与关系型数据库最大的区别在于能够存储历史数据,后续可以将数据按照时间曲线分析。
m0_37759590·2023-09-25 20:05

离线数仓 (十四) --------- DWS 层搭建

目录一、系统函数1.nvl函数2.日期处理函数3.复杂数据类型定义二、DWS层1.访客主题2.用户主题3.商品主题4.优惠券主题5.活动主题6.地区主题7.DWS层首日数据装载脚本8.DWS层每日数据装载脚本一、系统函数1.nvl函数A、基本语法NVL(表达式1，表达式2)如果表达式1为空值，NVL返回值为表达式2的值，否则返回表达式1的值。该函数的目的是把一个空值(null)转换成一个实际的值。
在森林中麋了鹿·2023-09-25 20:05

黑马Hive+Spark离线数仓工业项目--数仓维度层DWS层构建（2）

日期时间维度设计目标：掌握日期时间维度的需求与设计路径-step1：需求-step2：设计实施需求：构建日期时间维度表，得到所有年、季度、月、周、日的维度信息统计不同时间维度下的呼叫次数、工单数、维修数、安装数、报销金额、核销数等设计-数据来源：提前通过程序生成构建，不是从数据中抽取-执行周期：每一年生成下一年的每一天的维度信息，**增量**同步到维度表的分区中日期时间维度构建目标：实现日期时间维
骨灰级收藏家·2023-09-25 20:34

【大数据课程】高途课程实践-Day02：利用Hive SQL编写离线数仓实现可视化展示...

〇、概述1、实现内容使用HiveSQL编程，构造分层离线数仓并可以通过QuickBi进行展示2、过程(1)数据接⼊到ODS层(2)进⾏ODS到DWD层数据开发(3)进⾏ODS到DIM层数据开发a.创建【
哥们要飞·2023-09-25 20:34

一百八十六、大数据离线数仓完整流程——步骤五、在Hive的DWS层建动态分区表并动态加载数据

一、目的经过6个月的奋斗，项目的离线数仓部分终于可以上线了，因此整理一下离线数仓的整个流程，既是大家提供一个案例经验，也是对自己近半年的工作进行一个总结。
天地风雷水火山泽·2023-09-25 20:01

天软特色因子看板 (2023.09 第08期)

针对市场上高频行情数据处理业务的相关痛点，直观的在线演示如何通过天软高频数仓及高性能计算能力，将其逐个击破，期待各位老师的参会。请持续关注天软课堂动态，将为大家带来更精彩的内容。
Tinysoft_SH·2023-09-25 19:45

A股风格因子看板 (2023.09 第08期)

针对市场上高频行情数据处理业务的相关痛点，直观的在线演示如何通过天软高频数仓及高性能计算能力，将其逐个击破，期待各位老师的参会。请持续关注天软课堂动态，将为大家带来更精彩的内容。
Tinysoft_SH·2023-09-25 19:12

数仓命名规范

1.词根设计规范词根属于数仓建设中的规范，属于元数据管理的范畴，现在把这个划到数据治理的⼀部分。
后季暖·2023-09-25 16:15

实时数仓 Hologres：推出计算组实例/支持JSON数据/向量计算+大模型等新能力

阿里云ODPS系列产品以MaxCompute、DataWorks、Hologres为核心，致力于解决用户多元化数据的计算需求问题，实现存储、调度、元数据管理上的一体化架构融合，支撑交通、金融、科研、等多场景数据的高效处理，是目前国内最早自研、应用最为广泛的一体化大数据平台。本期将重点介绍Hologres推出计算组实例Hologres支持JSON数据Hologres向量计算+大模型能力Hologre
·2023-09-25 15:09

ELT in ByteHouse 实践与展望

传统的数据转换过程一般采用Extract-Transform-Load(ETL)来将业务数据转换为适合数仓的数据模型
字节数据平台·2023-09-25 11:15

Flink双流join的3种方式及IntervalJoin源码分析

大数据技术AIFlink/Spark/Hadoop/数仓，数据分析、面试，源码解读等干货学习资料117篇原创内容公众号概述在数据库中的静态表上做OLAP分析时，两表join是非常常见的操作。
hyunbar·2023-09-25 06:22

【学习笔记】尚硅谷大数据项目之Flink实时数仓---DWD和DIM

DWD和DIM1.需求分析及实现思路1.1分层需求分析1.2每层的职能1.3DWD层数据准备实现思路2.环境搭建3.准备用户行为日志DWD层3.1主要任务3.1.1识别新老用户3.1.2利用侧输出流实现数据拆分3.1.3将不同流的数据推送下游的Kafka的不同Topic中3.2代码实现3.2.1接收Kafka数据，并进行转换3.2.2识别新老访客3.2.3利用侧输出流实现数据拆分3.2.4将不同流
在学习的王哈哈·2023-09-25 04:49

尚硅谷大数据项目《在线教育之实时数仓》笔记002

视频地址：尚硅谷大数据项目《在线教育之实时数仓》_哔哩哔哩_bilibili目录第06章数据仓库环境准备P006P007P008P009P010P011P012P013P014第06章数据仓库环境准备P006P007P008http
upward337·2023-09-25 04:19

分布式日志采集工具技术选型方案

在采集过程中，如何应对数据多样性、数据量大、变化快等特点，如何保证数据采集的可靠性、性能，如何避免重复数据，如何保证数据质量，如何降低资源成本，这些都是大数据采
善思者_tin·2023-09-25 01:41

酷克数据推出AI开发工具箱HashML 加速企业级AI应用落地投产

近日，业界领先的国产企业级云数仓厂商酷克数据发布了下一代In-Database高级分析和数据科学工具箱HashML，在业内率先实现为企业提供随数仓部署一步到位、开箱即用的AI能力。
HashData酷克数据·2023-09-24 21:05

5W字讲解最新大数据面试题

本文目录：一、Hadoop二、Hive三、Spark四、Kafka五、HBase六、Flink七、数仓业务方面八、算法HadoopHadoop中常问的就三块，第一：分布式存储(HDFS)；第二：分布式计算框架
无精疯·2023-09-24 20:59

云数据库的无服务化

当前，云上服务的无服务化是一个大趋势，在应用程序方面有Lambda，在一些数据分析工具和服务上，AWS也都推出了无服务版本，例如ETL服务Glue，数仓服务Redshift，Hadoop服务EMR，本篇文章针对无服务化的云数据库
ladofwind·2023-09-24 16:37
上一页 18 19 20 21 22 23 24 25 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他