数仓数据质量第8页

Databend 开源周报第 126 期

Databend是一款现代云数仓。专为弹性和高效设计，为您的大规模分析需求保驾护航。自由且开源。即刻体验云服务：https://app.databend.cn。

Databend·2024-01-05 05:25

数据库工程师—面试

2.数仓每层做了什么事说的层次感不清晰，3.写过最复杂的SQL,如路径分析，流失，回流用户

劝学-大数据·2024-01-05 00:59

物流实时数仓：数仓搭建（DWD）二

系列文章目录物流实时数仓：采集通道搭建物流实时数仓：数仓搭建物流实时数仓：数仓搭建（DIM）物流实时数仓：数仓搭建（DWD）一物流实时数仓：数仓搭建（DWD）二文章目录系列文章目录前言一、代码编写1.文件创建

超哥--·2024-01-04 22:27

物流实时数仓：数仓搭建（DWS）一

系列文章目录物流实时数仓：采集通道搭建物流实时数仓：数仓搭建物流实时数仓：数仓搭建（DIM）物流实时数仓：数仓搭建（DWD）一物流实时数仓：数仓搭建（DWD）二物流实时数仓：数仓搭建（DWS）一文章目录系列文章目录前言一

超哥--·2024-01-04 22:56

微信基于StarRocks的湖仓一体实践

作者：StarRocksActiveContributer、微信OLAP内核研发工程师微信作为国内活跃用户最多的社交软件，其数据平台建设经历了从Hadoop到ClickHouse亚秒级实时数仓的阶段，但仍旧面临着数据体验割裂

StarRocks_labs·2024-01-04 20:38

数据湖和传统数仓区别及湖仓一体

1.数据仓库早期系统采用关系型数据库来存放管理数据，但是随着大数据技术的兴起，人们对于多方面数据进行分析的需求愈加强烈，这就要求建立一个能够面向分析、集成保存大量历史数据的新型管理机制，这一机制就是数据仓库。数据仓库通常存储来自不同源的数据，集成源数据以提供统一的视图。这些资源可以包括事务系统、应用程序日志文件、关系数据库等等。数据仓库特性：面向主题：与传统数据库面向应用进行数据组织的特点相对应，

土豆马铃薯·2024-01-04 20:04

流式湖仓增强，Hologres + Flink构建企业级实时数仓

2023年12月，由阿里云主办的实时计算闭门会在北京举行，阿里云实时数仓Hologres研发负责人姜伟华现场分享Hologres+Flink构建的企业级实时数仓，实现全链路的数据实时计算、实时写入、实时更新

阿里云大数据AI技术·2024-01-04 16:07

数仓工作中的常见问题及解决方案

数据仓库系列文章数仓架构发展史数仓建模方法论数仓建模分层理论数仓建模—宽表的设计数仓建模—指标体系数据仓库之拉链表数仓—数据集成数仓—数据集市数仓—商业智能系统数仓—埋点设计与管理数仓—IDMapping

大数据技术派·2024-01-04 16:34

地理空间分析2——优化地理空间分析的关键一步：深入探讨数据清洗和预处理

写在开头在进行地理空间分析时，数据质量是确保准确性和可靠性的关键因素。数据清洗和预处理是确保地理空间数据集合适用于分析的基本步骤。

theskylife·2024-01-04 12:21

数据治理之数据质量管理系列3：电子病历分级质控工具的价值

讨论需求的时候，总绕不过对于需求价值的讨论。有人说，电子病历评级，主要是通过项目实施计算出需要上报的数据，通过写SQL语句得出每项的数值，再用excel计算就行了，大部分实施团队都是这么干的。非要在不知道医院数据库类型、库表结构的前提下，设计一套通用化的工具，反而把简单的事情复杂化了。不过，从另一个角度来看，工具型不是就是用来解决相对固定流程的标准化问题吗？短期来看，做一套工具不如直接实施来的简单

大数据小白·2024-01-04 11:00

实时数仓投放主备链路Diff测试工具落地实践

一、背景目前实时数仓提供的投放实时指标优先级别越来越重要，特别下游为规则引擎提供的数仓数据，直接对投放运营的广告投放产生直接影响，数据延迟或者异常均可能产生直接或者间接的资产损失；从投放管理平台的链路全景图投放全景图来看

得物技术·2024-01-04 08:02

书生-浦路大模型全链路开源体系

该数据集对模型的知识内容、逻辑推理和泛化能力的提升有显著效果精细化处理万卷经过语言筛选、文本提取、格式标准化、数据过滤和清洗(基于规则和模型)、多尺度去重和数据质量评估等精细数

-恰饭第一名-·2024-01-04 04:35

某人寿保险公司基础架构云化与小机数仓下移实践

随着数据中心IT基础架构的不断演进，云计算、大数据、移动互联的需求日益高涨，快速敏捷、易于维护以及扩展性，逐渐成为金融机构在升级数据中心时重点考虑的方面。某人寿保险公司（以下简称“客户”）过往采用传统三层架构，即IBMPower/x86+FCSAN+集中式存储的组合，在使用多年后面临设备老旧、灵活性与性能无法及时满足业务变化等问题。另外，传统架构也存在使用专用硬件及网络、存储控制器集中、架构及运维

志凌海纳SmartX·2024-01-04 03:09

机器学习-4：机器学习的建模流程

很大程度上数据质量的高低决定了模型的稳定性或效果，所以收集数据这一步非常关键。数据预处

Doawen·2024-01-04 01:43

Doris 数仓使用规范（经验版）

第一部分：字符集规范【强制】数据库字符集指定utf-8，并且只支持utf-8。命令规范【建议】库名统一使用小写方式，中间用下划线（_）分割，长度62字节内【建议】表名称大小写敏感，统一使用小写方式，中间用下划线（_）分割，长度64字节内第二部分：建表规范【强制】确保每个tablet大小为1-3G之间。举例：假设表内单分区数据量在100G，按天分区,bucket数量100个。【强烈建议】不要使用Au

hf200012·2024-01-03 19:30

电商数仓可视化1--数据导入

1、数据来源介绍以及数据文件下载1、业务数据业务数据往往产生于事务型过程处理，所以一般存储在关系型数据库中，如mysql、oracle业务数据源：用户基本信息、商品分类信息、商品信息、店铺信息、订单数据、订单支付信息、活动信息、物流信息等2、埋点数据埋点日志相对业务数据是用于数据分析、挖掘需求，一般以日志形式存储于日志文件中，随后通过采集落地分布式存储介质中如hdfs、hbase用户行为日志：用户

bigdata从入门到放弃·2024-01-03 18:53

我的大数据之路：2023年度总结

2023年度最值得骄傲的事从0到1搭建了离线数仓体系，针对Hadoop生态组件的原理和特性有了深入的理解。

话数Science·2024-01-03 18:07

【大数据】Doris 数仓使用规范原则

第一部分：字符集规范【强制】数据库字符集指定utf-8，并且只支持utf-8。命令规范【建议】库名统一使用小写方式，中间用下划线（_）分割，长度62字节内【建议】表名称大小写敏感，统一使用小写方式，中间用下划线（_）分割，长度64字节内第二部分：建表规范【强制】确保每个tablet大小为1-3G之间。举例：假设表内单分区数据量在100G，按天分区,bucket数量100个。【强烈建议】不要使用Au

奔向理想的星辰大海·2024-01-03 16:48

数据预处理方法

数据预处理是为了保证数据质量。数据预处理包括：数据清理，数据集成，数据转换，数据归约（最大限度精简数据量）。比如：缺失数据处理是去掉，还是填充默认值或最近的值。

XueminXu·2024-01-03 16:25

数睿通2.0数据血缘、标准、质量功能更新发布

文章目录引言数据血缘数据标准数据质量结语引言这段时间工作繁忙，琐事较多，加上二阳的冲击，导致数睿通2.0的更新进度缓慢，深表歉意，还望大家可以理解。

小螺旋丸·2024-01-03 10:51

数睿通2.0：高效的数据处理，主数据与数据表功能全面升级

引言八天很短，七天很长，数睿通2.0数据中台也随之迎来了新一轮的版本迭代，本次更新主要包括：主数据模型（可视化建模）主数据派发（支持派发主数据到下游数据表，rabbitMq，kafka，接口）数据表（数仓分层表信息展示

小螺旋丸·2024-01-03 10:51

Flink实时电商数仓（十）

common模块回顾appBaseApp:作为其他子模块中使用Flink-StreamAPI的父类，实现了StreamAPI中的通用逻辑，在其他子模块中只需编写关于数据处理的核心逻辑。BaseSQLApp:作为其他子模块中使用Flink-SQLAPI的父类。在里面设置了使用SQLAPI的环境、并行度、检查点等固定逻辑。bean：存放其他子模块中使用到的javaBean对象，因为如果一直使用json

十七✧ᐦ̤·2024-01-03 09:50

数据治理之数据质量管理

文章目录一、数据质量概述什么是数据质量数据质量差的危害数据质量维度（数据六大评价标准）什么是数据质量测量数据质量测量必须要有目的数据质量测量必须可重复数据质量测量必须可解释什么是数据质量管理二、数据问题根因分析什么是根因分析为什么要进行根因分析产生数据问题的阶段规划设计阶段数据创建阶段数据使用阶段数据老化阶段数据消亡阶段产生问题的原因业务原因技术原因管理原因根因分析的方法根因分析的工具鱼骨图

4935同学·2024-01-03 08:40

数据治理之主数据管理

文章目录一、主数据管理概述什么是主数据什么是主数据管理主数据管理的意义打破孤岛，提升数据质量统一认知，提升业务效率集中管控，提升管理效能数据驱动，提升决策水平二、主数据管理方法摸家底建体系接数据数据接入数据清洗主数据清洗规范主数据清洗操作数据分发抓运营三

4935同学·2024-01-03 08:39

Hive自定义函数支持国密SM4解密

当前项目背景需要使用到国密SM4对加密后的数据进行解密，Hive是不支持的，尝试了华为DWS数仓，华为只支持在DWS中的SM4加密解密，不支持外部加密数据DWS解密新建Maven工程只需要将引用的第三方依赖打到

4935同学·2024-01-03 08:03

计算机毕业设计吊打导师hadoop+spark+hive知识图谱医生推荐系统医生数据分析可视化大屏医生爬虫医疗可视化医生大数据机器学习大数据毕业设计

mapreduce对mysql中的医生数据进行数据分析，使用高德地图解析地理位置，并将结果转入.csv文件同时上传到hdfs文件系统；3.使用hive建库建表，导入.csv数据集；4.一半指标使用离线数仓

计算机毕业设计大神·2024-01-03 07:53

数据仓库命名规范详解

一、数仓中为什么要在数据开发过程中强调遵守数仓开发命名规范呢？

孤城暮雨@·2024-01-03 04:17

Azkaban+Spark资源调度

本文以利用Azkaban+Spark构建数仓的DWS层和ADS层为例！！！

孤城暮雨@·2024-01-03 04:46

全国人口普查管理系统(JSP+java+springmvc+mysql+MyBatis)

这种系统可以有效地提高对人口普查数据的收集、整理和管理效率，减少人为错误，提高数据质量。同时，信息技术的使用也使得系统的开发和维护变得更加

睿轩毕设项目·2024-01-02 21:59

11.2 GWAS流程学习

主要使用plink和structure：1、在snp-calling后得到vcf文件2、基因型填充：https://www.jianshu.com/p/dafd1e6e4a98使用beagle3、数据质量控制

KK_f2d5·2024-01-02 17:39

Spark内容分享(二十)：网易基于 Kyuubi + Spark 内核优化以及实践

AQE–History2.AQE–Shuffle3.AQE-SmallReducePartition4.AQE–SkewedReducePartition5.AQE–OptimizePlanKyuubi+Spark数仓类任务优化实践

之乎者也··2024-01-02 10:21

最容易出错的 Hive Sql 详解

前言在进行数仓搭建和数据分析时最常用的就是sql，其语法简洁明了，易于理解，目前大数据领域的几大主流框架全部都支持sql语法，包括hive，spark，flink等，所以sql在大数据领域有着不可替代的作用

奔跑者-辉·2024-01-02 07:30

BikeDNA（一）初始化OSM数据

它为规划者、研究人员、数据维护人员、骑行倡导者以及与自行车网络相关的其他人提供了在特定区域详细且知情地了解数据质量的工具。

rgb2gray·2024-01-01 22:30

在百模大战中AI行业发展的新趋势

大模型的训练需要大量的高质量数据，但是目前在数据质量方面还存在一定的问题，这会影响大模型的训练效果和准确性。智能算力无处不在的计算新范式加速实现。新硬件、新架构竞相涌现，现有芯片、操作系

千Deng·2024-01-01 18:25

Flink的优势

主要应用场景包括实时数仓、实时大屏、实时推荐、实时报表、实时风控和实时监控，当然还有其他一些应用场景。总之，实时计算的业务需求，一般都会用Flink进行开发。

有味青年·2024-01-01 13:01

Hive表加工为知识图谱实体关系表标准化流程

分隔符的处理情况1.2无法通过分隔符以及包围符区分字段1.3数据中存在回车换行符2CSV文件导入Hive的建表2.1包围符作用和功能2.2Hive的建表导入2.3数据文件导入3对Hive表中数据的清洗3.1数据质量检查

程序终结者·2024-01-01 00:52

Impala导出csv文件

场景：当数仓环境为大数据集群（impala），临时从数仓取数导出为csv文件使用impala-shell命令把文件导出为本地csv文件--正常导出impala-shell-q"SELECT*FROMyour_table

n_avo7_i·2023-12-31 18:34

详解Lambda和Kappa架构的区别

二、架构详解1、随着大数据的发展，人们逐渐对系统的实时性提出了要求，为了计算一些实时指标，就在原来离线数仓的基础上增加了一个实时计

小枫@码·2023-12-31 18:55

【华为数据之道学习笔记】8-3异常数据监控

数据质量控制的目的是致力于满足数据质量要求，消除或减少异常数据。数据质量控制可以在数据的生命周期内的不同时点被应用，来测试数据的质

码农丁丁·2023-12-31 09:37

【华为数据之道学习笔记】8-1 基于PDCA的数据质量管理框架

企业数据来源于多个不同的业务系统，数据流转、处理环节多，用“GarbageinGarbageout（垃圾进，垃圾出）”原则保证数据质量已成为数字化转型企业的共识。

码农丁丁·2023-12-31 09:07

【华为数据之道学习笔记】8-2 数据质量规则

若想从众多数据中识别出异常数据，就需要通过数据质量规则给数据打上标签。数据质量规则是判断数据是否符合数据质量要求的逻辑约束。

码农丁丁·2023-12-31 09:01

python将panadas写入excel_python pandas写入excel文件的方法示例

pandas读取、写入csv数据非常方便，但是有时希望通过excel画个简单的图表看一下数据质量、变化趋势并保存，这时候csv格式的数据就略显不便，因此尝试直接将数据写入excel文件。

马德阿姨·2023-12-31 08:22

实时数仓应用价值（下）

博客浅析研发支出费用化和资本化的区别-CSDN博客商业银行数据资产估值白皮书，推荐系统源码下载-CSDN博客用友BIP数据资产入表解决方案白皮书，推荐系统源码下载-CSDN博客六、具体五种方案的解析业界常见的实时数仓方案有这几种

Michael_Shentu·2023-12-31 00:46

Flink实时电商数仓（九）

用户注册汇总表需求分析统计各窗口的注册用户数，写入Doris思路分析读取kafka用户注册主题数据转换数据结构string->JSONObject->javaBean使用user_info表中的数据代表用户注册设置水位线开窗聚合写入Doris具体实现创建用户注册统计类继承BaseApp,设置端口，并行度，kafka消费者组，kafka主题（Topic_user_register）启动zookeep

十七✧ᐦ̤·2023-12-30 11:16

亚信安慧AntDB MTK数据同步工具之数据稽核

数据稽核也可以帮助组织发现数据质量问题、识别潜在的数据错误，并为数据管理和决策提供可靠的基础。本文介绍了MTK数据稽核的功能以及操作步骤。MTK支

亚信安慧AntDB数据库·2023-12-30 09:57

Flink实时电商数仓（八）

用户域登录各窗口汇总表主要任务：从kafka页面日志主题读取数据，统计七日回流用户：之前活跃的用户，有一段时间不活跃了，之后又开始活跃，称为回流用户当日独立用户数：同一个用户当天重复登录，只算作一个独立用户。思路分析读取kafka页面主题数据转换数据结构：String->JSONObject过滤数据，uid不为null登录的两种情况用户打开应用后自动登录用户打印应用后没有登录，浏览后跳转到登录页面

十七✧ᐦ̤·2023-12-30 09:55

AI大模型时代下运维开发探索第二篇：基于大模型(LLM)的数据仓库

在SREWorks社区聚集了很多进行运维数仓建设的同学，大家都会遇到类似的挑战和问题：数仓中存储大量数据消耗成本，但很多存储的数据却并没有消费。

阿里云大数据AI技术·2023-12-30 07:39

数据中台-架构、构建与体系建设

构建与体系建设数据中台架构数据中台构建方法论技术体系数据体系服务体系运营体系数据中台功能架构数据中台技术架构企业构建数据中台评估统计分析阶段决策支持阶段数据驱动阶段运营优化阶段数据汇集-打破企业数据孤岛数据开发-提取数据价值数据体系建设贴源数据层ODS(OperationalDataStore)统一数仓层

Ybb_studyRecord·2023-12-30 03:53

如何使用人工智能算法解决实际业务问题？

需要注意的是，数据质量对算法的效果有很大的影响，因此需要对数据进行清洗和预处理。特征工程：接下来，需要对数据进行特征提取和转换，以便算法可以更好地理解和处理数据。这一过程也称为特征工程，包括特

ldxxxxll·2023-12-30 01:32

Chip-seq数据分析流程

1、数据质量评估与过滤使用fastqc进行数据的测序质量评估、运行结束后生成一个*.html网页文件,一个*.zip压缩文件fastqc*.fq.gz使用trimmomatic对测序数据进行过滤，剔除测序质量不好的数据

比它虎·2023-12-29 19:13

推荐频道

数仓数据质量