数据仓库工作笔记

涤生大数据实战：基于Flink+ODPS历史累计计算项目分析与优化（上）

涤生大数据实战：基于Flink+ODPS历史累计计算项目分析与优化（一）1.前置知识ODPS（OpenDataPlatformandService）是阿里云自研的一体化大数据计算平台和数据仓库产品，在集团内部离线作为离线数据处理和存储的产品
涤生大数据·2024-02-08 08:55

数据仓库入门介绍框架（附带完整项目实战）

一、诞生背景企业数据分析需要：各个部门自己建立独立的数据抽取系统，导致数据不一致概述数据仓库是一个面向主题的、集成、非易失的且随时间变化的数据集合主要用于组织积累的历史数据，并使用分析方法（OLAP、数据分析
麻辣清汤·2024-02-07 23:34

大数据用户画像系统架构设计

文章目录一、用户画像数据仓库搭建、数据抽取部分二、大数据平台、用户画像集市分层设计、处理三、离线计算部分四、实时计算部分五、Solr/ES搜索引擎部分六、JavaWeb毫秒级实时用户画像接口服务七、用户画像实时展示异步触发获取
充电了么·2024-02-07 19:37

工作笔记——海康威视网络摄像头接入华为云VIS服务

激活摄像头海康威视需要先下载设备网络搜索软件（SADP）激活摄像头。然后配置摄像头IP与电脑同一个网段。如何配置：win+R->cmd打开控制台输入ipconfig找到下图这个（如果你是连的无线网的话）就照着这个填子网掩码和默认网关就行了接入华为云平台注意:配置摄像头之前要先根据华为云的文档创建国标和设备使用IE浏览器输入摄像头内网，我这里是192.168.1.64进入后台后点击配置->网络->高
⚠小白出没⚠·2024-02-07 14:56

数仓：事实表设计方法，原则和三种类型选择

关注公众号，回复关键字【资料】，获取【10万字大数据框架面试知识点】与【大数据开发的命令手册】事实表设计方法事实表作为数据仓库维度建模的核心，紧紧围绕着业务过程来设计。
大数据左右手·2024-02-07 09:35

即席查询框架怎么选？

即席查询与批处理的区别批处理在数据仓库系统中，根据应用程序的需求，需要对源数据进行加工，这些加工过程往往是固定的处理原则，这种情况下，可以把数据的增删改查SQL语句写成一个批处理脚
大数据左右手·2024-02-07 09:32

数仓-数据质量体系建设

注：文章参考：数据仓库数据质量体系建设涤生推荐：未来的行业中，数据是企业的重要资产，而数据仓库则是对企业数据进行有效管理和利用的重要手段。
爱吃辣条byte·2024-02-07 08:26

数据湖与数据仓库

一、数据湖的定义维基百科上定义，数据湖（DataLake）是一个以原始格式存储数据的存储库或系统。它按原样存储数据，而无需事先对数据进行结构化处理。一个数据湖可以存储：结构化数据（如关系型数据库中的表），半结构化数据（如CSV、日志、XML、JSON），非结构化数据（如电子邮件、文档、PDF）二进制数据（如图形、音频、视频）。但是随着大数据技术的融合发展，数据湖不断演变，汇集了各种技术，包括数据仓
四月天03·2024-02-07 05:36

绕过去除 union 和 select 的 SQL 注入

环境准备：构建完善的安全渗透测试环境：推荐工具、资源和下载链接_渗透测试靶机下载-CSDN博客一、基础知识MySQL是一个流行的开源关系型数据库管理系统（RDBMS），广泛用于Web应用、数据仓库、嵌入式应用等场景
狗蛋的博客之旅·2024-02-07 05:33

数据仓库-Hive基础（二）Hive 的基本概念

什么是HiveHive是基于Hadoop的一个数据仓库工具，可以将结构化的数据文件映射为一张数据库表，并提供类SQL查询功能。
做个合格的大厂程序员·2024-02-07 03:42

ETL是什么，有哪些ETL工具？就业前景如何？

ETL一词较常用在数据仓库，但其对象并不限于数据仓库。
得帆云·2024-02-06 23:46

数据仓库

数据仓库（DataWarehouse）是一个面向主题（SubjectOriented)）的、集成（Integrate）的、稳定（Non-Volatile）的、反映历史变化（TimeVariant）的数据集合
茶盏浮花·2024-02-06 20:47

性能实测：分布式存储 ZBS 与集中式存储 HDS 在 Oracle 数据库场景表现如何

在《分布式存储支持数据仓库业务系统性能验证》文章中，我们对比了SmartX分布式存储ZBS与全闪集中式存储（EMCPowerStore）执行数仓跑批任务的效率。为了帮助用
志凌海纳SmartX·2024-02-06 18:40

职场总动员来自《老秘书工作笔记》

老话说姜还是老的辣，初入职场的小白，待人接物都要有所学习受教，网上流传着一个商务接待的经典案例。公司迎来了大客户，一行十多人，全程由领导秘书Selina接待。第二天，客户团队有一位高管因急事需次日早上6点半坐飞机离开。Selina在第二天客户上车后，变戏法似的拿出了三种早餐、一杯热茶、口罩及感冒药，还有地方特产。客户因为这些行为，觉得对方公司很可靠促成了之间的大合作！这个事例是不是有点眼熟，它与《
80bfb801f293·2024-02-06 09:55

【技术预研】StarRocks官方文档浅析（4）

参考文档产品简介|StarRocksStarRocksStarRocks是一款高性能分析型数据仓库，使用向量化、MPP架构、CBO、智能物化视图、可实时更新的列式存储引擎等技术实现多维、实时、高并发的数据分析
偏振万花筒·2024-02-06 09:16

SQL在数据中台/数据仓库领域的局限性

在复杂数据项目场景下，SQL的使用存在局限巨大的局限性可能表现为业务逻辑的碎片化、不能全局优化、无效的数据移动以及大量使用临时表。业务逻辑的碎片化问题在冗长的SQL脚本中，每一个目标数据项（指标、标签等）的逻辑分散在众多的SQL代码段中，每个SQL代码中又承载了多个目标数据项业务逻辑的碎片。在冗长的SQL脚本中，业务逻辑碎片交叉耦合。目标数据项目业务逻辑碎片化，破坏了业务逻辑的原子性，导致一系列问
Trident敏捷数据开发平台·2024-02-06 07:56

SAP BW/4HANA学习笔记1

1.MasterDataBW/4HANABW/4HANA简介BW/4HANA的前身是SAPBW(BusinessWarehouse),本质是一种数据仓库解决方案。
偶是不器·2024-02-06 05:01

4月7日工作笔记

今天查楼虽然很辛苦，但是同志们很有干劲儿，和大家在一起工作很开心，同事之间要互相帮助才行，我们是一个集体
安谛瑜伽阿明·2024-02-06 01:35

数据仓库系列：星型模型和雪花型模型

在实际工作中多维分析的商业智能解决方案，根据事实表和维度表的关系，又可将常见的模型分为星型模型和雪花型模型。在设计逻辑型数据的模型的时候，就应考虑数据是按照星型模型还是雪花型模型进行组织。一、星型模型星型模型：是一种多维的数据关系，它由一个事实表（FactTable）和一组维表（DimensionTable）组成。每个维表都有一个维作为主键，所有这些维的主键组合成事实表的主键。事实表的非主键属性称
小黎子数据分析·2024-02-05 16:02

数据库与数据仓库的区别

数据库Database(Oracle,Mysql,PostgreSQL)主要用于事务处理，数据仓库Datawarehouse(AmazonRedshift,Hive)主要用于数据分析。
42c64edf12e9·2024-02-05 02:12

HIVE

--------hive数据仓库hive底层执行引擎有MapReduceTezSpark压缩GZIPLZOSnappyBZIP2等存储TextFileSequenceFileRCFileORCParquetUDF
Yagami_·2024-02-05 00:23

大数据领域的数据仓库

在大数据领域，数据仓库（DataWarehouse）是一个用于存储、管理和分析大量数据的集中式系统。
薛定谔的zhu·2024-02-04 09:43

软考笔记--数据仓库技术

数据仓库是一个面向主题的，集成的，相对稳定的、反映历史变化的数据集合，用于支持管理决策。数据源是数据仓库系统的基础，是整个系统的数据源泉。
赤露水·2024-02-04 07:12

Hadoop大数据实战系列文章之Hive

hive是基于Hadoop的一个数据仓库工具，可以将结构化的数据文件映射为一张数据库表，并提供完整的sql查询功能，Hive定义了简单的类SQL查询语言，称为HQL，它允许熟悉SQL的用户查询数据可以将
测试帮日记·2024-02-04 05:45

vue工作笔记001

disabled="true"；//typeof()true类型为string:disabled="true";//typeof()true类型为boolean
萌吃闷吃·2024-02-04 04:14

第七章 主管信息系统和数据仓库

[TOC]第七章主管信息系统和数据仓库7.0前言EIS是数仓之前的概念EIS没有注重基础结构（数据源、数据质量、数据流通等）DSS是现代的EIS，与数仓紧密相连7.1EIS概述EIS典型用途趋势分析关键指标度量和跟踪向下钻取问题监控竞争分析关键性能指标监控
晨磊的微博·2024-02-04 04:53

【读书笔记】数据仓库- Apache Kylin权威指南

ApacheKylin权威指南（第2版）◆1.2.1为什么要使用ApacheKylin它们的主要技术是“大规模并行处理”（MassivelyParallelProcessing，MPP）和“列式存储”（ColumnarStorage）◆1.2.2ApacheKylin怎样解决关键问题基于以上两点，我们得到一个新的思路——“预计算”。应尽量多地预先计算聚合结果，在查询时刻也尽量使用预计算的结果得出查
KevinBrain·2024-02-03 19:16

利用nginx替换Docker内部程序_静态资源_实现自定义背景--nginx工作笔记008

因为有个程序是打包的Docker镜像,那么问题就来了,我想修改登录页面上的一个图片,如果你不想再去修改程序了,那么怎么办?你可以这样,让nginx请求某个图片的时候,自动给他重定向,访问其他的图片资源,很好用:来看看怎么做吧:server{listen9003;server_namelocalhost;location/img{root/data;}location/{#dataeaseproxy
脑瓜凉·2024-02-03 19:37

[Python] 如何使用scikit-learn的preprocessing和impute模块进行数据预处理（数据无量纲化，缺失值填充，对分类型特征编码与哑变量，对连续型特征进行二值化与分段）

数据挖掘的五大流程获取数据从各种来源收集数据，包括但不限于数据库、数据仓库、互联网、传感器、社交媒体等。获取数据的方式可以通过数据抓取、数据爬取、数据采集工具等方法进行。
老狼IT工作室·2024-02-03 18:16

数仓建模&维度建模理论知识

0.思维导图第1章数据仓库概述1.1数据仓库概述  数据仓库是一个为数据分析而设计的企业级数据管理系统。
韩顺平的小迷弟·2024-02-03 16:02

离线数仓-数据治理

目录一、前言1.1数据治理概念1.2数据治理目标1.3数据治理要解决的问题1.3.1合规性元数据合规性数据质量合规性数据安全合规性1.3.2成本存储资源成本计算资源成本二、数据仓库发展阶段2.1初始期2.2
爱吃辣条byte·2024-02-03 13:51

Ruoyi-Cloud-Plus_Nacos配置服务漏洞CVE-2021-29441_官方解决方法以及_修改源码解决---SpringCloud工作笔记199

CVE-2021-29441这个漏洞是Nacos的,通过使用postman,直接访问接口:就可以直接添加nacos的用户Nacos是Alibaba的一个动态服务发现、配置和服务管理平台。攻击者通过添加Nacos-Server的User-Agent头部将可绕过（nacos.core.auth.enabled=true）鉴权认证，从而进行API操作。直接get方法访问这个地址:'http://your
脑瓜凉·2024-02-03 11:09

深入数仓离线数据同步：问题分析与优化措施

一、前言在数据仓库领域，离线数仓和实时数仓是常见的两种架构类型。离线数仓一般通过定时任务在特定时间点（通常是凌晨）将业务数据同步到数据仓库中。
Light Gao·2024-02-03 10:14

数仓日常维护：剖析每日增量同步的内部机制

而数据的实时性和准确性对于确保数据仓库的有效性至关重要。而离线数仓中常见的数据同步方式是T+1，其中同步方式主要分为两种：全量同步和增量同步。本文聚焦于探讨增量同步的原理，解析其工作机制和实
Light Gao·2024-02-03 10:14

ubuntu22.04@laptop 常用基础环境安装

ubuntu22.04LTS系统2.2必备软件安装2.3基本远程环境2.3.1远程ssh登录2.3.2samba局域网2.3.3VNC远程登录2.4开发环境安装3.总结1.源由应朋友要求，整理下一个个人常用的工作笔记本常用开发环境安装步骤
lida2003·2024-02-03 04:37

你需要的武功秘籍在这里-《老秘书工作笔记》

前段时间，有一个小姑娘火遍全网，人称＂董秘＂，格力集团董事长董明珠的秘书孟羽童。董明珠在中国制造业领袖峰会上，向大家介绍孟羽童，她高调宣布：“我想把她培养成第二个董明珠”。才22岁刚毕业的职场小白，又不是对口专业的孟羽童到底凭什么能力让董明珠青睐，直接入职格力集团成为董事长秘书？素有＂商界铁娘子＂之称的董明珠在采访中说过：孟羽童能吃苦，很活跃会创新，学习能力强，内心强大，抗压能力强，从她身上看上了
尤筱鱼·2024-02-03 03:36

数据湖系列之一 | 你一定爱读的极简数据平台史，从数据仓库、数据湖到湖仓一体

从数据仓库、数据湖，到现在的湖仓一体，业界建设数据平台的新方法和新技术层出不穷。理解这些方法和技术背后隐藏的演进脉路、关键问题、核心技术原理，可以帮助企业更好地建设数据平台。
百度智能云技术站·2024-02-02 23:04

Hive和Hbase的各自适用场景

Hive：Hive是Hadoop数据仓库，严格来说，不是
yoku酱·2024-02-02 17:36

超详细【入门精讲】数据仓库原理&实战 一步一步搭建数据仓库 内附相应实验代码和镜像数据和脚本

文章对应的博客园链接：点击这里文章目录0.B站相关课程链接和搭建数据仓库资源及脚本下载食用指南：建议先把博客整体看一遍之后再进行操作文章最后有常见问题及解决方法1.项目介绍及整体流程1.1项目介绍1.2
Oraer_·2024-02-02 16:29

2019.3.26

但不强求为好)3.早上上班2.5h(看检察日报开始了检察工作笔记，魏科指导了我一下，非常感谢，又进一大步，学习也是工作，找到了数据线比较开心)4.中午休息2h(今天睡着了挺好的)5.下午上班3h(市院领导来
学思悟践·2024-02-02 15:08

银行数据仓库体系实践（18）--数据应用之信用风险建模

信用风险银行的经营风险的机构，那在第15节也提到了巴塞尔新资本协议对于银行风险的计量和监管要求，其中信用风险是银行经营的主要风险之一，它的管理好坏直接影响到银行的经营利润和稳定经营。信用风险是指交易对手未能履行约定契约中的义务而给银行造成经济损失的风险。典型的表现形式包括借款人发生违约或信用等级下降。借款人因各种原因未能及时、足额偿还债务/银行贷款、未能履行合同义务而发生违约时，债权人或银行必将因
南极找南·2024-02-02 13:10

银行数据仓库体系实践（15）--数据应用之巴塞尔新资本协议

巴塞尔新资本协议介绍在银行管理中经常会听到巴3、新资本协议等专用词，那这都是指《巴塞尔资本协议》，全称《关于统一国际银行资本衡量和资本标准的协议》。新资本协议的五大目标是：促进金融体系的安全性和稳健性（保持总体资本水平不变）；继续促进公平竞争；更全面地反映风险；更敏感地反映银行头寸及其业务的风险程度；重点放在国际活跃银行，基本原则适用于所有银行。最新的《巴塞尔协议III》（第3版）于2010年9月
南极找南·2024-02-02 13:40

银行数据仓库体系实践（16）--数据应用之财务分析

总账系统在所有公司中，财务分析的基础都是核算，那在银行的系统体系中，核算功能在业务发生时由业务系统如核心、贷款、理财中实现登记，各业务系统会在每天切日后统计当天各机构的核算科目的发生额与余额，并统一送到总账系统，总账系统进行全行会计核算的汇总、调整并每天统计出全银行的资产负债表、利润表和现金流表，使银行的经营情况一目了然。后续的许多财务应用以及监管报送中，总账数据是必不可少的一部分。而且数据质量校
南极找南·2024-02-02 13:40

银行数据仓库体系实践（10）--汇总指标层和集市模型设计

建立多层次的数据访问服务体系，有力提升数据仓库的价值。基于指标汇总层、集市层、可以提供面向业务人员的即席数据查询、以及面向应用开发者的数据接口、应用访问接口，满足不同类型应用的需要。
acumen_leo·2024-02-02 13:38

银行数据仓库体系实践（17）--数据应用之营销分析

营销是每个银行业务部门重要的工作任务，银行产品市场竞争激烈，没有好的营销体系是不可能有立足之地，特别是随着互联网金融发展,金融脱媒”已越来越普遍，数字化营销方兴未艾，银行的营销体系近些年也不断发展，从客户经理为主逐步转变为客户经理+互联网营销的模式。在客户经理阶段，银行主要通过CRM系统进行产品销售管理。对产品、客户经理、团队的绩效进行统计。那随着互联网营销的发展和数据量的增加，单个CRM系统已经
南极找南·2024-02-02 13:06

工作笔记

工作一月有余了，通过这一个多月的学习，终于掌握了具体的工作内容。对于如何寻找合作机会也掌握了，每次打电话都能准确找到切入点。对接客户和领导也能做到得心应手了。接下来希望尽快出业绩。
1df7201fa356·2024-02-02 11:39

23年9月-11月工作笔记整理（前端）

目录一、小Tips二、原理学习一、小Tips1.this.refs获取不到的话，就使用this.$nextTick(()=>{})2.提交代码的时候执行gitcommit–no-verift-m“提交备注”，就可以跳过代码检查3.window.open()新打开页面跳转遇到权限问题为单独打开可以，通过这个方法打开不行解决办法：4.监听chart对象进行自适应缩放//通过ResizeObserver
wj_秦桑低绿枝·2024-02-02 05:22

23年12月-24年1月工作笔记整理（前端）

目录一、css知识二、js知识三、需求技术一、css知识1.css实现文字描边（白底黑边）-webkit-text-stroke:1px#000;color:#fff;font-weight:900;2.css子元素平分父元素的宽度父元素{display:flex;}子元素{flex:1}二、js知识1.dayjs拿月份的最后一天日期//2020年2月结束日期时间dayjs('2020-02').
wj_秦桑低绿枝·2024-02-02 05:19

数据仓库表级血缘应用

表血缘热度文章目录数仓血缘应用（一）：表血缘热度前言一、价值衡量指标——应用层二、血缘节点应用——热度1、指标透传（应用层——>数仓）2、指标应用（热度）2.1、数仓血缘节点关系2.2、热度2.3、热度应用总结前言在数据仓库的建设过程中
零壹Ture·2024-02-02 02:24

家和万事兴

工作笔记还是没舍得扔，又找了地方放起来。休息时间，来完成今天的日更。今天是大年初一，尽管昨天熬到零点以后，早上七点多，还是起床了。要去拜年啊。面包，芝麻糊，煮鸡蛋，简单的早餐过后，就出发
木子初见2019·2024-02-01 20:52
上一页 1 2 3 4 5 6 7 8 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他