E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
数仓命名规范
成功解决DataX从Hive导出Oracle的数据乱码问题!
市面上可用的etl工具和框架很多,如来自于传统
数仓
和BI圈的kettle/informatica/datastage,来自于hadoop生态圈的sqoop/datax,抑或使用计算引擎spark/presto
笑看风云路
·
2023-08-14 18:30
hive
DataX
数据乱码
ETL
Hive
Oracle
iOS开发之一OC语言的特性
命名规范
:a、方法名必须以set开头;b、set后面跟上成员变量的名称,成员变量首字母必须大写;c、返回值一定是void类型;d、一定要接收一个参数,而且参数类型跟成员变量类型一致;e、形参名称不能跟成员变量名称一致
NanNan
·
2023-08-14 10:21
数据库-
命名规范
一、数据库
命名规范
可以采用26个英文字母(区分大小写)和0-9的自然数(一般不需要)加上下划线‘_’组成,命名简介明确(Student_Union),多个单词用下划线‘_’分隔,一个项目一个数据库,多个项目慎用同一个数据库二
MinggeQingchun
·
2023-08-14 04:28
数据库DataBase
数据库
sql
linq
大数据开发基础-环境配置篇-Hadoop集群安装
首先是大数据开发基础篇环境搭建、组件面试题等其次是更新大数据开发面经的java面试基础最后更新一个大数据开发离线
数仓
的实战项目,自己写入简历的项目。关注不迷路,学习要进步!!!!!!
葡萄成熟时_
·
2023-08-14 01:19
大数据工程师Java
hadoop
大数据
hdfs
大数据开发学习基础篇
X86和X64运行环境下C++调用汇编函数源码和解释
X86环境下C++调用汇编函数c++代码:#include//函数使用C风格
命名规范
、调用规则extern"C"intCalcSum_(inta,intb,intc);intmain(intargc,unsignedshort
含影
·
2023-08-14 00:06
Assembly
系统
c++/c/asm
assembly
c++
BIGO 使用 Flink 做 OLAP 分析及实时
数仓
的实践和优化
▼关注「ApacheFlink」,获取更多技术干货▼摘要:本文整理自BIGOStaffEngineer邹云鹤在FlinkForwardAsia2021的分享。主要内容包括:业务背景落地实践&特色改进应用场景未来规划Tips:点击「阅读原文」查看原文视频&演讲PDF~一、业务背景BIGO是一家面向海外的以短视频直播业务为主的公司,目前公司的主要业务包括BigoLive(全球直播服务),Likee(短
Apache Flink
·
2023-08-13 15:54
数据仓库
大数据
数据库
python
数据分析
不惧流量持续上涨,BIGO 借助 Flink 与 Pulsar 打造实时消息系统
随着数据规模日益增长,产品不断迭代,BIGO消息流平台承载的数据规模出现了成倍增长,下游的在线模型训练、在线推荐、实时数据分析、实时
数仓
等业务对消息流平台的实时性和稳定性提出了更高的要求。
zhisheng_blog
·
2023-08-13 15:53
运维
大数据
分布式
hadoop
数据库
基于 Flink 的 OLAP 分析及实时
数仓
实践
摘要:本文整理自BIGOStaffEngineer邹云鹤在FlinkForwardAsia2021的分享。主要内容包括:业务背景落地实践&特色改进应用场景未来规划一、业务背景BIGO是一家面向海外的以短视频直播业务为主的公司,目前公司的主要业务包括BigoLive(全球直播服务),Likee(短视频创作分享平台),IMO(免费通信工具)三部分,在全球范围内拥有4亿用户。伴随着业务的发展,对数据平台
浪尖聊大数据-浪尖
·
2023-08-13 15:53
数据仓库
大数据
数据库
java
数据分析
使用Flink 与 Pulsar 打造实时消息系统
随着数据规模日益增长,产品不断迭代,BIGO消息流平台承载的数据规模出现了成倍增长,下游的在线模型训练、在线推荐、实时数据分析、实时
数仓
等业务对消息流平台的实时性和稳定性提出了更高的要求。
ITFLY8
·
2023-08-13 15:22
运维
大数据
分布式
hadoop
数据库
JavaScript基础 第四天
被设计为执行特定任务的代码块②说明:函数可以把具有相同或逻辑相似的代码包裹起来,通过函数调用执行这些被包裹的代码逻辑,这么做的优势是代码精简方便复用③函数的声明语法function函数名(){ 函数体}④函数名
命名规范
和变量名基本一致尽
pa_miao_chi
·
2023-08-13 15:43
JavaScript
前端学习
javascript
开发语言
ThinkPHP8
命名规范
-ThinkPHP8知识详解
本文主要讲解thinkphp8的
命名规范
,主要包括:遵循PHP自身的PSR-2
命名规范
和PSR-4自动加载规范、目录和文件
命名规范
、函数和类、属性
命名规范
、常量和配置
命名规范
、数据表和字段
命名规范
、不能使用
站长在线
·
2023-08-13 11:36
ThinkPHP8知识详解
php
thinkphp
Kafka实时数据同步
ClickHouse3.1数据订阅设置3.2数据加载设置3.3订阅到加载数据流映射3.4查看任务执行日志4校验数据一致性1概述BeeDI支持实时捕获业务系统变化数据并将其发步到Kafka,也支持从Kafka订阅实时数据并写入
数仓
或大数据平台
wahahaman
·
2023-08-13 08:39
kafka
大数据
数据库
clickhouse
数仓
学习(一)
数仓
概述:数据仓库,英文名称为DataWarehouse,可简写为DW或DWH。数据仓库,是为企业所有级别的决策制定过程,提供所有类型数据支持的战略集合。
孟婆灬来碗汤
·
2023-08-13 00:54
4.PHP 常量
常量是一个简单值的标识符,在脚本执行期间该值不能改变,通常使用全大写,PHP中常量用define()函数或const关键字常量定义
命名规范
通常常量用大写字母表示,并且遵循和变量一样的
命名规范
,即以字母或下划线开头
三生石的等待
·
2023-08-12 17:57
BEM
命名规范
也学习了解了一下BEM
命名规范
。1.什么是BEM?BEM(Block,Element,Modifier)是一种前端编码规范,用于命名HTML和CSS中的类和选择器。
小花睡不醒
·
2023-08-12 17:52
前端
css
阿里员工讲数据库、
数仓
和报表平台的实施步骤,小白和进阶扫盲系列
数仓
的知识市面上的书籍和文章不少,但是实际实施依据行业不同,企业核心诉求不同,从技术到方法论各有不同。如何实施
数仓
项目,本文先以传统行业的
数仓
切入,从整体上讲下数据仓库的实施方法论!
Leo.yuan
·
2023-08-12 16:56
数据仓库
大数据
数据库
sql
大数据平台
二级-2.Python数据类型
变量赋值变量名=值#变量赋值bottle='Tsingtao'#输出变量print(bottle)变量的
命名规范
:汉字变量可以使用,但是不推荐可以使用数字,但是不能以数字开头不可以使用特殊字符,除了_变量严格区分大小写变量命名要有意义变量命名要避免和系统使用的保留关键字冲突
Yuanshuo
·
2023-08-12 15:03
Flutter学习之六 Row和Column
故不登高山,不知天之高也;不临深溪,不知地之厚也;Flutter学习之五文件
命名规范
及代码格式化前言作为6年的OCcoder来说,开始在写Flutter布局的时候还是有点不适应。
MQ_Twist
·
2023-08-12 14:16
微信小游戏开发之项目、图片资源配置和构建运行
主题记录CocosCreator项目熟悉的过程:项目基础设置图片资源导入方式节点创建和
命名规范
、UI布局项目的主场景或者首先启动的场景怎么设置,浏览器和模拟器运行正文1.项目基础设置1.1默认分辨率设置创建新项目后
Android_Cloud
·
2023-08-12 05:45
实时
数仓
在滴滴的实践和落地
1.实时
数仓
建设目的随着互联网的发展进入下半场,数据的时效性对企业的精细化运营越来越重要,商场如战场,在每天产生的海量数据中,如何能实时有效的挖
滴滴技术
·
2023-08-12 03:36
10.package、修饰符、final、常量、枚举、抽象类
什么是权限修饰符2.2权限修饰符的分类和具体作用范围2.3自己定义成员一般需要满足如下要求三.final3.1什么是final3.2final的作用3.3final修饰变量时的注意事项四.常量4.1什么是常量4.2
命名规范
真滴book理喻
·
2023-08-12 03:24
#
Java
SE
java
开发语言
git提交的时候如何命名
以下是一些建议的
命名规范
:简洁明了:提交信息应该尽量简洁明了,一句话能够清楚地描述你所做的更改。使用动词开头:提交信息通常以动词开头,描述你所做的操作。例如:“修复bug:修复了登录页面样式问题”。
577wq
·
2023-08-11 23:27
git
git
本地安装hadoop及其依赖组件
bin-hadoop3.2计算框架zookeeperapache-zookeeper-3.5.7-bin分布式服务器hbasehbase-2.4.11列式存储hiveapache-hive-3.1.3-bin
数仓
元数据启动服务
yyyyjinying
·
2023-08-11 22:01
大数据
hadoop
大数据
分布式
开发
命名规范
1项目
命名规范
1、工程项目名,尽量想一些有意义、有传播价值的名称;比如星球、游戏、名人、名地名等;取名就跟给孩子取名一样,独特、有价值、有意义、好传播2、所有的类都必须添加创建者和创建日期3、所有代码:
shadow_zed
·
2023-08-11 21:08
开发规范
java
spring
开发语言
java开发规范
文章目录(一)java
命名规范
1、变量、成员、方法名统一采用驼峰命名(lowerCamelCase),做到见语知其义2、类名的定义3、常量、类型、接口、子类的定义4、包名、异常、枚举、方法名称的定义5、
进击的猫
·
2023-08-11 21:05
程序规范
java
代码规范
后端
C++——关于命名空间
命名冲突:在c语言中,我们有变量的
命名规范
,如果一个变量名或者函数名和某个库里面自带的库函数或者某个关键字重名,就会报错,这时候,我们只能给自己定义的变量或者函数进行改名。
LILI_Plusing
·
2023-08-11 19:49
c++
Scala(第二章 变量和数据类型)
文章目录2.1注释2.2变量和常量(重点)2.3标识符的
命名规范
2.4字符串输入2.5键盘输入2.6数据类型(重点)2.7整型类型(Byte、Short、Int、Long)2.8浮点类型(Float、Double
某科学的南条
·
2023-08-11 19:38
scala
开发语言
后端
实时
数仓
项目架构分层
一、滴滴实时
数仓
项目在公司内部,我们数据团队有幸与顺风车业务线深入合作,在满足业务方实时数据需求的同时,不断完善实时
数仓
内容,通过多次迭代,基本满足了顺风车业务方在实时侧的各类业务需求,初步建立起顺风车实时
数仓
公众号:肉眼品世界
·
2023-08-11 14:50
大数据
数据库
java
人工智能
数据仓库
实时
数仓
实践以及架构
从智能商业的角度来讲,数据的结果代表了用户的反馈,获取结果的及时性就显得尤为重要,快速的获取数据反馈能够帮助公司更快的做出决策,更好的进行产品迭代,实时
数仓
在这一过程中起到了不可替代的作用。
000X000
·
2023-08-11 14:50
数据仓库
实战
数据中台
架构
数据仓库
big
data
数据仓库实践杂谈(十三)——逻辑数据模型(
数仓
模型)
整体数据分层第三章:整体实现框架第四章:元数据第五章:ETL第六章:数据校验第七章:数据标准化第八章:去重第九章:增量/全量第十章:拉链处理第十一章:分布式处理增量第十二章:列式存储第十三章:逻辑数据模型(
数仓
模型
老程序员一叶知秋
·
2023-08-11 14:45
数据仓库实践
概念数据模型
大数据
数据仓库
etl
数据建模
数仓
架构模型设计参考
1、数据技术架构1.1、技术架构1.2、数据分层将数据仓库分为三层,自下而上为:数据引入层(ODS,OperationDataStore)、数据公共层(CDM,CommonDataModel)和数据应用层(ADS,ApplicationDataService)。数据仓库的分层和各层级用途如下图所示。●数据引入层ODS(OperationDataStore):存放未经过处理的原始数据至数据仓库系统,
docsz
·
2023-08-11 14:14
架构
大数据
Flink实时
数仓
相关数据:启动日志:{"common":{"ar":"310000","ba":"Redmi","ch":"xiaomi","is_new":"1","md":"Redmik30","mid":"mid_7","os":"Android11.0","uid":"23","vc":"v2.1.111"},"start":{"entry":"icon","loading_time":13312,"op
黑冰vip
·
2023-08-11 12:53
Fink
flink
离线
数仓
08—— 配置Hive on Spark
文章目录6.1数据仓库运行环境6.1.1Hive环境搭建6.1.2Yarn环境配置上一篇:离线
数仓
07——数据仓库设计下一篇:离线
数仓
09——模拟数据准备6.1数据仓库运行环境6.1.1Hive环境搭建
就是这个范~
·
2023-08-11 00:17
离线数仓
hive
spark
数据仓库
离线
数仓
15—— 报表数据导出到MySQL
文章目录第12章报表数据导出12.1MySQL建库建表12.1.1创建数据库12.1.2创建表12.2数据导出12.2.1编写DataX配置文件12.2.2DataX配置文件生成脚本12.2.3测试生成的DataX配置文件12.2.4编写每日导出脚本第12章报表数据导出为方便报表应用使用数据,需将ads各指标的统计结果导出到MySQL数据库中。12.1MySQL建库建表12.1.1创建数据库CRE
就是这个范~
·
2023-08-11 00:17
离线数仓
mysql
数据库
java
从0到1搭建数据仓库流程
从0到1搭建
数仓
,可以概括为6个步骤:业务探查、技术选型、规范制定、主题域划分、
数仓
分层、模型建设。一、业务探查梳理公司业务系统,业务关心的指标,开发过的需求。
夜希辰
·
2023-08-11 00:17
数仓建设
大数据
数据仓库
离线
数仓
02——用户行为日志和采集
文章目录第3章用户行为日志3.1用户行为日志概述3.2用户行为日志内容3.2.1页面浏览记录3.2.2动作记录3.2.3曝光记录3.2.4启动记录3.2.5错误记录3.3用户行为日志格式3.3.1页面日志3.3.2启动日志3.4服务器和JDK准备3.4.1服务器准备3.4.2SSH无密登录配置和JDK准备3.4.3环境变量配置说明3.5模拟数据3.5.1使用说明3.5.2集群日志生成脚本第4章用户
就是这个范~
·
2023-08-11 00:16
离线数仓
java
开发语言
flume
数据仓库
离线
数仓
-03-
数仓
系统搭建(ODS,DIM,DWD,DWS,ADS)
文章目录
数仓
分层为什么要分层数据运营层:ODS(OperationalDataStore)数据仓库层:DW(DataWarehouse)维表层:DIM(Dimension)数据明细层:DWD(DataWarehouseDetail
迷雾总会解
·
2023-08-11 00:45
项目
大数据
hive
数据仓库
大数据离线
数仓
开发项目详细教程
目录一、数据准备/opt/eventdata二、环境准备三、创建Kafka的topic主题四、使用Flume将文件采集到Kafka(一)在/opt/soft/flume190/conf/目录下创建events文件夹,并创建5个conf文件(二)events.conf(三)ea.conf1.ea.conf脚本内容:2开启flume3.复制文件到指定目录4.查看event_attendees_raw主
雷神乐乐
·
2023-08-11 00:44
Spark学习
大数据
kafka
分布式
数仓
项目——在线教育平台离线数据仓库效果展示
ECS云服务器搭建了在线教育平台的离线数据仓库,本文仅用于记录最终的效果,从0到1的实现过程后续进行补充,由于抢占式实例的云服务器按量进行每小时计费,为了避免持续的收费,所以我急于展示结果,也就有了此文(
数仓
已经搭建完成
Vigoroushui
·
2023-08-11 00:44
项目
数据仓库
hadoop
hue集群
mysql
zookeeper
离线数据仓库项目搭建——准备篇
什么是数据仓库(二)数据仓库基础知识(三)数据仓库建模方式(1)星行模型(2)雪花模型(3)星型模型VS雪花模型(四)数据仓库分层(1)为什么要分层(2)数据仓库分层设计(3)DWD数据清洗原则(4)数据仓库
命名规范
小崔的技术博客
·
2023-08-11 00:44
大数据学习
数据仓库
大数据
数据库
【从0开始离线
数仓
项目】——数据仓库的环境搭建(1)
目录一、服务器环境准备1.2编写集群分发脚本xsync1.3SSH无密登录配置1.4JDK准备1.5环境变量配置说明二、集群所有进程查看脚本三、Zookeeper安装3.1分布式安装部署3.2ZK集群启动停止脚本3.3客户端命令行操作一、服务器环境准备CentOS7怎么从命令行模式切换到图形界面模式切换至root权限:sudosu-准备三台虚拟机,虚拟机配置要求如下:(1)单台虚拟机:内存4G,硬
Lingxw_w
·
2023-08-11 00:13
从0开始离线数仓项目
数据仓库
hadoop
zookeeper
kafka
Flink—读Hive表数据写入Kafka
引言场景
数仓
Hive中的数据需要读取后写入Kafka中进行数据服务输出。选型 选用Flink进行读Hive写Kafka,因为其拥有丰富的connector可选择。
Hughman
·
2023-08-10 22:26
不会Elasticsearch标准查询语句,如何分析
数仓
数据?
1Elasticsearch的查询语句ES中提供了一种强大的检索数据方式,这种检索方式称之为QueryDSL,QueryDSL是利用RestAPI传递JSON格式的请求体(RequestBody)数据与ES进行交互,这种方式的丰富查询语法让ES检索变得更强大,更简洁。1.1查询预发#GET/索引名/_doc/_search{json格式请求体数据}#GET/索引名/_search{json格式请求
贝小贝貝
·
2023-08-10 21:32
DataEase
数据可视化
elasticsearch
BI
大数据
数据分析
数据仓库
iOS-开发规范
1.2图片
命名规范
图片命名以“模块功能特征”命名为英文名称。例通用的返回按钮可命名为“common_back_left”,存放于“通用”文件夹。
发飙的青蛙
·
2023-08-10 15:45
idea创建SpringBoot项目
项目
命名规范
项目名全部小写。包名全部小写。
你才是臭弟弟
·
2023-08-10 14:06
SpringBoot
spring
boot
intellij-idea
后端
Mysql表通过存储过程删除生产表数据
在建设实时
数仓
的过程中,用到了Mysql存放增量的结果数据,所以需要定时清理历史数据,为了避免影响的线上的实时数据写入,采用了按照最后更改时间,分段删除的方法。
风筝flying
·
2023-08-10 14:54
mysql优化笔记(1)----数据库设计规范
1数据库
命名规范
1数据库对象名称必须使用小写字母并用下划线分割大小写敏感2所有数据库对象名称禁止使用mysql保留字段'selectid,username,from,agefromtb_user',此处两个
回眸淡然笑
·
2023-08-10 12:25
大数据开发:Hive列式存储ORC、Parquet的优点
众所周知,作为Hive列式存储提供了高性能的存储方式,面对大规模的数据存储任务,也能高效快速地完成,这也是Hive作为
数仓
工具受到肯定的一大优点。
成都加米谷大数据
·
2023-08-10 10:12
尘锋信息基于 Apache Paimon 的流批一体湖仓实践
尘锋信息基于ApachePaimon构建流批一体湖仓,主要分享:整库入湖,TB级数据近实时入湖基于Flink+Paimon的
数仓
批ETL建设基于Flink+Paimon的
数仓
流ETL建设
数仓
OLAP与数据地图点击进入
Apache Flink
·
2023-08-10 10:28
Flink
大数据
实时计算
apache
大数据
5 小时玩转阿里云 Flink 实时湖仓,速速报名!
小时玩转阿里云Flink实时湖仓,项目依托于传智教育博学谷线上教育平台数字化建设场景,真实还原实时计算业务细节,学完后掌握基于阿里云的FlinkCDC,Paimon,StarRocks等核心技术,收获完整实时
数仓
与流式数据湖构建经验
Apache Flink
·
2023-08-10 07:31
flink
大数据
上一页
32
33
34
35
36
37
38
39
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他