E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
clickhouse数据仓库
clickhouse
SQL日期相关
1.毫秒级时间戳转日期/小时--13位时间戳转具体时间toDateTime(report_time/1000)as_c00--获取时间戳对应的时间点整点(结果:%Y-%m-%d%H:00:00.0)eg:2022-09-2823:00:00.0toStartOfHour(toDateTime(report_time/1000))AS_10--获取时间点整点(结果无日期:%H)eg:23toHour
零壹贰伍
·
2024-01-03 09:55
数据库
sql
clickhouse
ClickHouse
(20)
ClickHouse
集成PostgreSQL表引擎详细解析
文章目录PostgreSQL创建一张表实施细节用法示例资料分享参考文章PostgreSQLPostgreSQL引擎允许
ClickHouse
对存储在远程PostgreSQL服务器上的数据执行SELECT和
张飞的猪大数据
·
2024-01-03 09:55
clickhouse
postgresql
数据库
大数据
数据仓库
etl
数据仓库
开发教程 (DW) 之数据模型架构&编码规范
数据层次的划分ODS:OperationalDataStore,操作数据层,在结构上其与源系统的增量或者全量数据基本保持一致。它相当于一个数据准备区,同时又承担着基础数据的记录以及历史变化。其主要作用是把基础数据引入到MaxCompute。CDM:CommonDataModel,公共维度模型层,又细分为DWD和DWS。它的主要作用是完成数据加工与整合、建立一致性的维度、构建可复用的面向分析和统计的
禅与计算机程序设计艺术
·
2024-01-03 08:38
大数据技术原理与应用期末考试题
A、利用分布式文件系统、
数据仓库
、关系数据库等实现对结构化、半结构化和非结构化海量数据的存储和管理B、利用分布式并行编程模型和计算框架,结合机器学习和数据挖掘算法,实现对海量数据的处理和分析C、构建隐私数据保护体系和数据安全体系
无敌海苔咪
·
2024-01-03 08:03
大数据开源框架
期末
大数据
ClickHouse
基础知识(七):
ClickHouse
的分片集群
副本虽然能够提高数据的可用性,降低丢失风险,但是每台服务器实际上必须容纳全量数据,对数据的横向扩容没有解决。要解决数据水平切分的问题,需要引入分片的概念。通过分片把一份完整的数据进行切分,不同的分片分布到不同的节点上,再通过Distributed表引擎把数据拼接起来一同使用。Distributed表引擎本身不存储数据,有点类似于MyCat之于MySql,成为一种中间件,通过分布式逻辑表来写入、分发
依晴无旧
·
2024-01-03 07:26
大数据
clickhouse
数据仓库
命名规范详解
养成良好的编程习惯写出清楚、易懂、易维护的程序代码提高代码质量与沟通效率减少编码中的不必要的错误二、数仓开发命名规范主要分为以下几个方面(1)
数据仓库
命名规范(2)表命名规范(3)字段命名规范(4)字段类型规范三
孤城暮雨@
·
2024-01-03 04:17
数据仓库
hive
hadoop
数据库
sql
database
数据库架构
数据仓库
分层详解
为什么要对
数据仓库
分层?a)空间换时间通过建设多层次的数据模型供用户使用,避免用户直接使用操作型数据,可以更高效的访问数据。b)把复杂问题简单化。
孤城暮雨@
·
2024-01-03 04:47
数据仓库
大数据
hive
sql
数据库
数据库开发
ClickHouse
使用姿势系列之分布式JOIN
点击上方蓝色字体,选择“设为星标”回复"面试"获取更多惊喜轻戳有惊喜:八股文教给我,你们专心刷题和面试阅读本文前必读:原理部分「
Clickhouse
系列」分布式表&本地表详解「
ClickHouse
系列」
王知无(import_bigdata)
·
2024-01-03 03:21
分布式
java
大数据
数据库
数据分析
MySql基础知识及下载安装
数据库(DB,DataBase)概念:
数据仓库
,是一个软件,安装在操作系统之上的。SQL语句,可以存取大量的数据。作用:存数据,管理数据关
从0开始学Java
·
2024-01-03 01:57
数据库开发
大数据要学习什么知识?大数据学习的内容有哪些?
(资料在尾部)大数据技术体系太庞杂了,基础技术覆盖数据采集、数据预处理、分布式存储、NOSQL数据库、多模式计算(批处理、在线处理、实时流处理、内存处理)、多模态计算(图像、文本、视频、音频)、
数据仓库
Java程序员YY
·
2024-01-03 00:19
全面解读数据中台、
数据仓库
和数据湖
随着大数据技术的不断更新和迭代,数据管理工具得到了飞速的发展,相关概念如雨后春笋一般应运而生,如从最初决策支持系统(DSS)到商业智能(BI)、
数据仓库
、数据湖、数据中台等,这些概念特别容易混淆,本文对这些名词术语及内涵
公众号:肉眼品世界
·
2024-01-03 00:44
数据仓库
lamp
scipy
zk
makefile
浅析PostgreSQL与SQL Server两者间的关键性差异
使用PostgreSQL进行运营的组织可能希望切换到像MicrosoftSQLServer这样的数据库,因为它主要迎合不同的
数据仓库
解决方案、电子商务和其他业务线。
WPHunter
·
2024-01-02 20:46
postgresql
数据库
SQL
数据仓库
建模有哪些常用的方法
数据仓库
建模有以下常用的方法:1.维度建模:维度建模是
数据仓库
中最常用的建模方法之一。
命令执行
·
2024-01-02 07:47
深度学习
机器人
Apache Flink连载(二十三):Flink HA - Flink基于Yarn HA
个人主页:IT贫道_大数据OLAP体系技术栈,ApacheDoris,
Clickhouse
技术-CSDN博客私聊博主:加入大数据技术讨论群聊,获取更多大数据资料。
IT贫道
·
2024-01-02 04:42
大数据计算体系技术栈
Apache
Flink
apache
flink
大数据
Apache Doris (五十七): Doris - Runtime Filter
个人主页:IT贫道_大数据OLAP体系技术栈,ApacheDoris,
Clickhouse
技术-CSDN博客私聊博主:加入大数据技术讨论群聊,获取更多大数据资料。
IT贫道
·
2024-01-02 04:42
大数据OLAP体系技术栈
Apache
Doris
apache
php
开发语言
Apache Flink连载(二十二):Flink HA - Flink基于Standalone HA
个人主页:IT贫道_大数据OLAP体系技术栈,ApacheDoris,
Clickhouse
技术-CSDN博客私聊博主:加入大数据技术讨论群聊,获取更多大数据资料。
IT贫道
·
2024-01-02 04:11
大数据计算体系技术栈
Apache
Flink
apache
flink
大数据
clickhouse
入门之基础数据类型及数据表
数据类型基础类型基础类型只有三种数值、字符串、时间数值1.1数值类型int(用int8int16int32int64代表tinyintsmallintintbigint)分别占用1248字节,无符号整数加前缀U表示。1.2浮点数float(float32float64分别占用48字节有效精度分别为716位)1.3定点数decimal(decimal32(S)decimal64(S)decimal1
kooomo
·
2024-01-01 22:20
从0到1快速入门ETLCloud
一、ETLCloud的介绍ETL是将业务系统的数据经过抽取(Extract)、清洗转换(Transform)之后加载(Load)到
数据仓库
的过程,目的是将企业中的分散、凌乱、标准不统一的数据整合到一起,
ETLCloud数据集成社区
·
2024-01-01 19:38
ETL
数据集成
实时数据
2020-07-14
具体到技术环节,包括
数据仓库
、ETL、OLAP、数据挖掘、数据可视化这几个方面。大体上来看,BI可分为传统BI和敏捷BI。
木星_288b
·
2024-01-01 18:25
详解大数据
数据仓库
分层架构
大数据
数据仓库
是基于HIVE构建的
数据仓库
,分布文件系统为HDFS,资源管理为Yarn,计算引擎主要包括MapReduce/Tez/Spark等,分层架构如下:1、数据来源层:日志或者关系型数据库,并通过
Alukar
·
2024-01-01 14:47
大数据概念:数据网格和DataOps
以下是数据网格的详细介绍:基本概念数据网格的基本构成单元是数据产品,数据产品是由
数据仓库
、数据集市、数据源等组成的。数据网格还包括数据消费者、数据生产者、数据管理员等角色,他们共同协作,实现数
运维仙人
·
2024-01-01 14:52
大数据
大数据
PowerDesigner 12.5 数据建模基础用法(图文版)
利用PowerDesigner可以制作数据流程图、概念数据模型、物理数据模型,可以生成多种客户端开发工具的应用程序,还可为
数据仓库
制作结构模型,也能对团队设计模型进行控制。
老程序员的笔记
·
2024-01-01 12:39
编程经验
关卡设计
java
如何应用DAP
数据仓库
在当前的信息化建设背景下,企业数据的价值日益凸显,数据分析也越来越受到重视。数据分析通过整合和汇总数据,为企业制定战略、了解市场需求等方面提供强有力的支持。而通过对大量数据进行分析,能够真实、准确、清晰、有效地将企业内部及外部行业数据进行可视化展现,使企业能够调整产品定位、开发新产品,以满足市场需求,帮助企业提升行业洞察力,加强决策力,从而提升整体竞争力。此外,数据分析还为企业优化产品和服务提供指
数通畅联
·
2024-01-01 11:30
产品
数据仓库
数据分析
数据可视化
四,Geoserver栅格
数据仓库
(/coveerages)
Put:更新指定工作空间下的数据存储区所有栅格
数据仓库
Delete:删除指定工作空间下的数据存储区所有栅格
数据仓库
/workspaces/{
武汉小强
·
2024-01-01 09:35
trino-435: 理论基础
应⽤场景Trino是定位在
数据仓库
和数据分析业务的分布式SQL引擎,适合以下应⽤场景:•统⼀SQL访问各类数据源•执⾏sql转换与ETL•Ad-Hoc查询•海量结构化数据或半结构化数据分析•海量多维数据聚合
玉成226
·
2024-01-01 04:56
【trino】
大数据
第01期:一文了解
ClickHouse
一、简介1.1
ClickHouse
是什么?
ClickHouse
是Yandex(俄罗斯最大的搜索引擎)开源的一个用于实时数据分析的基于列存储的数据库,其处理数据的速度比传统方法快100-1000倍。
爱可生开源社区
·
2024-01-01 04:46
医学信息应用技术(1)急救知识点(90+)必背基础42题
其常用技术:答:是一个集信息管理、信息检索、专家系统、分析评估、
数据仓库
等为一体的应用软件系统。数据库
【赢在起跑线~】
·
2024-01-01 02:31
学习
健康医疗
笔记
数据湖三剑客,大数据时代的新范式?
随着互联网高速发展,大数据技术快速发展和迅速迭代,降低了用户处理海量数据的门槛,越来越多的应运场景出现在我们的身边存储和处理需求越来越多样化,逐渐呈现出
数据仓库
往数据湖方向发展、批处理往流式处理发展、本地部署往云模式发展的趋势
疯码牛
·
2023-12-31 15:33
支撑EB级规模的大数据平台深度揭秘
编者按:4月20日,云栖大会走进深圳,由阿里云高级
数据仓库
专家陈鹏宇(花名:不老)分享的环节内容量巨大,引发现场用户关注。
weixin_33915554
·
2023-12-31 11:51
大数据
数据库
操作系统
ETL数据清洗
ETL一词较常用在
数据仓库
,但其对象并不限于
数据仓库
在运行核心业务MapReduce程序之前,往往要先对数据进行清洗,清理掉不符合用户要求的数据。
栈溢出了
·
2023-12-31 09:26
Hadoop
etl
数据仓库
数据库
大促秒杀更顺滑|忆联携手南大通用,提供数据密集型存储新范式
面对瞬时流量高并发、海量数据查询等应用场景,固态硬盘凭借其高吞吐量、低时延等特征逐渐成为大数据时代下数据存储的重要载体,是当前本地部署的
数据仓库
产品重要搭载硬件,可满足电商大促场景下大规模数据的存储和查询需
Union Memory忆联
·
2023-12-31 07:27
安全
服务器
智能硬件
大数据应用发展史:从搜索引擎时代到机器学习时代
文章目录搜索引擎时代
数据仓库
时代数据挖掘时代机器学习时代小结大数据技术的使用经历了一个发展过程从最开始的Google在搜索引擎中开始使用大数据技术,到现在无处不在的各种人工智能应用,伴随着大数据技术的发展
善守的大龙猫
·
2023-12-31 05:11
大数据
大数据
【遇见Doris】Apache Doris (incubating) 0.12.0版本预览
What'sDorisDoris是一款基于Mesa模型的MPP、列式
数据仓库
,具
ApacheDoris
·
2023-12-31 03:15
运维
大数据
数据库
python
java
数据仓库
基础理论
前端时间,使用阿里云MaxCompute做
数据仓库
,处理大数据的分析处理,整理一下
数据仓库
的基础理论。
大斜千变
·
2023-12-31 03:12
大数据
数据仓库
odps
大数据
数据挖掘
数据库MySQL入门课程
简介1.什么是数据库1.1、什么是数据库数据库:DB(DataBase)概念:
数据仓库
,软件,安装在操作系统之上1.2、数据库分类关系型数据库:SQL(StructuredQueryLanguage)MySQL
射手座的程序媛
·
2023-12-31 02:51
MySQL
数据库
mysql
Apache Doris (五十六): Doris Join类型 - 四种Join对比
个人主页:IT贫道_大数据OLAP体系技术栈,ApacheDoris,
Clickhouse
技术-CSDN博客私聊博主:加入大数据技术讨论群聊,获取更多大数据资料。
IT贫道
·
2023-12-30 15:32
大数据OLAP体系技术栈
Apache
Doris
doris
Apache Flink连载(二十):Flink On Yarn运行 - Yarn Per-Job模式(弃用)
个人主页:IT贫道_大数据OLAP体系技术栈,ApacheDoris,
Clickhouse
技术-CSDN博客私聊博主:加入大数据技术讨论群聊,获取更多大数据资料。
IT贫道
·
2023-12-30 15:02
大数据计算体系技术栈
Apache
Flink
apache
flink
大数据
Apache Flink连载(二十一):Flink On Yarn运行原理-Yarn Application模式
个人主页:IT贫道_大数据OLAP体系技术栈,ApacheDoris,
Clickhouse
技术-CSDN博客私聊博主:加入大数据技术讨论群聊,获取更多大数据资料。
IT贫道
·
2023-12-30 15:30
大数据计算体系技术栈
Apache
Flink
apache
flink
大数据
clickhouse
连接工具dbeaver
地址地址:Download|DBeaverCommunity安装表引擎表引擎之TinyLog以列文件的形式保存在磁盘上,不支持索引,没有并发控制。一般保存少量数据的小表,生产环境上作用有限,多用于平时练习测试用。内存引擎,数据以未压缩的原始形式直接保存在内存当中,服务器重启数据就会消失。读写操作不会相互阻塞,不支持索引。简单查询下有非常非常高的性能表现(超过10G/s)。一般用到它的地方不多,除了
xixiyuguang
·
2023-12-30 09:10
clickhouse
ClickHouse
基础知识(五):
ClickHouse
的SQL 操作
基本上来说传统关系型数据库(以MySQL为例)的SQL语句,
ClickHouse
基本都支持,这里不会从头讲解SQL语法只介绍
ClickHouse
与标准SQL(MySQL)不一致的地方。
依晴无旧
·
2023-12-30 09:10
大数据
clickhouse
sql
数据库
你需要懂一点
ClickHouse
的基础知识
大数据技术与架构点击右侧关注,大数据开发领域最强公众号!暴走大数据点击右侧关注,暴走大数据!应用场景:1.绝大多数请求都是用于读访问的2.数据需要以大批次(大于1000行)进行更新,而不是单行更新;或者根本没有更新操作3.数据只是添加到数据库,没有必要修改4.读取数据时,会从数据库中提取出大量的行,但只用到一小部分列5.表很“宽”,即表中包含大量的列6.查询频率相对较低(通常每台服务器每秒查询数百
王知无(import_bigdata)
·
2023-12-30 09:39
系统运维系列 之
Clickhouse
数据库学习集锦(接查询优化问题整理)
1简介
ClickHouse
是一个用于联机分析(OLAP)的列式数据库管理系统(DBMS),来自于俄罗斯本土搜索引擎企业Yandex公司,是为世界第二大web分析平台(Yandex.Metrica)所开发
琅晓琳
·
2023-12-30 09:08
基础运维
pagefile.sys
Clickhouse数据库
数据库
学习集锦
ClickHouse
基础知识(六):
ClickHouse
的副本配置
副本的目的主要是保障数据的高可用性,即使一台
ClickHouse
节点宕机,那么也可以从其他服务器获得相同的数据。
依晴无旧
·
2023-12-30 09:07
大数据
clickhouse
「从ES到CK 02」
Clickhouse
的基础知识扫盲
导航在完成将公司日志数据从Elasticsearch(下称ES)转战到
Clickhouse
后,个人认为有必要将过程记录分享。
Pong_Kaho
·
2023-12-30 09:07
日志解决方案
elasticsearch
clickhouse
Flink DataStream 编程模型
本文是我的第一篇付费文章,这是个开篇纵览,后面会深入讲解Flink理论与开发,不限于Flink这一个组件,后面也会有Spark、
Clickhouse
等等,代码也会配套同步到Gitee上面(Gitee地址见文末
大数据技术派
·
2023-12-30 09:54
flink
大数据
文档型非关系数据库MongoDB经验总结
数据仓库
是在数据库管理系统管理控制下在一定介质中创建的数据库管理系统:数据库管理软件,用于建立维护操作数据库数据库系统:由数据库和数据库管理系统等构成的数据库开发工具集合。
大强哥666
·
2023-12-30 07:19
python
数据库的使用
mongodb
mongodb
数据库
python
pycharm
AI大模型时代下运维开发探索第二篇:基于大模型(LLM)的
数据仓库
在SREWorks社区聚集了很多进行运维数仓建设的同学,大家都会遇到类似的挑战和问题:数仓中存储大量数据消耗成本,但很多存储的数据却并没有消费。进数仓的ETL学习成本高、管理成本高,相关同学配合度低,以及上游结构改动后ETL却迟迟无人调整。数仓中数据的时效性、准确性问题,导致很多场景无法完全依赖数仓展开。上面的种种让推广数仓的同学很犯难:明明花了大力气构建了统一数仓,但却又受限于各种问题,无法让其
阿里云大数据AI技术
·
2023-12-30 07:39
原型模式
基于Rsyslog+Kafka+Flink+
Clickhouse
的高性能日志采集、分析、汇聚存储方法
在上一篇博文中介绍了简单的实用负载均衡与实时监控方案(tengine+rsyslog+goaccess),功能上是满足日常需要的。但是用户的需求是没有止境的,更何况我们做技术的都有一颗追求极致的心。在实际场景中客户需要了解平台整体UV、PV,各功能模块PV、UV,区域PV、UV,各手机型号、应用版本的使用情况,平台使用的趋势分析,功能模块的热度分析等指标。用户端精确埋点和基于Haddop的大数据采
IT 行者
·
2023-12-30 05:02
理论与实践
微服务
负载均衡
运维
nginx+rsyslog+kafka+
clickhouse
+grafana 实现nginx 网关监控
需求我想做一个类似腾讯云网关日志最终以仪表方式呈现,比如说qps、p99、p95的请求响应时间等等流程图数据流转就像标题nginx---->rsyslog---->kafka—>
clickhouse
—>
帆影匆匆
·
2023-12-30 05:59
nginx
kafka
clickhouse
clickhouse
code: 209. DB::NetException: Timeout: connect timed out:
1、code:209.DB::NetException:Timeout:connecttimedout:ck插入数据失败,查看querylog日志提示网络超时,最后定位到问题是ck底层系统升级造成。解决方案:1、业务重试容错2、也可以调整重试次数,降低失败概率setglobalonclusterdefaultconnections_with_failover_max_tries=10(默认是3次)
qq_35640866
·
2023-12-29 22:43
clickhouse
数据库
clickhouse
上一页
11
12
13
14
15
16
17
18
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他