E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
--Doris
【大数据】
Doris
构建实时数仓落地方案详解(三):
Doris
实时数仓设计
本系列包含:
Doris
构建实时数仓落地方案详解(一):实时数据仓库概述
Doris
构建实时数仓落地方案详解(二):
Doris
核心功能解读
Doris
构建实时数仓落地方案详解(三):
Doris
实时数仓设计
Doris
G皮T
·
2023-09-20 08:38
大数据
大数据
数据仓库
Doris
流批一体
Lambda
Kappa
实时数仓
招商信诺人寿基于 Apache
Doris
统一 OLAP 技术栈实践
本文导读:当前,大数据、人工智能、云计算等技术应用正在推动保险科技发展,加速保险行业数字化进程。在这一背景下,招商信诺不断探索如何将多元数据融合扩充,以赋能代理人掌握更加详实的用户线索,并将智能分析贯穿业务全链路,实现对用户、产品、场景策略的全面洞察与闭环迭代。本文将详细介绍招商信诺在大数据基础建设方面的探索之旅,从最初为线报表、Ad-hoc分析提供服务的OLAP引擎,逐步发展至基于ApacheD
SelectDB技术团队
·
2023-09-20 08:58
apache
数据库
云原生
大数据
数据分析
基于Apache
doris
怎么构建数据中台(二)-数据中台建设内容
这次主要是将基于
Doris
的数据中台建设内容及系统架构设计围绕着上次将的我们要解决的五个问题:找数,理解数据,问题评估,取数及数据可视化,给出一个概要的设计及框架数据中台建设内容数据规范统一:采用维度事实建模理论进行严格的
张家锋
·
2023-09-19 14:05
招商信诺人寿基于 Apache
Doris
统一 OLAP 技术栈实践
本文导读:当前,大数据、人工智能、云计算等技术应用正在推动保险科技发展,加速保险行业数字化进程。在这一背景下,招商信诺不断探索如何将多元数据融合扩充,以赋能代理人掌握更加详实的用户线索,并将智能分析贯穿业务全链路,实现对用户、产品、场景策略的全面洞察与闭环迭代。本文将详细介绍招商信诺在大数据基础建设方面的探索之旅,从最初为线报表、Ad-hoc分析提供服务的OLAP引擎,逐步发展至基于ApacheD
·
2023-09-19 12:11
【大数据】
Doris
构建实时数仓落地方案详解(一):实时数据仓库概述
Doris
构建实时数仓落地方案详解(一):实时数据仓库概述1.数据仓库的发展历程2.数据仓库技术的发展3.数仓的相关技术栈4.OLAP查询5.MPP架构6.实时数仓定义7.实时数仓的难点数据仓库的概念可以追溯到
G皮T
·
2023-09-19 04:45
大数据
大数据
数据仓库
Doris
实时数仓
MPP架构
Hadoop
HDFS
【大数据】
Doris
构建实时数仓落地方案详解(二):
Doris
核心功能解读
Doris
构建实时数仓落地方案详解(二):
Doris
核心功能解读1.
Doris
发展历程2.
Doris
三大模型3.
Doris
数据导入4.
Doris
多表关联5.
Doris
核心设计6.
Doris
查询优化7.
Doris
G皮T
·
2023-09-19 04:14
大数据
大数据
数据仓库
Doris
实时数仓
MPP架构
Hadoop
HDFS
【遇见
Doris
】
Doris
在用户画像人群业务的应用
本次Meetup请到了来自作业帮和百度画像团队的技术大牛带来ApacheDoris应用与实践上的经验分享,了解更多详情请关注
Doris
官方公众号。
ApacheDoris
·
2023-09-18 08:38
分布式
百度
大数据
编程语言
数据库
Doris
进阶——数据导入
数据导入:将用户的原始数据导入到
Doris
中,导入成功后可以通过Mysql客户端进行查询。所有的导入方式都支持CSV格式,其中BrokerLoad中支持parquet和orc数据格式。
小眼睛的Ayuan
·
2023-09-18 08:08
Doris
笔记
大数据
big
data
数据库
database
sql
Doris
进阶——数据备份与恢复
Doris
官网:
Doris
_BackupBackupBackup是将指定的表数据或者指定分区的数据以
Doris
的文件存储格式上传到远端仓库中,实现数据的备份。
小眼睛的Ayuan
·
2023-09-18 08:08
Doris
笔记
大数据
big
data
数据仓库
database
sql
【遇见
Doris
】
Doris
在作业帮实时数仓中的应用&实践
本次Meetup请到了来自作业帮和百度画像团队的技术大牛带来ApacheDoris应用与实践上的经验分享,了解更多详情请关注
Doris
官方公众号。
ApacheDoris
·
2023-09-18 08:07
大数据
分布式
编程语言
hadoop
数据库
【
Doris
全面解析】存储层设计介绍2——写入流程、删除流程分析
本文转自开源中国ZhangYu0123博客1整体介绍
Doris
是基于MPP架构的交互式SQL数据仓库,主要用于解决了近实时的报表和多维分析。
Doris
高效的导入、查询离不开其存储结构精巧的设计。
ApacheDoris
·
2023-09-18 08:36
大数据
分布式
数据库
python
mysql
doris
历程_
Doris
简史-为分析而生的11年
期间,
Doris
从最初的只为解决百度凤巢报表的专用系统,已经成长为目前国内唯一的分析型数据库孵化项目。一路走来,
Doris
的初心从未改变。
weixin_39998521
·
2023-09-18 08:06
doris历程
Doris
的执行计划生成、分发与执行
目录一、概述三、执行计划的生成四、执行计划的分发五、执行计划的执行六、举个例子一、概述执行SQL的代码入口为StmtExecutor::execute()三、执行计划的生成在
Doris
的FE端,与大多数数据库系统一样
howard_shooter
·
2023-09-18 08:34
Doris
doris
Doris
】
Doris
SQL 原理解析
本文主要介绍了DorisSQL解析的原理。重点讲述了生成单机逻辑计划,生成分布式逻辑计划,生成分布式物理计划的过程。对应于代码实现是Analyze,SinglePlan,DistributedPlan,Schedule四个部分。Analyze负责对AST进行前期的一些处理,SinglePlan根据AST进行优化生成单机查询计划,DistributedPlan将单机的查询计划拆成分布式的查询计划,S
九层之台起于累土
·
2023-09-18 08:34
【Doris】
【BigData】
sql
数据库
java
大数据
数据仓库
Doris
数据库FE——SQL 接收
SQL接收首先看定义在fe/fe-core/src/main/java/org/apache/
doris
/qe/QeService.java文件中的publicclassQeService类,该类istheencapsulationoftheentirefront-endservice
肥叔菌
·
2023-09-18 08:02
Doris
数据库
sql
Doris
Doris
2.0.1 升级实战
1.2.0-1.2.5任意版本->2.0.0-beta当前集群Dorisapache-
doris
-dependencies-1.2.4.1-bin-x86_64升级目标
Doris
2.0.1服务
wangqiaowq
·
2023-09-18 00:42
服务器
运维
doris
多租户资源隔离及权限管理
Doris
的多租户和资源隔离方案,主要目的是为了多用户在同一
Doris
集群内进行数据操作时,减少相互之间的干扰,能够将集群资源更合理的分配给各用户。
shy_snow
·
2023-09-15 12:34
Doris
Doris
数据库
doris
数据批量写入数据存在执行更新不存在执行插入
doris
的更新特指对于unique类型的表,对于这种类型的表,如果insert的记录与已有的记录的uniquekey相同,也相当与update。
唯♧
·
2023-09-15 08:52
数据库
java
oracle
Doris
数据库使用记录
新建表createtabletonly_attendance(vinvarchar(64),diggings_namevarchar(256),areavarchar(64),diggings_typevarchar(256),work_timedecimal(20,2),engine_run_timedecimal(20,2),upload_timevarchar(64))DUPLICATEKE
唯♧
·
2023-09-15 08:21
数据库
【记录】实践场景
ApacheDoris在京东搜索实时OLAP探索与实践https://
doris
.apache.org/zh-CN/blog/JD_OLAP/通过对比开源的几款实时OLAP引擎,我们发现
doris
和clickhouse
TaiKuLaHa
·
2023-09-14 00:29
OLAP
Doris
-1.2.6集群
1、系统软件1.1、系统版本系统:centos7.1及以上;Ubuntu16.04及以上软件:Java1.8及以上;GCC4.8.2及以上;1.2、环境检查1.2.1、gcc安装1、Centosansiblecluster-mshell-a"yum-yinstallgccgcc-c++autoconfpcrepcre-develmakeautomake"ansiblecluster-mshell-
docsz
·
2023-09-13 17:26
doris
.netcore 连接 apache
doris
apachedoris兼容mysql协议;所以我们在.netcore项目中,可以使用Mysql的驱动dotnetaddpackageMySqlConnector测试代码:[HttpGet]publicasyncTaskGet2(){//打开连接awaitusingvarconnection=newMySqlConnection("Server=192.168.122.136;Port=9030;U
沐雪架构师
·
2023-09-13 06:03
.netcore
apache
Doris
(六)--通过 Canal 同步数据到
Doris
中
pre开启mysqlBinlog网上有众多方法,自行百度。查询是否成功,在mysql客户端输入showBINARYLOGS;出现如下提示,即表示biglog正常开启。1,下载canal服务端传送门注意:下载canal.deployer-xxx版本即可。admin是deployer的管理端。2,上传到服务器的指定位置并解压tarxzvfcanal.deployer-1.1.6.tar.gz注意,这个
BatmanWayne
·
2023-09-12 20:09
数据仓库
Drois
数据仓库
canal
从 Clickhouse 到 Apache
Doris
:有赞业务场景下性能测试与迁移验证
本文导读:当前,电商运营的主要痛点不仅来自多变的市场和客户需求,也受困于碎片化用户触达等带来的竞争与挑战。为了深度挖掘用户价值、培养用户忠诚度、实现业绩增长,有赞为商家搭建了全方位OLAP分析系统,提供实时与离线分析报表、智能营销与人群圈选等SaaS服务。本文将详细介绍有赞从Clickhouse至ApacheDoris的迁移规划和性能对比测试实践,分享如何基于ApacheDoris统一OLAP技术
SelectDB技术团队
·
2023-09-11 21:55
apache
数据库
大数据
数据分析
从 Clickhouse 到 Apache
Doris
:有赞业务场景下性能测试与迁移验证
本文导读:当前,电商运营的主要痛点不仅来自多变的市场和客户需求,也受困于碎片化用户触达等带来的竞争与挑战。为了深度挖掘用户价值、培养用户忠诚度、实现业绩增长,有赞为商家搭建了全方位OLAP分析系统,提供实时与离线分析报表、智能营销与人群圈选等SaaS服务。本文将详细介绍有赞从Clickhouse至ApacheDoris的迁移规划和性能对比测试实践,分享如何基于ApacheDoris统一OLAP技术
·
2023-09-11 11:19
ClickHouse和
Doris
超大数据集存储
文章目录一.ClickHouse1.性能2.可靠性3.可扩展性4.支持SQL和复杂查询5.适用场景二.
Doris
1.性能2.可靠性3.易用性4.适用场景三.ClickHouse和
Doris
的比较1.架构
我是廖志伟
·
2023-09-10 09:04
clickhouse
doris
docker环境编译部署
1.准备dorisdocker环境xiuchenggong@xiuchengdeMacBook-Probin%dockerpullapache/
doris
:build-env-ldb-toolchain-latestbuild-env-ldb-toolchain-latest
gongxiucheng
·
2023-09-08 18:55
docker
doris
olap
使用Apache
Doris
自动同步整个 MySQL/Oracle 数据库进行数据分析
Flink-
Doris
-Connector1.4.0允许用户一步将包含数千个表的整个数据库(MySQL或Oracle)摄取到ApacheDoris(一种实时分析数据库)中。
碧茂大数据
·
2023-09-07 21:39
Doris
hadoop
mysql
oracle
D74 2组阿德
doris
+《活出生命的意义》读书笔记
“要像是在经历第二次生命,仿佛你已经获得重生;再不要像过去那样,一定要避免犯同样错误。”这是意义疗法的绝对命令,它强调了责任的重要性。作者的意义疗法和其他的心理治疗不同,它不愿意对患者进行价值评判,它试图让患者自己认识到自己的责任,只有患者自己能决定自己为什么负责,对什么负责和对谁负责。这种责任不在医生身上,而是在患者自己身上。意义疗法师的作用更像是一位眼科医生,旨在帮助人们自己去观察世界实际上是
阿德doris
·
2023-09-07 14:28
力扣(LeetCode)算法_C++——两个列表的最小索引总和
假设Andy和
Doris
想在晚餐时选择一家餐厅,并且他们都有一个表示最喜爱餐厅的列表,每个餐厅的名字用字符串表示。你需要帮助他们用最少的索引和找出他们共同喜爱的餐厅。
吴俊荣
·
2023-09-07 10:49
力扣算法
算法
leetcode
c++
Doris
集群安装部署(1.2.4.1 release)
标准部署-ApacheDoris本文章基于
Doris
1.2.4relase更新:更新日志请看Release1.2.4一.部署方式选择
Doris
安
jerry-89
·
2023-09-07 06:03
DorisDB
数据库
DataX(MySQL同步数据到
Doris
)
1.场景这里演示介绍的使用
Doris
的Datax扩展DorisWriter实现从Mysql数据定时抽取数据导入到
Doris
数仓表里2.编译DorisWriter这个的扩展的编译可以不在
doris
的docker
jerry-89
·
2023-09-07 06:03
DorisDB
数据库
Apache
Doris
常见问题答疑(二)
Q:showbackends/frontends查看到的信息不完整A:在执行如showbackends/frontends等某些语句后,结果中可能会发现有部分列内容不全。比如showbackends结果中看不到磁盘容量信息等。通常这个问题会出现在集群有多个FE的情况下,如果用户连接到非MasterFE节点执行这些语句,就会看到不完整的信息。这是因为,部分信息仅存在于MasterFE节点。比如BE的
张家锋
·
2023-09-07 04:46
基于Apache
doris
的元数据管理系统
这里我们要先搞懂什么是元数据?元数据和数据的区别是什么?元数据有什么作用1.什么是元数据举几个例子:如果一本书是一个“数据",那么它的书名、封面、出版社、作者、总页码就是它的“元数据”。如果数据库中某个表是一个”数据”,那么它的列名、列类型、列长度、表注释就是它的"元数据"。元数据用来描述数据的数据,通过描述数据的产生、存储、使用情况、业务含义等信息,以及数据管理人员相关信息。让人们能够清楚拥有什
张家锋
·
2023-09-07 03:55
Apache
Doris
2.0 如何实现导入性能提升 2-8 倍
数据导入吞吐是OLAP系统性能的重要衡量标准之一,高效的数据导入能力能够加速数据实时处理和分析的效率。随着ApacheDoris用户规模的不断扩大,越来越多用户对数据导入提出更高的要求,这也为ApacheDoris的数据导入能力带来了更大的挑战。为提供快速的数据写入支持,ApacheDoris存储引擎采用了类似LSMTree结构。在进行数据导入时,数据会先写入Tablet对应的MemTable中,
SelectDB技术团队
·
2023-09-07 00:01
apache
大数据
数据库
数据分析
性能优化
腾讯音乐基于 Apache
Doris
+ 大模型构建全新智能数据服务平台
当前,大语言模型的应用正在全球范围内引发新一轮的技术革命与商业浪潮。腾讯音乐作为中国领先在线音乐娱乐平台,利用庞大用户群与多元场景的优势,持续探索大模型赛道的多元应用。本文将详细介绍腾讯音乐如何基于ApacheDoris构建查询高效、实时统一分析的OLAP引擎,使OLAP作为底层基建加强模型连接转化效率、结果输出准确率,最终将大模型+OLAP引擎结合为用户提供个性化、实时化、灵活化的智能数据服务平
SelectDB技术团队
·
2023-09-07 00:00
apache
大数据
数据库
数据分析
Apache
Doris
2.0.1 & 1.2.7 版本正式发布!
亲爱的社区小伙伴们,我们很高兴的宣布,2023年9月4日我们正式发布了ApacheDoris2.0.1和ApacheDoris1.2.7这两个版本,这两个版本由上百名位贡献者共同努力完成的,提供了更多有用的新特性,同时修复了若干已知的问题,进一步提升了系统的性能和稳定性,欢迎大家下载体验。本文将介绍这两个版本更新信息,以帮助大家快速了解新版本功能特性。同时期待听到大家的反馈和建议,这将帮助社区进一
SelectDB技术团队
·
2023-09-06 17:43
apache
大数据
数据库
开源
Apache
Doris
2.0 如何实现导入性能提升 2-8 倍
数据导入吞吐是OLAP系统性能的重要衡量标准之一,高效的数据导入能力能够加速数据实时处理和分析的效率。随着ApacheDoris用户规模的不断扩大,越来越多用户对数据导入提出更高的要求,这也为ApacheDoris的数据导入能力带来了更大的挑战。为提供快速的数据写入支持,ApacheDoris存储引擎采用了类似LSMTree结构。在进行数据导入时,数据会先写入Tablet对应的MemTable中,
·
2023-09-06 12:55
腾讯音乐基于 Apache
Doris
+ 大模型构建全新智能数据服务平台
基于公司丰富的音乐内容资产,需要将歌曲库、艺人资讯、专辑信息、厂牌信息等大量数据进行统一存储形成音乐内容数据仓库,并通过产品工具为业务人员提供数据分析服务。在内容数仓搭建的过程中,我们的工作始终围绕降本增效为主要目的进行优化与迭代,希望在数据服务方面不断提升产品工具的开发与分析效率,同时在数仓架构方面能够有效减少架构成本与资源开销。在传统数据服务中,我们为业务分析师提供了多种数据服务,包括SQL查
·
2023-09-05 17:37
Apache
Doris
2.0.1 & 1.2.7 版本正式发布!
亲爱的社区小伙伴们,我们很高兴的宣布,2023年9月4日我们正式发布了ApacheDoris2.0.1和ApacheDoris1.2.7这两个版本,这两个版本由上百名位贡献者共同努力完成的,提供了更多有用的新特性,同时修复了若干已知的问题,进一步提升了系统的性能和稳定性,欢迎大家下载体验。本文将介绍这两个版本更新信息,以帮助大家快速了解新版本功能特性。同时期待听到大家的反馈和建议,这将帮助社区进一
·
2023-09-05 13:41
flink实现kafka、
doris
精准一次说明
前言说明:本文档只讨论数据源为kafka的情况实现kafka和
doris
的精准一次写入flink的kafka连接器已经实现了自动提交偏移量到kafka,当flink中的数据写入成功后,flink会将这批次数据的
DLoong+
·
2023-09-05 09:34
大数据
flink
kafka
数据库
Apache
Doris
冷热分层技术如何实现存储成本降低 70%?
在数据分析的实际场景中,冷热数据往往面临着不同的查询频次及响应速度要求。例如在电商订单场景中,用户经常访问近6个月的订单,时间较久远的订单访问次数非常少;在行为分析场景中,需支持近期流量数据的高频查询且时效性要求高,但为了保证历史数据随时可查,往往要求数据保存周期更为久远;在日志分析场景中,历史数据的访问频次很低,但需长时间备份以保证后续的审计和回溯的工作...往往历史数据的应用价值会随着时间推移
·
2023-09-04 22:01
druid连接不上
doris
有哪些可能原因
如果你在使用Druid连接池连接
Doris
时遇到问题,无法连接上数据库,可能有以下几个原因和解决方案:网络配置问题:确保你的应用程序能够与
Doris
数据库所在的服务器进行通信。
linweidong
·
2023-09-03 15:07
数据库
oracle
服务器
Doris
workload group实战
1.创建测试用户:创建一个用户名为test,密码为test的用户:createuser'test'@'%'IDENTIFIEDBY'test';给测试用户赋权:给用户test赋予数据库test.*权限grantSELECT_PRIV,LOAD_PRIV,CREATE_PRIV,ALTER_PRIVONtest.*TOtest;开启experimental_enable_workload_group
wangleigiser
·
2023-09-02 07:46
数据库
doris
系列2:
doris
分析英国房产数据集
1.准备数据2.
doris
建表CREATE TABLE `uk_price_paid`(`id`varchar(50) NOT NULL,`price`int(20),`date` date
shangjg3
·
2023-09-01 06:51
OLAP引擎
大数据
数据仓库
Day6+4组49号
doris
+《学习力》
昨天已经结束了整本书的阅读,今天回顾了一下前几天的阅读,再次翻看了自己的读书笔记,发现了自己之前在看书的时候没重点关注的点【旧知】在参加萌薇老师的手账营之前,我觉得自己还不错,有稳定的工作、有亲密的家人、有可爱的女儿、有可以随时联系的好朋友。但是在参加完手账营之后,我发现自己这也不会,那也不会。除了前面提到的那些,再也没有什么值得提起的更好的表现了。所以陷入了焦虑,这个也想学,那个也想学。可是精力
阿德doris
·
2023-08-31 22:41
Doris
系列3-基础使用指南
用户登录与密码修改1.2创建新用户二.数据表的创建与数据导入2.1创建数据库2.2账户授权2.3建表2.3.1单分区2.3.2复合分区2.4导入数据2.4.1流式导入2.4.2Broker导入参考:基础使用指南
Doris
只是甲
·
2023-08-31 14:57
大数据和数据仓库
#
Doris
Doris基础使用
Doris创建用户
登陆Doris
Doris创建表
Doris分区分桶
大数据分析引擎-
Doris
简要介绍
目录:1、背景2、
Doris
的架构3、
Doris
的核心特性4、数据的导入和输出1、背景大数据的时代,数据的处理能力大大增强,但在最后一个环节,即数据应用服务环节依然存在较大的瓶颈。
ly_zixuan
·
2023-08-31 13:24
软件架构
大数据
Apache
Doris
(一) :
Doris
介绍及使用场景
目录1.ApacheDoris介绍2.ApacheDoris使用场景2.1报表分析2.2即席查询(Ad-hocQuery)2.3统一数仓构建2.4数据湖联邦查询进入正文之前,欢迎订阅专题、对博文点赞、评论、收藏,关注IT贫道,获取高质量博客内容!1.ApacheDoris介绍ApacheDoris是一个基于MPP架构的高性能、实时的分析型数据库,以极速易用的特点被人们所熟知,仅需亚秒级响应时间即可
IT贫道
·
2023-08-31 13:24
Apache
Doris
apache
大数据
java
Apache
Doris
(二) :
Doris
架构原理及特点
目录1.ApacheDoris架构原理2.ApacheDoris特点2.1支持标准SQL接口2.2列式存储引擎2.3支持丰富的索引结构2.4支持多种存储模型2.5支持物化视图2.6MPP架构设计2.7支持向量化查询引擎2.8动态调整执行计划2.9采用CBO和RBO查询优化器进入正文之前,欢迎订阅专题、对博文点赞、评论、收藏,关注IT贫道,获取高质量博客内容!1.ApacheDoris架构原理Dor
IT贫道
·
2023-08-31 13:22
Apache
Doris
apache
架构
java
上一页
9
10
11
12
13
14
15
16
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他