E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
Doris
基于
Doris
实时数据开发的一些注意事项
最近
Doris
的发展大家是有目共睹的。例如冷热分离等新特性的持续增加。使得
Doris
在易用和成本上都有大幅提升。基于
Doris
的一些存储实时数仓在越来越多的场景中开始有一些实践。
王知无(import_bigdata)
·
2023-08-16 18:02
Doris
2.0时代的一些机遇和挑战!
上个周五的时候,
Doris
官宣了2.0版本,除了在性能上的大幅提升,还有一些特性需要大家特别关注。
王知无(import_bigdata)
·
2023-08-16 18:31
Doris
Summit 2023 正式启航,议题征集 & 合作伙伴招募火热进行中
在数字化进程不断演进的时代,数据呈现爆发增长。在这数据洪流之中,数据实时分析的重要性愈发凸显,并成为企业成功的关键要素。作为专注于实时分析的开源实时数据仓库ApacheDoris,从开源至今已走过6个年头,这些年里ApacheDoris一直稳步向前,并在这两年取得了令人瞩目的进展。在DorisSummit2022年度峰会上,社区公布了2023年Roadmap,并在此指引下,ApacheDoris完
·
2023-08-16 16:09
数据库大数据处理apache
mybatis-plus动态表名实现
按照时间分表,某些业务冷热数据分离后数据存在不同的表中等2.一定要时常注意工具的更新,不吃亏因为工作需要,最近需要实现一个类似如下业务等功能交互:简单的描述就是:有一部分的表数据,采用了外部同步的模式,同步到了
doris
许仙许仙!
·
2023-08-16 13:12
mybatis
plus
mysql
数据库
java
Doris
安装部署入门
文章目录一
Doris
介绍1.1使用场景1.1.2
Doris
架构二
Doris
单机部署2.1下载
Doris
2.2配置
Doris
2.2.1配置FE2.2.2启动FE2.2.3查看FE运行状态2.2.4连接FE2.2.5
大数据东哥(Aidon)
·
2023-08-15 22:24
实时数仓
Doris
Doris安装
Doris部署
Doris入门
Apache
Doris
入门教程26:资源管理
为了节省
Doris
集群内的计算、存储资源,
Doris
需要引入一些其他外部资源来完成相关的工作,如Spark/GPU用于查询,HDFS/S3用于外部存储,Spark/MapReduce用于ETL,通过ODBC
sunjian286
·
2023-08-15 19:13
大数据
数据库
数据仓库
数据分析
database
Apache
Doris
入门教程27:BITMAP精准去重和HLL近似去重
BITMAP精准去重背景
Doris
原有的Bitmap聚合函数设计比较通用,但对亿级别以上bitmap大基数的交并集计算性能较差。排查后端be的bitmap聚合函数逻辑,发现主要有两个原因。
sunjian286
·
2023-08-15 19:13
大数据
数据库
数据仓库
database
数据分析
Apache
Doris
入门教程25:通过开启 Debug 日志进行性能分析
Doris
的FE和BE节点的系统运行日志默认为INFO级别。通常可以满足对系统行为的分析和基本问题的定位。但是某些情况下,可能需要开启DEBUG级别的日志来进一步排查问题。
sunjian286
·
2023-08-15 19:42
sql
数据仓库
大数据
数据分析
mysql
Apache
Doris
入门教程28:变量
Doris
中的变量参考MySQL中的变量设置。但部分变量仅用于兼容一些MySQL客户端协议,并不产生其在MySQL数据库中的实际意义。
sunjian286
·
2023-08-15 19:10
数据仓库
数据库
大数据
数据分析
mysql
Apache
Doris
0.15.3升级至1.1.5避坑实用总结
概述:ApacheDoris从0.15到1.1.5属于一个大版本升级,部分语法和使用方式也发生了较大的变化,本文除前期兼容性调研(可以通过官网查到到一部分兼容性问题)已知问题外,生产环境正式升级之后遇到的突发问题进行整理总结,作为一个避坑指南,后期也会不定期更新。正文:1.ODBC驱动兼容性问题:升级到1.0及以上版本后会出现ODBC版本兼容性问题,具体报错信息如下:这个报错官网也有说明,具体原因
码猿小站
·
2023-08-15 16:50
apache
大数据
big
data
Apache
Doris
使用部分日期函数导致分区裁剪失效总结
ApacheDoris使用部分日期函数导致分区裁剪失效总结背景:ApacheDoris是一个分布式的MPP分析型数据仓库,能够实现数据的高并发查询和亚秒级响应需求。在FE和BE两个节点中,FE节点主要功能是与客户端进行交互,元数据管理及查询计划规划等;BE则主要负责数据的存储和查询计划的执行等。BE节点数据存储划分主要分为两级:分区和分桶。分区(Partition):主要有日期分区和枚举List分
码猿小站
·
2023-08-15 16:20
Doris
apache
大数据
数据仓库
java
开源软件
Apache
Doris
在约苗数据平台的实时数仓建设实践
本文导读:约苗平台是国内目前最大的成人预防接种管理服务平台。近年来,随着各功能的不断完善,用户数量不断增多,越来越多注册数据、疫苗类别点击数据、页面浏览时长等数据被生成和积累,如何有效利用这些数据进行处理分析,对于约苗提高工作效率、优化运营决策有着不容小觑的作用。基于此约苗平台历经三代架构演进,最终通过ApacheDoris重构了数据平台架构,统一了数据源出口,实现了近300倍的查询提速,目前已在
·
2023-08-15 16:52
Apache
Doris
1.2.0 Release 版本正式发布|版本通告
亲爱的社区小伙伴们,经历数月的等候,我们很高兴地宣布,ApacheDoris于2022年12月7日迎来了1.2.0Release版本的正式发布!有近118位Contributor为ApacheDoris提交了超2400项优化和修复,感谢每一位让ApacheDoris更好的你!自从社区正式确立LTS版本管理机制后,在1.1.x系列版本中不再合入大的功能,仅提供问题修复和稳定性改进,力求满足更多社区用
·
2023-08-15 16:08
Day5+4组49号
doris
+《学习力》
今天阅读的是第七章【自我管理】一个人活成一个团队和第八章人人都能成为斜杠青年:我的斜杠青年探索之旅【旧知】从参加各种训练营开始,就发现群里的小伙伴都特别优秀,很多都在工作之外找到了自己的副业,而且-+发展得很好。但是自己就只局限在老师的这个行业里,不知道有什么发展副业的可能。记得在手账营的时候,萌薇老师要我们根据自己的职业写出可能的赚钱方式,当时对这个题目真的很迷茫,不知道自己该从哪里下手。【新知
阿德doris
·
2023-08-12 01:48
Flink CDC2.4 整库实时同步MySql 到
Doris
环境Flink1.15.4实现原因目前有很多工具都支持无代码实现Mysql->
Doris
的实时同步如:SlectDB已发布的功能包DinkySeaTunnelTIS等等不过好多要么不支持表结构变动,要不不支持多
一天两晒网
·
2023-08-10 18:56
flink
mysql
大数据
flink
cdc
整库同步
mysql同步doris
社区动态|Apache
Doris
迎来第 300 位 Contributor !
亲爱的各位ApacheDoris社区的小伙伴们,我们很高兴地告诉大家,ApacheDorisContributor数量已经达到300了!感谢每一个让ApacheDoris更好的你!从ApacheDoris开源到现在,我们一直对每一位为ApacheDoris作出过贡献的社区小伙伴心存感激,正是因为有你的付出,才让ApacheDoris一步一步成长到今天。展望未来,我们将持续努力、致力于把Apache
ApacheDoris
·
2023-08-10 18:23
数据库
java
python
人工智能
github
Doris
总结-数据导入导出
StreamLoad3.RoutineLoad4.BinlogLoad5.InsertInto6.S32.数据导出1.Export导出2.查询结果导出1.数据导入导出1.数据导入Brokerload:将外部数据导入到
Doris
数据的小伙伴
·
2023-08-09 08:38
Doris
大数据
Doris
总结-Join方式
Doris
总结-Join1.BroadcastJoin2.ShuffleJoin3.ColocationJoin4.BucketShuffleJoin5.RuntimeFilter顺序:ColocateJoin
数据的小伙伴
·
2023-08-09 08:38
Doris
大数据
车云一体化系统基础理论
车云一体化系统基础理论介绍目标正文参考文档介绍最近在调研车云链路一体化的整套解决方案,涉及分布式消息队列(RocketMQ)、分布式存储(
Doris
)、离线数据处理(Spark)、用户行为日志分析(Flink
SchopenhauerZhang
·
2023-08-08 23:53
计算机网络
北漂的那些事
存储
汽车
车云一体化
车联网云
智能驾驶
doris
-面试题
1.组成mysql客户端fe:接受客户端请求,元数据管理,节点管理be:数据存储,查询计划执行2.数据模型聚合模型:维度字段,聚合字段唯一模型:特殊的聚合模型明细模型:什么也不做处理3.
Doris
和Clickhouse
青云游子
·
2023-08-07 22:23
大数据面试题
doris
大数据
Docker编译安装
Doris
集群
1.拉取官方的安装环境因为这个官网给的镜像对
Doris
有良好的兼容,所以我们最好使用
Doris
官网所提供的Docker镜像,在这个镜像里面进行编译安装dockerpullapachedoris/
doris
-dev
彪悍程序员
·
2023-08-07 13:10
大数据实时分析
大数据
Docker构建
Doris
3FE 3BE
Docker构建
Doris
3FE3BE#构建网络dockernetworkcreate--driverdoris-bridge--subnet=172.20.80.0/24
doris
-network#fe1dockerrun-itd
深思千年
·
2023-08-07 13:40
docker
apache
容器
Docker-compose 进行
Doris
自动化编排部署
WSL使用Docker-compose进行
Doris
自动化编排部署在wsl使用docker-compose命令时,提示如下Thecommand'docker-compose'couldnotbefoundinthisWSL1distro.WerecommendtoconvertthisdistrotoWSL2andactivatetheWSLintegrationinDockerDesktopse
何以问_
·
2023-08-07 13:38
Doris
docker
自动化
容器
Doris
Docker部署
官方文档:https://
doris
.apache.org/zh-CN/docs/summary/basic-summary先使用以下命令查看部署
doris
的机器是否支持AVX2指令集cat/proc/
Gary.08
·
2023-08-07 13:38
Apache
doris
docker
容器
apache
运维
大数据
[容器化技术] 使用docker-compose搭建
doris
本地测试环境
环境概述系统:macos芯片:m2芯片架构:arm64(可以通过uname-a来查看)
doris
版本:1.2.2docker集群的分布名称ipdoris-fe1-01172.20.80.2
doris
-fe1
Antg
·
2023-08-07 13:08
docker
doris
docker
doris
arm架构
m2芯片
Docker compose方式部署
doris
1.背景接到个任务,在新服务器上部署
doris
,为了统一管理,采用docker-compose方式部署。
qq_25249543
·
2023-08-07 13:08
docker
容器
composer
database
下一代实时数据库:Apache
Doris
【一】简介
文章目录第1章
Doris
简介1.1
Doris
概述1.2
Doris
架构第1章
Doris
简介1.1
Doris
概述ApacheDoris由百度大数据部研发(之前叫百度Palo,2018年贡献到Apache社区后
Maynor996
·
2023-08-07 06:32
#
Doris
数据库
apache
使用 docker-compose 搭建
Doris
和 Hudi 测试环境
本机环境是MacOSM1,系统版本为12.5.1。相关文件docker-compose.ymlversion:"3.3"services:namenode:image:registry.cn-hangzhou.aliyuncs.com/jensenchen/hudi-hadoop_2.8.4-namenode:arm64platform:linux/arm64hostname:namenodeco
一只努力的微服务
·
2023-08-06 20:15
docker
容器
运维
Doris
Sequence 列
百亿大表Join提速300倍!ApacheDoris在约苗数据平台的实时数仓建设实践dorissequence列sequence列目前只支持Uniq模型。Uniq模型主要针对需要唯一主键的场景,可以保证主键唯一性约束,但是由于使用REPLACE聚合方式,在同一批次中导入的数据,替换顺序不做保证,详细介绍可以参考数据模型。替换顺序无法保证则无法确定最终导入到表中的具体数据,存在了不确定性。为了解决这
胖胖胖胖胖虎
·
2023-08-06 11:05
doris
doris
Nifi + Kafka + Flink(Scala)+
Doris
Sqlserver 数据实时同步
一Nifi配置2.搜索表生成器配置信息创建数据库连接池连接信息jdbc:sqlserver://10.126.141.189:29528;DatabaseName=dbDatabaseDriverClassName:com.microsoft.sqlserver.jdbc.SQLServerDriver打开连接池最后配置好的processer二创建sql执行器创建json解析器配置json解析器{
weixin_41734687
·
2023-08-05 09:25
bigdata
nifi
Flink 消费 Kafka, 实时修改
Doris
表数据.
2022/11/08菜鸟记录.场景:Flink消费Kafka数据,修改
Doris
表数据.背景:Flink版本1.14.4
Doris
版本1.1.0代码:publicclassDorisUpdateDemo
温冰水或是凉白开
·
2023-08-05 09:54
大数据踩坑传奇_Doris
kafka
flink
大数据
Doris
+Flink搭建数据平台
Doris
+Flink搭建数据平台
Doris
部署
Doris
作为一款开源的MPP架构OLAP数据库,能够运行在绝大多数主流的商用服务器上。
独狐游清湖
·
2023-08-05 09:53
doris
canal
shell
linux
python
flink
Flink 使用 SQL 读取 Kafka 写入到
Doris
表中
ApacheDoris代码仓库地址:apache/incubator-
doris
欢迎大家关注加星这次我们演示的是整合FlinkDorisConnector到Flink里使用,通过FlinkKafkaConnector
hf200012
·
2023-08-05 09:23
Doris
flink
apache
doris
Flink Kafka
Doris
实战demo
FlinkKafkaDoris实战demo环境:Flink1.12
Doris
0.12Kafka1.0.1+kafka3.1.1一:编译
doris
参考官网Docker编译:https://github.com
奈文摩尔ST
·
2023-08-05 09:53
Fink
大数据
Doris
flink
kafka
flink+kafka+
doris
+springboot集成例子
目录一、例子说明1.1、概述1.1、所需环境1.2、执行流程二、部署环境2.1、中间件部署2.1.1部署kakfa2.1.1.1上传解压kafka安装包2.1.1.2修改zookeeper.properties2.1.1.3修改server.properties2.1.1.3启动kafka2.1.2、部署flink2.1.2.1上传解压flink安装包2.1.2.1修改flink配置2.1.2.3
青春不流名
·
2023-08-05 09:52
kubernetes
开源免费用|Apache
Doris
2.0 推出跨集群数据复制功能
随着企业业务的发展,系统架构趋于复杂、数据规模不断增大,数据分布存储在不同的地域、数据中心或云平台上的现象越发普遍,如何保证数据的可靠性和在线服务的连续性成为人们关注的重点。在此基础上,跨集群复制(Cross-ClusterReplication,CCR)应运而生,并逐渐成为数据和服务高可用性的重要保障。CCR通常被用于容灾备份、读写分离、集团与公司间数据传输和隔离升级等场景。容灾备份:通常是将企
SelectDB技术团队
·
2023-08-05 08:32
doris
大数据
数据分析
数据库
开源
随笔杂记 2018-08-24
昨天规划了很多,想到我曾和
doris
几年前还是差不多的高度,而如今我只是个小二本出来的应届生,连秋招都进不去,而她已经是北京大学法学硕士,我无法不感慨短短几年,她已经甩下我太多。
乔布佳佳佳
·
2023-08-05 06:06
Apache
doris
1.2.0 release
亲爱的社区小伙伴们,再一次经历数月的等候后,我们很高兴地宣布,ApacheDoris于2022年12月7日迎来1.2.0Release版本的正式发布!有近118位Contributor为ApacheDoris提交了超2400项优化和修复,感谢每一位让ApacheDoris更好的你!自从社区正式确立LTS版本管理机制后,在1.1.x系列版本中不再合入大的功能,仅提供问题修复和稳定性改进,力求满足更多
张家锋
·
2023-08-03 22:34
Doris
比MySQL快的原因
简介在数据存储和数据分析领域,MySQL和
Doris
是比较流行的数据库管理系统的代表。在如今的大数据时代,数据量和数据分析的速度是很重要的。
csdn-延
·
2023-08-03 20:23
doris
mysql
mysql
数据库
doris
实时数仓分层介绍
可存储在
Doris
、ClickHouse、Ela
csdn-延
·
2023-08-03 20:21
大数据
flink
架构
kafka
big
data
分布式
数据仓库
Apache
Doris
数据导入
Doris
是一款基于大规模并行处理技术的分布式OLAP库,由百度在2017年开源,2018年8月进入Apache孵化器。
L2020
·
2023-08-03 04:04
Doris
(二) -通过外部表同步数据
前言参考网址1.官网2.ODBCExternalTableOfDoris3.ApachedorisODBC外表使用方式第一步创建RESOURCEDROPRESOURCEIFEXISTS`mysql_test_odbc`;CREATEEXTERNALRESOURCE`mysql_test_odbc`PROPERTIES("type"="odbc_catalog","host"="数据库ip","po
BatmanWayne
·
2023-08-02 03:13
数据仓库
大数据
数据仓库
Drois
doris
(一)--单机版安装
可以参考
doris
官网教程,直接安装单机版。
BatmanWayne
·
2023-08-02 03:13
数据仓库
大数据
数据仓库
doris
3节点linux服务器集群搭建
一,目的由于当前集群部署已经成为主流,适当研究一些集群部署的基本操作,有助于后续像k8s集群、
doris
集群的部署。大部分集群都是一主两从这种三节点配置。故本文也是采用三节点完成相关学习和记录。
BatmanWayne
·
2023-08-02 03:12
k8s
数据仓库
liunx
服务器
linux
运维
集群
Apache
Doris
巨大飞跃:存算分离新架构
作者:马如悦ApacheDoris创始人历史上,数据分析需求的不断提升(更大的数据规模、更快的处理速度、更低的使用成本)和计算基础设施的不断进化(从专用的高端硬件、到低成本的商用硬件、到云计算服务),这两大因素推动数据仓库的架构大体经历了三个时代:软硬一体的一体机时代、存算一体的分布式时代以及存算分离的云原生时代。ApacheDoris诞生于存算一体的分布式时代,是典型的SharedNothing
SelectDB技术团队
·
2023-08-01 21:53
apache
大数据
数据仓库
数据分析
doris
架构
Doris
连接mysql外表
CREATECATALOGjdbc_mysql_test_one1PROPERTIES("type"="jdbc","jdbc.user"="root","jdbc.password"="Fulin@888","jdbc.jdbc_url"="jdbc:mysql://192.168.2.125:3306/test","jdbc.driver_url"="file:///usr/share/jav
要努力学习啊男神
·
2023-08-01 06:39
mysql
数学建模
java
Python 压测Mysql、
Doris
importpymysqlfromdbutils.pooled_dbimportPooledDBimporttimefromconcurrent.futuresimportThreadPoolExecutorpool=PooledDB(creator=pymysql,host='',#host='172.18.1.16',user='root',password='',port=9030,conn
要努力学习啊男神
·
2023-08-01 06:39
python
mysql
数学建模
Apache
Doris
环境安装部署
这里以百度的
Doris
发行版Palo-0.14.13版本为例进行演示编译安装部署1.
Doris
编译1.1docker镜像下载这里我们使用的最新镜像Apachedoris0.14.0及百度发布的Palo-
张家锋
·
2023-07-31 07:37
Doris
注意事项,
Doris
部署在阿里云,写不进去数据
1.
Doris
官网
Doris
官网https://
doris
.apache.org/2.根本原因本地idea访问FE,FE会返回BE的地址,但是在服务器上通过ipaddr查看,发现只有局域网IP,所以FE
青云游子
·
2023-07-30 09:19
实时数仓
doris
大数据
Day8+8组+83号
Doris
周《富兰克林自传》
读自传,就可以和作者富兰克林一起走进他的人生。可以观赏异国风光的风土人情,可以身临其境的感受作者的每一次选择,可以更真切的体会富兰克林身上的优秀品质。富兰克林是一位顺应时势,靠自己勤学苦干打造出来的通才。我认为他的才源自于他自小就培养起来的读书的习惯的积累。“我自小就喜欢读书,手里有点零钱,总要拿去买书……还有一本笛福的书,叫做《论计划》,另外一本是马瑟博士的书,叫做《论行善》,后面这两本书扭转了
木词
·
2023-07-29 16:02
上一页
11
12
13
14
15
16
17
18
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他