E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
DORIS
Apache
Doris
极速数据湖分析深度解读
从上世纪90年代初BillInmon在《buildingtheDataWarehouse》一书中正式提出数据仓库这一概念,至今已有超过三十年的时间。在最初的概念里,数据仓库被定义为「一个面向主题的、集成的、相对稳定的、反映历史变化的数据集合,用于支持管理决策」,而数据湖最初是为了解决数仓无法存储海量且异构的数据而构建的集中式存储系统。时代的发展与用户数据应用诉求的演进,催生了数据架构的不断革新,也
SelectDB技术团队
·
2023-10-23 22:46
apache
数据库
数据仓库
数据分析
数据挖掘
Apache
Doris
1.1 特性揭秘:Flink 实时写入如何兼顾高吞吐和低延时
导读:随着数据实时化需求的日益增多,数据的时效性对企业的精细化运营越来越重要,使得实时数仓在这一过程中起到了不可替代的作用。本文将基于用户遇到的问题与挑战,揭秘ApacheDoris1.1特性,对Flink实时写入ApacheDoris的优化实现与未来规划进行详细的介绍。背景随着数据实时化需求的日益增多,数据的时效性对企业的精细化运营越来越重要,在海量数据中,如何能实时有效的挖掘出有价值的信息,快
SelectDB技术团队
·
2023-10-23 22:45
apache
flink
大数据
Apache
Doris
(四十六):
Doris
数据更新与删除 - 批量删除
个人主页:IT贫道_大数据OLAP体系技术栈,ApacheDoris,Clickhouse技术-CSDN博客私聊博主:加入大数据技术讨论群聊,获取更多大数据资料。博主个人B栈地址:豹哥教你大数据的个人空间-豹哥教你大数据个人主页-哔哩哔哩视频目录
IT贫道
·
2023-10-23 22:43
大数据OLAP体系技术栈
Apache
Doris
doris
[jmx]zookeeper/kafka/hive/hadoop/presto/presto等组件的jmx监控汇集
jmx监控配置hadoop的jmx监控kafka的jmx监控hive的jmx监控hiveserver2的jmx监控metastore的jmx监控kylin的jmx监控loki的监控promtail的监控
doris
王一1995
·
2023-10-23 20:19
运维
#
linux
大数据
大数据
java
kafka
Doris
运维篇:Apache
Doris
如何定位处理问题的Tablet
我们在使用
Doris
的时候,有时候会遇到用户在查询的时候出现失败,出现类似下面这种错误:tablet=33903.2001738452.784560b62ce005b4-03d036e54a7ff7bb
张家锋
·
2023-10-23 16:22
【大数据 -
Doris
实践】数据表的基本使用(四):动态分区
数据表的基本使用(四):动态分区1.原理2.使用方式3.动态分区规则参数3.1主要参数3.2创建历史分区的参数3.3创建历史分区规则3.4创建历史分区举例3.5注意事项4.示例4.1创建动态分区表4.2查看动态分区表调度情况4.3查看表的分区4.4插入测试数据4.5设置创建历史分区4.6动态分区表与手动分区表相互转换4.6.1手动分区转换为动态分区4.6.2动态分区转换为手动分区动态分区是在Dor
G皮T
·
2023-10-23 07:21
#
Doris
大数据
Doris
数据同步
数据仓库
动态分区
分区
Doris
的12天减肥日记-第4天
加油
Doris
一步一步慢慢来比较快图片发自App
Dorisyoung
·
2023-10-23 05:35
【大数据 -
Doris
实践】数据表的基本使用(三):数据模型
数据模型1.Aggregate模型1.1例一:导入数据聚合1.2例二:保留明细数据1.3例三:导入数据与已有数据聚合2.Uniq模型3.Duplicate模型4.数据模型的选择建议5.聚合模型的局限性
Doris
G皮T
·
2023-10-22 10:15
#
Doris
大数据
Doris
数据模型
Aggregate
Unique
Duplicate
数据仓库
springboot 链接
doris
配置
org.springframework.bootspring-boot-starter-data-jpaorg.springframework.bootspring-boot-starter-web在application.properties或application.yml文件中配置
Doris
贾宝玉的贾
·
2023-10-22 03:18
spring
boot
java
后端
doris
Apache Flink X Apache
Doris
构建极速易用的实时数仓架构
摘要:本文整理自SelectDB资深大数据研发专家王磊,在FFA2022实时湖仓专场的分享。本篇内容主要分为四个部分:实时数仓需求和挑战基于ApacheDoris和ApacheFlink构建实时数仓用户案例与最佳实践分享新版本特性点击查看直播回放和演讲PPT一、实时数仓需求和挑战在数据流的角度上,分析一下传统的数据架构。从图中可以看到,数据分为实时数据流和离线数据流。在实时数据部分,通过Binlo
Apache Flink
·
2023-10-20 00:33
Flink
大数据
实时计算
apache
flink
架构
大数据
hadoop
Apache
Doris
&& Kafka
KafkaKafka入门到精通。Kafka硬件配置选择Kafka生产者KafkaBrokerKafka消费者Kafka总体针对Kafka3.0.0Kafka传统定义:分布式的基于发布订阅的消息队列MessageQueue。主要应用于大数据实时处理领域。最新的定义:新的开源的分布式事件流平台EventStreamingPlatform。用于数据管道流分析数据集成和关键任务的应用。消息队列应用场景:缓
wqy19941008
·
2023-10-20 00:03
学习总结
kafka
java
分布式
Apache
Doris
使用总结
前提:已有多年大数据经验,熟悉多种架构,与其他框架类比后总结的
doris
一些特性,新手勿入1.
Doris
基础学习中文官网:https://
doris
.apache.org/zh-CN/docs/dev/
这个程序猿可太秀了
·
2023-10-20 00:32
大数据
大数据
doris
Apache
Doris
入门教程05:数据模型
数据模型本文主要从逻辑层面,描述
Doris
的数据模型,以帮助用户更好的使用
Doris
应对不同的业务场景。基本概念在
Doris
中,数据以表(Table)的形式进行逻辑上的描述。
sunjian286
·
2023-10-20 00:01
apache
数据库
大数据
数据仓库
sql
Apache
Doris
(四十四):
Doris
数据更新与删除 - Delete 数据删除
个人主页:IT贫道_大数据OLAP体系技术栈,ApacheDoris,Clickhouse技术-CSDN博客私聊博主:加入大数据技术讨论群聊,获取更多大数据资料。博主个人B栈地址:豹哥教你大数据的个人空间-豹哥教你大数据个人主页-哔哩哔哩视频目录
IT贫道
·
2023-10-20 00:59
大数据OLAP体系技术栈
Apache
Doris
doris
Apache
Doris
(二十五):
Doris
数据导入(三)Broker Load-1
ApacheDoris架构中除了有BE和FE进程之外,还可以部署Broker可选进程,主要用于支持
Doris
读写远端存储上的文件和目录。例如:ApacheHDF
IT贫道
·
2023-10-20 00:28
大数据OLAP体系技术栈
doris
实时数仓
olap
大数据
数据仓库
分布式数据库
Apache
Doris
(十二) :数据存储模型之Unique数据存储模型
目录1.读时合并2.写时合并进入正文之前,欢迎订阅专题、对博文点赞、评论、收藏,关注IT贫道,获取高质量博客内容!在某些多维分析场景下,用户更关注的是如何保证Key的唯一性,即如何获得PrimaryKey唯一性约束。因此,我们引入了Unique数据模型,该模型可以根据相同的PrimaryKey来保留后插入的数据,确保数据的唯一
IT贫道
·
2023-10-20 00:58
Apache
Doris
大数据OLAP体系技术栈
sql
database
大数据
数据仓库
etl
apache
Apache
Doris
(十九) :
Doris
Properties 配置项及Engine选择
目录一、Properties配置项二、关于ENGINE进入正文之前,欢迎订阅专题、对博文点赞、评论、收藏,关注IT贫道,获取高质量博客内容!一、Properties配置项在创建表时,可以指定properties设置表属性,目前支持以下属性:
IT贫道
·
2023-10-20 00:58
Apache
Doris
大数据OLAP体系技术栈
sql
database
数据库
大数据
数据仓库
apache
Apache
Doris
02|导入数据遇到的问题
1、brokerload数据导入失败loadlabelexample_db.stuscore(datainfile("hdfs://devtest4.com:50070/tmp/testdata/stuscore.txt")intotablestuscore)withbroker'broker_name'("username"="root","password"="");查看数据导入状态。show
爱吃鱼的荔果果
·
2023-10-20 00:55
Doris
Apache
Doris
ODBC外表之Postgresql使用指南
今天是2022年阳历新年第一天,祝大家元旦快乐,这也是2022年第一篇文章,后续会给大家带来更多关于
Doris
的文章,同时也希望
Doris
2022年起飞,顺利从Apache孵化器毕业成顶级项目,给大家带来更快
hf200012
·
2023-10-20 00:25
Doris
postgresql
ubuntu
doris
Apache
doris
1.2.0 release
亲爱的社区小伙伴们,再一次经历数月的等候后,我们很高兴地宣布,ApacheDoris于2022年12月7日迎来1.2.0Release版本的正式发布!有近118位Contributor为ApacheDoris提交了超2400项优化和修复,感谢每一位让ApacheDoris更好的你!自从社区正式确立LTS版本管理机制后,在1.1.x系列版本中不再合入大的功能,仅提供问题修复和稳定性改进,力求满足更多
hf200012
·
2023-10-20 00:25
Doris
apache
java
数据库
apache
doris
doris
Apache
Doris
Routine Load数据导入使用方法
ApacheDoris代码仓库地址:apache/incubator-
doris
欢迎大家关注加星1.概要Routineload功能为用户提供了一种自动从指定数据源进行数据导入的功能。
hf200012
·
2023-10-20 00:24
Doris
kafka
big
data
Apache
Doris
基础
FE又分为Leader、Follwer和Observer三种角色,默认一个
Doris
集群中只能有一个Leader,可以有多个Follwer和Observer。
Devops_Andre
·
2023-10-20 00:23
apache
大数据
数据仓库
Apache
Doris
(四十五):
Doris
数据更新与删除 - Sequence 列
个人主页:IT贫道_大数据OLAP体系技术栈,ApacheDoris,Clickhouse技术-CSDN博客私聊博主:加入大数据技术讨论群聊,获取更多大数据资料。博主个人B栈地址:豹哥教你大数据的个人空间-豹哥教你大数据个人主页-哔哩哔哩视频目录1.基本原理
IT贫道
·
2023-10-20 00:22
大数据OLAP体系技术栈
Apache
Doris
doris
Doris
对接消费kafka数据方案实现
本篇主要讲述消费kafka中的数据同步到
Doris
中。
HD0do(迪答数据)
·
2023-10-19 04:44
Doris
数据仓库
实时大数据
Flink1.15.4+flinkcdc+Dinky0.7.3+Mysql5.7+
Doris
1.2.1实现实时同步
download/qq_37247664/88192279Dinky0.7.3:https://download.csdn.net/download/qq_37247664/88192354flinkcdc+
doris
向大之路
·
2023-10-19 02:49
linux
运维
服务器
Apache
Doris
系列: 基础篇-单独更新一列
数据模型选择数据表使用Aggregate聚合模型需要更新的字段使用关键字REPLACE_IF_NOT_NULL举例建表CREATETABLEIFNOTEXISTStest.expamle_tbl2(`user_id`LARGEINTNOTNULLCOMMENT"用户id",`date`DATENOTNULLCOMMENT"数据灌入日期时间",`city`VARCHAR(20)COMMENT"用户所
修破立生
·
2023-10-18 21:26
Apache
Doris
Apache
Doris
大数据
big
data
Apache
Doris
系列: 基础篇-Flink SQL写入
Doris
简介本文介绍FlinkSQL如何流式写入ApacheDoris,分为一下几个部分:FlinkDorisconnectorDorisFE节点配置FlinkSQL写DorisFlinkDorisconnectorFlinkDorisconnector本质是通过StreamLoad来时实现数据的查询和写入功能。支持二阶段提交,可实现ExatlyOnce的写入。DorisFE节点配置1)需在apache-
修破立生
·
2023-10-18 21:25
Apache
Doris
Flink
flink
apache
doris
大数据
big
data
flink
sql
Apache
Doris
系列: 基础篇-Routine Load
简介RoutineLoad支持用户提交一个常驻的导入任务,通过不断的从指定的数据源读取数据,将数据导入到
Doris
中。
修破立生
·
2023-10-18 21:25
Apache
Doris
apache
kafka
java
Apache
Doris
系列: 基础篇-创建数据表
本文介绍
Doris
怎么创建表及其他的相关操作。连接
Doris
部署完成
Doris
之后,可以通过任意MySQL客户端来连接
Doris
。
修破立生
·
2023-10-18 21:55
Apache
Doris
big
data
大数据
Apache
Doris
系列: 基础篇-Stream Load
文章目录简介StreamLoad的API地址例子简介StreamLoad提供HTTPAPI提交数据导入任务,支持本地数据文件(csv,json)的导入。特点:同步导入保证数据原子性,导入一批数据时,要么全部成功,要么全部失败StreamLoad的API地址http://fe_host:http_port/api/{db}/{table}/_stream_loadfe_hostFE节点的IP地址ht
修破立生
·
2023-10-18 21:55
Apache
Doris
big
data
大数据
apache
Apache
Doris
入门教程24:查询和导入性能分析
查询分析
Doris
提供了一个图形化的命令以帮助用户更方便的分析一个具体的查询或导入。本文介绍如何使用该功能。查询计划树SQL是一个描述性语言,用户通过一个SQL来描述想获取的数据。
sunjian286
·
2023-10-18 21:23
数据库
mysql
数据仓库
数据分析
大数据
Apache
Doris
入门教程19:数据更新及删除
批量删除目前
Doris
支持BrokerLoad,RoutineLoad,StreamLoad等多种导入方式,对于数据的删除目前只能通过delete语句进行删除,使用delete语句的方式删除时,每执行一次
sunjian286
·
2023-10-18 21:23
数据库
mysql
数据仓库
数据分析
大数据
Apache
Doris
(四十一): RESOTRE数据恢复
个人主页:IT贫道_大数据OLAP体系技术栈,ApacheDoris,Clickhouse技术-CSDN博客私聊博主:加入大数据技术讨论群聊,获取更多大数据资料。博主个人B栈地址:豹哥教你大数据的个人空间-豹哥教你大数据个人主页-哔哩哔哩视频目录1.RESTORE数据恢复原理
IT贫道
·
2023-10-18 21:50
大数据OLAP体系技术栈
Doris
Apache
Doris
(四十二): RECOVER数据删除恢复
个人主页:IT贫道_大数据OLAP体系技术栈,ApacheDoris,Clickhouse技术-CSDN博客私聊博主:加入大数据技术讨论群聊,获取更多大数据资料。博主个人B栈地址:豹哥教你大数据的个人空间-豹哥教你大数据个人主页-哔哩哔哩视频目录
IT贫道
·
2023-10-18 21:50
大数据OLAP体系技术栈
Apache
Doris
doris
Apache
Doris
(四十): BACKUP数据备份
个人主页:IT贫道_大数据OLAP体系技术栈,ApacheDoris,Clickhouse技术-CSDN博客私聊博主:加入大数据技术讨论群聊,获取更多大数据资料。博主个人B栈地址:豹哥教你大数据的个人空间-豹哥教你大数据个人主页-哔哩哔哩视频目录
IT贫道
·
2023-10-18 21:20
大数据OLAP体系技术栈
doris
Apache
Doris
(二十四):
Doris
数据导入(二)Binlog Load
目录1.基本原理2.Canal原理及配置2.1Canal同步MySQL数据原理2.2开启MySQLbinlog
IT贫道
·
2023-10-18 21:19
大数据OLAP体系技术栈
doris
大数据
实时数仓
数据仓库
olap
分布式数据库
应用实践|Lifewit 数据平台基于Apache
Doris
的建设实践
导读:近几年随着跨境电商行业的快速发展,Lifewit业务达到近十倍的增长,原先的痛点已经严重影响到用户的数据使用体验。技术端需要随着业务的飞速发展不断升级迭代适应业务的增长。Lifewit规划了从旧数据架构进化成目前基于ApacheDoris构建的轻量级业财一体化数据平台,来系统化地解决旧架构存在的痛点,打通业务数据和财务数据,构建综合数据平台提供全业务链自助数据分析能力,支撑完善的数据报表体系
hf200012
·
2023-10-18 21:48
big
data
人工智能
大数据
apache
doris
资源消耗降低 90%,速度提升 50%,解读 Apache
Doris
Compaction 最新优化与实现
背景LSM-Tree(LogStructured-MergeTree)是数据库中最为常见的存储结构之一,其核心思想在于充分发挥磁盘连续读写的性能优势、以短时间的内存与IO的开销换取最大的写入性能,数据以Append-only的方式写入Memtable、达到阈值后冻结Memtable并Flush为磁盘文件、再结合Compaction机制将多个小文件进行多路归并排序形成新的文件,最终实现数据的高效写入
SelectDB技术团队
·
2023-10-18 21:47
apache
数据库
java
数据仓库
开发语言
Apache
Doris
(四十三):
Doris
数据更新与删除 - Update数据更新
个人主页:IT贫道_大数据OLAP体系技术栈,ApacheDoris,Clickhouse技术-CSDN博客私聊博主:加入大数据技术讨论群聊,获取更多大数据资料。博主个人B栈地址:豹哥教你大数据的个人空间-豹哥教你大数据个人主页-哔哩哔哩视频目录1.Update数据更新原理
IT贫道
·
2023-10-18 21:14
大数据OLAP体系技术栈
Apache
Doris
Doris
Apache
Doris
系列之:安装与部署详细步骤
时钟同步四、关闭交换分区五、Linux文件系统六、开发测试环境七、生产环境八、FE和BE的作用九、FE节点的数量十、部署最佳方案十一、Broker部署十二、网络需求十三、集群部署十四、常见问题一、软硬件需求
Doris
最笨的羊羊
·
2023-10-18 11:49
大数据
Apache
Doris系列
安装与部署详细步骤
Apache IoTDB 作为合作伙伴参加
Doris
Summit Asia 2023!
与创新者同行10月21日,DorisSummitAsia2023将在北京丽亭华苑酒店举行,目前已征集50+演讲议题,将从智慧金融与政企、先进智造与电信、企业服务与新经济、互联网与文娱等方向展开全面分享。ApacheIoTDB社区受到邀请,作为ApacheDoris合作伙伴,将于大会现场设置展位,以分享时序数据库创新成果,欢迎找我们打卡领取社区专属礼品!01关于DorisSummitAsia2023
Apache IoTDB
·
2023-10-18 11:43
apache
iotdb
人工智能
驱动数字化转型,
Doris
Summit Asia 2023 智慧金融与政企论坛精彩预告!
峰会官网已上线,最新议程请关注:
doris
-summit.org.cn即刻报名DorisSummit是ApacheDoris社区一年一度的技术盛会,由飞轮科技联合ApacheDoris社区的众多开发者、
SelectDB技术团队
·
2023-10-18 11:10
数据库
大数据
数据分析
Doris
Summit Asia 2023 完整议程公开,首届线下峰会邀你报名!
距离DorisSummit2022闭幕已近一年,DorisSummitAsia2023已经起航。这一年里,ApacheDoris完成了从1.0到2.0具有里程碑意义的版本跨越。通过持续技术创新,实现了令人瞩目的性能飞跃。不仅如此,ApacheDoris不断拓展应用场景边界,以适配更广泛的分析场景,并为用户提供灵活的解决方案。凭借这一年的努力,ApacheDoris也获得了更多社区用户及企业的喜爱。
SelectDB技术团队
·
2023-10-18 11:40
大数据
数据库
数据分析
apache
金融
推动产业升级及创新,
Doris
Summit Asia 2023 先进智造与电信论坛提前揭秘
峰会官网已上线,最新议程请关注:
doris
-summit.org.cn即刻报名DorisSummit是ApacheDoris社区一年一度的技术盛会,由飞轮科技联合ApacheDoris社区的众多开发者、
SelectDB技术团队
·
2023-10-18 11:33
数据库
大数据
数据仓库
数据分析
【大数据 -
Doris
实践】数据表的基本使用(一):基本概念、创建表
数据表的基本使用(一):基本概念、创建表1.创建用户和数据库2.
Doris
中数据表的基本概念2.1Row&Column2.2Partition&Tablet3.建表实操3.1建表语法3.2字段类型3.3
G皮T
·
2023-10-17 22:41
大数据
大数据
doris
数据库
数据仓库
分区
数据模型
OLAP
【大数据 -
Doris
实践】数据表的基本使用(二):数据划分
数据表的基本使用(二):数据划分1.列定义2.分区与分桶2.1Partition2.1.1Range分区2.1.2List分区2.2Bucket2.3使用复合分区的场景3.PROPERTIES3.1replication_num3.2storage_medium3.3storage_cooldown_time4.ENGINE1.列定义列的基本类型,可以通过在mysql-client中执行HELPC
G皮T
·
2023-10-17 22:39
#
Doris
大数据
Doris
OLAP
数据库
数据仓库
数据模型
MPP
从 ClickHouse 到 Apache
Doris
,腾讯音乐内容库数据平台架构演进实践
导读:腾讯音乐内容库数据平台旨在为应用层提供库存盘点、分群画像、指标分析、标签圈选等内容分析服务,高效为业务赋能。目前,内容库数据平台的数据架构已经从1.0演进到了4.0,经历了分析引擎从ClickHouse到ApacheDoris的替换、经历了数据架构语义层的初步引入到深度应用,有效提高了数据时效性、降低了运维成本、解决了数据管理割裂等问题,收益显著。本文将为大家分享腾讯音乐内容库数据平台的数据
hf200012
·
2023-10-17 17:26
Doris
clickhouse
apache
架构
【大数据 -
Doris
实践】数据表的基本使用(一):基本概念、创建表
数据表的基本使用(一):基本概念、创建表1.创建用户和数据库2.
Doris
中数据表的基本概念2.1Row&Column2.2Partition&Tablet3.建表实操3.1建表语法3.2字段类型3.3
G皮T
·
2023-10-17 17:21
大数据
大数据
doris
数据库
数据仓库
分区
数据模型
OLAP
D37 2组阿德
doris
+《被讨厌的勇气》读书笔记
今天阅读了第二夜:一切烦恼都来自人际关系。其中关于自卑的内容是我最感兴趣的部分。我一直都很自卑:长得很矮,只有150cm。长相很一般,身材不好,穿衣服不好看。学历不高,在乡下小学教书,工资很少。说话不中听,有时会惹别人不开心。生活在小县城,什么都比不上城市里。所以我总是觉得自己比不上别人,什么都比别人差,所以别人的生活丰富多彩,而我的却平淡如水。但作者却说:困扰我们的自卑感不是“客观性的事实”而是
阿德doris
·
2023-10-17 07:35
Doris
入门了解
微信公众号:大数据高性能计算大数据存储与分析入门学习文档:深入了解
Doris
大数据技术已成为现代数据处理的核心组成部分,为企业提供了更多洞察和决策支持。
花开终为谢
·
2023-10-16 01:15
大数据
doris
大数据
上一页
6
7
8
9
10
11
12
13
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他