doris参数调优

Doris hdfs数据导入doris动态分区表

@羲凡——只为了更好的活着Dorishdfs数据导入doris动态分区表本文重点1.动态分区表创建2.读取路径作为分区参数3.预聚合增加count列——set(cnt=1)4.brokerload的hdfsHA
羲凡丞相·2023-11-13 12:11

Doris系列12-数据导入之Broker Load

文章目录一.BrokerLoad概述二.基本操作2.1创建导入2.1.1Label2.1.2数据描述类参数2.1.3导入作业参数2.1.4strictmode与sourcedata的导入关系2.2查看导入2.3取消导入三.相关系统配置3.1FE配置四.案例4.1导入Hiveorc格式表4.2导入Hivetext格式表参考:一.BrokerLoad概述Brokerload是一个异步的导入方式，支持的
只是甲·2023-11-13 12:39

Doris系列11-数据导入之Stream load

文章目录一.Streamload概述1.1基本原理1.2支持数据格式1.3基本操作1.3.1创建导入1.3.1.1签名参数1.3.1.2导入任务参数1.3.1.3strictmode与sourcedata的导入关系1.3.2返回结果1.3.3取消导入1.4相关系统配置1.4.1FE配置1.4.2BE配置二.导入实例参考:一.Streamload概述Streamload是一个同步的导入方式，用户通过
只是甲·2023-11-13 12:09

Doris系列5-Doris数据模型

文章目录基本概念一.Aggregate模型1.1Aggregate模型介绍1.2案例一:导入数据聚合1.3案例2：保留明细数据二.Uniq模型三.Duplicate模型四.数据模型的选择建议参考:基本概念在Doris
只是甲·2023-11-13 12:08

spark sql读取hive数据直接写入doris，离线批量导入

一，sparksql读取hive表这里通过catalog查询表的字段信息，然后查询出来的字段colStr要给下面的doris使用。注意：我这里是直接拿取的hive表所有的字段。
黄瓜炖啤酒鸭·2023-11-13 12:36

DORIS 文件读取（研究中）

前言该文章用于记录研究doris1.1.1版本的后端文件读取流程。目前还只有部分流程。正在完善中。
innersense·2023-11-13 12:05

Apache Doris 系列： 入门篇-数据导入及查询

数据导入及查询本文档主要介绍Doris的数据导入及数据查询。
hf200012·2023-11-13 12:34

doris broker方式从hdfs导入数据到doris

LOADLABELdb1.label1(DATAINFILE("hdfs://abc.com:8888/user/palo/test/ml/file1")INTOTABLEtbl1COLUMNSTERMINATEDBY","(tmp_c1,tmp_c2)SET(id=tmp_c2,name=tmp_c1),DATAINFILE("hdfs://abc.com:8888/user/palo/test
gegeyanxin·2023-11-13 12:33

Doris为数据分析而生的olap数据库：数据模型和数据分区使用详解

数据模型：Doris中的字段类型：TINYINT1字节范围：-2^7+1~2^7-1SMALLINT2字
HD0do(迪答数据)·2023-11-13 12:02

Doris：读取Doris数据的N种方法

SparkDorisConnector5.FlinkDorisConnector1.MySQLClientDoris采用MySQL协议，高度兼容MySQL语法，支持标准SQL，用户可以通过各类客户端工具来访问Doris
m0_37559973·2023-11-13 12:59

Doris：多源数据目录（Multi-Catalog）

JDBCCatalog4.1上传mysql驱动包4.2创建mysqlcatalog4.3.读取mysql数据1.基本概念多源数据目录（Multi-Catalog）功能，旨在能够更方便对接外部数据目录，以增强Doris
m0_37559973·2023-11-12 11:38

Apache SeaTunnel & Doris7月联合Meetup，从数据集成到分析实践

随着大数据时代的来临，数据的处理对企业的技术团队挑战越来越高，数据在同步时能否支持各种数据源？应对海量的增量数据实例如何拥有更好的性能？数据聚合平台是否能开箱即用/方便二次开发？应对数据采集多场景和工具的是否具备良好的拓展性等，都是数据开发工程师关心的切实痛点问题，而对于企业来说，海量数据如何更好更快的分析应用，数据如何驱动业务更好的发展，成为相当重要的一环。而庞大的数据增量以及业务多变的数据分析
SeaTunnel·2023-11-12 09:29

Doris0.15-Broker Load

Broker以插件的形式，独立于Doris部署。如果需要从第三方存储系统导入数据，需要部署相应的Broker，默认提供了读取HDFS、百度云BOS及AmazonS3的fs_broker。
如是我闻.春风不渡·2023-11-12 09:58

Doris Broker Load入门实战

BrokerLoad原理Brokerload是一个异步的导入方式，支持的数据源取决于Broker进程支持的数据源。用户在提交导入任务后，FE会生成对应的Plan并根据目前BE的个数和文件的大小，将Plan分给多个BE执行，每个BE执行一部分导入数据。BE在执行的过程中会从Broker拉取数据，在对数据transform之后将数据导入系统。所有BE均完成导入，由FE最终决定导入是否成功。+|1.us
wangleigiser·2023-11-12 09:28

Apache Doris 入门教程16：数据导入之S3 Load

S3Load从0.14版本开始，Doris支持通过S3协议直接从支持S3协议的在线存储系统导入数据。本文档主要介绍如何导入AWSS3中存储的数据。
sunjian286·2023-11-12 09:58

Apache Doris 入门教程10：数据导入之Broker Load

因为Doris表里的数据是有序的，所以Brokerload在导入数据的时是要利用doris集群资源对数据进行排序，相对于Sparkload来完成海量历史数据迁移，对Doris的集群资源占用要比较大，这种方式是在用户没有
sunjian286·2023-11-12 09:57

Apache Doris 入门教程11：数据导入之Routine Load

例行导入（RoutineLoad）功能，支持用户提交一个常驻的导入任务，通过不断的从指定的数据源读取数据，将数据导入到Doris中。本文主要介绍该功能的实现原理、使用方式以及最佳实践。
sunjian286·2023-11-12 09:57

Apache Doris 入门教程12：数据导入之Spark Load

SparkLoad通过外部的Spark资源实现对导入数据的预处理，提高Doris大数据量的导入性能并且节省Doris集群的计算资源。主要用于初次迁移，大数据量导入Doris的场景。
sunjian286·2023-11-12 09:57

与创新者同行，Apache Doris in 2023

在刚刚过去的DorisSummitAsia2023峰会上，ApacheDorisPMC成员、飞轮科技技术副总裁衣国垒带来了“与创新者同行”的主题演讲，回顾了ApacheDoris在过去一年所取得的技术突破与社区发展，重新思考了在面对海量数据实时分析上的挑战与机遇，全面介绍了ApacheDoris在未来的迭代计划与演进方向。以下为衣国垒在峰会上的演讲节选，以衣国垒第一人称叙述，经编辑。非常高兴可以看
SelectDB技术团队·2023-11-10 17:51

平安人寿基于 Apache Doris 统一 OLAP 技术栈实践

导读：平安人寿作为保险行业领军企业，坚持技术创新，以数据业务双轮驱动的理念和更加开放的思路来应对不断增长的数据分析和应用需求；以深挖数据价值、保障业务用数效率为目标持续升级大数据产品体系。自2022年起平安人寿开始引入开源实时数据仓库ApacheDoris并基于此统一OLAP技术栈，通过统一的数据开发与服务打破了原有系统的数据“孤岛”、降低了需求的开发成本、加速了业务需求的交付周期，并满足了业务方
SelectDB技术团队·2023-11-10 17:46

治理效率提升77%！揭秘基于DataLeap实时健康分的最佳实践

目前该实时数仓团队已运行了上万的实时任务，依赖的组件繁多（例如：Flink、Yarn、Abase、Doris等）、开发人员众多、开发习惯和经验程度参差不齐等各类主客观因素，导致任务稳定性、资源浪
字节数据平台·2023-11-10 11:50

Day125.JVM：栈、堆、GC 垃圾回收机制

目录一、JVM体系结构概述★★★栈(stack)堆(Heap)新生区、养老区、永久代(元空间)堆参数调优OOM问题定位解决二、GC垃圾回收1、垃圾判定2、垃圾回收算法★★3、垃圾收集器(了解)说出你常遇到的五个运行时异常请谈谈你对
焰火青年··2023-11-09 09:13

Doris：Binlog Load导入数据

BinlogLoad提供了一种使Doris增量同步用户在Mysql数据库的对数据更新操作的CDC(ChangeDataCapture)功能。
m0_37559973·2023-11-09 08:22

java jvm参数可以设置多大_JVM面试复习系列：JVM参数调优

JVM参数调优前言你说你做过JVM调优和参数配置，请问如何盘点查看JVM系统默认值使用jps和jinfo进行查看-Xms：初始堆空间-Xmx：堆最大值-Xss：栈空间-Xms和-Xmx最好调整一致，防止
weixin_39649490·2023-11-09 05:27

【面试题总结】JVM02：JVM参数调优、类加载机制

四、JVM参数调优1、调优工具(1)jvisualvm：jdk提供的性能分析工具，可以监控java进程，对dump文件分析；查看应用程序的详细信息，针对不同插件，实现监控GC过程、内存、进程、线程等，也可以实现对
哥们要飞·2023-11-09 05:41

大数据Doris（十九）：数据导入（Load）

文章目录数据导入（Load）一、Brokerload二、Streamload三、Insert四、Multiload
Lansonli·2023-11-08 22:59

nginx参数调优能提升多少性能

声明一下，测试流程比较简单，后端服务也很简单，测试时间也很短，所以实验并不严谨，结果仅作参考，需要根据实际情况进行参数调优。文章或有错误和疏漏之处，欢迎各位大佬指出或补充。
荔枝味奶糖·2023-11-08 21:25

Doris：MySQL数据同步到Doris的N种方式

1.2导入数据2.JDBC编码方式3.JDBCCatalog方式3.1上传mysql驱动包3.2创建mysqlcatalog3.3.插入数据4.BinlogLoad方式1.CSV文件方式当mysql与doris
m0_37559973·2023-11-08 03:53

Apache Doris 是什么

Doris的主要特点包括：高性能：通过MPP架构，Doris能够在多个节点上并行处理查询，从而提供快速的数据分析能力。实时分析：Doris支持实时的数据更新和查询，适用于需要频繁更新和即时分析的场景。
舒一笑·2023-11-07 18:14

Doris-02-数据表的操作(建表、数据模型Aggregate-Uniq-Duplicate、动态分区、临时分区、Rollup、物化视图等)

文章目录数据表的操作创建用户和数据库基本概念Row&ColumnPartition&Tablet建表语句语法和示例列定义分区与分桶PartitionBucketPROPERTIESENGINE数据模型Aggregate模型Uniq模型Duplicate模型数据模型的选择建议动态分区原理和使用方式动态分区规则参数示例临时分区使用场景操作导入和查询Rollup基本概念Aggregate和Uniq模型中
迷雾总会解·2023-11-07 16:35

Doris学习

doris简介由百度大数据部研发之前叫百度palo，2018年共享到apache社区，改名dorisMPP分析型数据库产品亚秒级响应架构非常简洁，易于运维支持10pb以上的超大数据集满足多种数据分析需求固定历史报表实时数据分析交互式数据分析探索式数据分析流批一体架构
Flakej·2023-11-07 16:34

【大数据入门核心技术-Doris】（三）Doris基础使用

一、安装部署参考：【大数据入门核心技术-Doris】（二）Doris安装部署二、用户相关使用1、用户登录启动完Doris程序之后，可以通过root或admin用户连接到Doris集群。
forest_long·2023-11-07 16:02

Apache Doris (五十三）： Doris Join类型 - Shuffle Join

个人主页：IT贫道_大数据OLAP体系技术栈,ApacheDoris,Clickhouse技术-CSDN博客私聊博主：加入大数据技术讨论群聊，获取更多大数据资料。博主个人B栈地址：豹哥教你大数据的个人空间-豹哥教你大数据个人主页-哔哩哔哩视频目录1.shuffleJoin的原理
IT贫道·2023-11-07 08:10

zookeeper版本选择与配置参数调优

一、zookeeper发布策略ApacheZooKeeper社区一次支持两个发布分支：stable和current。ZooKeeper的稳定版本是3.7.x，当前版本是3.8.x。一旦发布新的次要版本，稳定版本预计将很快退役，大约半年后将宣布为End-of-Life。在半年的宽限期内，预计只会为该版本发布安全和关键修复程序。宣布EoL后，社区不再提供进一步的补丁。所有ZooKeeper版本都可以从
柠檬味的鱼°·2023-11-07 05:41

ZooKeeper参数调优

zookeeper的默认配置文件为zookeeper/conf/zoo_sample.cfg，需要将其修改为zoo.cfg。其中各配置项的含义，解释如下：1.tickTime：Client-Server通信心跳时间Zookeeper服务器之间或客户端与服务器之间维持心跳的时间间隔，也就是每个tickTime时间就会发送一个心跳。tickTime以毫秒为单位。tickTime=20002.initL
weixin_34345753·2023-11-07 05:10

Doris--基础--08--Broadcast/Shuffle Join

Doris–基础–08–Broadcast/ShuffleJoin1、介绍doris在join操作的时候时候，默认使用broadcast的方式进行join，即将小表通过广播的方式广播到大表所在的节点，形成内存
勤径苦舟·2023-11-07 03:58

Apache Doris的Bucket Shuffle Join实现

目录1.介绍2.原理3.使用1.介绍两个表进行join时，让右表根据左边的数据分布，进行数据的shuffle，再进行join。减少跨节点的数据传输。加速查询2.原理SQL语句为A表joinB表，并且join的等值表达式命中了A的数据分布列。而BucketShuffleJoin会根据A表的数据分布信息，将B表的数据发送到对应的A表的数据存储节点。BucketShuffleJoin的网络开销和内存开销
Bulut0907·2023-11-07 03:27

Apache Doris的性能优化之Runtime Filter

目录1.介绍2.原理3.使用3.参数说明4.注意事项1.介绍当进行tb1jointb2时，tb2的数据非常小，将tb2数据经过计算得到一个过滤条件，发送到tb1所在的节点，利用索引的功能，直接对tb1的数据进行过滤。来减少扫描的数据量，避免不必要的I/O和网络传输，从而加速查询2.原理RuntimeFilter在查询规划时生成，在HashJoinNode中构建，在ScanNode中应用T1表的数据
Bulut0907·2023-11-07 03:27

Apache Doris 入门教程04：连接方式与使用指南

使用指南Doris采用MySQL协议进行通信，用户可通过MySQLclient或者MySQLJDBC连接到Doris集群。
sunjian286·2023-11-07 03:26

【浅谈 Apache Doris FE 处理查询 SQL 源码解析】

Doris查询语句和市面主流的数据库处理阶段都差不多，需要经过Parse,Analyz
齐木木9406·2023-11-07 03:56

【转】最佳实践｜Apache Doris Join 实现与调优实践

【转】https://mp.weixin.qq.com/s/YNGdTbnG6iBjT1qtsK912wDoris简介首先简单介绍一下Doris。
lehsyh·2023-11-07 03:25

Doris初步使用2

使用命令查看创建表语句：HELPCREATETABLE;创建表完整语句：CREATE[EXTERNAL]TABLE[IFNOTEXISTS][database.]table_name(column_definition1[,column_definition2,...][,index_definition1[,ndex_definition12,]])[ENGINE=[olap|mysql|bro
黄瓜炖啤酒鸭·2023-11-07 03:25

Apache Doris在美团外卖数仓中的应用实践

本文将介绍Doris在美团外卖数仓的实践。序言本文侧重于以Doris引擎为“发动机”的数仓生产架构的改进与思考。
架构师小秘圈·2023-11-07 03:25

Apache Doris (五十二）： Doris Join类型 - Broadcast Join

个人主页：IT贫道_大数据OLAP体系技术栈,ApacheDoris,Clickhouse技术-CSDN博客私聊博主：加入大数据技术讨论群聊，获取更多大数据资料。博主个人B栈地址：豹哥教你大数据的个人空间-豹哥教你大数据个人主页-哔哩哔哩视频目录1.BroadcastJoin原理
IT贫道·2023-11-07 03:53

Doris Manager集群的工具，运维更顺畅

哈喽！大家好，我是【IT邦德】，江湖人称jeames007，10余年DBA及大数据工作经验一位上进心十足的【大数据领域博主】！中国DBA联盟(ACDU)成员，目前服务于工业互联网擅长主流Oracle、MySQL、PG、高斯及Greenplum运维开发，备份恢复，安装迁移，性能优化、故障应急处理等。✨如果有对【数据库】感兴趣的【小可爱】，欢迎关注【IT邦德】❤️❤️❤️感谢各位大可爱小可爱！❤️❤️
IT邦德·2023-11-06 11:55

Apache Doris 系列： 基础篇-清理垃圾数据

垃圾数据如何产生delete/drop/truncate等操作只是在逻辑上删除了数据，并没有进行物理删除数据文件合并完成后没有物理删除旧的数据清理所有BE节点的垃圾数据ADMINCLEANTRASH;清理指定BE节点的垃圾数据ADMINCLEANTRASH[ON("BackendHost1:BackendHeartBeatPort1","BackendHost2:BackendHeartBeatP
修破立生·2023-11-06 02:48

技术实现 | Apache Doris 冷热数据存储（一）

1.前言对于任何一种数据库类软件来说，无论其基于传统数据库模型还是基于分布式结构，作为核心的永远是数据本身。而数据的生命周期，则体现在CRUD操作（创建、查询、更新、删除）上。任何一条数据从其生成的时刻开始，数据价值随着时间的推移而逐渐降低，直至成为无用数据，最终删除。作为使用数据的主体——用户，对于各种数据的需求程度是不同的，人们往往对重要的数据有更高效、稳定的访问需求；而对于不重要的数据则没有
ApacheDoris·2023-11-06 02:17

Apache Doris整体架构、FE元数据管理及数据组织

目录1.Doris整体架构2.FE元数据管理3.Doris数据组织1.Doris整体架构Doris主要分为FE和BE两个组件，FE主要负责查询的编译，分发和元数据管理（基于内存，类似HDFSNN）；BE
国林哥·2023-11-06 02:47

Apache Doris 入门教程08：建立和使用索引

目前Doris主要支持两类索引：内建的智能索引，包括前缀索引和ZoneMap索引。
sunjian286·2023-11-06 02:17

Apache Doris : 一个开源 MPP 数据库的架构与实践

ApacheDoris:一个开源MPP数据库的架构与实践一、Doris背景介绍1.1Doris1.2Doris定位二、适用场景&案例介绍2.1适用场景2.1.1对数据分析、统计2.1.2报表2.1.3多维分析
明月清风，良宵美酒·2023-11-06 02:16
上一页 8 9 10 11 12 13 14 15 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他