Doris物化视图

Apache Doris 2.0 冷热分离快速体验

概述对于任何一种数据库类软件来说，无论其基于传统数据库模型还是基于分布式结构，作为核心的永远是数据本身。而数据的生命周期，则体现在CRUD操作（创建、查询、更新、删除）上。任何一条数据从其生成的时刻开始，数据价值随着时间的推移而逐渐降低，直至成为无用数据，最终删除。作为使用数据的主体用户，对于各种数据的需求程度是不同的，人们往往对重要的数据有更高效、稳定的访问需求；而对于不重要的数据则没有这么高的
hf200012·2023-06-09 10:08

[2.0快速体验]Apache Doris 2.0 日志分析快速体验

1.概述应用程序、服务器、云基础设施、IoT和移动设备、DevOps、微服务架构—最重要的业务和IT发展趋势帮助我们以前所未有的方式优化运维和客户体验。但这些趋势也导致由机器生成的数据出现爆炸式成长，其中包括日志和指标等，例如，用户交易、客户行为、传感器活动、机器行为和安全威胁等。这些数据十分复杂，但同时也最为重要，因为它们包含关于IT、安全和业务的运维情报。日志分析涉及到对由您的IT系统和技术基
hf200012·2023-06-09 10:08

[2.0快速体验]Apache Doris 2.0 弹性计算节点快速体验

1.概览我们都知道Doris目前是一个典型的Share-Nothing的架构，Doris通过绑定数据和计算资源在同一个节点获得非常好的性能表现.但随着Doris计算引擎性能持续提高,越来越多的用户也开始选择使用
hf200012·2023-06-09 10:08

同程数科基于 Apache Doris 的数据仓库建设

本文详细讲述了架构1.0到2.0的演进过程及Doris的应用实践，希望对大家有所帮助。作者｜同程数科大数据高级工程师王星业务背景业务介绍同程数科是同程集团旗下的旅游产业金融服务
hf200012·2023-06-09 10:38

打破数据孤岛，Apache Doris 助力纵腾集团快速构建流批一体数仓架构｜最佳实践

福建纵腾网络有限公司（简称“纵腾集团”）成立于2009年，以“全球跨境电商基础设施服务商”为企业定位，聚焦跨境仓储与物流，为全球跨境电商商户、出口贸易企业、出海品牌商提供海外仓储、商业专线物流、定制化物流等一体化物流解决方案，旗下拥有谷仓海外仓、云途物流、WORLDTECH等知名品牌。作者｜纵腾集团数据技术架构师张彬华随着纵腾集团业务的快速发展，各产品线提出的数据需求越发严格，而早期基于多套CDH
hf200012·2023-06-09 10:04

Doris bitmap人群圈选案例

构建标签表CREATETABLE`user_label`(`label_name`varchar(20)NULLCOMMENT'标签名称',`label_version`datetimeNULLCOMMENT'标签版本号',`label_type`varchar(10)NULLCOMMENT'标签类型data-double-int-string',`label_value`varchar(100)
wangleigiser·2023-06-09 05:58

Doris ROLLUP使用

AGGREGATEKEY模型CREATETABLEIFNOTEXISTStest.aggregate_test1(`user_id`LARGEINTNOTNULLCOMMENT"用户id",`city`VARCHAR(20)COMMENT"所在城市",`date`DATENOTNULLCOMMENT"数据插入时间",`age`SMALLINTCOMMENT"用户年龄",`last_date`DAT
wangleigiser·2023-06-09 05:58

Doris动态表使用快速入门实战

1.动态表构功能概述半结构化数据，是介于结构化和非结构化之间的数据。和普通纯文本相比，半结构化数据具有一定的结构性。和结构化数据相比，其结构变化复杂，我们又不能方便的使用结构化的方式去描述它。半结构的数据中通常即包括数据本身，也包括数据结构的描述。比如场景的有JSON、XML，他们即包含数据，也包含数据的描述（元数据信息），具体半结构化特征如下：数据结构自描述：结构与数据相融合在一起，一条数据即包
wangleigiser·2023-06-09 05:52

Doris半结构化数据分析（倒排索引使用）快速入门

1.背景ApacheDoris2.0基于ApacheDoris向量化MPP引擎，增加了倒排索引和半结构化JSON数据支持，更好地满足日志存储、检索、分析需求。与基于ES的日志存储方案相比，有如下优势：性价比提升：存储成本降低50%以上，写入速度提升2倍以上支持复杂数据分析：支持多种JOIN、复杂子查询、Hive数据湖外表，支持标准SQL数据管理更简单：支持标准SQLDDLschemachange，
wangleigiser·2023-06-09 05:22

Doris---索引

前缀索引doris中，对于前缀索引有如下约束：他的索引键最大长度是36个字节当他遇到了varchar数据类型的时候，即使没有超过36个字节，也会自动截断示例1:以下表中我们定义了:user_id,age
华..·2023-06-09 02:10

Doris----Rollup表分析及案例实现

ROLLUP在多维分析中是“上卷”的意思，即将数据按某种指定的粒度进行进一步聚合。之前的聚合模型:用户id数据插入时间城市年龄性别最后一次访问的时间该用户的总消费额该用户的最大停留时长该用户的最小停留时长100002017/10/2北京1002017/10/0208:00:0065152100002017/10/2北京2002017/10/0208:00:0065152100002017/10/2
华..·2023-06-09 02:40

Doris---数据表设计

doris中的列分为两类：key列和value列key列在doris中有两种作用：聚合表模型中，key是聚合和排序的依据其他表模型中，key是排序依据2分区与分桶partition（分区）：是在逻辑上将一张表按行
华..·2023-06-09 02:39

Doris-----Aggregate 聚合模型及案例实现

Aggregate模型是相同key的数据进行自动聚合的表模型。表中的列按照是否设置了AggregationType，分为Key（维度列）和Value（指标列），没有设置AggregationType的称为Key，设置了AggregationType的称为Value。当我们导入数据时，对于Key列相同的行会聚合成一行，而Value列会按照设置的AggregationType进行聚合。Aggregat
华..·2023-06-09 02:09

【Doris】利用Flink-CDC和flink-doris-connector技术实现Mysql数据全量或增量同步至Doris

简介FlinkCDC：解决了传统数据库实时同步的痛点，该技术抛弃了其他第三方组件（例如Kafka等），能够实时读取Mysqlmaster节点全量和增量数据，能够捕获所有数据的变化，同时它完全与业务解耦，运维也及其简单。具体介绍请参考：Flink_CDC搭建及简单使用及flink-cdc-connectors。ApacheDoris：它是一个现代化的MPP分析型数据库产品。仅需亚秒级响应时间即可获得
九层之台起于累土·2023-06-08 23:20

从 Elasticsearch 到 Apache Doris，10 倍性价比的新一代日志存储分析平台

日志数据的处理与分析是最典型的大数据分析场景之一，过去业内以Elasticsearch和GrafanaLoki为代表的两类架构难以同时兼顾高吞吐实时写入、低成本海量存储、实时文本检索的需求。ApacheDoris借鉴了信息检索的核心技术，在存储引擎上实现了面向AP场景优化的高性能倒排索引，对于字符串类型的全文检索和普通数值、日期等类型的等值、范围检索具有更高效的支持，相较于Elasticsearc
000X000·2023-06-08 22:35

从零开始的力扣刷题记录-第四十七天

两个列表的最小索引总和-简单1893.检查是否区域内所有整数都被覆盖-简单1779.找到最近的有相同X或Y坐标的点-简单45.跳跃游戏II-中等总结599.两个列表的最小索引总和-简单题目描述：假设Andy和Doris
渊微指玄·2023-06-08 19:28

Apache Doris 冷热分层技术如何实现存储成本降低 70%？

在数据分析的实际场景中，冷热数据往往面临着不同的查询频次及响应速度要求。例如在电商订单场景中，用户经常访问近6个月的订单，时间较久远的订单访问次数非常少；在行为分析场景中，需支持近期流量数据的高频查询且时效性要求高，但为了保证历史数据随时可查，往往要求数据保存周期更为久远；在日志分析场景中，历史数据的访问频次很低，但需长时间备份以保证后续的审计和回溯的工作...往往历史数据的应用价值会随着时间推移
·2023-06-08 16:31

doris索引

目前Doris主要支持两类索引：-内建的智能索引：包括前缀索引和ZoneMap索引。-用户创建的二级索引：包括BloomFilter索引和Bitmap倒排索引。
今夕何夕9720·2023-06-08 15:58

Doris之rollup上卷及物化视图

Rollup表的好处：和基表共用一个表名，doris会根据具体的查询逻辑选择合适的数据源(合适的表)来计算结果对于基表中数据的增删改，rollup表会自动更新同步1.Aggregate模型中的
今夕何夕9720·2023-06-08 15:58

Doris节点扩容及数据表

扩容和缩容上篇文章简单讲了doris的安装，本章分享的是doris中fe和be节点的扩容缩容以及doris的数据表1、FE扩容和缩容使用MySQL登录客户端后，可以使用sql命令查看FE状态，目前就一台
今夕何夕9720·2023-06-08 15:57

doris

1.求每个城市的每个用户的每天的总销售额selectuser_id,city,date，sum(sum_cost)assum_costfromtgroupbyuser_id,city,date--user_iddatecitysum_cost100002017/10/2北京195100002017/10/1上海100100002017/10/2上海30100002017/10/3上海5510000
子非我104·2023-06-08 05:41

Apache Doris

ApacheDoris教程1.Doris简介1.1Doris概述ApacheDoris由百度大数据部研发（之前叫百度Palo，2018年贡献到Apache社区后，更名为Doris），在百度内部，有超过200
子非我104·2023-06-08 05:11

Doris

Aggregate模型是相同key的数据进行自动聚合的表模型。表中的列按照是否设置了AggregationType，分为Key（维度列）和Value（指标列），没有设置AggregationType的称为Key，设置了AggregationType的称为Value。当我们导入数据时，对于Key列相同的行会聚合成一行，而Value列会按照设置的AggregationType进行聚合。Aggregat
子非我104·2023-06-08 05:11

第一——四章作业

第一章1.编写四则运算生成器(python)答：__author__='Doris'fromrandomimport*defcreateAnExpression():beginNum=0endNum=100a
weixin_30323631·2023-06-08 05:19

apache doris自定义udf函数

环境准备下载（https://doris.apache.org/zh-CN/download）上传文件到节点，并解压apache-doris-fe-1.2.4.1-bin-x86_64.tar.xzapache-doris-be
贾斯汀玛尔斯·2023-06-08 03:18

Doris使用总结

Doris更优的方面使用更简单，如建表更简单，SQL标准支持更好，Join性能更好，导数功能更强大运维更简单，如灵活的扩缩容能力，故障节点自动
csdncjh·2023-06-07 17:07

【大数据hive】hive视图与物化视图使用详解

更改视图属性2.7更改视图定义三、使用视图的好处3.1只将真实表中特定的列数据提供给用户，保护数据隐式3.1.1创建一个表3.1.2基于这个表创建一个视图3.2降低查询的复杂度，优化查询语句四、hive物化视图
逆风飞翔的小叔·2023-06-07 12:57

clickhouse MPPDB数据库 运维实用SQL总结II

2.1.使用clusterAllReplicas创建视图【推荐】2.2.使用remote创建视图2.3.通过Distributed引擎创建视图2.4.采用物化视图3.CH监控运维常用SQL3.1.查看当前连接数
java编程艺术·2023-06-07 07:26

Doris数据表模型

3.3数据表模型Doris的数据模型主要分为3类:•Aggregate聚合模型•Unique唯一模型•Duplicate明细模型#3.3.1Aggregate模型是相同key的数据进行自动聚合的表模型。
All996·2023-06-06 22:06

Doris数据表

第3章数据表设计3.1字段类型TINYINT1字节范围：-2^7+1~2^7-1SMALLINT2字节范围：-2^15+1~2^15-1INT4字节范围：-2^31+1~2^31-1BIGINT8字节范围：-2^63+1~2^63-1LARGEINT16字节范围：-2^127+1~2^127-1FLOAT4字节支持科学计数法DOUBLE12字节支持科学计数法DECIMAL[(precision,s
All996·2023-06-06 22:06

Apache Doris

1.Doris简介1.1Doris概述ApacheDoris由百度大数据部研发（之前叫百度Palo，2018年贡献到Apache社区后，更名为Doris），在百度内部，有超过200个产品线在使用，部署机器超过
All996·2023-06-06 22:36

浅谈 ByteHouse Projection 优化实践

预聚合是OLAP系统中常用的一种优化手段，在通过在加载数据时就进行部分聚合计算，生成聚合后的中间表或视图，从而在查询时直接使用这些预先计算好的聚合结果，提高查询性能，实现这种预聚合方法大多都使用物化视图来实现
·2023-06-06 22:04

深入了解MySQL ClickHouse中的物化视图功能

目录数据表与视图ClickHouse的物化视图物化视图的更新使用示例数据表与视图数据库表是一种关系型数据库中的基本对象，用于存储数据。
·2023-06-06 21:24

浅谈 ByteHouse Projection 优化实践

预聚合是OLAP系统中常用的一种优化手段，在通过在加载数据时就进行部分聚合计算，生成聚合后的中间表或视图，从而在查询时直接使用这些预先计算好的聚合结果，提高查询性能，实现这种预聚合方法大多都使用物化视图来实现
字节跳动数据平台·2023-06-06 12:00

大数据之初识Doris

文章目录前言一、Doris简介二、核心特性三、Doris特点四、整体架构五、系统架构六、元数据结构七、数据分发总结前言#博学谷IT学习技术支持#Doris由百度大数据部研发，之前叫百度Palo，于2017
敲键盘的杰克·2023-04-21 10:47

赋能直播行业精细化运营，斗鱼基于 Apache Doris 的应用实践

导读：斗鱼是一家弹幕式直播分享网站，为用户提供视频直播和赛事直播服务。随着斗鱼直播、视频等业务的高速发展，用户增长和营收两大主营业务线对精细化运营的需求越发地迫切，各个细分业务场景对用户的差异化分析诉求也越发的强烈。为更好满足业务需求，斗鱼在2022年引入了ApacheDoris构建了一套比较相对完整的实时数仓架构，并在该基础上成功构建了标签平台以及多维分析平台，在此期间积累了一些建设及实践经验通
SelectDB技术团队·2023-04-20 20:05

叮咚买菜基于 Apache Doris 统一 OLAP 引擎的应用实践

经过调研选型，最终引入ApacheDoris作为最终的OLAP分析引擎，Doris作为核心的OLAP引擎支持复杂地分析操作、提供多维的数据视图，在叮咚买菜数十个业务场景中广泛应
SelectDB技术团队·2023-04-20 20:05

Apache Doris 在美联物业的数据仓库应用实践，助力传统行业数字化革新

导读：传统行业面对数字化转型往往会遇到很多困难，比如缺乏数据管理体系、数据需求开发流程冗长、烟囱式开发、过于依赖纸质化办公等，美联物业也有遇到类似的问题。本文主要介绍美联物业基于ApacheDoris在数据体系方面的建设，以及对数据仓库搭建经验进行的分享和介绍，旨在为数据量不大的传统企业提供一些数仓思路，实现数据驱动业务，低成本、高效的进行数仓改造。作者｜美联物业数仓负责人谢帮桂美联物业属于香港美
SelectDB技术团队·2023-04-20 20:34

查询提速 20 倍，Apache Doris 在 Moka BI SaaS 服务场景下的应用实践

导读：MOKA主要有两大业务线MOKA招聘（智能化招聘管理系统）和MOKAPeople（智能化人力资源管理系统），MOKABI通过全方位数据统计和可灵活配置的实时报表，赋能于智能化招聘管理系统和人力资源管理系统。为了提供更完备的数据支持，助力企业提升招聘竞争力，MOKA引入性能强悍的ApacheDoris对早期架构进行升级转型，成就了MokaBI强大的性能与优秀的用户体验。作者｜Moka数据架构师
SelectDB技术团队·2023-04-20 20:01

PostgreSQL 11 preview - MERGE 语法支持与CTE内支持，兼容SQL:2016 , 兼容 Oracle

例如，将源表的变更日志，合并到物化视图中。PostgreSQL除了使用insertintoonconflict，如今又多了me
weixin_34195142·2023-04-20 20:26

查询提速 20 倍，Apache Doris 在 Moka BI SaaS 服务场景下的应用实践

导读：MOKA主要有两大业务线MOKA招聘（智能化招聘管理系统）和MOKAPeople（智能化人力资源管理系统），MOKABI通过全方位数据统计和可灵活配置的实时报表，赋能于智能化招聘管理系统和人力资源管理系统。为了提供更完备的数据支持，助力企业提升招聘竞争力，MOKA引入性能强悍的ApacheDoris对早期架构进行升级转型，成就了MokaBI强大的性能与优秀的用户体验。作者｜Moka数据架构师
·2023-04-20 19:11

Doris架构原理

1.介绍Doris是一个MPP的OLAP系统，以较低的成本提供在大数据集上的高性能分析和报表查询功能。MPP(MassivelyParallelProcessing)，即大规模并行处理。
javastart·2023-04-20 14:37

doris架构

文章目录概述架构组件概述ApacheDoris是一个现代化的MPP分析型数据库产品。仅需亚秒级响应时间即可获得查询结果，有效地支持实时数据分析。ApacheDoris的分布式架构非常简洁，易于运维，并且可以支持10PB以上的超大数据集。ApacheDoris可以满足多种数据分析需求，例如固定历史报表，实时数据分析，交互式数据分析和探索式数据分析等。令您的数据分析工作更加简单高效！MPP(Massi
Dlimeng·2023-04-20 14:03

大数据OLAP查询引擎选型对比

1、常用OLAP查询引擎目前大数据比较常用的OLAP查询引擎包括：Presto、Impala、Druid、Kylin、Doris、Clickhouse、GreenPlum等。
shinelord明·2023-04-20 02:30

D46 2组阿德doris+《这些人，那些事》读书笔记

今天读的是第三辑博真情的朋友们在这一辑，作者写了很多他当兵时候的朋友而我最记得的朋友们应该是高中复读时候的同学们。第一次高考成绩不理想，所以我选择了复读。之前那个高三和我一起复读的只有一个同学，小A。之所以叫她小A是因为当时班上有另外一个女孩子和她同名同姓，所以就在她们的名字后面加上A、B用于区分她们两个人。小A家在乡下，所以她平时住校。因为我们都个子小小的，又同班了几年，所以自然而然我们俩最熟悉
阿德doris·2023-04-19 19:57

Doris（8）：数据导入（Load）之Insert Into

但在Doris中，所有的数据写入都是一个独立的导入作业。所以这里将InsertInto也作为一种导入方式介绍。
不死鸟.亚历山大.狼崽子·2023-04-19 18:18

Apache Doris Broker数据导入使用示例及介绍

用户需要通过MySQL协议创建Brokerload导入，并通过查看导入命令检查导入结果主要适用于以下场景：外部数据源（如HDFS等）读取数据，导入到Doris中。数据量在几十到百GB级别。
张家锋·2023-04-19 18:01

Doris（9）：删除数据（Delete）

和Insertinto相似，所有的Delete操作在Doris中是一个独立的导入作业，一般Delete语句需要指定表和分区以及删除的条件来筛选要删除的数据。
不死鸟.亚历山大.狼崽子·2023-04-19 16:36

2022-11-02

#DorisPipeLine后续的工作讨论##1.背景当前Doris的执行引擎是volcano的pull模型，在单机多核的场景下存在下面的一些问题：*无法利用多核计算能力，提升查询性能，**多数场景下进行性能调优时需要手动设置并行度
50d8e4e7a5b3·2023-04-19 10:32

从 ClickHouse 到 Apache Doris，腾讯音乐内容库数据平台架构演进实践

导读：腾讯音乐内容库数据平台旨在为应用层提供库存盘点、分群画像、指标分析、标签圈选等内容分析服务，高效为业务赋能。目前，内容库数据平台的数据架构已经从1.0演进到了4.0，经历了分析引擎从ClickHouse到ApacheDoris的替换、经历了数据架构语义层的初步引入到深度应用，有效提高了数据时效性、降低了运维成本、解决了数据管理割裂等问题，收益显著。本文将为大家分享腾讯音乐内容库数据平台的数据
·2023-04-18 22:06
上一页 18 19 20 21 22 23 24 25 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他