Doris数仓第5页

Apache Doris 数据库有哪些应用场景？

对于Doris，一直听圈内的人在说，吹得神乎其神，但到底有多强，从来没有真正的去尝试一把。直到这次，被人狠狠上了一课。

禹鼎侯·2024-01-21 18:14

ClickHouse/Doris vs Elasticsearch谁更胜一筹？

前言我之前在ClickHousevsDoris读写性能比较一文中，初步做了一下ClickHouse和Doris的读写性能比较，但由于数据样本比较小，且未发挥出所有硬件资源的性能，因此进行了第二轮压测。

禹鼎侯·2024-01-21 18:14

数据仓库简介、数据仓库的发展、数仓理论简介

数仓理论简介数据仓库解决方案诞生至今，也有2、30年的发展历史了，在这个过程中，数仓理论不断被更新和完善，逐步形成了目前大家普通遵守的数仓开发理论（概念）。

yida&yueda·2024-01-21 11:48

数据仓库简介

一、数仓概念数据仓库，英文名称为DataWarehouse，可简写为DW或DWH。数据仓库，是为企业所有级别的决策制定过程，提供所有类型数据支持的战略集合。

水坚石青·2024-01-21 11:46

clickhouse 和 doris 哪个比较好

Doris是一个开源的MPP数据库系统，旨在提供类似于传统数据库的功能，但是能够处理大规模数据。它具有较高的查询性能，支持ANSISQL，并且具有与传统数据库相似的用户体验。

格拉摩根终身伯爵·2024-01-21 08:53

doris和clickhouse哪个更快

Doris和ClickHouse都是列式存储的分布式数据库，都有优秀的性能表现。通常情况下，Doris和ClickHouse的性能取决于数据模型和查询模式。

Ramaswamy·2024-01-21 08:53

Clickhouse VS Doris 导入-并发-查询对比

以下是鄙人对Clickhouse和Doris对比理解：1.导入性能问题就单表来说，clickhouse导入性能比doris要好，因为单表clickhouse导入数据直接导入的是本地磁盘，对于分布式表，clickhouse

IT贫道·2024-01-21 08:21

mysql,clickhouse以及doris对比

mysql,clickhouse以及doris测试对比（一）clickhouse的单机安装与使用文章目录mysql,clickhouse以及doris测试对比（一）clickhouse的单机安装与使用前言一

andy73645212·2024-01-21 08:17

ByConity与主流开源OLAP引擎（Clickhouse、Doris、Presto）性能对比分析

因此，本文将使用TPC-DS基准测试的99个查询语句来对比开源的ClickHouse、Doris、Presto以及ByConity这4个OLAP引擎的性能表现，以便为企业选择合适的OLAP引擎提供参考。

MoMoSQL666·2024-01-21 08:14

ClickHouse与Doris数据库比较

概述都说“实践是检验真理的唯一标准”，光说不练假把式，那么本文就通过实际的测试来感受一下Doris和clickhouse在读写方面的性能差距，看看Doris盛名之下，是否真有屠龙之技；clickhouse

禹鼎侯·2024-01-21 08:13

Hologres V2.1版本发布，新增计算组实例构建高可用实时数仓

Highlight产品介绍Hologres是阿里云自研一站式实时数仓，统一数据平台架构，将OLAP查询、即席分析、在线服务、向量计算多个数据应用构建在统一存储之上，实现一份数据，多种计算场景。

阿里云大数据AI技术·2024-01-20 21:07

【数据结构与算法】之数组系列-20240115

这里写目录标题一、599.两个列表的最小索引总和二、724.寻找数组的中心下标三、面试题16.11.跳水板四、35.搜索插入位置一、599.两个列表的最小索引总和简单假设Andy和Doris想在晚餐时选择一家餐厅

敲代码敲到头发茂密·2024-01-20 19:03

巴别时代基于 Apache Paimon 的 Streaming Lakehouse 的探索与实践

我们基于ApachePaimon(Incubating)构建StreamingLakehouse的落地实践主要分为三期：第一期是在调研验证的基础上进行数仓分层，并且上线一些简单的业务验证效果；第二期是实现流式数仓的基础设施建设

Apache Flink·2024-01-20 12:21

Doris配置外表以及多个Hive外表的配置

1.场景分析以Clickhouse、Doris、Starrocks等为代表的mpp分析数据库正在快速的兴起，以其高效查询、跨库整合能力收到广大技术人员的喜爱。

tuoluzhe8521·2024-01-20 12:37

程序员必备的面试技巧——大数据工程师面试必备技能

目录前言一、不同工程师的职责和技能要求1、数仓开发工程师2、算法挖掘工程师3、大数据平台开发工程师4、大数据前端开发工程师二、大数据技术架构图三、大数据相关的技术内容四、大数据面试经验1、大数据开发岗位

Francek Chen·2024-01-20 11:22

Doris系列11-数据导入之Stream load

一.Streamload概述Streamload是一个同步的导入方式，用户通过发送HTTP协议发送请求将本地文件或数据流导入到Doris中。Streamload同步执行导入并返回导入结果。

只是甲·2024-01-20 10:29

大数据Doris（五十七）：SQL函数之字符串函数（一）

文章目录SQL函数之字符串函数（一）一、append_trailing_char_if_absent(VARCHARstr,VARCHARtrailing_char)

Lansonli·2024-01-20 03:32

D363 2019-06-21

今天3位同事和好友给我的祝福.要相信坚持就能感动老天;坚持就是胜利;一切发生在Doris身上的美好都是必然的。生活的美好无非如此

裸熊兜Doris·2024-01-20 03:49

超融合之道：亚信安慧AntDB 8.0版本引领数据库创新

在当今多变的数据应用场景中，AntDB作为行业领先的超融合流式实时数仓，秉承着“融合+实时”的研发理念，全面应对企业日益复杂的数据处理需求。

亚信安慧AntDB数据库·2024-01-20 01:00

华为外包数据库面试问题分享20211225

数仓的东西了解多少。数据库开发支持这方面你做过哪些。你现在的工作中的SQL开发，具体是作了哪些。你的工作意愿是哪个方向（这么问是因为知道了我没做过DBA）在数仓的设

钦䲹·2024-01-19 16:05

某小外包公司线上面试-大数据开发

1.数仓和数据库的区别2.数仓建模3.hive用到的函数4.rank,dense_rank,row_number的区别5.hive数据倾斜的原因有哪些7.如何理解数据质量？

劝学-大数据·2024-01-19 16:03

基于 Hologres+Flink 的曹操出行实时数仓建设

本文整理自曹操出行实时计算负责人林震基于Hologres+Flink的曹操出行实时数仓建设的分享，内容主要分为以下六部分：曹操出行业务背景介绍曹操出行业务痛点分析Hologres+Flink构建企业级实时数仓曹操出行实时数仓实践曹操出行业务成果分析未来展望一

Apache Flink·2024-01-19 08:54

FineBI实战项目一（25）：实战项目一总结

实在项目使用mysql做数仓库的ODS层，这仅仅是带领大家入门，用mysql做数仓存在很多问题。

不死鸟.亚历山大.狼崽子·2024-01-19 02:39

数仓架构图

阿里巴巴的数据团队把表数据模型分为三层：操作数据层（ODS）、公共维度模型层（DM）和应用数据层（DS），其中公共维度模型层包括明细数据层（DWD）和汇总数据层（DWS）。模型层次关系如9.9所示。image.png公共维度模型层（CDM）：存放明细事实数据、维表数据及公共指标汇总数据其中明细事实数据、维表数一般根据ODS层数据加工生成：公共指标汇总数据般根据维表数据和明细事实数据加工生成。CDM

liuxiaolin·2024-01-19 01:27

Hologres + Flink 流式湖仓建设

Flink流式湖仓建设1Flink+Hologres特性1.2实时维表Lookup1.3高性能实时写入与更新1.4多流合并1.5Hologres作为Flink的数据源1.6元数据自动发现与更新2传统实时数仓分层方案

Direction_Wind·2024-01-18 21:56

白山云基于StarRocks数据库构建湖仓一体数仓的实践

背景随着每天万亿级别的业务数据流向数据湖，数据湖的弊端也逐渐凸显出来，例如：数据入湖时效性差：数据湖主要依赖于离线批量计算，通常不支持实时数据更新，因此无法保证数据的强一致性，造成数据不及时、不准确；查询性能差：在传统架构下，数据湖的查询速度较差，小时粒度的数据查询往往需要数分钟才能得到响应，在多个业务方同时执行数据湖查询任务时，查询响应慢的劣势更加明显；查询体验差：数据存储在多个地方，在进行联邦

StarRocks_labs·2024-01-18 17:04

技术选型｜开源大数据OLAP引擎最佳实践

一、开源OLAP综述二、开源数仓解决方案三、ClickHouse介绍四、StarRocks介绍五、Trino介绍六、客户案例01开源OLAP综述如今的开源数据引擎多种多样，不同种类的引擎满足了我们不同的需求

浪尖聊大数据-浪尖·2024-01-18 08:14

Apache Doris (六十四）： Flink Doris Connector - (1)-源码编译

个人主页：IT贫道-CSDN博客私聊博主：私聊博主加WX好友，获取更多资料哦~博主个人B栈地址：豹哥教你学编程的个人空间-豹哥教你学编程个人主页-哔哩哔哩视频目录1.Flink与Doris版本兼容

IT贫道·2024-01-18 08:46

数仓项目6.0配置大全（hadoop/Flume/zk/kafka/mysql配置）

配置背景我使用的root用户，懒得加sudo所有文件夹在/opt/module所有安装包在/opt/software所有脚本文件在/root/bin三台虚拟机：hadoop102-103-104分发脚本fenfa，放在~/bin下,chmod777fenfa给权限#!/bin/bash#1.判断参数个数if[$#-lt1]thenechoXXXXXXXXXNoArguementXXXXXXXXX!

Int mian[]·2024-01-18 06:57

如何设计实时数据平台（设计篇）

在上篇设计篇中，我们首先从两个维度介绍实时数据平台：从现代数仓架构角度看待实时数据平台，从典型数据处理角度看待实时数据处理；接着我们会探讨实时数据平台整体设计架构、对具体问

longLiveData·2024-01-18 05:11

离线数仓二

数据仓库维度模型设计维度建模基本概念维度模型是数据仓库领域大师RalphKimall所倡导，他的《数据仓库工具箱》，是数据仓库工程领域最流行的数仓建模经典。

pauls·2024-01-18 00:26

尚硅谷离线数仓之采集平台

1.用户行为日志数据流向流程图如下，其中红框表示用户行为日志数据的流向图。1.1行为日志内容行为日志主要包括以下几个内容页面浏览记录动作记录曝光记录启动记录错误记录页面浏览记录动作记录曝光记录启动记录1.2用户行为日志格式页面日志启动日志页面日志，以页面浏览为单位，即一个页面浏览记录，生成一条页面埋点日志。一条完整的页面日志包含，一个页面浏览记录，用户在该页面所做的若干个动作记录，若干个该页面的曝

韩顺平的小迷弟·2024-01-17 21:56

数据仓库面试题

1思维导图&数仓常见面试题2题目1.数据仓库是什么？

韩顺平的小迷弟·2024-01-17 21:53

导入失败，报错：“too many filtered rows xxx, “ErrorURL“:“

一、问题：注：前面能正常写入，突然就报错，导入失败，报错：“toomanyfilteredrowsxxx,"ErrorURL":"{"TxnId":769494,"Label":"datax_doris_writer_bf176078

jerry-89·2024-01-17 20:37

2024.1.16 用户画像day01 - 项目介绍

技术选型:技术架构:项目架构:二.名词解释一.项目介绍整体流程:项目介绍-elasticSearch-业务数据源导入-离线指标开发-Flume实时采集-Nginx日志埋点数据-结构化流实时指标-制作报表数仓开发用户画像实时开发

白白的wj·2024-01-17 15:40

关于CarbonData+Spark SQL的一些应用实践和调优经验分享

行业亟需一个高效、统一的融合数仓，从海量数据中快速获取有效信息，从而洞察机遇、规避风险。

weixin_34075551·2024-01-17 15:31

数仓数据含有特殊字符，如何更方便的导出成excel文件

如果遇到数据中含有特殊字符,"\n","\r","\t",或者其他的特殊分隔符在数据导出时造成错位，都用sql替换，但是需求是导出的数据要保持原有内容格式，就不能替换剔除这些特殊字符，这种情况下使用json方式1，在hive数仓建一个临时的

第一次看海·2024-01-17 15:00

spark sql实践开发后端引擎

-------------“何以解忧，唯有暴富”需求开发一个系统，主要是将数仓中治理完用于检索的数据灌入Elasticsearch中，一般情况，开源的一些系

第一次看海·2024-01-17 14:28

Apache doris ODBC外表使用方式

1.概述ODBCExternalTableOfDoris提供了Doris通过数据库访问的标准接口(ODBC)来访问外部表，外部表省去了繁琐的数据导入工作，让Doris可以具有了访问各式数据库的能力，并借助

张家锋·2024-01-17 05:07

Doris--基础--13.2--SQl函数--日期函数

Doris–基础–13.2–SQl函数–日期函数1、CONVERT_TZ(DATETIMEdt,VARCHARfrom_tz,VARCHARto_tz)转换datetime值dt，从from_tz转到to_tz

勤径苦舟·2024-01-16 08:00

Hive使用shell调用命令行特殊字符处理

1.场景分析数据处理常用hive-e的方式，通过脚本操作数仓，过程中常常遇到特殊字符的处理，如单双引号、反斜杠、换行符等，现将特殊字符用法总结使用如下，可直接引用，避免自行测试的繁琐。

tuoluzhe8521·2024-01-16 07:17

ClickHouse - 01

批处理会将源业务系统中的数据通过数据抽取工具（例如Sqoop）将数据抽取到HDFS中，这个过程可以使用MapReduce、Spark、Flink技术对数据进行ETL清洗处理，也可以直接将数据抽取到Hive数仓中

ArthurHC·2024-01-16 02:17

Doris学习笔记-Java自定义UDAF

项目最近需要做一些数据统计方面的东西，发现数据字段都是很长一串数字的字符串，Doris自带的函数无法对其进行相应的运算操作，需要扩展实现相关的操作运算。主要参考官方的文档资料完成相关的自定义扩展。

人生偌只如初见·2024-01-16 01:14

数据库, 数据仓库, 数据集市，数据湖，数据中台

数据仓库和数据库的区别作者：南宫蓉出处：简书第一篇：数据仓库概述第二篇：数据库关系建模作者：穆晨出处：CNBLOS数据仓库、数据湖、数据集市、和数据中台的故事作者：Murkey学习之旅出处：csdn数据中台和数仓的关系作者

cxzhq2002·2024-01-16 01:26

mysql/oracle 数据库delete操作太慢（where ... in ...），不加索引，一招让性能提升百倍

比如在数仓项目中，软删虽然更快更安全，但是缺点也很多：1、软删造成数据冗余，甚至快速膨胀的后果。比如一些中间表，只是作为中转站，过两天数据就分配其他表了，不硬删的话就会造成数据快速膨胀。

大壮001·2024-01-15 23:30

亚信安慧AntDB-S流式数据库实现企业数智化转型

AntDB-S流式数据库是一项针对实时数仓等场景的创新技术，旨在取代传统的流式处理引擎，从而简化开发和测试过程。该流式数据库具备强大的ACID特性和高可用性，为企业降低了流式业务开发和维护的成本。

亚信安慧AntDB数据库·2024-01-15 14:11

国产开源优秀新一代MPP数据库StarRocks入门之旅-数仓新利器（上）

概述背景ApacheDoris官方地址https://doris.apache.org/ApacheDorisGitHub源码地址https://github.com/apache/incubator-dorisApacheDoris

IT小神·2024-01-15 13:45

数仓选型必列入考虑的OLAP列式数据库ClickHouse(中)

实战案例使用背景ELK作为老一代日志分析技术栈非常成熟，可以说是最为流行的大数据日志和搜索解决方案；主要设计组件及架构如下：而新一代日志监控选型如ClickHouse、StarRocks特别是近年来对ELK地位发起较大的挑战，不乏有许多的大公司如携程，快手已开始把自己的日志解决方案从ES迁移到了Clickhouse，将日志从ES迁移到ClickHouse可以节省更多的服务器资源，总体运维成本更低，