E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
doris参数调优
升级
Doris
集群——2.0.1.1到2.0.3版本
之前安装的
Doris
版本官方说不太稳定,所以我们可以对其进行升级1.关闭所有节点2.下载2.0.3版本的
Doris
安装包,将旧版本的bin和lib目录替换为对应新版本bin和lib目录,按照非master
雷神乐乐
·
2024-01-14 06:31
#
Doris
linux
服务器
后端
大数据
【模型评估 06】超
参数调优
对于很多算法工程师来说,超
参数调优
是一件非常头疼的事情。除了根据经验设定所谓的“合理值”之外,一般很难找到合理的方法去寻找超参数的最优取值。而与此同时,超参数对于模型效果的影响又至关重要。
一碗姜汤
·
2024-01-13 14:02
机器学习
人工智能
机器学习
Spark
Doris
Connector 可以支持通过 Spark 读取
Doris
数据类型不兼容报错解决
1、版本介绍:
doris
版本:1.2.8SparkConnectorforApacheDoris版本:spark-
doris
-connector-3.3_2.12-1.3.0.jar:1.3.0-SNAPSHOTspark
Data_IT_Farmer
·
2024-01-13 07:57
Doris
实时数仓
spark-sql
spark
doris字段类型
JVM基础(9)——新生代调优
阶段1、深入多线程阶段2、深入多线程设计模式阶段3、深入juc源码解析阶段4、深入jdk其余源码解析阶段5、深入jvm源码解析一、简介本章和下一章,我们将通过一个实际案例讲解如何进行JVM
参数调优
:
smart哥
·
2024-01-12 19:48
jvm专题
jvm
D43 2组阿德
doris
+《这些人, 那些事》读书笔记
今天开始阅读新书,来自吴念真先生的《这些人,那些事》拿到这本书,我的第一反应是吴念真这个人是谁?他所说的“这些人”是指什么人?“那些事”又是指哪些事?问题1,吴念真,本名吴文钦,全方位创意人、电影人、广告人、剧场人。自幼在矿区长大,家境贫寒,1973年开始从事小说创作,曾经五次荣获金马奖最佳编剧,代表作品有《恋恋风尘》、《童年往事》、《风柜来的人》、《多桑》等,主持“台湾念真情”节目三年,创作舞台
阿德doris
·
2024-01-12 15:10
一篇文章就足够解决大数据实时面试
大数据实习面试题详解··bysukiKafka
参数调优
的注意事项监控和了解系统瓶颈:在调优之前,首先要监控和了解系统的瓶颈。
cjpp老白
·
2024-01-12 15:45
大数据
面试
clickhouse
Flink
Kafka
批量生成datax同步JSON(postgresql到
doris
)
1.问题描述使用datax同步psql数据到
doris
,表的数量过多,写datax的配置文件很麻烦。鉴于此,编写了一个datax的配置文件生成脚本,可以灵活的实现一键生成配置文件,提高生产效率。
tuoluzhe8521
·
2024-01-12 13:30
Shell脚本相关
json
postgresql
数据库
datax
Apache
Doris
入门10问
在开始之前,我们先对本文相关的名词进行解释:FE:Frontend,即
Doris
的前端节点。主要负责接收和返回客户端请求、元数据以及集群管理、查询计划生成等工作。
蟹老板jerry
·
2024-01-12 13:30
apache
大数据
银联商务基于 Apache
Doris
的数据平台升级实践
本文导读:在长期服务广大规模商户的过程中,银联商务已沉淀了庞大、真实、优质的数据资产数据,这些数据不仅是银联商务开启新增长曲线的基础,更是进一步服务好商户的关键支撑。为更好提供数据服务,银联商务实现了从Hadoop到ApacheDoris的架构升级,使数据导入性能提升2-5倍、ETL场景性能提升3-12倍、查询分析响应速度提升10-15倍,满足大规模数据导入和实时极速查询的业务需求,解决了业务和数
SelectDB技术团队
·
2024-01-12 13:28
apache
数据库
大数据
数据分析
数据仓库
【技术选型】
Doris
vs starRocks
比对结论仅从当前能看到的数据中,相比于
doris
,starRocks在性能方面具备优势,且更新频率高(降低维护成本)。
偏振万花筒
·
2024-01-12 08:41
大数据
大数据
分布式
jvm
参数调优
文章目录一、调优步骤二、调优参数一、调优步骤所谓调优,首先确定追求什么,吞吐量优先还是响应时间优先。(1)吞吐量:用户代码时间/(用户代码执行时间+垃圾回收时间)(2)响应时间:STW越短,响应时间越少什么是调优?(1)根据需求进行JVM规划和预调优(2)优化运行JVM运行环境(慢、卡顿)(3)解决JVM运行过程中出现的各种问题如何调优?(1)系统CPU经常100%CPU100%那么一定有线程占用
攻城有术
·
2024-01-12 04:06
缓存
计算机内存
JVM内存
jvm
java
开发语言
大数据
Doris
(五十四):SQL函数之日期函数(二)
文章目录SQL函数之日期函数(二)一、DAYOFMONTH(DATETIMEdate)二、dayofweek(DATETIMEdate)
Lansonli
·
2024-01-11 20:30
大数据OLAP技术体系
sql
数据库
Doris
大数据
Flink/
Doris
生产环境方案选型的一些思考
以Flink为主的计算组件和以
Doris
为代表的存储+计算一体的方案选择问题是我们在技术选型过程中最常见的问题之一。也是很多公司和业务支持过程中会遇到的问题。
王知无(import_bigdata)
·
2024-01-11 09:37
flink
大数据
Apache
Doris
聚合函数源码阅读与解析|源码解读系列
笔者最近由于工作需要开始调研ApacheDoris,通过阅读聚合函数代码切入ApacheDoris内核,同时也秉承着开源的精神,开发了array_agg函数并贡献给社区。笔者通过这篇文章记录下对源码的一些理解,同时也方便后面的新人更快速地上手源码开发。聚合函数,顾名思义,即对一组数据执行聚合计算并返回结果的函数,在统计分析过程中属于最常见的函数之一,最典型的聚合函数包括count、min、max、
SelectDB技术团队
·
2024-01-11 07:16
数据库
大数据
数据分析
数据仓库
Apache
Doris
Apache
Doris
入门 10 问
在开始之前,我们先对本文相关的名词进行解释:FE:Frontend,即
Doris
的前端节点。主要负责接收和返回客户端请求、元数据以及集群管理、查询计划生成等工作。
SelectDB技术团队
·
2024-01-11 07:16
apache
数据库
大数据
数据分析
doris
doris
批量创建分区
大数据
Doris
(十五):
Doris
分区Partition-腾讯云开发者社区-腾讯云CREATETABLEIFNOTEXISTSexample_db.example_range_tbl3(`user_id
青云游子
·
2024-01-10 15:51
大数据
doris
doris
,DUPLICATE KEY类型不支持update
明细表只能支持insert/delete,不支持update语句。update需要通过delete+insert实现
青云游子
·
2024-01-10 15:51
大数据
doris
Apache
Doris
(六十三): Spark
Doris
Connector - (3)-配置型及列映射关系
个人主页:IT贫道-CSDN博客私聊博主:私聊博主加WX好友,获取更多资料哦~博主个人B栈地址:豹哥教你学编程的个人空间-豹哥教你学编程个人主页-哔哩哔哩视频目录1.Spark操作
Doris
配置项
IT贫道
·
2024-01-10 14:35
大数据OLAP体系技术栈
Apache
Doris
apache
spark
大数据
doris
李家的张麻子:ETL工程师的数据库编程之旅,用ChatGPT打破常规!
数据库编程大赛:一条SQL计算扑克牌24点12月27日,NineData和云数据库技术社区主办,华为云、火山引擎、开源中国、云和恩墨、TDengine、云猿生数据、
DORIS
、ITPUB等协办单位和媒体
NineData
·
2024-01-10 13:58
云数据库技术
SQL
开发
etl工程师
数据库
数据仓库
mysql
云计算
sql
chatgpt
Apache
Doris
(六十二): Spark
Doris
Connector - (2)-使用
个人主页:IT贫道-CSDN博客私聊博主:私聊博主加WX好友,获取更多资料哦~博主个人B栈地址:豹哥教你学编程的个人空间-豹哥教你学编程个人主页-哔哩哔哩视频目录1.将编译jar包加入本地Maven仓库
IT贫道
·
2024-01-10 08:54
大数据OLAP体系技术栈
apache
spark
大数据
doris
大数据OLAP引擎发展原因及特性分析
在大数据高速发展时期,多个技术团队基于OLAP的应用需求,开发出多种OLAP技术,如Hive、SparkSql、FlinkSql、Impala、Kylin、ClickHouse、
Doris
等,或者在实现其他应用需求的时候
i7杨
·
2024-01-10 01:31
大数据技术分析
大数据
Doris
案例篇——长安汽车基于
Doris
的车联网数据分析平台建设实践
Doris
案例篇——长安汽车基于
Doris
的车联网数据分析平台建设实践随着消费者更安全、更舒适、更便捷的驾驶体验需求不断增长,汽车智能化已成必然趋势。
不二人生
·
2024-01-09 12:20
#
Doris
数据仓库
Doris
大数据
《JVM由浅入深学习【五】 2024-01-08》JVM由简入深学习提升分享
1.堆内存溢出的定义2.内存泄漏的原因3.堆内存溢出的常见场景4.JVM
参数调优
5.实际案例分析JVM如何判断对象可以回收1.可达性分析的基本思路2.实际案例3.可以被回收的对象4.拓展,谈谈Java中不同的引用类型
码农阿豪
·
2024-01-09 12:50
面试
jvm
gc
doris
部署
doris
-2.0.1.1部署安装一、下载
doris
安装包二、解压到/data下,修改名称三、修改fe配置文件四、启动
doris
-fe五、验证
doris
-fe六、修改be配置文件七、启动
doris
-be
码海小虾米_
·
2024-01-09 09:50
数据库
adb
doris
linux
数据库
doris
使用笔记
1将数据导到本地csvselect*fromtableNameintooutfile"file:///root/
doris
/data/dis_"formatasCSVproperties("max_file_size
西门不止会吹雪
·
2024-01-09 00:00
笔记
数据库
大数据
数仓建设学习路线(二)模型建设(1)
OLAP概念全称OnLineAnalyticalProcessing,中文名联机分析处理系统,支持复杂的分析操作,侧重决策支持,并且提供直观易懂的查询结果,例如、ClickHouse、
Doris
、K
语兴数据
·
2024-01-08 18:58
数仓建设-学习路线
大数据
数据仓库
人工智能
浅谈
Doris
在物联网应用
一、
Doris
简介
Doris
是一个高性能的分布式列式存储系统,支持PB级别的数据存储和查询。
shinelord明
·
2024-01-08 11:03
大数据
物联网
大数据
iotdb
AutoKeras
相比于传统的机器学习方法,AutoKeras可以自动处理特征工程、模型选择、超
参数调优
等步骤,大大减少了繁琐的手动操作。
缘起性空、
·
2024-01-08 05:38
keras
人工智能
深度学习
python
Doris
初识(01)
Doris
初识初识ApacheDoris是一个基于MPP架构的高性能、实时的分析型数据库,以极速易用的特点被人们所熟知,仅需亚秒级响应时间即可返回海量数据下的查询结果,不仅可以支持高并发的点查询场景,也能支持高吞吐的复杂分析场景
不二人生
·
2024-01-07 16:14
#
Doris
大数据
数据仓库
Doris
Doris
的概述及使用场景
Doris
介绍ApacheDoris是一个基于MPP架构的高性能、实时的分析型数据库,以极速易用的特点被人们所熟知,仅需亚秒级响应时间即可返回海量数据下的查询结果,不仅可以支持高并发的点查询场景,也能支持高吞吐的复杂分析场景
一座野山
·
2024-01-06 16:16
bigdata
Doris
big
data
数据库开发
hbase
sql
database
Apache
Doris
2.0.2 安装步骤 Centos8
Linux操作系统版本需求Linux系统版本当前系统版本CentOS7.1及以上CentOS8Ubuntu16.04及以上-软件需求软件版本当前版本Java1.81.8.0_391GCC4.8.2及以上gcc(GCC)8.5.020210514(RedHat8.5.0-4)1、查看操作系统版本方法1:使用命令行打开终端或命令行窗口。运行以下命令来查看CentOS版本信息:cat/etc/cento
Feike_Feng
·
2024-01-06 07:30
Doris
JVM(Java虚拟机调优)
笔者将为Java开发人员提供JVM
参数调优
的指南,以帮助他们提高Java应用程序的性能和稳定性。JVM参数介绍JVM参数可以分为两类:标准参数和非标准参数。
yqj234
·
2024-01-05 23:48
jvm
java
开发语言
Apache
Doris
(六十一): Spark
Doris
Connector - (1)-源码编译
博主个人B栈地址:豹哥教你学编程的个人空间-豹哥教你学编程个人主页-哔哩哔哩视频目录1.SparkDorisConnector2.Spark与
Doris
版本兼容
IT贫道
·
2024-01-05 14:40
大数据OLAP体系技术栈
apache
spark
大数据
doris
Linux服务器内核参数优化
Linux内核
参数调优
主要是通过修改/proc伪文件系统和/etc/sysctl.conf配置文件的参数来实现的。
Vecloud
·
2024-01-05 13:19
linux
服务器
网络
P3704数字表格(莫比乌斯反演)
题目背景
Doris
刚刚学习了fibonacci数列。
yusen_123
·
2024-01-05 11:48
数论
算法
大数据 -
Doris
系列《一》-
Doris
简介
目录1.1
Doris
概述1.2OLAP和OLTP(面试)1.应用场景联机事务处理OLTP(On-LineTransactionProcessing)联机分析处理OLAP(On-LineAnalyticalProcessing
王哪跑nn
·
2024-01-05 09:55
大数据
Doris
大数据
大数据 -
Doris
系列《二》-
Doris
安装(亲测成功版)
设置系统最大文件打开句柄数==>启动一个程序的时候,打开文件的数量就是句柄数3.时钟同步4.关闭交换分区(swap)2.2安装FE2.3安装BE2.4BE向FE注册2.5扩容和缩容(搭建集群)2.5.1
doris
王哪跑nn
·
2024-01-05 09:49
大数据
Doris
大数据
XGBoost
参数调优
完全指南(附Python代码)
1.简介如果你的预测模型表现得有些不尽如人意,那就用XGBoost吧。XGBoost算法现在已经成为很多数据工程师的重要武器。它是一种十分精致的算法,可以处理各种不规则的数据。构造一个使用XGBoost的模型十分简单。但是,提高这个模型的表现就有些困难(至少我觉得十分纠结)。这个算法使用了好几个参数。所以为了提高模型的表现,参数的调整十分必要。在解决实际问题的时候,有些问题是很难回答的——你需要调
婉妃
·
2024-01-05 06:16
Apache
Doris
(五十八):
Doris
- Join优化原理
个人主页:IT贫道_大数据OLAP体系技术栈,ApacheDoris,Clickhouse技术-CSDN博客私聊博主:加入大数据技术讨论群聊,获取更多大数据资料。博主个人B栈地址:豹哥教你大数据的个人空间-豹哥教你大数据个人主页-哔哩哔哩视频目录1.RuntimeFilterJoin优化</
IT贫道
·
2024-01-05 04:49
大数据OLAP体系技术栈
doris
优化
Apache
Doris
(五十九):
Doris
- BITMAP精准去重
个人主页:IT贫道_大数据OLAP体系技术栈,ApacheDoris,Clickhouse技术-CSDN博客私聊博主:加入大数据技术讨论群聊,获取更多大数据资料。博主个人B栈地址:豹哥教你大数据的个人空间-豹哥教你大数据个人主页-哔哩哔哩视频目录
IT贫道
·
2024-01-05 04:49
大数据OLAP体系技术栈
Doris
Apache
Doris
(六十):
Doris
- 物化视图
个人主页:IT贫道_大数据OLAP体系技术栈,ApacheDoris,Clickhouse技术-CSDN博客私聊博主:加入大数据技术讨论群聊,获取更多大数据资料。博主个人B栈地址:豹哥教你学编程的个人空间-豹哥教你学编程个人主页-哔哩哔哩视频目录
IT贫道
·
2024-01-05 04:48
大数据OLAP体系技术栈
Apache
Doris
apache
doris
单测结果不稳定的终极解决方案(Maven单测
参数调优
)
一、前言近期,在公司平台执行单测任务时,我发现到一个显著的问题:我们的一个应用,在公司平台上执行单测时,即使是相同的代码,每次的执行结果(包括行覆盖率以及单测通过率)都存在差异。更具体地说,许多在本地环境中能够成功执行的测试用例,在公司平台上却遭遇了失败。为了解决这个问题,我进行了广泛的信息搜索,咨询了ChatGPT,并尝试了多种可能的解决方案。经过不懈的努力,我终于找到了问题的根源并成功解决了它
程序员Daddy
·
2024-01-04 22:23
技术分享
maven
java
fork
单元测试
Doris
系列2-
Doris
编译和安装
一.编译前准备1.1环境准备主机配置:IP主机名部署10.31.1.119hp5FEFS_Broker10.31.1.120hp6BEFS_Broker10.31.1.121hp7BEFS_Broker,FEObserver10.31.1.122hp8BEFS_Broker硬件配置:每台主机:CPU4核、内存8G、硬盘150G软件版本:名称版本操作系统CentOSrelease7.8(Final)
只是甲
·
2024-01-04 19:09
Doris
数仓使用规范(经验版)
第一部分:字符集规范【强制】数据库字符集指定utf-8,并且只支持utf-8。命令规范【建议】库名统一使用小写方式,中间用下划线(_)分割,长度62字节内【建议】表名称大小写敏感,统一使用小写方式,中间用下划线(_)分割,长度64字节内第二部分:建表规范【强制】确保每个tablet大小为1-3G之间。举例:假设表内单分区数据量在100G,按天分区,bucket数量100个。【强烈建议】不要使用Au
hf200012
·
2024-01-03 19:30
数据库
java
前端
Doris
大数据
【大数据】
Doris
数仓使用规范原则
第一部分:字符集规范【强制】数据库字符集指定utf-8,并且只支持utf-8。命令规范【建议】库名统一使用小写方式,中间用下划线(_)分割,长度62字节内【建议】表名称大小写敏感,统一使用小写方式,中间用下划线(_)分割,长度64字节内第二部分:建表规范【强制】确保每个tablet大小为1-3G之间。举例:假设表内单分区数据量在100G,按天分区,bucket数量100个。【强烈建议】不要使用Au
奔向理想的星辰大海
·
2024-01-03 16:48
大数据
云原生
技术研发
大数据
数据库
单机Nginx性能优化
静态文件的缓存优化了网页加载,超时机制会让Client与Server的响应不会长时间阻塞,GZIP压缩提升IO效率、减少我们发送的数据量,限流来预防DOS攻击,TCP
参数调优
提升传输效率。
JacksonY
·
2024-01-03 15:52
linux
参数调优
查看文件句柄数ulimit-a临时修改文件句柄数(退出shell将重置)ulimit-n65535永久修改文件句柄数使用root账号vi/etc/security/limits.conf末尾新增以下内容*softnofile65535*hardnofile65535*softnproc65535*hardnproc65535修改用户可用最大进程数使用root账号vi/etc/security/li
芸尚非
·
2024-01-03 13:44
操作系统
部署运维
linux
bash
ssh
数字化转型必备:数睿通 2.0 数据中台升级详解
引言转眼又过了一个月的时间,数睿通2.0数据中台也迎来了本月的更新,本次更新主要包括:数据资产完善(资源评价)数据集市完善,打通审批流程修复数据生产由于DruidSQLUtils不支持
Doris
导致无法建表的问题优化贴源数据模块
小螺旋丸
·
2024-01-03 10:51
hadoop
git
数据仓库
大数据
Apache
Doris
(五十七):
Doris
- Runtime Filter
个人主页:IT贫道_大数据OLAP体系技术栈,ApacheDoris,Clickhouse技术-CSDN博客私聊博主:加入大数据技术讨论群聊,获取更多大数据资料。博主个人B栈地址:豹哥教你大数据的个人空间-豹哥教你大数据个人主页-哔哩哔哩视频目录
IT贫道
·
2024-01-02 04:42
大数据OLAP体系技术栈
Apache
Doris
apache
php
开发语言
Apache
Doris
单节点(可多节点)Docker集群制作教程
集群制作Author:苏奕嘉脚本研发Author:种益调研测试Author:杨春东前言ApacheDoris是当下非常火热和流行的MPP架构OLAP数据库,很多同学想自学/测试
Doris
的使用和能力,但是又苦于没有环境或者畏惧冗长的编译
张家锋
·
2024-01-01 11:14
上一页
1
2
3
4
5
6
7
8
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他