E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
clickhouse集群部署
Elasticsearch: 非结构化的数据搜索
singleDoc#《olap/
clickhouse
keeper一致性协调服务》),kafka->redpanda(https://www.
SakamataZ
·
2024-02-08 22:48
elasticsearch
大数据
搜索引擎
K8s环境下rook-v1.13.3部署Ceph-v18.2.1集群
文章目录1.K8s环境搭建2.Ceph
集群部署
2.1部署RookOperator2.2镜像准备2.3配置节点角色2.4部署operator2.5部署Ceph集群2.6强制删除命名空间2.7验证集群3.Ceph
@TangXin
·
2024-02-08 14:26
Ceph
Kubernetes
kubernetes
ceph
rook
Nacos的
集群部署
配置
Nacos的
集群部署
配置一、准备工作二、搭建集群配置三、使用Springbootda搭建获取信息四、注意一、准备工作本机符合Nacos的环境及基本配置,可参考Nacos在Windows的安装及整合MySQL
Joe14103
·
2024-02-08 14:17
springcloud
spring
boot
nacos集群
java
史上最全OLAP对比
OLAP2.OLAP引擎的常见操作3.OLAP分类MOLAP的优点和缺点ROLAP的优点和缺点4.并发能力与查询延迟对比5.执行模型对比5.OLAP引擎的主要特点5.2SparkSQL、FlinkSQL5.3
Clickhouse
5.4Elasticsearch5.5Presto5.6Impala5.7Doris5.8Druid5.9Kylin
只会写demo的程序猿
·
2024-02-08 11:04
数仓
spark
hadoop
数据仓库
【项目实战】Flink+InfluxDB+Grafana实现对YARN集群队列资源进行画像
.实时计算技术选型第二章:Flink项目构建与测试1.快速构建Flink项目2.第一个Flink应用案例3.Flink单节点集群安装与测试4.FlinkShell代码测试第三章:FlinkONYARN
集群部署
大数据研习社
·
2024-02-08 08:56
Flink
flink
Flink实时计算
可视化监控
InfluxDB
Rancher 2.4正式发布!打造业界规模最大的云边协同集群
Rancher2.4全新特性一览:边缘
集群部署
场景的延展性、零宕机升级集群、安全性增强以及全新的托管选项,为用户提供从数据中心到云端到边缘的海量Kubernetes集群一站式管理体验2020年4月1日,
RancherLabs
·
2024-02-08 07:27
Hadoop系统应用之Zookeeper分布式
集群部署
一、Zoopkeeper安装包下载安装【Zookeeper版本型号为3.4.10】1.下载Zookeeper安装包(地址)https://archive.apache.org/dist/zookeeper/zookeeper-3.4.10/2.上传安装包(SecureCRT&FX)通过软件FX将安装包上传到linux系统的/export/software/目录下3.解压Zookeeper安装包执行
-牧心-
·
2024-02-07 22:31
分布式
hadoop
java-zookeeper
RabbitMQ之七生产
集群部署
个人专题目录1.RabbitMQ集群搭建实际生产应用中都会采用消息队列的集群方案,出于MQ中间件本身的可靠性、并发性、吞吐量和消息堆积能力等问题的考虑,在生产环境上一般都会考虑使用RabbitMQ的集群方案。1.1集群方案的原理RabbitMQ这款消息队列中间件产品本身是基于Erlang编写,Erlang语言天生具备分布式特性(通过同步Erlang集群各节点的magiccookie来实现)。因此,
Java及SpringBoot
·
2024-02-07 21:21
《向量数据库指南》——Milvus Cloud 「部署」:简化部署一直在路上
“大家MilvusCloud
集群部署
有没有实践过比较好的方案?”作为一个开源数据库,是否能够进行快速部署,是所有工作的前提。在简化部署的道路上,社区从来没有停止过脚步。
LCHub低代码社区
·
2024-02-07 17:54
《向量数据库指南》
数据库
milvus
向量数据库
Milvus
Cloud
Milvus
ModaHub
应用集群(1)-节点间的文件同步策略
首先我们在研发7代产品时,已经兼顾了
集群部署
,但总还有一些遗漏的地方。趁着这个机会梳理出来,并附上解决方案。今天先谈下集群中应用文件的同步问题。应用文件指的是保存在应用节点下的文件。
成勐
·
2024-02-07 14:42
集群
redis
消息队列
clickhouse
常用表引擎分类
,mysql提供了多种数据存储引擎,比如大家熟知的innodb,myisam,以及memory等,不同的引擎具有不同的使用场景和特点,比如innodb支持事务,而myisam则不支持事务操作等;同样,
clickhouse
逆风飞翔的小叔
·
2024-02-07 14:41
clickhouse
入门到精通
clickhouse
表引擎
clickhouse常用表引擎
clickhouse表引擎总结
ClickHouse
表常用引擎
1TinyLog特点:是最简单的表轻量引擎(最多约100万行),一写多读的应用场景。同时读写会损害数据;TinyLog表经常作为中间表,用于数据的微批量处理.语法中无需携带任何参数;它将数据保存到磁盘.每个字段都以单独压缩文件形式保存.当写入数据时,数据追加到文件的末尾;语法格式:CREATETABLE[IFNOTEXISTS][db。]table_name[ONCLUSTERcluster](n
YoungerChina
·
2024-02-07 14:11
数据湖
clickhouse
数据库
网络
JAVA使用jdbc流处理从mysql导入
clickhouse
简述最近开始又大数据统计分析,需要将亿级业务数据进行聚合查询统计,传统的关系型库(mysql)已经满足不了业务需求,经过精细的技术选型成本计算后,自建了一个单机(4c16g)的
clickhouse
。
Freeeeeeeeom
·
2024-02-07 13:45
java
clickhouse
java
mysql
数据库
【
ClickHouse
】 日志清理方法(query_log、query_thread_log)
一、背景
ClickHouse
中的query_log、query_thread_log、trace_log等日志表,在开启之后,如果一段时间没有清理,这些日志表会占用大量的存储空间,query_log是最常用的查询日志
IceBear_6
·
2024-02-07 06:21
ClickHouse
数据库
database
数据库
ClickHouse
默认库system日志清理方法(query_log、asynchronous_metric_log)
问题
clickhouse
在测试环境运行一段时间后,业务数据大概有2G(接入的前端硬件设备较少),但是发现服务器磁盘空间少了20G左右查看之后发现,默认库system的表里面有大量日志,加一起接近20G对于这些日志
坚持是一种态度
·
2024-02-07 06:18
大数据开发
ClickHouse
clickhouse
java
前端
Clickhouse
:日志表占用大量磁盘空间怎么办?
背景
clickhouse
有很多系统表(参见https://
clickhouse
.com/docs/en/operations/system-tables),其中一些用来存储日志,比如query_log、
liujg79
·
2024-02-07 06:45
数据仓库
数据库
sql
clickhouse
日志表
Clickhouse
到HBase(Phoenix)数据导入 DataX
DataXDataX是一个异构数据源离线同步工具,致力于实现包括关系型数据库(MySQL、Oracle等)、HDFS、Hive、ODPS、HBase、FTP等各种异构数据源之间稳定高效的数据同步功能。类型数据源Reader(读)Writer(写)文档RDBMS关系型数据库MySQL√√读、写Oracle√√读、写SQLServer√√读、写PostgreSQL√√读、写DRDS√√读、写通用RDB
布尔科技技术团队
·
2024-02-07 06:44
hbase
oracle
postgresql
数据仓库
datax离线同步oracle表到
clickhouse
实践1
时间:2024.01目录1、安装启动oracle19c容器2、rpm包安装
clickhouse
3、datax安装4、datax同步目标库根据要同步的表,按照
clickhouse
建表规范建表编写json文件编写增量同步
probtions
·
2024-02-07 06:14
bigdata
oracle
clickhouse
数据库
clickhouse
计算前后两点间经纬度距离
问题计算如图所示前后两点经纬度的距离?方法1、用开窗函数将如图所示数据下移一行selectlongitudelon1,latitudelat1,min(longitude)over(orderbytime1ascrowsbetween1PRECEDINGand1PRECEDING)lon2,min(latitude)over(orderbytime1ascrowsbetween1PRECEDING
蒲公英smile
·
2024-02-07 06:13
clickhouse
ClickHouse
时区
clickhouse
数据库的时间是UTC时间。服务器默认的是上海时间。
su317
·
2024-02-07 06:13
clickhouse
clickhouse
清理日志。
参考
Clickhouse
:日志表占用大量磁盘空间怎么办?
明心见性者
·
2024-02-07 06:13
数据库
clickhouse
clickhouse
(五、运维查看后台进程并杀死)
查看后台进程--这个命令和mysql是一样的showprocesslist;--如果进程太多,也可用通过查询系统表processes,select*fromsystem.processes;--指定主要关心字段selectuser,query_id,query,elapsed,memory_usagefromsystem.processes;杀死后台进程--通过上面指令获取到进程相关信息后,可以用
yyoc97
·
2024-02-07 06:12
clickhouse
clickhouse
进程
kill
Nacos的集群配置、NacosRule负载均衡、权重设置、namespace
,有8081、8082、8083端口三个实例),我们在同一个机房部署所有的服务很不安全,应对突发状况时,就像鸡蛋放在一个篮子里;很不安全,很不友好,所有我们需要分开部署机房与服务器;一个服务可以分多个
集群部署
茂桑
·
2024-02-07 05:05
spring-cloud
spring
cloud
ribbon
一篇带你了解私有仓库 Harbor 的搭建
Harbor是由VMware公司开源的企业级的DockerRegistry管理项目,相比docker官方拥有更丰富的权限权利和完善的架构设计,适用大规模docker
集群部署
提供仓库服务。
AAA小肥杨
·
2024-02-07 05:32
容器技术
harbor
zookeeper
集群部署
第一步下载、配置找到官网地址快速部署zk的文档:http://zookeeper.apache.org/doc/r3.4.14/zookeeperStarted.html主要是对conf/zoo.cfg文件的配置这里配置还没有完成,需要制定myid文件,来指定当前机器所属集群的节点编号注意这里的myid文件一定要在每个zk节点机器的dataDir文件夹下myid文件的内容第一台机器myid文件内容
机灵鬼鬼
·
2024-02-07 05:05
史上最简单的日志告警方案,没有之一
日志可能存储在ElasticSearch、Loki、
ClickHouse
等系统中,告警系统的核心逻辑也比较清晰,就
夜莺云原生监控
·
2024-02-07 05:41
FlashDuty
日志告警
kubeadm部署kubernetes1.29.0版本集群
使用Kubeadm工具快速部署,部署过程分为四个部分,第一部分,kubernetes集群节点准备,第二部分docker-ce及cri-docker准备,第三部分,kubernetes1.29.0
集群部署
运维潇哥
·
2024-02-06 23:17
kubernetes
kubernetes
云原生
运维
k8s
linux etcd,etcd
集群部署
详解
简介Etcd是一个高可用的Key/Value存储系统,主要用于分享配置和服务发现。●简单:支持curl方式的用户API(HTTP+JSON)●安全:可选SSL客户端证书认证●快速:单实例可达每秒1000次写操作●可靠:使用Raft实现分布式环境:nodeIPOSetcd_versionetcd010.1.2.61etcd3.0.14etcd110.1.2.172centos7.0etcd3.0.1
突驰
·
2024-02-06 15:16
linux
etcd
h2数据库
集群部署
,备份及恢复
h2数据库
集群部署
一.环境准备准备两台机器,分别为Server1,Server2二.h2数据库安装下载地址http://h2database.com/html/download.html将下载的压缩包解压到指定目录
运维那些事儿
·
2024-02-06 14:43
h2数据库
数据库
linux
java
rocketMQ
集群部署
rocketMQ
集群部署
rocketMQ安装包下载wgethttps://github.com/alibaba/RocketMQ/archive/v3.5.8.tar.gz//注:到github下载为未编译的包
戏 剧
·
2024-02-06 14:04
rocketMQ
rocketMQ
java
demo
kafka-splunk数据通路实践
目的:鉴于目前网络上没有完整的kafka数据投递至splunk教程,通过本文操作步骤,您将实现kafka数据投递至splunk日志系统实现思路:创建kafka
集群部署
splunk,设置HTTP事件收集器部署
exp1997
·
2024-02-06 12:17
中间件
kafka
分布式
k8s部署zk集群
k8s部署zk集群1.环境介绍使用helm进行部署zookeeper:3.72.zk
集群部署
helmrepoaddbitnamihttps://charts.bitnami.com/bitnami3.创建
包泽旭
·
2024-02-06 12:34
云原生
linux
zookeeper
mysql
docker
java
seatunnel数据集成(二)数据同步
seatunnel数据集成(二)数据同步seatunnel数据集成(三)多表同步seatunnel数据集成(四)连接器使用1、Connector类型seatunnel连接器类型丰富,支持以下类型:SourceSink
Clickhouse
Clickhouse
ElasticsearchElasticsearchFakeSourceFakeSourceFtpFt
大数据_苡~
·
2024-02-06 11:25
flink
hive
大数据
mysql
开源大数据
集群部署
(十)Ranger usersync部署
作者:櫰木rangerusersync部署解压包[
[email protected]
]#pwd/opt/ranger[
[email protected]
]#tar-zxvfranger-2.3.0-usersync.tar.gz-C/opt/[
[email protected]
]#cdranger-2.3.0-usersync修改配置insta
云掣YUNCHE
·
2024-02-06 07:05
开源大数据集群部署
大数据
ClickHouse
(08)
ClickHouse
表引擎概况
目前
ClickHouse
的表引擎主要有下面四个系列,合并树家族、日志引擎系列、集成的表引擎和其他特殊的引擎。
张飞的猪大数据
·
2024-02-06 02:37
TOMCAT
集群部署
方案一
1、配置tomcat的server.xml文件在server.xml文件中的host节点下面增加Cluster节点2、在server.xml中修改tomcat的端口例如:tomcat118080tomcat2280803、修改项目中的web.xml文件在web.xml文件中增加节点4、配置nginx需改nginx的nginx.conf#usernobody;worker_processes1;#e
大象也会飞
·
2024-02-05 22:41
Doris
集群部署
二、
集群部署
2.1整体架构主机1主机2主机3FE(LEADER)FE(FOLLOWER)FE(OBSERVER)BEBEBEBROKERBROKERBROKER注意:生产环境建议FE和BE分开部署2.2
一心猿
·
2024-02-05 21:34
大数据
大数据
为什么ECS更适合深度学习,而轻量型不适合,而且他们说ECS适合
集群部署
,轻量型为什么就不适合
计算能力和资源配置:深度学习任务通常需要大量的计算资源和内存,以处理复杂的模型和大规模的数据集。ECS服务器提供了更丰富的实例规格和可选的计算性能,可以满足深度学习任务的高要求。而轻量型云服务器通常具有较低的计算能力和资源配置,不太适合处理大规模的深度学习任务。高性能网络和存储:深度学习任务通常需要高带宽和低延迟的网络传输,以便在分布式训练或数据处理过程中进行高效的通信。ECS服务器提供了高性能的
Fairy要carry
·
2024-02-05 14:23
深度学习
人工智能
列式数据库、行式数据库简介
列式数据库4、行式、列式存储对比常见的行式数据库有Mysql,DB2,Oracle,Sql-server等;列数据库(Column-Based)数据存储方式按列存储,常见的列数据库有Hbase,Hive,
Clickhouse
长不大的大灰狼
·
2024-02-05 04:32
大数据
数据库
大数据
hive
clickhouse
-local 操作
Query
clickhouse
-local--query"select*fromfile('1.tsv',TSV,'aint')t1crossjoinfile('2.tsv',TSV,'bint')t2
ELI_He999
·
2024-02-04 21:07
clickhouse
前端
linux
clickhouse
query log
查询当前进行中的querySELECTquery_id,read_rows,total_rows_approx,memory_usage,initial_user,initial_address,elapsed,query,client_hostnameFROMsystem.processes;查询最后一个状态为”查询完成“的querySELECT*FROMsystem.query_logWHER
ELI_He999
·
2024-02-04 21:07
大数据
数据库
Hadoop3.3.6(HDFS、YARN、MapReduce)完全分布式集群安装搭建
下载软件三、基础设施1、安装必要插件2、设置IP及主机名3、时间同步4、jdk安装5、ssh免密登录四、Hadoop部署1、目录及环境变量准备2、安装3、修改配置文件4、分发文件5、启动hadoop集群6、
集群部署
验证一
china-zhz
·
2024-02-04 21:33
hdfs
mapreduce
hadoop
yarn
完结,从零开始学python(十八)想成为一名APP逆向工程师,需要掌握那些技术点?
MySQLRedisMongoDB2.机器学习3.全栈开发4.数据分析Numpy+pandas+MatplotlibHadoopSpark5.爬虫工程师养成采集功底自动化和抓包框架源码scrapyfeapder爬虫
集群部署
爬完虫变成龙
·
2024-02-04 07:52
python
python开发
APP逆向
python
开发语言
python爬虫
python开发
java
APP逆向
NDK
vulhub中Adminer ElasticSearch 和
ClickHouse
错误页面SSRF漏洞复现(CVE-2021-21311)
在其4.0.0到4.7.9版本之间,连接ElasticSearch和
ClickHouse
数据库时存在一处服务端请求伪造漏洞(SSRF)。
余生有个小酒馆
·
2024-02-04 07:36
vulhub漏洞复现
数据库
Doris(三)-
集群部署
3个FE+3个BE
前置1)配置java环境1st解压jdk包unzipjdk1.8.0_171-amd64.zip2nd配置环境变量vim/etc/profile#文末添加JAVA_HOME=/data/jdk1.8.0_171-amd64PATH=$JAVA_HOME/bin:$PATHexportPATHJAVA_HOME3rd启用配置source/etc/profile4th验证java-version2)下
BatmanWayne
·
2024-02-04 05:40
数据仓库
doris
数据仓库
集群
K8S
集群部署
,flannel网络问题,各个节点之间的Pod无法ping通
问题描述:在使用裸机搭建的K8S集群中,同一节点上的Pod可以ping通,但是分布在各个节点之间的Pod无法ping通。服务器系统信息:问题排查:查看所有Pod的状态信息:kubectlgetpods-A发现主节点和工作节点的flannel网络出现问题:查阅资料,之后顺利解决:1.查看kube-controller-manager.yamlvi/etc/kubernetes/manifests/k
新停浊酒杯
·
2024-02-04 04:07
docker
linux
运维
kubernetes
clickhouse
之bitmap
文章目录1.bitmap知多少2.
clickhouse
中的bitmap2.1bitmap与array类型的转换2.2bitmap获取属性的函数2.3bitmap集合运算3.
clickhouse
+bitmap
普普通通程序猿
·
2024-02-04 04:07
clickhouse
大数据
大数据
数据库
bitmap
clickhouse
在MES中的应用-跟踪扫描
开发的MES,往往都要做生产执行跟踪扫描,这样会产生大量的扫描数据,用关系型数据库,很容易造成查询冲突的问题。生产跟踪扫描就发生的密度是非常高的,每个零部件的加工过程,都要被记录下来,特别是在大型工厂。写入密度高,但是每次写入的记录都很少,如果程序设计是实时往数据库写入记录,那基本是每次一条记录,且写入的频率很高,导致表锁时常发生,对查询扫描日志会带来很大的压力。解决跟踪扫描的问题,最好的办法还是
kaka9
·
2024-02-04 02:41
clickhouse
cdc
mes
redis
memorycache
k8s安装网络插件-flannel
在完成了k8s的
集群部署
后查看集群状态的话还不是ready的状态,所以需要安装网络插件来完成k8s的集群创建的最后一步。
匿称s
·
2024-02-03 16:36
springcloud
alibaba
全家桶
网络
kubernetes
docker
K8S
集群部署
采坑总结
k8s版本:1.24.1matser节点操作系统:CentOSLinuxrelease7.9.2009(Core)node1:CentOSLinuxrelease7.9.2009(Core)node2:CentOSLinuxrelease7.2.1511(Core)问题一:master节点kubeadminit时,报错k8s.gcr.io/pause:3.6拉取失败[root@k8s-master
阿亚卡
·
2024-02-03 15:52
运维
kubernetes
上一页
1
2
3
4
5
6
7
8
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他