E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
不重启kafka集群
k8s client-go源码解析之informer 二
这个项目支持你用类似于orm的方式在
集群
中查找资源,这依赖于informer的indexer机制。本篇介绍cache.SharedIndexInforme中Control
随风奔跑尿飞扬
·
2024-01-21 00:53
云原生
kubernetes
kubernetes
golang
java
k8s源码阅读:Informer源码解析
它提供了一种简化开发者编写控制器的方式,允许控制器能够及时感知并响应Kubernetes
集群
中资源对象的变化。
bug_createman
·
2024-01-21 00:21
云原生源码阅读
kubernetes
golang
云原生
网易架构师心得:那些年在Springboot下使用redis踩过的坑
首先总结了redis服务端单线程工作模型,redis四种部署方式及使用场景,然后从源码的角度上,分析springboot在jedis和lettuce客户端下使用redis的一些坑~尤其是在
集群
模式下的一些不兼容问题
Java日记本
·
2024-01-21 00:17
解决在hive中创建表时TBLPROPERTIES中的长度问题
中创建表时,如果TBLPROPERTIES中的长度过长,在hive的命令行中执行showcreatetable表名;发现创建的表语句中的TBLPROPERTIES的长度不完全,以下是解决办法:我这边的
集群
是
justdoit180
·
2024-01-21 00:11
hive
hive的表属性问题
kfaka基本概念
Kafka
第一章
kafka
基本概念文章目录
Kafka
一、kafak作用?二、基本概念一、kafak作用?
Kafka
是一种高吞吐量的分布式发布订阅消息系统,具有高性能、持久化、多副本备份、横向扩展能力。
西堂AI编程提效
·
2024-01-20 23:28
kafka
redis
数据库
database
Kafka
总结
Kafka
保证的是分区有序而不是全局有序。
西堂AI编程提效
·
2024-01-20 23:28
kafka
kafka
分布式
java
kafka
生产者消费者
生产者生产者发送确认机制半数follower响应全部follower响应–>改进:ISR机制:in-sync-replicaset【挑选进入isr的follower规则:1、同步的时间2、和leader相差的条数(0.9版本中被去掉)】注意:isr中的follower和正常的follower的概念问题acks配置0:发送完就返回。Atmostonce1:只等待leader写完就返回。-1:lead
西堂AI编程提效
·
2024-01-20 23:57
kafka
redis
数据库
database
Spark读取
kafka
(流式和批数据)
spark读取
kafka
(批数据处理)#按照偏移量读取
kafka
数据frompyspark.sqlimportSparkSessionss=SparkSession.builder.getOrCreate
中长跑路上crush
·
2024-01-20 23:55
Spark阶段
spark
kafka
大数据
kafka
核心原理及数据积压问题
1
kafka
的分片和副本机制何为分片?分片有什么用呢?
江枫渔火R
·
2024-01-20 22:24
kafka
分布式
python
大数据
【
Kafka
原理】数据积压问题
Kafka
消费者消费数据的速度是非常快的,但是如果在处理
Kafka
消息时,由于外部IO或者网络拥堵会导致
Kafka
中的数据积压(数据堆积)。如果数据一直积压,会导致数据出来的实时性受到较大影响。
TAIKEMAN
·
2024-01-20 22:23
Kafka
kafka
【
Kafka
面试】
Kafka
消费积压百万数据怎么办?
Kafka
面试大全(万字长文,37张图,28个知识点)高频面试题:
kafka
消费积压百万数据怎么办一、问题背景二、问题排查三、解决方案
TAIKEMAN
·
2024-01-20 22:23
Kafka
kafka
Kafka
3.0 消费者事务与数据积压
消费者事务如果想完成Consumer端的精准一次性消费,那么需要
Kafka
消费端将消费过程和提交offset过程做原子绑定。
Alienware^
·
2024-01-20 22:53
#
Kafka
kafka
java
kafka
数据积压语句查询记录
/
kafka
-consumer-groups.sh--bootstrap-server192.168.45.79:9092--list查看某些消费组是否积压.
飞鸟还巢
·
2024-01-20 22:23
大数据
kafka
zookeeper
分布式
Spark Streaming通过receiver方式消费
kafka
数据时数据积压问题
1.问题在通过receiver方式接受
kafka
消息时,发现有大量消息在队列中阻塞最终导致spark任务执行失败。
sinat_36710456
·
2024-01-20 22:23
大数据
数据积压
Spark
Streaming
kafka
kafka
消费组数据积压导致节点挂掉解决办法
前提
Kafka
运行一段时间后,容易出现节点挂掉的情况。排查原因是:存在多个由zookeeper命令创建的消费组,里面消息没有进行消费,导致数据积压,从而导致
kafka
节点挂掉。导致原因.
恒星0915
·
2024-01-20 22:22
kafka
kafka
消费数据积压
生产者生产数据的速度超过消费者处理数据的速度,会造成
kafka
中积压大量未处理的数据2-1使用
Kafka
Eagle查看消费积压
Kafka
Eagle是一个用于监控和管理
kafka
的开源组件,可以同时监控多个
中长跑路上crush
·
2024-01-20 22:21
Spark阶段
spark
Kafka
消息数据积压如何处理
可以从两方面考虑:1、如果是
Kafka
消费能力不足,则可以考虑增加Topic的分区数(一般一个Topic分区数为3-10个),并且同时提升消费组的消费者数量,消费者数==分区数。
AlbenXie
·
2024-01-20 22:21
kafka
大数据
分布式
Dubbo
集群
容错——Directory
文章内容顺序:什么是Directory1.1Directory简介1.2
集群
容错的总体工作流程在doRefer中调用了newRegistryDirectory()Directory结构及代码分析3.1Directory
就这些吗
·
2024-01-20 22:25
在Centos7上进行Trino 377的
集群
安装部署
目录1.
集群
规划2.安装依赖3.下载解压4.配置文件4.1服务器配置etc/config.properties4.2节点配置etc/node.properties4.3JVM配置etc/jvm.config4.4
Bulut0907
·
2024-01-20 22:20
#
Presto/Trino
presto
trino
trino集群安装
presto集群部署
375
HDFS的EditLog和FsImage作用详细解析,超详细!(含部分非原创图片,大部分原创总结)
EditLog和FsImage的保存位置:①非HA
集群
FsImage保存在配置文件中dfs.namenode.
科班你宇哥
·
2024-01-20 21:08
Hadoop学习历程
hdfs
hadoop
大数据
【笔记】Helm-3 主题-8 Helm架构
Helm可以做以下的事情:1、从头开始创建新的chart2、将chart打包成归档(tgz)文件3、与存储chart的仓库进行交互4、在现有的Kubernetes
集群
中安装和卸载chart5、管理与Helm
许科大
·
2024-01-20 20:08
Helm
云原生
kubernetes
k8s
Mysql面试题
Oracle支持大并发量,大访问量,SqlService还行,而MySql的话压力没这么大,因此现在的MySql的话最好是要使用
集群
或者缓存来搭配使用。
Mangcun_tutu
·
2024-01-20 20:57
mysql
数据库
使用Sqoop从Oracle数据库导入数据
本文将提供详细的指南,以及丰富的示例代码,帮助了解如何使用Sqoop从Oracle数据库导入数据到Hadoop
集群
中。什么是Sqoop?
晓之以理的喵~~
·
2024-01-20 19:27
sqoop
数据库
sqoop
oracle
使用Python基于metricbeat和heartbeat采集数据进行告警
一、系统架构IP主机名角色备注11.0.1.11
kafka
1
kafka
和MySQL11.0.1.12
kafka
2
kafka
11.0.1.13
kafka
3
kafka
11.0.1.14demo1metricbeat
你说咋整就咋整
·
2024-01-20 19:25
python
elk
MeterSphere本地化部署实践
JDK11,配置好JDK环境,系统同时支持JDK8和JDK11安装IEAD,配置JDK环境配置maven环境,IDEA配置(解压可以直接使用)无限重置IDEA试用期配置redis环境(解压可以直接使用)配置
kafka
小李广
·
2024-01-20 19:24
metersphere
ASM磁盘管理:从初始化参数到自动化管理的全面解析
文章目录一、引言二、ASM初始化参数三、ASM三大系统权限四、ASM实例的启停1.OracleASM的启停可以通过两种方式进行2.查看
集群
中的资源状态3.配置ASM资源随着系统启动而启动4.配置数据库实例随着
无情白
·
2024-01-20 19:37
OCP
Oracle
oracle
数据库
实现分布式锁的三种方式
后来业务发展,需要做
集群
,一个应用需要部署到几台机器上然后做负载均
Zal哥哥
·
2024-01-20 19:55
Kubernetes API 和流量控制:管理请求数量和排队进程
本文描述了我们最近遇到的一个真实案例:KubernetesAPI因其中一个
集群
中的大量请求而瘫痪。今天,我们将讨论我们如何处理这个问题,并提供一些关于如何预防它的提示。
yule.yang
·
2024-01-20 19:36
云原生
kubernetes
容器
云原生
java
kafka
client_
Kafka
Client API 基本使用
之前讲过了[
Kafka
基本概念及原理][1],这次我们来看看
Kafka
Client的API。要使用
Kafka
Client的API,首先需要先部署
Kafka
集群
,部署过程请参见[官网][2]。
沈逸老师
·
2024-01-20 18:00
java
kafka
client
Kafka
consumer group位移重设
本文阐述如何使用
Kafka
自带的
kafka
-consumer-groups.sh脚本随意设置消费者组(consumergroup)的位移。
zxfBdd
·
2024-01-20 18:30
大数据
Kafka
Kafka
查看topic、consumer group状态命令
1,查看
kafka
topic列表,使用–list参数bin/
kafka
-topics.sh--zookeeper127.0.0.1:2181--list2,查看
kafka
特定topic的详情,使用–topic
mhbsoft
·
2024-01-20 18:29
kafka
Kafka
常用命令
文章目录启动
Kafka
并生产消费消息查看修改topic、group命令启动
Kafka
并生产消费消息启动ZooKeeper#启动ZooKeeper$bin/zookeeper-server-start.shconfig
楓葉也
·
2024-01-20 18:29
kafka
big
data
rabbitmq
java
linux
【
kafka
】
Kafka
1.1.0 consumer group位移重设
1.概述转载:https://www.cnblogs.com/huxi2b/p/7284767.html本文阐述如何使用
Kafka
自带的
kafka
-consumer-groups.sh脚本随意设置消费者组
九师兄
·
2024-01-20 18:29
大数据-kafka
kafka
参数配置参考和优化建议 —— 筑梦之路
对于
Kafka
的优化,可以从以下几个方面进行思考和优化:硬件优化:使用高性能的硬件设备,包括高速磁盘、大内存和高性能网络设备,以提高
Kafka
集群
的整体性能。
筑梦之路
·
2024-01-20 18:57
linux系统运维
大数据
Java技术
kafka
分布式
在控制台从指定时间戳消费
kafka
1.重置消费位点${
KAFKA
_HOME}/bin/
kafka
-consumer-groups.sh\--bootstrap-server127.0.0.1:9092\--grouptest_group
Mathieu66
·
2024-01-20 18:57
Apache
Kafka
kafka
java
分布式
Kafka
Console Client 的 Consumer Group
以往使用
kafka
-console-consumer.sh消费
Kafka
消息时并没有太在意过ConsumerGroup,在命令行中也不会使用--group参数,本文针对
Kafka
ConsoleClient
Laurence
·
2024-01-20 18:26
大数据专题
kafka
consumer
group
groupid
console
client
Redis主从
集群
一主二从并使用slaveof IP 端口号的方式实现单次主从关系确立-----Redis
[root@localhostmyredis]#redis-server/myredis/redis6379.conf[root@localhostmyredis]#redis-cli-aabc123Warning:Usingapasswordwith'-a'or'-u'optiononthecommandlineinterfacemaynotbesafe.127.0.0.1:6379>keys*
旧约Alatus
·
2024-01-20 17:39
Redis
数据库
数据库
redis
sql
nosql
后端
linux
database
Redis主从
集群
通过关闭防火墙使得从机得以访问主机实现主从
集群
关系确立-----Redis
[root@localhostmyredis]#redis-server/myredis/redis6379.conf[root@localhostmyredis]#redis-cli-aabc123Warning:Usingapasswordwith'-a'or'-u'optiononthecommandlineinterfacemaynotbesafe.127.0.0.1:6379>keys*
旧约Alatus
·
2024-01-20 17:09
Redis
数据库
redis
数据库
sql
nosql
database
linux
后端
Redis主从
集群
预备工作启动上台Redis主从检测是否配置成功-----Redis
[root@localhostmyredis]#redis-server/myredis/redis6379.conf[root@localhostmyredis]#redis-cli-aabc123Warning:Usingapasswordwith'-a'or'-u'optiononthecommandlineinterfacemaynotbesafe.127.0.0.1:6379>keys*
旧约Alatus
·
2024-01-20 17:08
Redis
数据库
redis
数据库
sql
nosql
database
后端
中间件
nginx热部署
nginx热部署的特点:
不重启
或关闭进程的情况下,新的应用直接替换旧的应用热部署大致流程1.备份旧的程序(二进制文件)2.编译安装新的二进制文件,覆盖旧的二进制文件(再安装一个版本的nginx替换旧的nginx
木木夕木目心.HDS
·
2024-01-20 17:28
nginx
nginx
服务器
linux
十、K8S-Service
在说明Service是什么之前先了解下Service的使用场景:当客户端想要访问K8S
集群
中的pod时,需要知道pod的ip以及端口,那K8S中如何在不知道pod的地址信息的情况下进行pod服务的快速连接
繁华依在
·
2024-01-20 17:55
k8s
kubernetes
docker
容器
etcd基本介绍
服务发现服务发现要解决的也是分布式系统中最常见的问题之一,即在同一个分布式
集群
中的进程或服务,要如何
连不到蓝牙
·
2024-01-20 17:44
etcd
数据库
掌握Shell编程,一篇就够了
Linux运维工程师:编写Shell程序进行服务
集群
管理。Python和JavaEE程序员:编写Shell脚本程序或者是服务器的维护,比如编写一个定时备份数据库的脚本。
TCL瓦尔
·
2024-01-20 16:28
linux
linux
python
运维
ZooKeeper 安装
ZooKeeper的安装包括单机模式安装,以及
集群
模式安装。单机模式较简单,是指只部署一个zk进程,客户端直接与该zk进程进行通信。
HuaLuLemon
·
2024-01-20 16:30
ZooKeeper
zookeeper
分布式
消息中间件之
Kafka
(一)
1.简介高性能的消息中间件,在大数据的业务场景下性能比较好,
kafka
本身不维护消息位点,而是交由Consumer来维护,消息可以重复消费,并且内部使用了零拷贝技术,性能比较好Broker持久化消息时采用了
coffee_babe
·
2024-01-20 15:15
消息中间件
kafka
分布式
kafka
hang 问题记录
参考文档https://cloud.tencent.com/developer/article/18214779092端口端口9092通常与Apache
Kafka
关联。
~kiss~
·
2024-01-20 15:14
高性能服务器
kafka
分布式
解决celery与
kafka
的联用问题
0X01背景大数据过滤、导入,用celery下发任务,任务内容为
kafka
生产一些数据。
LzSkyline
·
2024-01-20 15:25
Docker-安装实践(mysql,redis
集群
,tomcat)
docker实践(提供几个安装案例)安装Tomcat#拉取镜像,可以指定标签不指定默认为最新dockerpulltomcatdockerrun-itd-p8080:8080--nametomcattomcat:latest#这样内部默认80端口,主机的映射端口会随机分配一个dockerrun-itd-Ptomcat#可以用这个命令查看端口8080是否已经监听netstat-ntlp这里需要注意的是
njnu@liyong
·
2024-01-20 15:31
docker
&&
k8s
&&
devops
docker
mysql
redis
实践
Redis系列之历史踩坑
欢迎关注作者公众号:闲余说历史踩坑笔者参与搭建、使用过百T的Reids
集群
以及数百T的磁盘存储
集群
,这些
集群
,有的支持异地容灾,有的支持业务(业务多写等方式)异地多活,有自身支持异地多活。
aneutron
·
2024-01-20 15:13
Redis
redis
数据库
redisson的延时队列机制简述
概述业务中经常会遇到一些延迟执行的需求;通常想到的都是rabbitmq或者rocketmq的延迟消息;但是系统中不一定集成了mq,但为了控制分布式下的并发,一般redis都是有集成的;redis的key过期监听那个时间不准确,在
集群
环境下节点挂了也容易丢失
好大的月亮
·
2024-01-20 14:20
springboot
redis
redis
spring
boot
上一页
65
66
67
68
69
70
71
72
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他