E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
Kafka源代码分析
RabbitMQ、
Kafka
、RocketMQ 是如何实现高可用的?
本文从高可用的角度观察一下RabbitMQ、
Kafka
、RocketMQ,看看它们各自的实现思路。
SlowGO
·
2024-01-30 22:03
Kafka
常见问题
1.
Kafka
介绍
Kafka
是一个分布式的基于发布/订阅模式的消息队列(MessageQueue),主要应用于大数据实时处理领域。
头未秃
·
2024-01-30 21:48
笔记
kafka
kafka
常见参数配置
Broker端参数auto.create.topics.enable:是否允许自动创建Topic。建议最好设置成false,即不允许自动创建Topic。线上环境里面有很多名字稀奇古怪的Topic,大概都是因为该参数被设置成了true的缘故。unclean.leader.election.enable:是否允许UncleanLeader选举。关闭UncleanLeader选举的。何谓Unclean?
YYangBBB
·
2024-01-30 21:48
kafka
Kafka
常见问题
Kafka
常见问题1.什么是分布式?2.什么是
Kafka
?3.为什么用
Kafka
(使用消息队列的好处)?4.消息队列的两种模式?5.
Kafka
的组成(架构)?
斯沃福德
·
2024-01-30 21:47
消息队列
/
缓存
kafka
java
分布式
Kafka
常见配置
producer.properties配置acks消息确认机制,ack可配置为三种:0,1,-1(all),默认为1acks=0,producer端发送消息后,不管broker的副本是否成功收到消息,producer端都认为发送成功。优点:时延最小,缺点:有消息丢失风险,如果消息生产成功后在发送过程中leader异常,则消息丢失。可靠性低,leader收到消息后,如果同步到其他follower过程
Jessie_hhhhhzy
·
2024-01-30 21:17
kafka
Kafka
常见参数
参数名含义默认值解释max.request.size生产端:最大请求字节大小1MB如果生产请求消息体大小大于该值,客户端生产时会报错max.poll.records消费端:一次poll()请求最大拉取消息条数500条如果单条消息处理时间长,需要减少该参数值,反之增加fetch.min.bytes消费端:一次poll()请求最小返回字节大小1增加该值可以提高吞吐量,同时也会产生一定延迟fetch.m
沉默终止
·
2024-01-30 21:46
kafka
分布式
kafka
学习笔记一
目录第一章初识
Kafka
一、
kafka
的作用二、
kafka
架构三、分区&日志四、生产者&消费者五、
kafka
高性能之道总结:
kafka
读写性能高的原因?
薛薛哦
·
2024-01-30 21:56
分布式
kafka
kafka
学习笔记二
课程地址:【尚硅谷】
Kafka
3.x教程(从入门到调优,深入全面)_哔哩哔哩_bilibili讲解版本:
kafka
3.x;时长13小时官网:Apache
Kafka
Kafka
2.8.0以后也可以配置不采用
薛薛哦
·
2024-01-30 21:25
分布式
kafka
kafka
集群搭建需要做的事情
首先,虚拟机克隆好之后的步骤如下:1.修改IP、主机名,关闭防火墙;(reboot重启)2.在/etc/hosts文件中进行IP与主机名的映射配置,集群中每天都记得配置;3.安装JDK并进行分发;进入/etc/profile.d/目录创建my_env.sh文件并在其中配置JAVA_HOME并进行分发;(分发jdk前先卸载自带的jdk);4.安装zookeeper并进行分发,具体为:首先,在zook
薛薛哦
·
2024-01-30 21:24
分布式
一碰就头疼的
Kafka
消息重复问题,立马解决!
一碰就头疼的
Kafka
消息重复问题,立马解决!
一名技术极客
·
2024-01-30 20:13
随笔
日常开发问题集锦
kafka
linq
RabbitMQ安全防护,加固策略
简介中间件简介消息队列中间件是分布式系统中重要的组件,主要解决应用耦合,异步消息,流量削锋等问题实现高性能,高可用,可伸缩和最终一致性[架构]使用较多的消息队列有ActiveMQ(安全),RabbitMQ,ZeroMQ,
Kafka
中年程序员一枚
·
2024-01-30 17:27
环境搭建专栏
rabbitmq
安全
分布式
Kafka
记录
推荐资源官网http://
kafka
.apache.org/Githubhttps://github.com/apache/
kafka
书籍《深入理解
Kafka
核心设计与实践原理》
Kafka
架构
Kafka
Beth_Chan
·
2024-01-30 16:00
Java
数据
Kafka
Java
MQ
Message
Queue
ELK集群搭建(基础教程)
ELK集群搭建(基础教程)目录:机器准备集群内各台机器安装Elasticsearch安装部署
Kafka
(注:每个节点都配置,注意ip不同)安装logstash工具安装filebeatELK收集Nginx
lqcbj_IT老混混
·
2024-01-30 16:41
ELK集群
elk
如何接手一个大数据项目
:了解一个大数据系统,我认为需要从以下几个方面入手:宏观方面:1.了解系统的整体架构和技术栈:需要了解系统中使用的技术栈,包括各种大数据组件和工具,例如Hadoop、Spark、Hive、Flink、
Kafka
Mmj666
·
2024-01-30 15:19
大数据
如何监控
Kafka
消费者组消费进度?
如何监控
Kafka
消费者组消费进度?对于
Kafka
消费者来说,最重要的事情就是监控它们的消费进度了,或者说是监控它们消费的滞后程度。这个滞后程度有个专门的名称:消费者Lag或ConsumerLag。
章全蛋
·
2024-01-30 07:32
Kafka
【
Kafka
】 分区和副本 Partition 详解
ISR和OSRLEO和HW分区Leader选举分区重新分配自动再均衡修改分区副本分区分配策略RangeAssignorRoundRobinAssignorStickyAssignor自定义分配策略概述
Kafka
Ethan-running
·
2024-01-30 07:32
#
kafka
kafka
分布式
消息中间件
【Spring连载】使用Spring访问 Apache
Kafka
(二十)----测试应用
【Spring连载】使用Spring访问Apache
Kafka
(二十)----测试应用TestingApplications一、
Kafka
TestUtils二、JUnit三、配置主题ConfiguringTopics
85程序员老王
·
2024-01-30 07:30
spring
apache
kafka
消息队列和
Kafka
消息队列(类似于蜂巢柜的功能):异步操作特点:低耦合,响应时间快,异步削峰限流(在不繁忙的时间段处理再处理任务),系统结构弹性大,易于扩展
kafka
Kafka
的主要组件包括:-Broker:
Kafka
集群中的单个服务器节点
一路向北看星晴
·
2024-01-30 07:30
kafka
分布式
【Spring连载】使用Spring访问 Apache
Kafka
(十九)----Apache
Kafka
Streams支持
【Spring连载】使用Spring访问Apache
Kafka
(十九)----Apache
Kafka
Streams支持一、基础Basics二、Spring管理三、
Kafka
StreamsMicrometer
85程序员老王
·
2024-01-30 07:00
spring
apache
kafka
Kafka
- 消费进度监控(Consumer Lag)
所谓滞后程度,就是指消费者当前落后于生产者的程度。Lag应该算是最最重要的监控指标了。它直接反映了一个消费者的运行情况。一个正常工作的消费者,它的Lag值应该很小,甚至是接近于0的,这表示该消费者能够及时地消费生产者生产出来的消息,滞后程度很小。反之,如果一个消费者Lag值很大,通常就表明它无法跟上生产者的速度,最终Lag会越来越大,从而拖慢下游消息的处理速度。通常来说,Lag的单位是消息数,而且
放羊的牧码
·
2024-01-30 07:56
#
MQ
kafka
分布式
消费者
消费
监控
Lag
consumer
stream
【Spring连载】使用Spring访问 Apache
Kafka
(二十一)----提示,技巧和例子
【Spring连载】使用Spring访问Apache
Kafka
(二十一)----提示,技巧和例子Tips,TricksandExamples一、手动分配所有分区ManuallyAssigningAllPartitions
85程序员老王
·
2024-01-30 07:26
spring
apache
kafka
Redis中发布订阅模式用法
这个第三方我们通常称之为消息中间件,消息中间件主要是用来做系统之间的异步通信,常见的消息中间件有:ActiveMQ,RocketMQ,RabbitMQ,
Kafka
等。
IT之一小佬
·
2024-01-30 06:07
Redis数据库
redis
发布订阅
Java高级面试题目
集合数据结构b.jvm:gc、内存模型、堆分代c.多线程:volatile、java.util.concurrent包d.spring:启动、时间e.redis:分布式锁、lua保证原⼦性、集群f.消息队列:
kafka
g.Springcloudh.mysql
Lemonrel
·
2024-01-30 01:08
深入分析
Kafka
生产者和消费者
深入
Kafka
生产者和消费者
Kafka
生产者消息发送的流程发送方式发送并忘记同步发送异步发送生产者属性配置序列化器分区器自定义分区器
Kafka
消费者消费者属性配置消费者基础概念消费者群组订阅主题轮询拉取提交和偏移量提交偏移量带来的问题自动提交手动提交异步提交同步和异步提交特定提交消费者核心概念群组协调分区再均衡再均衡监听器从特定偏移量处开始记录优雅退出反序列化器独立消费者
wzljiayou
·
2024-01-29 23:23
kafka系列
kafka
kafka
主动消费_
Kafka
服务中消费者创建详解
与生产者对应的是消费者,应用程序可以通过
Kafka
Consumer来订阅主题,并从订阅的主题拉取消息。
weixin_39540934
·
2024-01-29 23:53
kafka
主动消费
kafka
生产者和消费者的基本操作
文章目录1.单节点安装2.Topic2.1创建topic2.2查看Topic2.3查看topic描述2.4修改topic2.5删除topic3.启动生产者发送消息4.启动消费者接收消息在学习
kafka
集群之前
冬天里的懒猫
·
2024-01-29 23:22
kafka
java
kafka
面试
程序人生
经验分享
3
kafka
生产者消费者初体验
消息发送到broker的过程图如下:生产者主要的对象有:
Kafka
Producer,ProducerRecord。
dream21st
·
2024-01-29 23:22
kafka学习笔记
java
消息中间件
kafka
生产者和消费者配置介绍
kafka
默认配置每个
kafka
broker中配置文件server.properties默认必须配置的属性如下:broker.id=0num.network.threads=2num.io.threads
Java技术债务
·
2024-01-29 23:22
Kafka
kafka
java
分布式
kafka
生产者与消费者
/
kafka
-server-start.sh../config/server.properties创建topic.
代码人的自白
·
2024-01-29 23:22
Hadoop大数据技术
kafka生产与消费
Kafka
及
Kafka
消费者的消费问题及线程问题
Kafka
一、
Kafka
中的基本信息
kafka
中topic、broker、partition、及customer和producer等的对应关系Window安装配置
kafka
和zookeeper并将其加入服务的方式二
经年小栈
·
2024-01-29 23:22
kafka
java
分布式
Java实现
kafka
生产者和消费者
需要的依赖:org.apache.
kafka
kafka
-clients2.7.0生产者:Propertiesproperties=newProperties();//
Kafka
代理的地址,生产者建立连接
西凉的悲伤
·
2024-01-29 23:52
java
kafka
java
Kafka
建立生产者消费者
Kafka
是一个分布式流处理平台,可以用于构建高效的消息系统。在
Kafka
中,消息的产生和消费分别由生产者(Producer)和消费者(Consumer)来完成。
爱编程的小白L
·
2024-01-29 23:51
Java零基础学习
Java面试集
kafka
linq
分布式
【代码随想录-链表】移除链表元素
推荐:kwan的首页,持续学习,不断总结,共同进步,活到老学到老导航檀越剑指大厂系列:全面总结java核心技术点,如集合,jvm,并发编程redis,
kafka
,Spring,微服务,Netty等常用开发工具系列
檀越剑指大厂
·
2024-01-29 23:11
s6
算法与数据结构
链表
数据结构
103.Flume对
Kafka
数据采集并写入HBase
103.1演示环境介绍CM版本:5.12.1CDH版本:5.12.1Flume,HBase服务已安装且正常运行root用户操作103.2操作演示1.HBaseSink开发示例开发HBaseSink需要添加HBase相关的依赖包org.apache.flume.flume-ng-sinksflume-ng-hbase-sink1.6.0-cdh5.12.1org.apache.hbasehbase-
大勇任卷舒
·
2024-01-29 21:54
kafka
安装
内容小白,包含JDK+Zookeeper+
Kafka
三部分。
yaoyao妖妖
·
2024-01-29 20:24
如何搭建Nextcloud云存储网盘并实现无公网ip访问本地文件【内网穿透】
推荐:kwan的首页,持续学习,不断总结,共同进步,活到老学到老导航檀越剑指大厂系列:全面总结java核心技术点,如集合,jvm,并发编程redis,
kafka
,Spring,微服务,Netty等常用开发工具系列
檀越剑指大厂
·
2024-01-29 19:13
s20
cpolar
tcp/ip
网络协议
网络
MQ消息队列中间件介绍及IoT领域应用
消息队列中间件
Kafka
、ActiveMQ、RabbitMQ、RocketMQ都有什么区别,以及适合哪些场景?IoT领域中的消息队列应用什么是消息队列什么是消息队列?
EnjoyCodingAndGame
·
2024-01-29 18:36
分布式系统
消息队列
MQ
MessageQueue
MQTT
Kafka
MQ 消息队列
RabbitMQ一、RabbitMQ介绍二、RabbitMQ核心三、RabbitMQ扩展四、RabbitMQ集群RocketMQ
Kafka
MQ消息队列一、什么是MQMQ(Messagequeue),从字面意思上看
骑士梦
·
2024-01-29 18:03
RabbitMQ
消息队列
ELK集群部署---Zookeeper,
Kafka
集群的部署
1.环境规划:主机名IP地址角色node1192.168.56.111ElasticSearch(master)Zookeeper
Kafka
node2192.168.56.112ElasticSearch
她的名字叫李承利
·
2024-01-29 10:09
ELK/EFK
elasticsearch
kafka
elk
FlinkCdc--Debezium实现
Kafka
实时监控mysql binlog日志
不管是什么大数据组件大部分都分单机和集群模式,这次我配置的是
kafka
集群监控mysqlbinlog日志一.Zookeeper和
Kafka
集群部署我的服务器是三台节点aliyun-bigdata-01aliyun-bigdata
chenzhihao
·
2024-01-29 09:08
flink
hive
flink
大数据
【代码随想录-数组】螺旋矩阵 II
推荐:kwan的首页,持续学习,不断总结,共同进步,活到老学到老导航檀越剑指大厂系列:全面总结java核心技术点,如集合,jvm,并发编程redis,
kafka
,Spring,微服务,Netty等常用开发工具系列
檀越剑指大厂
·
2024-01-29 08:54
s6
算法与数据结构
矩阵
线性代数
Kafka
面经 基础篇 (一)
Kafka
面经基础篇(一)最近会持续更新,全文已整理在Github仓库eat-
kafka
,喜欢可以收藏点赞,有问题欢迎指出什么是消息引擎,消息引擎的作用?
ZainZhao
·
2024-01-29 07:32
Kafka
kafka
大数据
面试
从源码分析如何优雅的使用
Kafka
生产者
从源码分析如何优雅的使用
Kafka
生产者前言在上文设计一个百万级的消息推送系统中提到消息流转采用的是
Kafka
作为中间件。其中有朋友咨询在大量消息的情况下Kakfa是如何保证消息的高效及一致性呢?
陈晓阳_矿洞程序员
·
2024-01-29 07:01
java集群如何同步_
Kafka
跨集群同步方案
该方案解决
Kafka
跨集群同步、创建
Kafka
集群镜像等相关问题,主要使用
Kafka
内置的MirrorMaker工具实现。
Kafka
镜像即已有
Kafka
集群的副本。
陈凯瑞
·
2024-01-29 05:10
java集群如何同步
Kafka
-服务端-GroupCoordinator
在每一个Broker上都会实例化一个GroupCoordinator对象,
Kafka
按照ConsumerGroup的名称将其分配给对应的GroupCoordinator进行管理;每个GroupCoordinator
Andy技术支援
·
2024-01-29 05:03
队列
kafka
分布式
Kafka
-服务端-GroupMetadataManager
GroupMetadataManager是GroupCoordinator中负责管理ConsumerGroup元数据以及其对应offset信息的组件。GroupMetadataManager底层使用OffsetsTopic,以消息的形式存储ConsumerGroup的GroupMetadata信息以及其消费的每个分区的offset,如图所示。consumer_offsets的某Partition记
Andy技术支援
·
2024-01-29 05:03
队列
kafka
分布式
Kafka
(九)跨集群数据镜像
跨集群镜像的应用场景1.1区域集群和中心集群1.2高可用(HA)和灾备(DR)1.3监管与合规1.4云迁移1.5聚合边缘集群的数据2多集群架构2.1星型架构2.2双活架构2.2主备架构2.2.1如何实现
Kafka
yunyun1886358
·
2024-01-29 05:02
kafka
分布式
[AIGC 大数据基础] 大数据流处理
Kafka
在这篇博客中,我们将介绍一种流行的大数据流处理工具——
Kafka
,并探讨它在大数据处理中的重要性和应用。文章目录什么是
Kafka
?
Kafka
的应用场景总结什么是
Kafka
?
程序员三木
·
2024-01-29 05:32
大后端
AI
AIGC
大数据
kafka
【高效开发工具系列】Intellj IDEA 2023.3 版本
推荐:kwan的首页,持续学习,不断总结,共同进步,活到老学到老导航檀越剑指大厂系列:全面总结java核心技术点,如集合,jvm,并发编程redis,
kafka
,Spring,微服务,Netty等常用开发工具系列
檀越剑指大厂
·
2024-01-29 04:59
s0
常用工具
intellij-idea
java
ide
kafka
替代者:Redpanda的架构及部署
导读Redpanda完全兼容
Kafka
API,也就是说,开发项目中不需要修改
kafka
客户端相关的代码,可以直接替换掉
kafka
。
Linux资源站
·
2024-01-29 01:47
kafka
架构
java
上一页
5
6
7
8
9
10
11
12
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他