E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
Kafka源代码分析
一碰就头疼的
Kafka
消息重复问题,立马解决!
一碰就头疼的
Kafka
消息重复问题,立马解决!
一名技术极客
·
2024-01-30 20:13
随笔
日常开发问题集锦
kafka
linq
RabbitMQ安全防护,加固策略
简介中间件简介消息队列中间件是分布式系统中重要的组件,主要解决应用耦合,异步消息,流量削锋等问题实现高性能,高可用,可伸缩和最终一致性[架构]使用较多的消息队列有ActiveMQ(安全),RabbitMQ,ZeroMQ,
Kafka
中年程序员一枚
·
2024-01-30 17:27
环境搭建专栏
rabbitmq
安全
分布式
Kafka
记录
推荐资源官网http://
kafka
.apache.org/Githubhttps://github.com/apache/
kafka
书籍《深入理解
Kafka
核心设计与实践原理》
Kafka
架构
Kafka
Beth_Chan
·
2024-01-30 16:00
Java
数据
Kafka
Java
MQ
Message
Queue
ELK集群搭建(基础教程)
ELK集群搭建(基础教程)目录:机器准备集群内各台机器安装Elasticsearch安装部署
Kafka
(注:每个节点都配置,注意ip不同)安装logstash工具安装filebeatELK收集Nginx
lqcbj_IT老混混
·
2024-01-30 16:41
ELK集群
elk
如何接手一个大数据项目
:了解一个大数据系统,我认为需要从以下几个方面入手:宏观方面:1.了解系统的整体架构和技术栈:需要了解系统中使用的技术栈,包括各种大数据组件和工具,例如Hadoop、Spark、Hive、Flink、
Kafka
Mmj666
·
2024-01-30 15:19
大数据
如何监控
Kafka
消费者组消费进度?
如何监控
Kafka
消费者组消费进度?对于
Kafka
消费者来说,最重要的事情就是监控它们的消费进度了,或者说是监控它们消费的滞后程度。这个滞后程度有个专门的名称:消费者Lag或ConsumerLag。
章全蛋
·
2024-01-30 07:32
Kafka
【
Kafka
】 分区和副本 Partition 详解
ISR和OSRLEO和HW分区Leader选举分区重新分配自动再均衡修改分区副本分区分配策略RangeAssignorRoundRobinAssignorStickyAssignor自定义分配策略概述
Kafka
Ethan-running
·
2024-01-30 07:32
#
kafka
kafka
分布式
消息中间件
【Spring连载】使用Spring访问 Apache
Kafka
(二十)----测试应用
【Spring连载】使用Spring访问Apache
Kafka
(二十)----测试应用TestingApplications一、
Kafka
TestUtils二、JUnit三、配置主题ConfiguringTopics
85程序员老王
·
2024-01-30 07:30
spring
apache
kafka
消息队列和
Kafka
消息队列(类似于蜂巢柜的功能):异步操作特点:低耦合,响应时间快,异步削峰限流(在不繁忙的时间段处理再处理任务),系统结构弹性大,易于扩展
kafka
Kafka
的主要组件包括:-Broker:
Kafka
集群中的单个服务器节点
一路向北看星晴
·
2024-01-30 07:30
kafka
分布式
【Spring连载】使用Spring访问 Apache
Kafka
(十九)----Apache
Kafka
Streams支持
【Spring连载】使用Spring访问Apache
Kafka
(十九)----Apache
Kafka
Streams支持一、基础Basics二、Spring管理三、
Kafka
StreamsMicrometer
85程序员老王
·
2024-01-30 07:00
spring
apache
kafka
Kafka
- 消费进度监控(Consumer Lag)
所谓滞后程度,就是指消费者当前落后于生产者的程度。Lag应该算是最最重要的监控指标了。它直接反映了一个消费者的运行情况。一个正常工作的消费者,它的Lag值应该很小,甚至是接近于0的,这表示该消费者能够及时地消费生产者生产出来的消息,滞后程度很小。反之,如果一个消费者Lag值很大,通常就表明它无法跟上生产者的速度,最终Lag会越来越大,从而拖慢下游消息的处理速度。通常来说,Lag的单位是消息数,而且
放羊的牧码
·
2024-01-30 07:56
#
MQ
kafka
分布式
消费者
消费
监控
Lag
consumer
stream
【Spring连载】使用Spring访问 Apache
Kafka
(二十一)----提示,技巧和例子
【Spring连载】使用Spring访问Apache
Kafka
(二十一)----提示,技巧和例子Tips,TricksandExamples一、手动分配所有分区ManuallyAssigningAllPartitions
85程序员老王
·
2024-01-30 07:26
spring
apache
kafka
Redis中发布订阅模式用法
这个第三方我们通常称之为消息中间件,消息中间件主要是用来做系统之间的异步通信,常见的消息中间件有:ActiveMQ,RocketMQ,RabbitMQ,
Kafka
等。
IT之一小佬
·
2024-01-30 06:07
Redis数据库
redis
发布订阅
Java高级面试题目
集合数据结构b.jvm:gc、内存模型、堆分代c.多线程:volatile、java.util.concurrent包d.spring:启动、时间e.redis:分布式锁、lua保证原⼦性、集群f.消息队列:
kafka
g.Springcloudh.mysql
Lemonrel
·
2024-01-30 01:08
深入分析
Kafka
生产者和消费者
深入
Kafka
生产者和消费者
Kafka
生产者消息发送的流程发送方式发送并忘记同步发送异步发送生产者属性配置序列化器分区器自定义分区器
Kafka
消费者消费者属性配置消费者基础概念消费者群组订阅主题轮询拉取提交和偏移量提交偏移量带来的问题自动提交手动提交异步提交同步和异步提交特定提交消费者核心概念群组协调分区再均衡再均衡监听器从特定偏移量处开始记录优雅退出反序列化器独立消费者
wzljiayou
·
2024-01-29 23:23
kafka系列
kafka
kafka
主动消费_
Kafka
服务中消费者创建详解
与生产者对应的是消费者,应用程序可以通过
Kafka
Consumer来订阅主题,并从订阅的主题拉取消息。
weixin_39540934
·
2024-01-29 23:53
kafka
主动消费
kafka
生产者和消费者的基本操作
文章目录1.单节点安装2.Topic2.1创建topic2.2查看Topic2.3查看topic描述2.4修改topic2.5删除topic3.启动生产者发送消息4.启动消费者接收消息在学习
kafka
集群之前
冬天里的懒猫
·
2024-01-29 23:22
kafka
java
kafka
面试
程序人生
经验分享
3
kafka
生产者消费者初体验
消息发送到broker的过程图如下:生产者主要的对象有:
Kafka
Producer,ProducerRecord。
dream21st
·
2024-01-29 23:22
kafka学习笔记
java
消息中间件
kafka
生产者和消费者配置介绍
kafka
默认配置每个
kafka
broker中配置文件server.properties默认必须配置的属性如下:broker.id=0num.network.threads=2num.io.threads
Java技术债务
·
2024-01-29 23:22
Kafka
kafka
java
分布式
kafka
生产者与消费者
/
kafka
-server-start.sh../config/server.properties创建topic.
代码人的自白
·
2024-01-29 23:22
Hadoop大数据技术
kafka生产与消费
Kafka
及
Kafka
消费者的消费问题及线程问题
Kafka
一、
Kafka
中的基本信息
kafka
中topic、broker、partition、及customer和producer等的对应关系Window安装配置
kafka
和zookeeper并将其加入服务的方式二
经年小栈
·
2024-01-29 23:22
kafka
java
分布式
Java实现
kafka
生产者和消费者
需要的依赖:org.apache.
kafka
kafka
-clients2.7.0生产者:Propertiesproperties=newProperties();//
Kafka
代理的地址,生产者建立连接
西凉的悲伤
·
2024-01-29 23:52
java
kafka
java
Kafka
建立生产者消费者
Kafka
是一个分布式流处理平台,可以用于构建高效的消息系统。在
Kafka
中,消息的产生和消费分别由生产者(Producer)和消费者(Consumer)来完成。
爱编程的小白L
·
2024-01-29 23:51
Java零基础学习
Java面试集
kafka
linq
分布式
【代码随想录-链表】移除链表元素
推荐:kwan的首页,持续学习,不断总结,共同进步,活到老学到老导航檀越剑指大厂系列:全面总结java核心技术点,如集合,jvm,并发编程redis,
kafka
,Spring,微服务,Netty等常用开发工具系列
檀越剑指大厂
·
2024-01-29 23:11
s6
算法与数据结构
链表
数据结构
103.Flume对
Kafka
数据采集并写入HBase
103.1演示环境介绍CM版本:5.12.1CDH版本:5.12.1Flume,HBase服务已安装且正常运行root用户操作103.2操作演示1.HBaseSink开发示例开发HBaseSink需要添加HBase相关的依赖包org.apache.flume.flume-ng-sinksflume-ng-hbase-sink1.6.0-cdh5.12.1org.apache.hbasehbase-
大勇任卷舒
·
2024-01-29 21:54
kafka
安装
内容小白,包含JDK+Zookeeper+
Kafka
三部分。
yaoyao妖妖
·
2024-01-29 20:24
如何搭建Nextcloud云存储网盘并实现无公网ip访问本地文件【内网穿透】
推荐:kwan的首页,持续学习,不断总结,共同进步,活到老学到老导航檀越剑指大厂系列:全面总结java核心技术点,如集合,jvm,并发编程redis,
kafka
,Spring,微服务,Netty等常用开发工具系列
檀越剑指大厂
·
2024-01-29 19:13
s20
cpolar
tcp/ip
网络协议
网络
MQ消息队列中间件介绍及IoT领域应用
消息队列中间件
Kafka
、ActiveMQ、RabbitMQ、RocketMQ都有什么区别,以及适合哪些场景?IoT领域中的消息队列应用什么是消息队列什么是消息队列?
EnjoyCodingAndGame
·
2024-01-29 18:36
分布式系统
消息队列
MQ
MessageQueue
MQTT
Kafka
MQ 消息队列
RabbitMQ一、RabbitMQ介绍二、RabbitMQ核心三、RabbitMQ扩展四、RabbitMQ集群RocketMQ
Kafka
MQ消息队列一、什么是MQMQ(Messagequeue),从字面意思上看
骑士梦
·
2024-01-29 18:03
RabbitMQ
消息队列
ELK集群部署---Zookeeper,
Kafka
集群的部署
1.环境规划:主机名IP地址角色node1192.168.56.111ElasticSearch(master)Zookeeper
Kafka
node2192.168.56.112ElasticSearch
她的名字叫李承利
·
2024-01-29 10:09
ELK/EFK
elasticsearch
kafka
elk
FlinkCdc--Debezium实现
Kafka
实时监控mysql binlog日志
不管是什么大数据组件大部分都分单机和集群模式,这次我配置的是
kafka
集群监控mysqlbinlog日志一.Zookeeper和
Kafka
集群部署我的服务器是三台节点aliyun-bigdata-01aliyun-bigdata
chenzhihao
·
2024-01-29 09:08
flink
hive
flink
大数据
【代码随想录-数组】螺旋矩阵 II
推荐:kwan的首页,持续学习,不断总结,共同进步,活到老学到老导航檀越剑指大厂系列:全面总结java核心技术点,如集合,jvm,并发编程redis,
kafka
,Spring,微服务,Netty等常用开发工具系列
檀越剑指大厂
·
2024-01-29 08:54
s6
算法与数据结构
矩阵
线性代数
Kafka
面经 基础篇 (一)
Kafka
面经基础篇(一)最近会持续更新,全文已整理在Github仓库eat-
kafka
,喜欢可以收藏点赞,有问题欢迎指出什么是消息引擎,消息引擎的作用?
ZainZhao
·
2024-01-29 07:32
Kafka
kafka
大数据
面试
从源码分析如何优雅的使用
Kafka
生产者
从源码分析如何优雅的使用
Kafka
生产者前言在上文设计一个百万级的消息推送系统中提到消息流转采用的是
Kafka
作为中间件。其中有朋友咨询在大量消息的情况下Kakfa是如何保证消息的高效及一致性呢?
陈晓阳_矿洞程序员
·
2024-01-29 07:01
java集群如何同步_
Kafka
跨集群同步方案
该方案解决
Kafka
跨集群同步、创建
Kafka
集群镜像等相关问题,主要使用
Kafka
内置的MirrorMaker工具实现。
Kafka
镜像即已有
Kafka
集群的副本。
陈凯瑞
·
2024-01-29 05:10
java集群如何同步
Kafka
-服务端-GroupCoordinator
在每一个Broker上都会实例化一个GroupCoordinator对象,
Kafka
按照ConsumerGroup的名称将其分配给对应的GroupCoordinator进行管理;每个GroupCoordinator
Andy技术支援
·
2024-01-29 05:03
队列
kafka
分布式
Kafka
-服务端-GroupMetadataManager
GroupMetadataManager是GroupCoordinator中负责管理ConsumerGroup元数据以及其对应offset信息的组件。GroupMetadataManager底层使用OffsetsTopic,以消息的形式存储ConsumerGroup的GroupMetadata信息以及其消费的每个分区的offset,如图所示。consumer_offsets的某Partition记
Andy技术支援
·
2024-01-29 05:03
队列
kafka
分布式
Kafka
(九)跨集群数据镜像
跨集群镜像的应用场景1.1区域集群和中心集群1.2高可用(HA)和灾备(DR)1.3监管与合规1.4云迁移1.5聚合边缘集群的数据2多集群架构2.1星型架构2.2双活架构2.2主备架构2.2.1如何实现
Kafka
yunyun1886358
·
2024-01-29 05:02
kafka
分布式
[AIGC 大数据基础] 大数据流处理
Kafka
在这篇博客中,我们将介绍一种流行的大数据流处理工具——
Kafka
,并探讨它在大数据处理中的重要性和应用。文章目录什么是
Kafka
?
Kafka
的应用场景总结什么是
Kafka
?
程序员三木
·
2024-01-29 05:32
大后端
AI
AIGC
大数据
kafka
【高效开发工具系列】Intellj IDEA 2023.3 版本
推荐:kwan的首页,持续学习,不断总结,共同进步,活到老学到老导航檀越剑指大厂系列:全面总结java核心技术点,如集合,jvm,并发编程redis,
kafka
,Spring,微服务,Netty等常用开发工具系列
檀越剑指大厂
·
2024-01-29 04:59
s0
常用工具
intellij-idea
java
ide
kafka
替代者:Redpanda的架构及部署
导读Redpanda完全兼容
Kafka
API,也就是说,开发项目中不需要修改
kafka
客户端相关的代码,可以直接替换掉
kafka
。
Linux资源站
·
2024-01-29 01:47
kafka
架构
java
详解最小化
Kafka
到 ClickHouse 延迟的原理和方法
随着最近我们正式发布了官方
Kafka
连接器,及其在ConfluentCloud中的支持,已经有人联系到我们:咨询将数据从
Kafka
传输到ClickHouseCloud时应该怎么考虑,如何缩短同步的延迟。
ClickHouseDB
·
2024-01-29 01:16
软件工程
kafka
clickhouse
分布式
Kafka
(四)【
Kafka
消费者】
目录前言
Kafka
消费者1、消费方式2、消费者工作流程2.1、消费者总体工作流程2.2、消费者组原理2.2.1、消费者组2.2.2、消费者组初始化流程2.3、消费者重要参数3、消费者API3.1、独立消费者案例
让线程再跑一会
·
2024-01-28 22:10
kafka
kafka
分布式
kafka
消息队列初识
添加消息的依赖org.springframework.
kafka
spring-
kafka
io.projectreactor.
kafka
reactor-
kafka
1.1.0.RELEASE信息队列通信的模式
进击燕子
·
2024-01-28 21:18
Java技术栈 ——
Kafka
入门(二)
Java技术栈——
Kafka
入门(二)一、如何在Java项目中使用
Kafka
?
键盘国治理专家
·
2024-01-28 21:27
Java技术栈
java
kafka
linq
快速了解
Kafka
基础架构
今天来聊下大数据场景下比较流行的消息队列组件
kafka
。本篇文章将主要从理论角度来介绍。
波罗学
·
2024-01-28 21:47
kafka
分布式
【高效开发工具系列】Java读取Html
推荐:kwan的首页,持续学习,不断总结,共同进步,活到老学到老导航檀越剑指大厂系列:全面总结java核心技术点,如集合,jvm,并发编程redis,
kafka
,Spring,微服务,Netty等常用开发工具系列
檀越剑指大厂
·
2024-01-28 21:33
s0
常用工具
java
html
开发语言
Debezium发布历史93
debezium-auto-create-topics/欢迎关注留言,我是收集整理小能手,工具翻译,仅供参考,笔芯笔芯.自动创建Debezium更改数据主题2020年9月15日作者:RenéKerner
kafka
大大蚊子
·
2024-01-28 20:36
debezium
CDC
FlinkCDC
数据库
运维
大数据
kafka
面试题
kafka
如何保证数据不丢失
kafka
是一个用来实现异步消息通讯的中间件,它的整个架构是由Producer和consumer和broke来组成。
黑冰vip
·
2024-01-28 20:57
Java
java
zkClient API
zkClient介绍zkClient是基于原生zookeeper包下开发的客户端,解决原生API出现的超时重连(session失效重连)、重复注册watcher、异常处理.该zkClient已经用在Dubbo,
Kafka
光小月
·
2024-01-28 18:03
上一页
8
9
10
11
12
13
14
15
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他