Kafka从入门到放弃

深入理解Kafka—如何保证Exactly Once语义

作者：禅与计算机程序设计艺术1.简介Kafka是一种高吞吐量、分布式、可分区、多副本的消息系统。它在使用上非常灵活，可以作为Pulsar、RabbitMQ的替代品。

AI天才研究院·2025-02-17 03:22

【kafka系列】生产者

目录发送流程1.流程逻辑分析阶段一：主线程处理阶段二：Sender线程异步发送核心设计思想2.流程关键点总结重要参数一、核心必填参数二、可靠性相关参数三、性能优化参数四、高级配置五、安全性配置（可选）六、错误处理与监控典型配置示例关键注意事项发送流程序列化与分区：消息通过Partitioner选择目标分区（默认轮询或哈希），序列化后加入RecordAccumulator缓冲区。批次合并：Sende

漫步者TZ·2025-02-17 02:21

【kafka系列】broker

目录Broker接收生产者消息和返回消息给消费者的流程逻辑分析Broker处理生产者消息的核心流程Broker处理消费者消息的核心流程关键点总结Broker接收生产者消息和返回消息给消费者的流程逻辑分析Broker处理生产者消息的核心流程接收请求Broker的SocketServer接收来自生产者的ProduceRequest（基于Reactor网络模型）。请求解析与验证解析请求头（Topic、P

漫步者TZ·2025-02-17 02:21

【kafka系列】如何选择消息语义？

目录业务权衡如何选择消息语义？业务权衡维度At-Most-OnceAt-Least-OnceExactly-Once消息丢失风险高低无消息重复风险无高无网络开销最低（无重试）中等（可能重试）最高（事务+协调）适用场景可容忍丢失的实时数据流不允许丢失的日志采集金融交易、精准统计如何选择消息语义？At-Most-Once：优先性能与低延迟，接受数据丢失（如实时监控）。At-Least-Once：优先可

漫步者TZ·2025-02-17 02:49

kafka动态监听主题

简单版本importorg.springframework.beans.factory.annotation.Autowired;importorg.springframework.kafka.core.ConsumerFactory

S Y H·2025-02-16 23:27

【kafka系列】Exactly Once语义

目录1.Exactly-Once语义的定义2.Kafka实现Exactly-Once的机制3.端到端Exactly-Once示例场景描述3.1生产者配置与代码3.2消费者配置与代码4.异常场景与Exactly-Once

漫步者TZ·2025-02-16 19:57

【Golang学习之旅】Go 语言微服务架构实践（gRPC、Kafka、Docker、K8s）

文章目录1.前言：为什么选择Go语言构建微服务架构1.1微服务架构的兴趣与挑战1.2为什么选择Go语言构建微服务架构2.Go语言简介2.1Go语言的特点与应用2.2Go语言的生态系统3.微服务架构中的gRPC实践3.1什么是gRPC？3.2gRPC在Go语言中的实现1.前言：为什么选择Go语言构建微服务架构1.1微服务架构的兴趣与挑战随着互联网技术的飞速发展，尤其是云计算的普及，微服务架构已经成为

程序员林北北·2025-02-16 09:40

zipkin备忘

server安装https://zipkin.io/pages/quickstart.html这里提供了几种安装方式当天他可以吧数据方存cassandra，kafka，es，等地方服务器直接下载curl-sSLhttps

dzl84394·2025-02-16 06:18

org.apache.kafka.common.errors.TimeoutException

个人博客地址：org.apache.kafka.common.errors.TimeoutException|一张假钞的真实世界使用kafka-console-producer.sh向远端Kafka写入数据时遇到以下错误

一张假钞·2025-02-16 03:56

kafka的kafka-console-consumer.sh和kafka-console-producer.sh如何使用

一、两款工具对比功能用途kafka-console-consumer.sh是简单的命令行消费者工具，主要用于在控制台显示从Kafka主题消费的消息，适用于测试生产者是否正常发送消息、查看消息格式等调试场景

WilsonShiiii·2025-02-16 03:56

RocketMQ与kafka如何解决消息积压问题？

主要介绍两款产品RocketMQ和Kafka的解决方式，以及其差异，本质上的差异就是RocketMQ与Kafka之间的存储结构差异带来的，基本的处理思路还是怎么控制生产

一个儒雅随和的男子·2025-02-16 03:54

浅聊MQ之Kafka与RabbitMQ简用

Kafka与RabbitMQ的使用举例Kafka的使用举例安装与启动：从ApacheKafka官网下载Kafka中间件的运行脚本。

天天向上杰·2025-02-16 03:24

浅聊MQ之Kafka、RabbitMQ、ActiveMQ、RocketMQ持久化策略

以下是主流消息队列（Kafka、RabbitMQ、ActiveMQ、RocketMQ）的持久化策略详解及实际场景示例：1.Kafka持久化策略核心机制：日志分段存储：每个Topic分区对应一个物理日志文件

天天向上杰·2025-02-16 03:24

《Python全栈开发：构建高并发物联网数据中台实战》

系统采用微服务架构，核心功能包括：百万级设备并发接入（基于MQTT协议）实时流数据处理（ApacheKafka+Faust）时序数据存储（InfluxDB+Redis）智能告警引擎（规则引擎+机器学习）

放氮气的蜗牛·2025-02-15 22:15

隨筆 20241023 Kafka 事务

Kafka事务概述原子性要求：在需要将数据同时发送到多个broker中的不同分区时，使用事务可以确保这些操作具备原子性，确保要么全部成功，要么全部失败。

靈臺清明·2025-02-15 07:18

【Apache Paimon】-- 16 -- 利用 paimon-flink-action 同步 kafka 数据到 hive paimon 表中

目录引言CDC技术概述2.1什么是CDC2.2CDC的应用场景Kafka作为CDC数据源的原理与优势3.1Kafka的基本架构3.2Kafka在CDC中的角色

oo寻梦in记·2025-02-13 14:02

Kafka的缺点是什么？使用场景有什么区别？

目录RocketMQ的缺点Kafka的缺点RocketMQ和Kafka的使用场景区别RocketMQ的使用场景Kafka的使用场景总结RocketMQ的缺点Kafka的缺点1.消息顺序保证能力有限2.消息事务功能相对较弱

点滴~·2025-02-13 05:49

百万架构师第三十六课：kafka：KafkaManage｜JavaGuide

[root@nogeeksoftware]#[root@nogeeksoftware]#cdkafka-manager-master/conf/[root@nogeekconf]#vimapplication.conf

·2025-02-12 22:41

kafka数据检索_Kafka日志分段与消息查找

Kafka作为一个消息中间件(后面Kafka逐渐转向一个流失处理平台KafkaStream)，消息最终的存储都落在日志中。

铺地板·2025-02-12 22:28

30分钟带你图解 Kafka 生产者初始化核心流程

认真读完这篇文章，我相信你会对Kafka生产初始化源码有更加深刻的理解。这篇文章干货很多，希望你可以耐心读完。

Java面试_·2025-02-12 21:54

消息队列之事务消息，RocketMQ 和 Kafka是如何做的？

今天我们来谈一谈消息队列的事务消息，一说起事务相信大家都不陌生，脑海里蹦出来的就是ACID。通常我们理解的事务就是为了一些更新操作要么都成功，要么都失败，不会有中间状态的产生，而ACID是一个严格的事务实现的定义，不过在单体系统时候一般都不会严格的遵循ACID的约束来实现事务，更别说分布式系统了。分布式系统往往只能妥协到最终一致性，保证数据最终的完整性和一致性，主要原因就是实力不允许...因为可用

90后小伙追梦之路·2025-02-12 21:24

Flink KafkaConsumer offset是如何提交的

一、fllink内部配置client.id.prefix，指定用于KafkaConsumer的客户端ID前缀partition.discovery.interval.ms，定义KafkaSource检查新分区的时间间隔

红烛暗盗梦·2025-02-12 21:23

关于kafka中的timestamp与offset的对应关系

关于kafka中的timestamp与offset的对应关系@(KAFKA)[storm,kafka,大数据]关于kafka中的timestamp与offset的对应关系获取单个分区的情况同时从所有分区获取消息的情况结论如何指定时间出现

jediael_lu·2025-02-12 21:22

【Kafka】Kafka配置参数详解

飝鱻.·2025-02-12 21:52

kafka和RocketMQ的区别

今天面试字节被问到的问题，当时没有回答好，现在再重新梳理一下两者都是消息系统，但是kafka已经升级为了流处理平台RocketMQ的出现是因为kafka不支持在交易、订单、充值等场景下许多特性，于是阿里编写了

handong106324·2025-02-12 21:51

Kafka: 选择合适的消息队列系统及性能比较

RocketMQ和Kafka是两个领先的开源消息队列系统，它们在各自的领域内都有广泛的应用。本文将探讨RocketMQ和Kafka的选择理由，并对它们的性能进行比较。

YazIdris·2025-02-12 21:20

Kafka 中基于 Segment 和 Offset 查找消息的过程

Kafka中基于Segment和Offset查找消息的过程假设我们有一个KafkaTopic，其Partition划分为多个Segment文件。

小句·2025-02-12 20:16

Apache Kafka 中的认证、鉴权原理与应用

编辑导读：本篇内容将进一步介绍Kafka中的认证、鉴权等概念。

·2025-02-12 14:46

SpringBoot系统开发时，使用分布式架构，每一块交给不同的人开发，彼此不知。能否做到，如何实现。

消息队列：使用Kafka、RabbitMQ等，定义消息格式和主题。RPC：使用gRPC或Dubbo，

陈老师还在写代码·2025-02-12 06:10

kafka怎么查看消息堆积_Kafka线上消息堆积问题

虽然项目中很早使用到了Kafka，但是由于我接手之后业务没有变化，所以这还是我第一次在生产环境接触Kafka，可以说是毫无经验，凭着自己对RocketMQ的理解(毕竟RocketMQ也借鉴了Kafka的设计经验

weixin_39529914·2025-02-12 04:54

深入解析 Kafka 消费者偏移量管理

在使用Kafka进行消息消费时，偏移量管理是一个非常重要的概念。它直接关系到消息的重复消费、丢失以及系统的可靠性。

t0_54program·2025-02-12 03:47

Go, Jocko, Kafka

本篇内容是根据2016年8月份#31.Go,Jocko,Kafka音频录制内容的整理与翻译TravisJeffery参加了节目，谈论Go、Jocko、Kafka、Kafka的存储内部结构如何工作，以及有趣的

·2025-02-12 01:57

Kafka-时间轮和延迟操作-源码流程

TimingWheel字段：buckets：Array.tabulate[TimerTaskList]类型，其每一个项都对应时间轮中的一个时间格，用于保存TimerTaskList的数组。在TimingWheel中，同一个TimerTaskList中的不同定时任务的到期时间可能不同，但是相差时间在一个时间格的范围内。tickMs：当前时间轮中一个时间格表示的时间跨度。wheelSize：当前时间轮

不学会Ⅳ·2025-02-12 00:20

Java分布式流处理，flink+kafka实现电商网站个性化商品推荐系统

文章目录戳底部名片，一起变现技术栈选择设计实现思路实现步骤及示例代码1.数据采集2.数据预处理3.特征工程4.模型训练5.结果输出6.前端展示戳底部名片，一起变现在现代电商环境中，用户每天都会浏览大量商品页面，而这些行为数据中蕴藏着丰富的信息。通过分析用户的浏览历史、购买记录以及对特定商品的兴趣程度，我们可以为用户提供更加个性化的商品推荐，从而提升用户体验和转化率。为了实现实时的个性化推荐，我们需

图苑·2025-02-11 16:24

01、kafka知识点综合

kafka是一个优秀大吞吐消息队列，下面我就从实用的角度来讲讲kafka中，“kafka为何有大吞吐的机制”，“数据不丢失问题”，“精准一次消费问题”01、kafka的架构组织和运行原理kafka集群各个节点的名称叫

抛砖者·2025-02-11 13:05

kafka的架构和工作原理

目录Kafka架构Kafka工作原理Kafka数据流Kafka核心特性总结Kafka架构1.生产者（Producer）2.消费者（Consumer）3.主题（Topic）4.分区（Partition）5

点滴~·2025-02-11 13:35

Flink--初识 DataStream Connector Kafka

目录1.增加POM文件2.使用Kafka作为Source2.1创建Topic2.2Code3.使用Kafka作为Sink3.1CodeFlink作为比较适合流式处理的计算框架，在流式处理当中，比较搭配的消息中间件为

XK&RM·2025-02-11 01:30

云消息队列 ApsaraMQ Serverless 演进：高弹性低成本、更稳定更安全、智能化免运维

云消息队列ApsaraMQ是涵盖RocketMQ、Kafka、RabbitMQ、MQTT、轻量消息队列（原MNS）的消息队列

·2025-02-10 18:42

Kafka系列之：定位topic只能保存最新数据的原因

Kafka系列之：定位topic只能保存最新数据的原因一、背景二、定位排查方向三、深入排查一、背景kafkatopic保存的数据少，topic只能保存最新的数据二、定位排查方向能想到的定位排查方向：topic

快乐骑行^_^·2025-02-10 17:59

中间件MQ面试题之Kafka

叱咤少帅（少帅）·2025-02-10 16:24

Spring Boot 集成 Kafka

Kafka作为一种高性能、分布式的消息队列系统，被广泛应用于各种场景。而SpringBoot作为一种流行的Java开发框架，提供了便捷的方式来构建应用程序。

ekskef_sef·2025-02-10 16:54

linux kafka Raft模式安装和启动(单节点)

kafka介绍kafka常用命令安装部署1.官网下载编译好的二进制文件，部署到/usr/local/kafkaApacheKafka2.生成集群id，并格式化存储目录bin/kafka-storage.shrandom-uuid

opfano_o·2025-02-10 15:46

大数据技术Kafka详解 ③ | Kafka集群操作与API操作

目录1、Kafka集群操作1.1、创建topic1.2、查看主题命令1.3、生产者生产1.4、消费者消费数据1.5、运行describetopics命令1.6、增加topic分区数1.7、增加配置1.8

dvlinker·2025-02-10 15:43

kafka消费端之再均衡

文章目录再均衡是指分区的所属权从一个消费者转移到另一消费者的行为，它为消费组具备高可用性和伸缩性提供保障，使我们可以既方便又安全地删除消费组内的消费者或往消费组内添加消费者。不过在再均衡发生期间，消费组内的消费者是无法读取消息的。也就是说，在再均衡发主期间的这一小段时间内，消费组会变得不可用。另外，当一个分区被重新分配给另一个消费者时，消费者当前的状态也会丢失。比如消费者消费完某个分区中的一部分消

小码农0912·2025-02-10 15:11

ELK系列（二）Kafka集群3.4.0搭建

ELK系列传送门ELK系列（一）ElasticSearch8.9.2集群搭建ELK系列（二）Kafka集群3.4.0搭建ELK数据流规划ELK接入nginx-acces日志数据流规划数据流向filebeat

诉光海·2025-02-10 15:40

Kafka的ISR是什么，HW是什么，怎么保证可靠性，Kafka怎么实现顺序消息？为什么Kafka的broker上的topic越多，效率越慢？

目录1.Kafka的ISR是什么2.Kafka的HW是什么3.Kafka如何保证可靠性4.Kafka怎么实现顺序消息5.为什么Kafka的broker上的topic越多，效率越慢1.Kafka的ISR是什么

点滴~·2025-02-10 14:01

探索微服务架构：Golang+CQRS+Kafka等全面实践示例

探索微服务架构：Golang+CQRS+Kafka等全面实践示例去发现同类优质开源项目:https://gitcode.com/在这个数字化的时代，快速响应和高效能是应用程序的核心要求。

瞿旺晟·2025-02-10 08:02

kafka生产者Producer、消费者Consumer的拦截器interceptor

1、Producer的拦截器interceptor，和consumer端的拦截器interceptor是在kafka0.10版本被引入的，主要用于实现clients端的定制化控制逻辑，生产者拦截器可以用在消息发送前做一些准备工作

小段大帅·2025-02-10 05:11

Kafka的分区器、拦截器、序列化器

序列化器：生产者需要用序列化器（Serializer）把对象转换成字节数组才能通过网络发送给Kafka。

木良Duncan·2025-02-10 05:10

6. kafka拦截器

官方文档解析如下：Alistofclassestouseasinterceptors.Implementingtheorg.apache.kafka.clients.producer.ProducerInterceptorinterfaceallowsyoutointercept

阿飞的博客·2025-02-10 05:38

推荐频道