消息中间件-Kafka 第2页

Kafka 迁移 AutoMQ 时 Flink 位点管理的挑战与解决方案

编辑导读：AutoMQ是一款与ApacheKafka100%完全兼容的新一代Kafka，可以做到至多10倍的成本降低和极速的弹性。

·2025-03-03 17:20

英伟达DeepStream学习笔记30——kafka和AMQP的区别

作为消息队列来说，企业中选择mq的还是多数，因为像Rabbit，Rocket等mq中间件都属于很成熟的产品，性能一般但可靠性较强，而kafka原本设计的初衷是日志统计分析，现在基于大数据的背景下也可以做运营数据的分析统计

翟羽嚄·2025-03-03 08:15

部署Wordpress(LNMP)+ELK

192.168.100.100Nginx-1.18、Filebeatnode100192.168.100.101PHP-5.6.27node101192.168.100.102MySQL5.7node102192.168.100.103Kafkakafka103192.168.100.104Kafkanode104192.168.100.105Kafkanod

多练项目·2025-03-03 07:32

RabbitMQ 高级配置与优化：从入门到精通

RabbitMQ高级配置与优化：从入门到精通引言在分布式架构中，消息队列（MQ）是必不可少的一环，而RabbitMQ作为业界广泛使用的消息中间件，凭借其高吞吐、可扩展、可靠性等特性备受青睐。

Echo_Wish·2025-03-03 05:49

Kafka 为什么会消息堆积？

Kafka定期清理Partition，但消息堆积（backlog）依然可能发生，主要是因为Kafka的清理机制和消息消费进度是两回事。我们可以用一个快递仓库的类比来解释。

忍者算法·2025-03-02 23:00

Pulsar 学习目录

当时的其他消息系统（包括Kafka），都不能满足Yahoo的需求，比如大集群多租户、稳定可靠的IO服务质量、百万级Topic、跨地域复制等，因此Pulsar应运而生。

编码的三叔·2025-03-02 20:39

Rabbit MQ 高频面试题【刷题系列】

文章目录一、公司生产环境用的什么消息中间件？二、Kafka、ActiveMQ、RabbitMQ、RocketMQ有什么优缺点？三、解耦、异步、削峰是什么？四、消息队列有什么缺点？

Microi风闲·2025-03-02 15:22

【赵渝强老师】Kafka的消费者与消费者组

消费者就是从Kafka集群消费数据的客户端，下图展示了一个消费者从主题中消费数据的模型。上图展示的是单消费者模型。单消费者模型存在一些问题。

·2025-03-02 13:17

RabbitMQ复习

消息中间件的作用：（1）异步处理（2）应用解耦（3）流量削峰消息中间件的缺点：引入了新的东西，也就增加了新的故障点。比如消息中间件挂了，影响系统的可用性。

SJLoveIT·2025-03-02 09:57

常见的消息中间件以及应用场景

消息中间件（MessageOrientedMiddleware，简称MOM）是支持消息传递的中间件，主要用于在分布式系统中实现不同应用之间的消息通信。

纠结哥_Shrek·2025-03-02 05:01

2021年最新社招字节跳动 go 后端开发工程师一二三四五面面经

然后就是数据库、网络、消息中间件、架构等等。校招的话架构可以不用

AI乔治·2025-03-02 01:30

GBase 8a从Kafka的Topic加载数据使用样例

GBase8a支持从Kafka加载数据，本文介绍该功能的使用方式并提供样例。GBase8a当前支持单次加载，以及以类似定时任务的形式自动加载。

老紫竹·2025-03-02 00:21

《Kafka 理解： Broker、Topic 和 Partition》

Kafka核心架构解析：从概念到实践Kafka是一个分布式流处理平台，广泛应用于日志收集、实时数据分析和事件驱动架构。

频繁输入，积极输出·2025-03-01 23:48

Kafka系列之：记录一次源头数据库刷数据，造成数据丢失的原因

Kafka系列之：记录一次源头数据库刷数据，造成数据丢失的原因一、背景二、查看topic日志信息三、结论四、解决方法一、背景源头数据库在很短的时间内刷了大量的数据，部分数据在hdfs丢失了理论上debezium

快乐骑行^_^·2025-03-01 18:12

【六祎 - Note】消息队列的演变，架构图；备忘录； IBM MQ,RabbitMQ,Kafka,Pulsar

RabbitMQ架构与IBMMQ不同，更类似于Kafka的概念。生产者向指定交换类型的交换发布消息。它可以是直接、主题或扇出。然后，交换中心根据不同的消息属性和交换类型将消息路由到队列中。

鞠崽23333·2025-03-01 08:02

消息队列之 RabbitMQ基本流程

市面上的消息队列产品有很多，比如老牌的ActiveMQ、RabbitMQ，目前我看最火的Kafka，还有ZeroMQ，去年底阿里巴巴捐赠给Apache的RocketMQ，连redis这样的NoSQL数据库也支持

搬砖养女人·2025-03-01 08:31

Quickwit获取Kafka数据源消息

创建索引后，可以使用CLI命令quickwitsourcecreate添加源，支持的源有：file、kafka、kinesis、pulsar。

不会飞的小龙人·2025-03-01 03:19

kafka-leader -1问题解决

一.问题：在Kafka中，leader-1通常表示分区的领导者副本尚未被选举出来，或者在获取领导者信息时出现了问题。

xiao-xiang·2025-03-01 03:17

Spring Boot 整合 RabbitMQ 详解

前言：在消息中间件领域中RabbitMQ也是一种非常常见的消息中间件了，本篇简单分享一下SpringBoot项目集成RabbitMQ的过程。

码农爱java·2025-02-28 20:40

阿里架构师推荐的消息中间件万字文档：RocketMQ+RabbitMQ+KafKa

RocketMQRocketMQ是阿里开源的消息中间件，目前也已经孵化为Apache顶级项目，它是纯Java开发，具有高吞吐量、高可用性、适合大规模分布式系统应用的特点。

xiaohao718·2025-02-28 14:53

kafka stream对比flink

KafkaStreams和ApacheFlink虽然都支持实时计算，但它们的定位、架构和适用场景存在显著差异。选择哪一个取决于具体的需求、场景和技术栈。

后季暖·2025-02-28 14:23

001 Kafka入门及安装

Kafka入门及安装文章目录Kafka入门及安装1.介绍Kafka的基本概念和核心组件2.安装1.docker快速安装zookeeper安装kafka安装添加topic删除topickafka-ui安装

陌殇殇·2025-02-28 14:23

基于docker-compose部署kafka、SASL模式【密码校验模式】

基础部署组件Zookeeper注册中心Kafka消息中心Kafka-ui可视化web界面创建目录#进入到主目录cd/usr/localhost#创建docker文件夹mkdirdocker#进入docker

Ya.mo·2025-02-28 14:22

【kafka】Kafka leader -1

文章目录1.概述2.问题现象3.解决方案4.题外话5.威胁案例6.正解1.概述转载：https://blog.csdn.net/u013933879/article/details/90055546参考：Kafka

九师兄·2025-02-28 14:50

Leader总是-1，怎么解决？

重启Controller节点上的Kafka进程，让其他节点重新注册Controller角色，但是如上面ZooKeeper的作用你要知道为什么Controller可以自动注册。

jasen91·2025-02-28 14:19

消息队列概要讲解（下）

本文不会过多的扩展详细的消息队列系统，如RocketMQ、RabbitMQ、Kafka等，这些会在后续系列文章中详细介绍。

Good Note·2025-02-28 14:49

kafka-web管理工具cmak

一.背景：日常运维工作中，采用cli的方式进行kafka集群的管理，还是比较繁琐的(指令复杂？)。为方便管理，可以选择一些开源的webui工具。推荐使用cmak。

xiao-xiang·2025-02-28 14:49

docker-compose创建kafka支持SASL_PLAINTEXT

#1mkdirconfmkdirconf#2createfilezoo.cfgcat>conf/zoo.cfgconf/server_jaas.conf.envdocker-compose.yml<<-"EOF"name:"P1"version:"3"networks:net:driver:bridgeservices:zookeeper_sasl:image:wurstmeister/zooke

dipherxu·2025-02-28 14:49

最全docker-compose部署kafka、SASL模式(密码校验模式)_system

Client{org.apache.zookeeper.server.auth.DigestLoginModulerequiredusername="admin"password="123456";};Server{org.apache.zookeeper.server.auth.DigestLoginModulerequiredusername="admin"password="123456"u

2401_84182428·2025-02-28 14:17

消息队列（RocketMQ+Kafka）

基础什么是消息队列：具备生产者，消费者，消息队列的场景应用场景：异步（电商订单的创建、支付、发货流程）解耦削峰填谷（淘宝的双十一）需解决的问题：消息重复（唯一ID，幂等）消息丢失（ack确认机制，死信队列）消息堆积（增加消费者，增加消费能力，增加集群分担）高可用（集群，主从，多副本）高性能（集群，分区，多机部署，负载均衡）RocketMQ整体架构视频：小白debug的视频面试题：CSDN上找的一篇

八千里路云和月laiker·2025-02-28 14:16

（七）消息队列-Kafka 序列化avro（传递）

（七）消息队列-Kafka序列化avro（传递）客从远方来，遗我双鲤鱼。呼儿烹鲤鱼，中有尺素书。

平凡君·2025-02-28 12:03

kafka-关于ISR-概述

Kafka中通常每个分区都有多个副本，其中一个副本被选举为Leader，其他副本为Follower。ISR是指与Leader副本保持同步的Follower副本集合。

xiao-xiang·2025-02-28 11:58

Python—kafka操作

文档结构1、概念简介2、环境搭建3、操作实践1、概念简介2、环境搭建接口手册：https://kafka-python.readthedocs.io/en/master/Python操作kafka的模块为

蓝魔Y·2025-02-28 07:49

python使用kafka原理详解_Python操作Kafka原理及使用详解

Python操作Kafka原理及使用详解一、什么是KafkaKafka是一个分布式流处理系统，流处理系统使它可以像消息队列一样publish或者subscribe消息，分布式提供了容错性，并发处理消息的机制二

形象顧問Aking·2025-02-28 07:19

python调用kafka

先启动hadoop，zookeeper，kafka启动命令hadoop启动命令sbin/start-all.shzookeeper启动命令.

smile__su·2025-02-28 06:47

Spring Boot 集成 Kafka

Kafka作为一种高性能、分布式的消息队列系统，被广泛应用于各种场景。而SpringBoot作为一种流行的Java开发框架，提供了便捷的方式来构建应用程序。

m0_74823471·2025-02-28 06:47

python操作kafka

一、参考阿里云的官方链接：使用PythonSDK接入Kafka收发消息_云消息队列Kafka版(Kafka)-阿里云帮助中心二、安装python环境三、添加python依赖库pipinstallconfluent-kafka

您懂我意思吧·2025-02-28 06:41

docker下载redis,zookeeper,kafka超时time out

林小夕success·2025-02-27 06:01

华为MRS产品组件

MRS提供租户完全可控的一站式企业级大数据集群云服务（全栈大数据平台），轻松运行Hadoop、Spark、HBase、Kafka、Storm等大数据组件。

QianJin_zixuan·2025-02-27 06:59

ELK性能优化实战总结：kafka与rabbitmq

4年经验应该具备哪些技能首先，简单的聊一下我认为的4年经验左右、优秀的Java程序员应该具备的技能有哪些，按“专业技能”和“项目”两块，包括但不限于以下内容。专业技能方面基础：JDK常用类的原理、源码、使用场景。设计模式：常用几种的原理、使用场景，单例、动态代理、模板、责任链等。数据结构：数组、链表、栈、队列、树。网络：TCP、HTTP、HTTPS、负载均衡算法。框架：SpringIoC原理、Sp

m0_56824583·2025-02-27 05:28

集群部署Elasticsearch+Logstash+Kibana+Filebeat+Kafka+Zookeeper

目录引言一、安装Zookeeper步骤1、准备阶段（全部节点操作，以node1为例）（1）关闭防火墙和系统安全机制（全部节点操作，以node1为例）（2）同步时钟源（全部节点操作，以node1为例）（3）JDK的安装（全部节点操作，以node1为例）（4）配置hosts（全部节点操作，以node1为例）2、安装Zookeeper软件包（全部节点操作，以node1为例）3、修改配置文件（全部节点操作

YH746·2025-02-27 05:25

elfk+zookeeper+kafka数据流

申请7台部署elfk+zookeeper+kafka数据流：filebeat(每台app)------>【logstash(2)+kafka(3)】------->logstash(1)--

AustinCien·2025-02-27 05:53

kafka的ACL配置的sasl.kerberos.principal.to.local.rules配置解释

kafka配置acl认证的用户名转换规则1、Kerberos中的介绍2、自定义saslusername3、自定义ssl的用户名4、关于kafka配置kerberos以及开启acl的实践1、Kerberos

tkgup·2025-02-27 03:35

【spring-kafka】@KafkaListener详解与使用

id监听器的id①.消费者线程命名规则填写:2020-11-1914:24:15c.d.b.k.KafkaListeners120[INFO]线程:Thread[consumer-id5-1-C-1,5

2401_84408092·2025-02-27 02:00

华为全网首发的 Kafka 技术手册，从基础到实战一应俱全，超详细

通过这一部分的学习，你可以学习一下内容：知道Kafka基本原理，了解关键术语概念可以使用Kafka进行消息系统开发通过Java语言来使用Kafka进行消息收发内容涵盖：（特性+使用场景+技术优势+适应人群

2401_83412172·2025-02-27 02:00

kafka小白基础知识

一、Kafka入门（一）Kafka简介Kafka是一个开源的分布式流处理平台，最初由LinkedIn开发，后来贡献给了Apache软件基金会。

小四的快乐生活·2025-02-27 02:29

2.部署kafka:9092

官方文档：http://kafka.apache.org/documentation.html(虽然kafka中集成了zookeeper,但还是建议使用独立的zk集群)Kafka3台集群搭建环境：操作系统

AustinCien·2025-02-26 20:43

1.部署zookeeper集群：2181

集群的工作是超过半数才能对外提供服务,成员数量一般为奇数台环境：操作系统:centos7软件版本:zookeeper-3.4.12.tar.gz防火墙：全关三台服务器改主机名：hostnamectlset-hostnamekafka

AustinCien·2025-02-26 20:12

deepseek部署：ELK + Filebeat + Zookeeper + Kafka

##1.概述本文档旨在指导如何在7台机器上部署ELK（Elasticsearch,Logstash,Kibana）堆栈、Filebeat、Zookeeper和Kafka。