消息队列--kafka 第19页

【Kafka】服务器Broker与Controller详解

Broker概述Broker总体工作流程Broker重要参数Controller为什么需要Controller具体作用数据服务Leader选举选举流程脑裂问题羊群效应触发leader选举Broker概述Kafka

Ethan-running·2024-01-31 06:59

Java教程：Rabbitmq监听器，用于监听topic类型消息队列，并进行业务处理

本章介绍如何使用Rabbitmq监听器，用于监听topic类型消息队列，并进行业务处理源码：importcn.hutool.json.JSONUtil;importcom.alibaba.fastjson.JSONObject

首席摸鱼师·2024-01-31 06:19

Zookeeper实现分布式队列

目录Zookeeper分布式队列普通方式实现设计思路具体实现使用Curator实现具体实现注意事项Zookeeper分布式队列常见的消息队列有:RabbitMQ，RocketMQ，Kafka等。

山鸟与鱼！·2024-01-31 05:33

spring boot 使用 Kafka

一、Kafka作为消息队列的好处高吞吐量：Kafka能够处理大规模的数据流，并支持高吞吐量的消息传输。持久性：Kafka将消息持久化到磁盘上，保证了消息不会因为系统故障而丢失。

奋力向前123·2024-01-31 03:20

Python JoinableQueue控制进程之间同步

以下demo可以很好的理解JoinableQueue的用法"""JoinableQueue消息类必须在消息队列内的任务被消费（get）时，使用task_down()方法发送被消费信号"""frommultiprocessingimportProcess

FY_2018·2024-01-31 02:36

【Linux】匿名管道 | 命名管道

进程间的通信分类管道匿名管道pipe命名管道SystemVIPCSystemV消息队列SystemV共享内存SystemV信号量POSIXIPC消息队列共享内存信号量互斥量条

深度搜索·2024-01-30 23:58

Redis持久化机制

一、Redis持久化简介Redis（RemoteDictionaryServer）是一个高性能的键值对（key-value）存储系统，通常用作数据库、缓存和消息队列等。

无问287·2024-01-30 23:23

【Kafka系列】生产级集群参数配置

Hyatt1024·2024-01-30 23:44

【Kafka系列】Kafka副本机制详解

目录1.前言2.副本定义3.副本角色4.In-syncReplicas（ISR）5.Unclean领导者选举（UncleanLeaderElection）6.小结1.前言所谓的副本机制（Replication），也可以称之为备份机制，通常是指分布式系统在多台网络互联的机器上保存有相同的数据拷贝。副本机制有什么好处呢？提供数据冗余。即使系统部分组件失效，系统依然能够继续运转，因而增加了整体可用性以及

Hyatt1024·2024-01-30 23:44

【Kafka系列】Kafka线上集群部署方案

目录前言操作系统磁盘磁盘容量带宽小结前言Kafka线上集群部署方案怎么做？既然是集群部署，那必然就要有多个Kafka节点机器，且需要仔细地考量各种因素，结合自身的业务需求而制定。

Hyatt1024·2024-01-30 23:13

RabbitMQ的安装及使用

1AMQP协议AMQP,即AdvancedMessageQueuingProtocol，一个为进程之间提供统一异步消息传递服务的应用层标准高级消息队列协议，是应用层协议的一个开放标准，为面向消息的中间件设计

嫣夜来·2024-01-30 22:52

RabbitMQ 安装和使用

一.简介1.MQ概述MQ全称MessageQueue（[kjuː]）（消息队列），是在消息的传输过程中保存消息的容器。多用于分布式系统之间进行通信。

前行@·2024-01-30 22:21

RabbitMQ安装及使用讲解

RabbitMQ是一个开源的消息队列系统，它能够让你轻松地构建分布式、可扩展和可靠的应用程序。

不爱敲代码吖·2024-01-30 22:20

RabbitMQ、Kafka、RocketMQ 是如何实现高可用的？

本文从高可用的角度观察一下RabbitMQ、Kafka、RocketMQ，看看它们各自的实现思路。

SlowGO·2024-01-30 22:03

Kafka常见问题

1.Kafka介绍Kafka是一个分布式的基于发布/订阅模式的消息队列（MessageQueue），主要应用于大数据实时处理领域。

头未秃·2024-01-30 21:48

kafka常见参数配置

Broker端参数auto.create.topics.enable：是否允许自动创建Topic。建议最好设置成false，即不允许自动创建Topic。线上环境里面有很多名字稀奇古怪的Topic，大概都是因为该参数被设置成了true的缘故。unclean.leader.election.enable：是否允许UncleanLeader选举。关闭UncleanLeader选举的。何谓Unclean？

YYangBBB·2024-01-30 21:48

Kafka 常见问题

Kafka常见问题1.什么是分布式？2.什么是Kafka？3.为什么用Kafka（使用消息队列的好处）？4.消息队列的两种模式？5.Kafka的组成（架构）？

斯沃福德·2024-01-30 21:47

Kafka常见配置

producer.properties配置acks消息确认机制，ack可配置为三种:0,1,-1(all)，默认为1acks=0，producer端发送消息后，不管broker的副本是否成功收到消息，producer端都认为发送成功。优点：时延最小，缺点：有消息丢失风险，如果消息生产成功后在发送过程中leader异常，则消息丢失。可靠性低，leader收到消息后，如果同步到其他follower过程

Jessie_hhhhhzy·2024-01-30 21:17

Kafka常见参数

参数名含义默认值解释max.request.size生产端：最大请求字节大小1MB如果生产请求消息体大小大于该值，客户端生产时会报错max.poll.records消费端：一次poll()请求最大拉取消息条数500条如果单条消息处理时间长，需要减少该参数值，反之增加fetch.min.bytes消费端：一次poll()请求最小返回字节大小1增加该值可以提高吞吐量，同时也会产生一定延迟fetch.m

沉默终止·2024-01-30 21:46

kafka学习笔记一

目录第一章初识Kafka一、kafka的作用二、kafka架构三、分区&日志四、生产者&消费者五、kafka高性能之道总结：kafka读写性能高的原因？

薛薛哦·2024-01-30 21:56

kafka学习笔记二

课程地址：【尚硅谷】Kafka3.x教程（从入门到调优，深入全面）_哔哩哔哩_bilibili讲解版本：kafka3.x；时长13小时官网：ApacheKafkaKafka2.8.0以后也可以配置不采用

薛薛哦·2024-01-30 21:25

kafka集群搭建需要做的事情

首先，虚拟机克隆好之后的步骤如下：1.修改IP、主机名，关闭防火墙；（reboot重启）2.在/etc/hosts文件中进行IP与主机名的映射配置，集群中每天都记得配置；3.安装JDK并进行分发；进入/etc/profile.d/目录创建my_env.sh文件并在其中配置JAVA_HOME并进行分发；（分发jdk前先卸载自带的jdk）；4.安装zookeeper并进行分发，具体为：首先，在zook

薛薛哦·2024-01-30 21:24

一碰就头疼的 Kafka 消息重复问题，立马解决！

一碰就头疼的Kafka消息重复问题，立马解决！

一名技术极客·2024-01-30 20:13

RabbitMQ学习（一）AMQP协议

一、RabbitMQ简介MQ全称为MessageQueue,是一种分布式应用程序的的通信方法，它是消费-生产者模型的一个典型的代表，producer往消息队列中不断写入消息，而另一端consumer则可以读取或者订阅队列中的消息

kobe0429·2024-01-30 19:43

Linux：理解信号量以及内核中的三种通信方式

文章目录共享内存的通信速度消息队列msggetmsgsndmsgrcvmsgctl信号量semgetsemctl内核看待ipc资源单独设计的模块ipc资源的维护理解信号量总结本篇主要是基于共享内存，延伸出对于消息队列和信号量

海绵宝宝de派小星·2024-01-30 19:26

saltstack——大型环境自动化运维工具

saltstack依赖于zeromq消息队列，采用yaml格式编写配置文件，比较简单。支持api及自定义python模块，能

KFC质检员·2024-01-30 18:22

Redis & Nosql 概述

前言这个系列要讲的是几乎所有互联网公司都在使用的Redis，Redis适用于挺多的业务场景，比如会话存储、数据分析、消息队列、缓存等。

邹志全·2024-01-30 18:24

RabbitMQ安全防护，加固策略

RabbitMq简介中间件简介消息队列中间件是分布式系统中重要的组件，主要解决应用耦合，异步消息，流量削锋等问题实现高性能，高可用，可伸缩和最终一致性[架构]使用较多的消息队列有ActiveMQ（安全）

中年程序员一枚·2024-01-30 17:27

Kafka 记录

Beth_Chan·2024-01-30 16:00

第 7 章：进程间通信

首先，您将学习消息队列（MQs），这是对[第3章]中关于管道的讨论的延续。此外，我们将详细分析信号量和互斥锁同步技术的工作原理。

段舸·2024-01-30 16:15

ELK集群搭建(基础教程)

ELK集群搭建(基础教程)目录：机器准备集群内各台机器安装Elasticsearch安装部署Kafka（注：每个节点都配置，注意ip不同）安装logstash工具安装filebeatELK收集Nginx

lqcbj_IT老混混·2024-01-30 16:41

如何接手一个大数据项目

：了解一个大数据系统，我认为需要从以下几个方面入手：宏观方面：1.了解系统的整体架构和技术栈：需要了解系统中使用的技术栈，包括各种大数据组件和工具，例如Hadoop、Spark、Hive、Flink、Kafka

Mmj666·2024-01-30 15:19

Linux进程间通信

进程间通信进程间通信目的进程间通信的本质进程间通信的分类管道插入链接与图片匿名管道命名管道systemV进程间通信systemV共享内存使用程序释放共享内存资源共享内存的关联共享内存的去关联SystemV消息队列

flyyyya·2024-01-30 15:16

消息中间件RabbitMQ介绍

一、基础知识1.什么是RabbitMQRabbitMQ是2007年发布，是一个在AMQP(高级消息队列协议)基础上完成的，简称MQ全称为MessageQueue,消息队列（MQ）是一种应用程序对应用程序的通信方法

xmh-sxh-1314·2024-01-30 12:56

RabbitMQ消息队列

1.同步调用和异步调用1.1同步调用同步调用的优势：时效性强，等到结果后才返回–需要查询结果的通常用同步调用同步调用的问题：拓展性差–增加功能要改代码性能下降–调用链路长，每次都是阻塞等待上一个服务级联失败问题–一个服务挂掉，整个链路上的服务都出问题1.2异步调用流量削峰填谷–大量请求过来处理时快时慢，但是加了消息代理之后，消息存在消息代理中，根据消费者的消费速度消费消息异步的使用场景对性能要求高

小悟空GK·2024-01-30 12:45

如何监控 Kafka 消费者组消费进度？

如何监控Kafka消费者组消费进度？对于Kafka消费者来说，最重要的事情就是监控它们的消费进度了，或者说是监控它们消费的滞后程度。这个滞后程度有个专门的名称：消费者Lag或ConsumerLag。

章全蛋·2024-01-30 07:32

【Kafka】分区和副本 Partition 详解

ISR和OSRLEO和HW分区Leader选举分区重新分配自动再均衡修改分区副本分区分配策略RangeAssignorRoundRobinAssignorStickyAssignor自定义分配策略概述Kafka

Ethan-running·2024-01-30 07:32

【Spring连载】使用Spring访问 Apache Kafka（二十）----测试应用

【Spring连载】使用Spring访问ApacheKafka（二十）----测试应用TestingApplications一、KafkaTestUtils二、JUnit三、配置主题ConfiguringTopics

85程序员老王·2024-01-30 07:30

消息队列和Kafka

消息队列（类似于蜂巢柜的功能）：异步操作特点：低耦合，响应时间快，异步削峰限流（在不繁忙的时间段处理再处理任务），系统结构弹性大，易于扩展kafkaKafka的主要组件包括：-Broker：Kafka集群中的单个服务器节点

一路向北看星晴·2024-01-30 07:30

【Spring连载】使用Spring访问 Apache Kafka（十九）----Apache Kafka Streams支持

【Spring连载】使用Spring访问ApacheKafka（十九）----ApacheKafkaStreams支持一、基础Basics二、Spring管理三、KafkaStreamsMicrometer

85程序员老王·2024-01-30 07:00

Kafka - 消费进度监控（Consumer Lag）

所谓滞后程度，就是指消费者当前落后于生产者的程度。Lag应该算是最最重要的监控指标了。它直接反映了一个消费者的运行情况。一个正常工作的消费者，它的Lag值应该很小，甚至是接近于0的，这表示该消费者能够及时地消费生产者生产出来的消息，滞后程度很小。反之，如果一个消费者Lag值很大，通常就表明它无法跟上生产者的速度，最终Lag会越来越大，从而拖慢下游消息的处理速度。通常来说，Lag的单位是消息数，而且

放羊的牧码·2024-01-30 07:56

【Spring连载】使用Spring访问 Apache Kafka（二十一）----提示，技巧和例子

【Spring连载】使用Spring访问ApacheKafka（二十一）----提示，技巧和例子Tips,TricksandExamples一、手动分配所有分区ManuallyAssigningAllPartitions

85程序员老王·2024-01-30 07:26

RabbitMQ面试

1.什么是RabbitMQRabbitMQ是使用Erlang语言开发的，基于AMQP高级消息队列的开源消息中间件Erlang语言主要用于开发并发和分布式系统，在电信领域得到广泛应用2.什么是消息中间件消息中间件是在分布式系统中传递消息的软件服务

SuperLBY·2024-01-30 07:51

Redis中发布订阅模式用法

这个第三方我们通常称之为消息中间件，消息中间件主要是用来做系统之间的异步通信，常见的消息中间件有：ActiveMQ，RocketMQ，RabbitMQ，Kafka等。

IT之一小佬·2024-01-30 06:07

rocketMQ存储 NO.1

在设计消息队列中间件，最主要功能是解耦业务，填峰削谷，将业务拆分多个步骤，用消息的形式，将整个业务线串联起来，保证了各个功能模块服务能够处理高并发的能力。

挺ASir·2024-01-30 06:15

消息循环机制及其原理

一、什么是消息循环消息循环概述：Android的消息循环是针对线程的，每个线程都可以有自己的消息队列和消息循环，通过消息循环可实现线程间通信。

JeremyHjw·2024-01-30 05:15

进程，线程，协程区别和联系

【进程间通信（IPC）】：管道(Pipe)、命名管道(FIFO)、消息队列(MessageQueue)、信号量(Semaphore)、共享内存（Sh

布兰特·2024-01-30 03:56

Java高级面试题目

a.java集合数据结构b.jvm：gc、内存模型、堆分代c.多线程：volatile、java.util.concurrent包d.spring：启动、时间e.redis：分布式锁、lua保证原⼦性、集群f.消息队列

Lemonrel·2024-01-30 01:08

深入分析Kafka生产者和消费者

深入Kafka生产者和消费者Kafka生产者消息发送的流程发送方式发送并忘记同步发送异步发送生产者属性配置序列化器分区器自定义分区器Kafka消费者消费者属性配置消费者基础概念消费者群组订阅主题轮询拉取提交和偏移量提交偏移量带来的问题自动提交手动提交异步提交同步和异步提交特定提交消费者核心概念群组协调分区再均衡再均衡监听器从特定偏移量处开始记录优雅退出反序列化器独立消费者

wzljiayou·2024-01-29 23:23

kafka 主动消费_Kafka 服务中消费者创建详解

与生产者对应的是消费者，应用程序可以通过KafkaConsumer来订阅主题，并从订阅的主题拉取消息。

weixin_39540934·2024-01-29 23:53

推荐频道

消息队列--kafka