Kafka消息队列学习总结

Kafka 如何保证消息不丢失

1、生产者1.1丢失原因：kafka生产端异步发送消息后，不管broker是否响应，立即返回，伪代码producer.send(msg)，由于网络抖动，导致消息压根就没有发送到broker端；kafka
阳光倾洒·2024-09-06 15:55

Kafka 如何保证数据不丢失？不重复

1.高可用型配置：acks=all，retries>0retry.backoff.ms=100(毫秒)(并根据实际情况设置retry可能恢复的间隔时间)优点：这样保证了producer端每发送一条消息都要成功，如果不成功并将消息缓存起来，等异常恢复后再次发送。缺点：这样保证了高可用，但是这会导致集群的吞吐量不是很高，因为数据发送到broker之后，leader要将数据同步到fllower上，如果网
优秀后端工程师·2024-09-06 15:23

【Kafka专栏 11】深入理解Kafka的网络线程模型：是谁在幕后“操纵”数据流？

作者名称：夏之以寒作者简介：专注于Java和大数据领域，致力于探索技术的边界，分享前沿的实践和洞见文章专栏：夏之以寒-kafka专栏专栏介绍：本专栏旨在以浅显易懂的方式介绍Kafka的基本概念、核心组件和使用场景
夏之以寒·2024-09-06 14:16

java 老生常谈RabbitMQ

深入浅出RabbitMQ：实战使用、理论知识与应用场景在现代的微服务架构中，消息队列扮演着不可或缺的角色，而RabbitMQ作为一个成熟的消息队列解决方案，被广泛应用于各种场景。
精神阿祝·2024-09-06 10:19

RabbitMQ 入门教程

引言RabbitMQ是一个开源的消息代理和队列服务器，实现高级消息队列协议(AMQP)0-9-1。它能帮助开发者构建可靠、可扩展的应用程序，通过消息传递来解耦组件。
寂然如故·2024-09-06 09:43

RabbitMQ 入门教程

介绍RabbitMQ是一个开源的消息代理和队列服务器，实现高级消息队列协议(AMQP)。本教程将引导你完成RabbitMQ的基本设置，并演示如何使用Python来发送和接收消息。
寂然如故·2024-09-06 09:13

如何查看当前的gruop_id 的kafka 消费情况 这个可以查看到是否存在消费阻塞问题

如何查看当前的gruop_id的kafka消费情况这个可以查看到是否存在消费阻塞问题命令如下:/kafka/bin/kafka-consumer-groups.sh--bootstrap-server127.0.0.1
树下水月·2024-09-06 08:02

kafka单机安装

kafka单机安装下载地址官网：https://kafka.apache.org/最新版本下载页面：https://kafka.apache.org/downloads说明版本选择：3.0.0，kafka
shuair·2024-09-06 08:02

Kafka-设计原理

ControllerLeader-PartitionRebalance消息发布机制HW与LEO日志分段ControllerKafka核心总控制器Controller：在Kafka集群中会有一个或者多个broker
姜希成·2024-09-06 07:59

Spark与Kafka进行连接

在Java中使用Spark与Kafka进行连接，你可以使用SparkStreaming来处理实时流数据。以下是一个简单的示例，展示了如何使用SparkStreaming从Kafka读取数据并进行处理。
傲雪凌霜，松柏长青·2024-09-06 07:27

Kafka

Kafka是一个高性能的分布式消息队列系统，最初由LinkedIn开发，后来成为Apache软件基金会的一部分。Kafka设计用于处理大规模的数据流，提供高吞吐量、低延迟的消息传递机制。
傲雪凌霜，松柏长青·2024-09-06 07:57

Python 全栈系列266 Kafka服务的Docker搭建

测试也接近了kafka官方标称的性能。考虑到网络、消息的大小等因素，可以简单认为kafka的速度是10万/秒级的。
yukai08008·2024-09-06 06:26

Arduino ESP32 FreeRTOS

文章目录基本多线程Arduino示例配置创建任务消息队列信号量定时器互拆量（Mutex）事件组（EventGroup）基本多线程Arduino示例配置#ifCONFIG_FREERTOS_UNICORE
逢生博客·2024-09-06 06:52

Canal同时监控两个mysql的binlog并同步至一个topic中

准备:安装canal(博主canal版本1.1.5)安装kafka,做接收binlog日志数据用(博主kafka版本2.11)安装两个msyql,相当于两个mysql数据库(博主mysql版本5.1.0
梦见伊兮伊不觉·2024-09-06 00:45

canal-adapter消费Kafka中MySQL的binlog数据，却没有同步更新Elastic search

背景在同步MySQL数据到ES的场景中，选择了canal组件同步数据。问题描述在同步的时候发现canal-adapter中canal-adapter/conf/es7/product.yml配置文件中sql语句连表查询的时候会出现无法更新Elasticsearch中数据的情况，而且日志没有提示异常（idea启动的时候有错误日志），令人百思不得其解。问题分析初步估计是内部解析yml的时候出错了，但具
iiopsd·2024-09-06 00:42

Kafka的事务实现

Kafka的事务Kafka的事务解决的问题和RocketMQ是不太一样的。RocketMQ中的事务，它解决的问题是，确保执行本地事务和发消息这两个操作，要么都成功，要么都失败。
Mirana_77·2024-09-05 15:43

springboot整合kafka

文章目录步骤一：添加依赖项步骤二：配置Kafka步骤三：创建一个生产者步骤四：创建一个消费者本教程将介绍如何在SpringBoot应用程序中使用Kafka。
##明天·2024-09-05 15:42

SpringBoot整合Kafka

安装windows版安装包下载地址：https://kafka.apache.org/downloads下载完毕后得到tgz压缩文件，使用解压缩软件解压缩即可使用，解压后得到如下文件建议使用windows
ITBOY_ITBOX·2024-09-05 15:42

1+X云计算运维与开发(中级)实战案例——Kafka集群部署

前言Kafka是一种开源的流处理平台和消息系统，被设计用于构建实时数据管道和流式应用程序，可以处理大规模的实时数据流，并提供高吞吐量、持久性存储和分布式处理能力。
kuuuugua·2024-09-05 15:41

kafka消费者重复消费同一个topic

场景是sparkstreaming消费kafka数据在这里sparkstream和kafka都是单节点的集群模式。同时起两个不同的groupid的应用，发现会发生后起来的应用消费不到数据。
小琳ai·2024-09-05 10:06

2、mysql-canal-zk-kafka-es数据同步

方案总体介绍：通过zookeeper管理canal和kafka集群,zk本身也做集群配置；通过canal作为mysql的从库实时读取binlog，然后将数据以json格式发送到kafka平台，会有一个专门消费
kobe0429·2024-09-05 08:01

物联网平台通信协议之 MQTT 协议

物联网平台通信协议之MQTT协议文章目录物联网平台通信协议之MQTT协议MQTT概述MQTT数据格式MQTT概述MQTT（MessageQueuingTelemetryTransport)，消息队列遥测传输协议
seadog1·2024-09-05 06:44

SpringBoot 集成 kafka，并消费历史事件

SpringBoot集成kafka，并消费历史事件消费历史事件上一篇文章我们讲的是SpringBoot集成kafka消费最新的事件，如果没有看过的小伙伴可以看这篇文章：SpringBoot集成kafka
晚枫2000·2024-09-05 05:39

6月14日关于条文11.73至11.76讲解及天门冬的药性一学习总结（韦爱琪）

当归四逆汤的主证抓法：1.有没有血虚，有当归四逆汤证的话，血循环一定很差，尤其末梢，会有嘴唇惨白，脸色不红润。2.体质是冷的，也有例外是发炎的情况，什么红斑狼疮，硬皮病。3.抓痛。4.推扩用法：坐骨神经痛，腰痛不能弯腰，肝病到水肿，以及各类循环到末梢的问题，什么皮肤病，起疹子，水肿。过敏，淋巴坨拉。厥阴篇条文11.73至11.76讲解1.脉忽然沉掉，手脚发冷，下利清谷，发高烧脉沉用四逆汤。2.高烧
韦爱琪·2024-09-05 04:53

Kafka

/kafka-console-consumer.sh--zookeeperlocalhost:2181--from-beginning--topict1/opt/kafka_2.13-3.1.0/bin
墨咖·2024-09-05 04:58

logstash

kafkainput{kafka{bootstrap_servers=>"127.0.0.1:9092"topics=>["SCHOOL_AQDL"]group_id=>"logstash-group"consumer_threads
墨咖·2024-09-05 03:54

【Docker系列】docker缓存详解

推荐:kwan的首页,持续学习,不断总结,共同进步,活到老学到老导航檀越剑指大厂系列:全面总结java核心技术,jvm,并发编程redis,kafka,Spring,微服务等常用开发工具系列:常用的开发工具
Kwan的解忧杂货铺@新空间代码工作室·2024-09-05 02:45

面试（九）

目录一.僵尸进程/孤儿进程/守护进程二线程的同步和异步三.线程间通信3.1共享内存3.2互斥锁3.3条件变量3.4信号量3.5读写锁3.6事件3.7线程局部存储四.进程间通信3.1管道3.2消息队列3.3
低调包含不哈哈·2024-09-05 01:13

EMR组件部署指南

本文将详细介绍如何部署EMR的主要组件,包括:JDK1.8ElasticsearchKafkaFlinkZookeeperHBaseHadoopPhoenixScalaSparkHive准备工作所有操作都在
ivwdcwso·2024-09-05 00:05

消息队列基础知识

消息队列是一个存放消息的容器，需要使用消息时，直接从容器中取出消息使用即可。消费顺序先进先出。参与消息传递的双方称为生产者和消费者，生产者负责发送消息，消费者负责处理消息。
黄卷青灯77·2024-09-04 21:17

Sublime text3+python3配置及插件安装

blog.chargingbunk.cn/微信公众号：rayson_666(Rayson开发分享)个人专研技术方向：微服务方向：springboot,springCloud,Dubbo分布式/高并发：分布式锁，消息队列
raysonfang·2024-09-04 19:23

Maxwell 学习总结

修改my.cnf文件，配置binlog修改/etc/my.cnf文件，在[mysqld]模块下添加如下内容：[mysqld]server_id=1#binlog文件前缀log-bin=mysql-bin#binlog模式binlog_format=row#需要生成binlog的库，有几个库需要生成binlog则添加几行，如果不做该配置，则所有库都会生成binlogbinlog-do-db=sys_
暮色里de白雪檐·2024-09-04 17:23

kafka集群搭建

Kafka集群搭建一、概念说明它是一个分布式消息系统，由linkedin使用scala编写，用作LinkedIn的活动流（ActivityStream）和运营数据处理管道（Pipeline）的基础。
java皮皮虫·2024-09-04 16:48

springboot集成Kafka

kafka:#kafka的连接地址（注意，是kafka所在服务器的公网ip，不要写成zookeeper的了）bootstrap-servers:localh
Maruko310·2024-09-04 16:48

Kafka学习

1、kafka集群配置①需要提前配置zookeeper环境②配置环境变量，与Java类似③配置server.properties文件#服务器序号broker.id=numlisteners=PLAINTEXT
nlhkfcdxb·2024-09-04 16:48

Kafka~Kafka命令行参数使用教程

一、kafka-topics.sh1.参数参数描述–bootstrap-server连接的KafkaBroker主机名称和端口号–topic操作的topic名称–create创建主题–delete删除主题
飞Link·2024-09-04 15:14

kafka单条消息太大引起的线上故障

问题现象1.收到日志异常报警，一个Flink任务写入kafka消息出现了异常，异常消息如下org.apache.flink.streaming.connectors.kafka.FlinkKafkaException
ab342173024·2024-09-04 15:44

多图详解kafka生产者消息发送过程

:fire:《Kafka运维管控平台LogiKM》:fire::pencil2:更强大的管控能力:pencil2::tennis:更高效的问题定位能力:tennis::sunrise:更便捷的集群运维能力
JAVAQXQ·2024-09-04 15:13

数学建模之插值算法

注：本文面向应用，参考了清风大大的资料以及司守奎老师的《数学建模算法与应用》，属作者的个人学习总结。一.算法应用背景当已知函数点非常少的时候，我们经常要模拟产生一些新的函数值来支撑后续数据分析。
阿米诺s·2024-09-04 15:41

kafka ---- producer与broker配置详解以及ack机制详解

一、producer配置1、bootstrap.serverskafkabroker集群的ip列表，格式为：host1:port1,host2:port2,…2、client.id用于追踪消息的源头3、
husterlichf·2024-09-04 15:41

kafka单条消息过大发送失败

一、背景生产环境中使用kafka作为消息队列，生产者发送消息失败，查询报错日志，得到如下输出：Causedby:org.springframework.kafka.KafkaException:Sendfailed
hungteshun·2024-09-04 15:11

1. ActiveMQ的生产者,消费者事务

*;/***发送Activemq消息队列*/publicclassProducer{privatestaticfinalStringURL="tcp://127.0.0.1:61616";
水无痕simon·2024-09-04 07:51

SpringBoot中如何使用RabbitMq

一，RabbitMQ简介和基本概念RabbitMQ是一个开源的消息中间件，基于AMQP（高级消息队列协议）实现。
shenzhenNBA·2024-09-04 07:20

RabbitMQ和Kafka的区别

架构差异RabbitMQ:基于传统的消息队列架构（AMQP协议）。采用了“消息代理”模式，通常使用交换机（Exchange）、队列（Queue）和绑定（Binding）进行消息路由。
知知之之·2024-09-04 00:35

二、Prometheus常用exporter安装详解

elasticsearch_exporter1.安装配置2.节点添加3.状态查询三、redis_exporter1.安装配置2.节点添加3.状态查询四、rabbitmq_exporter1.安装配置2.节点添加3.状态查询五、kafka_exporter1
Spring雷·2024-09-03 19:34

RabbitMQ 消息队列详解

RabbitMQ消息队列详解1.前言2.RabbitMQ简介2.1什么是RabbitMQ2.2RabbitMQ的特点3.RabbitMQ核心概念3.1生产者（Producer）3.2消费者（Consumer
拾亿.·2024-09-03 18:25

RabbitMQ 入门教程

介绍RabbitMQ是一个开源的消息代理和队列服务器，实现高级消息队列协议(AMQP)。它可以在生产者和消费者之间传递消息，并且可以保证消息的传递。
寂然如故·2024-09-03 17:54

RabbitMQ 入门教程

概述RabbitMQ是一个开源的消息代理和队列服务器，实现了高级消息队列协议(AMQP)。它能够接收、存储和转发消息数据。本教程将引导你完成搭建RabbitMQ环境、编写生产者与消费者程序的过程。
寂然如故·2024-09-03 17:24

rabbitmq 怎么实现延迟消息队列？

Rabbitmq本身是没有延迟队列的，要实现延迟消息，一般有两种方式：1.通过Rabbitmq本身队列的特性来实现，需要使用Rabbitmq的死信交换机（Exchange）和消息的存活时间TTL（TimeToLive）。2.在rabbitmq3.5.7及以上的版本提供了一个插件（rabbitmq-delayed-message-exchange）来实现延迟队列功能。同时插件依赖Erlang/OPT
搬砖的小子·2024-09-03 17:53

redis支持的数据结构

redis支持多种数据结构，这些数据结构可以满足各种用途，包括缓存，计数，排序，消息队列等等Redis支持以下数据结构：字符串（String）：字符串是最简单的数据结构，可以存储文本或二进制数据，常用的操作
木子0204·2024-09-03 14:27
上一页 1 2 3 4 5 6 7 8 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他