消息队列--kafka 第24页

15、Kafka ------ SpringBoot 整合 Kafka （自动配置类 KafkaAutoConfiguration 源代码剖析）

目录SpringBoot整合Kafka的自动配置及源代码剖析SpringBoot为Kafka提供的自动配置KafkaAutoConfigurationKafka自动配置类源码解析1、自动配置类：KafkaAutoConfiguration

_L_J_H_·2024-01-26 06:44

Kafka3学习笔记

文章目录一、Kafka概述和入门1、Kafka概述1.1定义1.2消息队列1.3Kafka基础架构2、Kafka快速入门2.1安装部署2.2集群启停脚本3、Kafka命令行操作3.1Topic命令行操作

魅Lemon·2024-01-26 06:03

如何保证消息队列不丢失消息（以kafka为例）

目录一、引言二.持久化存储2.1持久化存储原理：2.2使用示例：1.安装Kafka：2.生产者代码：3.消费者代码：三.消息确认机制3.1消息确认机制原理：3.2使用示例：1.生产者代码：2.消费者代码

喔的喔的嘛呀·2024-01-26 06:56

在linux、window环境搭建kafka环境

一、搭建环境前置准备下载kafka的官网http://kafka.apache.org/downloads根据自己的需求选择版本，安装包不区分linux和windows环境，这一个安装包均可部署。

Everybody_up·2024-01-26 06:25

kafka生产者与消费者

文章目录一、pom.xml依赖包二、yml配置文件三、消费者四、生产者总结提示：这里可以添加本文要记录的大概内容：一、pom.xml依赖包org.springframework.kafkaspring-kafka2.8.0

Ryan成长笔记·2024-01-26 06:55

一文了解字节跳动消息队列演进之路

随着“万物”互联网化的发展，许多公司内部服务间面对的数据流量也越来越大，在应对大量的数据通信需求时，多数公司都会选择将消息队列作为削峰填谷的关键工具。

字节跳动云原生计算·2024-01-26 06:22

RabbitMQ之死信交换机

前言消息队列是分布式系统中常用的组件，用于异步通信、解耦和提高系统可靠性。然而，在实际应用中，难免会遇到一些异常情况，例如消息处理失败、超时等。

ChatYU.·2024-01-26 06:17

日志分析系统部署

由于公司的日志需要分析用户的行为，故做了一套从原始数据的分析，到入库，再到显示的基本动作涉及组件有：FileBeat+Kafka+Python+InfluxDB+Grafana+Elasticsearch

韩搏·2024-01-26 06:08

storm trident 一个batch多大

Youcanincreasethebatchsizebychanging"tridentKafkaConfig.fetchSizeBytes"property.Also,batchsizeisrelatedwithnumberofbrokersandnumberofpartitions.Forexample

正居明阳·2024-01-26 04:24

kafka文件存储机制

一，kafka简介Kafka最初由Linkedin公司开发的分布式、分区的、多副本的、多订阅者的消息系统。它提供了类似于JMS的特性，但是在设计实现上完全不同，此外它并不是JMS规范的实现。

allin8116·2024-01-26 04:42

Zookeeper集群+Kafka集群

ZookeeperZookeeper是一个开源的分布式的，为分布式框架提供协调服务的Apache项目。分布式系统管理框架，主要用来解决分布式应用集群中应用系统的数据一致性问题相当于各种分布式应用的注册中心+文件系统+通知机制。本质：用于注册各种分布式应用，存储和管理这些分布式应用的元数据，如果应用或服务本身状态发送变化就会通知客户端。Zookeeper工作机制Zookeeper从设计模式角度来理解

lelelele798·2024-01-26 03:41

橘子皮的实习周记——第一周总结

一周小总结：目前入职上班时间一周，主要内容是对一个项目进行一些基础的添加操作(用领导A的话来说，就是熟悉一下业务)，我最头疼的就是使用kafkahbasehadoop这些技术，对MySQL内的数据进行一个同步

程序员橘子皮·2024-01-26 03:35

RocketMQ源码阅读-十-事务消息

Broker处理结束事务请求Broker生成ConsumeQueue事务消息回查Broker发起回查Producer接收回查总结交互流程事务消息交互流程图如下：事务消息发送步骤如下：生产者将半事务消息发送至云消息队列

迷思特王·2024-01-26 03:17

[Redis]不同系统间安装redis服务器

日常服务器端开发，消息队列等需求，免不了用到redis，搭建一个redis服务器，方便开发和测试，我们从以下三类系统来说明下：安装Redis服务器的过程因操作系统而异。

ifanatic·2024-01-26 02:34

说一下的 dubbo 的工作原理？注册中心挂了可以继续通信吗？说说一次 rpc 请求的流程？

面试官心理分析MQ、ES、Redis、Dubbo，上来先问你一些思考的问题，原理（kafka高可用架构原理、es分布式架构原理、redis线程模型原理、Dubbo工作原理），生产环境里可能会碰到的一些问题

kevin0016·2024-01-26 02:04

Flink报错NoSuchMetchod的错误

问题原因一般有两种：确实没有这个jar包导致Flink版本和connector版本不一致导致我的问题是Flink版本和Connector版本不一致导致的，其实Flink服务端用的版本是1.9.0，而kafkaConnector

斗鱼_191f·2024-01-26 02:32

某马头条——day11+day12

实时计算和定时计算流式计算kafkaStream入门案例导入依赖org.apache.kafkakafka-streamsconnect-jsonorg.apache.kafkaorg.apache.kafkakafka-clients

北岭山脚鼠鼠·2024-01-26 01:01

Github 2024-01-19 Java开源项目日报 Top10

目录JDK：Java开发的开源项目Conductor:NetflixAnnouncementandCommunitySupportQuarkus:超音速亚原子级JavaApacheKafka管理的Web

bfu_努力进大厂送外卖的Z·2024-01-26 00:21

消息队列mq 总结整理

防止消息丢失（rabbitmq）生产者弄丢消息（消息发送到mq时半路丢了）方案：开启事务：不建议；同步方式；生产者发送数据之前开启rabbitmq事务（channel.txSelect），然后发送消息；吞吐量会下来，太耗性能。开启confirm模式：建议；异步方式；在生产者那里设置开启confirm模式之后，你每次写的消息都会分配一个唯一的id。写入成功rabbitmq会给你回传一个ack消息，告

立青.·2024-01-25 23:16

RabbitMQ（Golang版本）

一、RabbitMQ简介消息队列是一种应用程序对应用程序的通信方法。应用程序通过读写出入队列的消息（针对应用程序的数据）来通信，而无需专用连接来链接它们。

会跳舞的哈密瓜·2024-01-25 23:14

golang整合rabbitmq,创建交换机并绑定队列

1,如果要开发消息队列,需要创建交换机和队列,通常有2中方式创建,1种是在面板直接创建2,第二种就是在代码中创建,这里展示的是go语言代码中创建rabbitmqpackagemainimport("fmt

编程小黑马·2024-01-25 23:42

大数据开发之Spark（spark streaming）

sparkstreaming支持的数据源很多，例如：kafka、flume、hdfs等。数据输入后可以用spark的高度抽象原语如：map、reduce、join、window等进行计算。

Key-Key·2024-01-25 21:07

从问题中探索Celery的原理

解决过程：后来一想celery后端用的是消息队列，如redis或rabbitmq。我们的

小杰666·2024-01-25 21:44

《深入浅出》Apache Kafka实战

2011年年初，美国领英公司(LinkedIn)开源了一款基础架构软件，以奥地利作家弗兰兹.卡夫卡(FranzKafka)的名字命名，之后LinkedIn将其贡献给Apache基金会，随后该软件于2012

Java架构互联网大数据·2024-01-25 20:00

RocketMQ面试题及答案

kafka：scala开发，面向日志，功能丰富，性能最高，当你的业务

会_飞_的猪·2024-01-25 19:51

RabbitMQ

1什么消息队列MQ的意义是消息队列（MessageQueue）的缩写，是一种用来在应用程序之间传递消息的技术。MQ的主要作用是解耦应用程序之间的通信，提高系统的可伸缩性和可靠性。

Mr_hss·2024-01-25 18:12

Obsidian笔记软件结合cpolar实现安卓移动端远程本地群晖WebDAV数据同步

檀越剑指大厂·2024-01-25 17:51

银行数据仓库体系实践（5）--数据转换

数据转换作业主要是指在数据仓库内的结构化数据批量加工，对于非结构化数据以及在线查询接口、数据流的开发主要是遵循代码开发规范以及各中间件的开发规范，如使用java来开发遵守java开发规范，使用Kafka

南极找南·2024-01-25 17:21

Python爬虫案例（多线程+消息队列初阶）

€On my way•£·2024-01-25 16:42

Kafka为什么高吞吐量

1、顺序读写kafka的消息是不断追加到文件中的，这个特性使kafka可以充分利用磁盘的顺序读写性能，顺序读写不需要硬盘磁头的寻道时间，只需很少的扇区旋转时间，所以速度远快于随机读写。

黄国海Argo·2024-01-25 16:04

记一次Kafka warning排查过程

1、前因在配合测试某个需求的时候，正好看到控制台打印了个报错，如下：2023-03-0617:05:58,565[325651ms][pool-28-thread-1][org.apache.kafka.common.utils.AppInfoParser

AlaGeek·2024-01-25 14:06

flink-17 flink集成kafka

flink集成kafka前言kafka作为flink的sourcekafka作为flink的sinkpom依赖官网前言Flink提供了一个特有的kafkaconnector去读写kafkatopic的数据

爱吃甜食_·2024-01-25 14:55

谈谈 RocketMQ 5.0 分级存储背后一些有挑战的技术优化

事实上，几乎所有涉及到存储的产品都会尝试转冷降本，如何针对消息队列的业务场景去做一些有挑战的技术优化，是非常有意思的事。

阿里云云原生·2024-01-25 13:01

【Kafka技术专题】核心技术原理分析和介绍

Kafka简介Kafka是一种分布式的，基于发布/订阅的消息系统，它可以让你发布和订阅记录流。在这方面，它类似于一个消息队列或企业消息系统。它可以让你持久化收到的记录流，从而具有容错能力。

洛神灬殇·2024-01-25 13:10

【Flink-1.17-教程】-【四】Flink DataStream API（7）输出算子（Sink）

【Flink-1.17-教程】-【四】FlinkDataStreamAPI（7）输出算子（Sink）1）连接到外部系统2）输出到文件3）输出到Kafka4）输出到MySQL（JDBC）5）自定义Sink

bmyyyyyy·2024-01-25 12:08

kafka-顺序消息实现

kafka-顺序消息实现场景在购物付款的时候，订单会有不同的订单状态，对应不同的状态事件，比如：待支付，支付成功，支付失败等等，我们会将这些消息推送给消息队列，后续的服务会根据订单状态进行不同的业务处理

iiaythi·2024-01-25 10:03

kafka身份认证 maxwell_学会使用Kafka（十二）Kafka认证与授权

Kafka的认证机制概述GSSAPI：使用的Kerberos认证，可以集成目录服务，比如AD。

weixin_39844267·2024-01-25 10:03

10分钟学会消息队列Kafka

Kafka初识Kafka创建配置Kafka创建发送消息的生产者创建消费消息的消费者初识KafkaKafka是一个分布式流式处理平台。这到底是什么意思呢？

进击的官工·2024-01-25 10:03

一篇文章教你快速学会Kafka参数调优实战

附Java/C/C++/机器学习/算法与数据结构/前端/安卓/Python/程序员必读书籍书单大全：书单导航页（点击右侧极客侠栈即可打开个人博客）：极客侠栈①【Java】学习之路吐血整理技术书从入门到进阶最全50+本（珍藏版)②【算法数据结构+acm】从入门到进阶吐血整理书单50+本（珍藏版)③【数据库】从入门到进阶必读18本技术书籍网盘吐血整理网盘(珍藏版)④【Web前端】从HTML到JS到AJ

数据结构大师·2024-01-25 10:03

kafka为什么不支持读写分离？

kafka为什么不支持读写分离？在kafka中，生产者写入消息，消费者读取消息的操作都是与leader副本进行交互的，从而实现的是一种主写主读的生产消费模型。kafka不支持读写分离，也就是主写从读。

乐之者v·2024-01-25 10:33

一篇文章学会Kafka

消息队列组件Kafka一、Kafka概述二、Kafka基础架构三、Kafka快速入门1.Topic操作命令2.Producer操作命令3.consumer操作命令四、Kafka生产者1.生产者分区2.ACK

Aimyon_36·2024-01-25 10:00

Kafka常见topic命令

Kafka的基本操作1kafka的topic的操作topic是kafka非常重要的核心概念，是用来存储各种类型的数据的，所以最基本的就需要学会如何在kafka中创建、修改、删除的topic，以及如何向topic

小小大数据·2024-01-25 10:30

轻松学会消息队列之kafka基础篇

理论Kafka是一款开源的、轻量级的、分布式、可分区和具有复制备份的(Replicated)、基于ZooKeeper协调管理的分布式流平台的功能强大的消息系统。

Friends of the wind·2024-01-25 10:29

学会 Kafka 分区其实很简单

一、副本机制Kafka在⼀定数量的服务器上对主题分区进⾏复制。当集群中的⼀个broker宕机后系统可以⾃动故障转移到其他可⽤的副本上，不会造成数据丢失。

Firstlucky77·2024-01-25 10:59

kafka乱序消费可能的原因和解决方案

Kafka乱序消费可能的原因有以下几个：分区顺序：Kafka中的消息按照分区进行存储和分发，每个分区内的消息是有序的，但不同分区之间的消息顺序是无法保证的。

啄sir.·2024-01-25 10:29

学会Kafka

提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮助文档目录前言一、kafka概述1.消息中间件对比2.Kafka介绍3.kafka安装配置4.kafka入门二、Kafka的高可用设计1.集群2

学习中的程序媛~·2024-01-25 10:58

消息队列中间件以及初识ActiveMQ

消息中间件通也被称为消息队列服务器，是当今分布式应用架构中经常采用的技术。在系统软件中，操作系统、数据库、中间件三驾马车，对于专业人士来说，中间件也是最神秘的。

追梦人_奋斗青年·2024-01-25 09:27

java开发中高可用，高性能处理

java开发中高可用1.通过隔离的手段实现高可用：多数据源（mysql,redis），服务拆分等方法2.依赖治理：主流程解耦（使用消息队列），异步解耦（使用线程池），数据更新异步（canal）3.多通道

q琦一·2024-01-25 08:14

消息中间件基本概念

基本概念消息队列三个场景：异步，削峰，解耦异步：将整个流程进行异步发送，也就是说本来顺序执行的程序化流程，异步后可以同时进行操作，互不影响，但保持最终结果一致性；解耦：它允许不同的应用程序或服务通过发送和接收消息进行通信

笑口常开的小丸子·2024-01-25 08:44

2019-01-16Kafka

Kafka的基本介绍Kafka是最初由Linkedin公司开发，是一个分布式、分区的、多副本的、多订阅者，基于zookeeper协调的分布式日志系统（也可以当做MQ系统），常见可以用于web/nginx

cuiyao50·2024-01-25 08:11

推荐频道

消息队列--kafka