E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
Kafka
202534 |
KafKa
简介+应用场景+集群搭建+快速入门
Apache
Kafka
简介一、什么是
Kafka
?Apache
Kafka
是一个高吞吐量、分布式、可扩展的流处理平台,用于构建实时数据管道和流应用程序。
言小乔.
·
2025-05-13 18:20
kafka
分布式
Kafka
和 Pulsar到底有什么不同?
导言
Kafka
和Pulsar经常被拿来比较,因为它们都是数据平台,都以能够处理高吞吐量、低延迟的数据流.它们使企业能够构建可扩展、容错的数据管道和实时处理应用程序。
程序员职业指南
·
2025-05-13 15:56
kafka
分布式
算法
微服务
spring
boot
云原生
程序员
Kafka
的入门及简单使用
文章目录前言一、
Kafka
的基本架构?
Yoel.qin
·
2025-05-13 11:03
消息队列
kafka
分布式
kafka
安装、使用以及常用功能
kafka
安装、使用以及常用功能docker安装
kafka
创建网络:dockernetworkcreatemynet-a--driverbridge获取zk镜像:dockerpullzookeeper获取
玛尼王
·
2025-05-13 11:02
kafka
linq
分布式
透彻理解
Kafka
(四)——ISR机制
作者简介:大家好,我是smart哥,前中兴通讯、美团架构师,现某互联网公司CTO联系qq:184480602,加我进群,大家一起学习,一起进步,一起对抗互联网寒冬学习必须往深处挖,挖的越深,基础越扎实!阶段1、深入多线程阶段2、深入多线程设计模式阶段3、深入juc源码解析阶段4、深入jdk其余源码解析阶段5、深入jvm源码解析码哥源码部分码哥讲源码-原理源码篇【2024年最新大厂关于线程池使用的场
码炫课堂-码哥
·
2025-05-13 05:51
kafka专题
kafka
分布式
SpringCloud Bus RabbitMQ更换
Kafka
为消息总线详解
一、准备工作安装jdk环境http://www.oracle.com/technetwork/java/javase/downloads/index.html下载
kafka
的程序安装包--(不要下载源码包
南归北隐
·
2025-05-13 05:50
程序式界
SpringCloud
Bus
RabbitMQ更换为Ka
kafka消息总线
SpringCloud
Bus
kafka
SpringCloud
Bus
消息总线
大数据框架调研-流处理-Spark与Flink
实时处理(流处理)结论Spark和Flink的数据源最好都是
Kafka
等消息队列,这样才能更好的保证Exactly-Once(精准一次);作为流处理框架,Flink是当前最优秀的实时处理框架,并处于飞速发展的状态中
魔笛Love
·
2025-05-13 05:20
spark
flink
scala
实时数据中台架构:
Kafka
+Flink+ClickHouse实战
实时数据中台架构:
Kafka
+Flink+ClickHouse实战关键词:实时数据中台、
Kafka
、Flink、ClickHouse、实战架构摘要:本文聚焦于实时数据中台架构,深入探讨了
Kafka
、Flink
AI天才研究院
·
2025-05-13 02:02
架构
kafka
flink
ai
RabbitMQ、RocketMQ 和
Kafka
的区别(超级详细)
它在设计时参考了
Kafka
,并做出了一些改进,功能较为完善。
Kafka
:Apache基
故事很腻i
·
2025-05-12 10:15
队列
rabbitmq
rocketmq
kafka
kafka
channle的应用案例
kafka
channle的应用案例作者:尹正杰版权声明:原创作品,谢绝转载!否则将追究法律责任。
weixin_33849215
·
2025-05-12 09:41
大数据
shell
运维
Hadoop -----
Kafka
集群
Kafka
是一个分布式的消息系统,是一种消息中间件
Kafka
作用解耦、冗余、提高性能、缓冲保证顺序、灵活、削峰填谷异步通信
Kafka
角色与集群结构Producer:生产者,负责发布消息consumer:
受益于开源 回馈于开源
·
2025-05-12 09:09
kafka
记录一下学习
kafka
的使用以及思路
下面这是
kafka
的依赖org.springframework.cloudspring-cloud-starter-stream-
kafka
我在学习的时候直接导入是没有导入成功的,我猜测大概的原因是我本地的仓库没有
XQ丶YTY
·
2025-05-12 08:30
学习
kafka
分布式
生产级 Flink CDC 应用开发与部署:MySQL 到
Kafka
同步示例
生产级FlinkCDC应用开发与部署:MySQL到
Kafka
同步示例为了帮助你更好地理解如何将Flink作业部署为独立服务,下面我将提供一个完整的工程代码示例。
半部论语
·
2025-05-12 08:00
Flink
CDC
菜鸟教程
flink
mysql
kafka
kafka
集群服役新节点
前言在生产环境下,
kafka
集群中发现遇到了性能瓶颈,主要体现在现有的集群下,某个topic的分区存储不够用了,生产者生产消息量太大,或者消费端消费速度跟不上生产进度,导致分区数据大量堆积;在这种情况下
小码农叔叔
·
2025-05-12 06:19
kafka入门到项目实战高手
kafka
集群服役新节点
kafka集群服役新节点
kafka服役新节点
Kafka
系列之:
kafka
集群broker节点变化重新分配分区和修改副本数
Kafka
系列之:
kafka
集群broker节点变化重新分配分区和修改副本数一、分区重分配场景二、分区重分配方法三、分区重分配示例四、分区重分配原理五、优先副本的选举六、优先副本的实现七、复制限流八、修改副本数一
快乐骑行^_^
·
2025-05-12 06:19
大数据
Kafka
Kafka系列
kafka集群
broker节点变化
重新分配分区
学习一下linux的思路和笔记分享
上一个
kafka
也是从b站的一个up主上面找到的笔记然后配合视频学习的,我主要先从使用出发,先会使用然后我再去了解原理,这样的话会好很多。
XQ丶YTY
·
2025-05-12 06:17
学习
linux
笔记
单节点安装
Kafka
集群
先下载安装包到你本地通过网盘分享的文件:
Kafka
集群安装包链接:https://pan.baidu.com/s/1VFD6AnaZ3757ES4_JjjLSA提取码:q7yx1.首先将自己硬盘内的三个包上传到虚拟机中
袁随
·
2025-05-11 22:29
kafka
分布式
运维
linux
zookeeper
jdk
202536 |
KafKa
生产者分区写入策略+消费者分区分配策略
KafKa
生产者分区写入策略1.轮询分区策略(Round-RobinPartitioning)轮询分区策略是
Kafka
默认的分配策略,当消息没有指定key时,
Kafka
会采用轮询的方式将消息均匀地分配到各个分区
言小乔.
·
2025-05-11 13:00
kafka
linq
分布式
大数据面试必备:
Kafka
消息过滤原理与常见策略详解
Kafka
面试题-
Kafka
消息过滤:原理与常见策略详解回答重点在
Kafka
中,消息过滤通常通过以下几种策略实现:生产者端过滤:在发送消息之前,生产者根据预定义的条件过滤消息。
二进制11
·
2025-05-11 12:29
#
Kafka面试题
大数据
面试
kafka
消息队列
后端
在 Flink +
Kafka
实时数仓中,如何确保端到端的 Exactly-Once
在Flink+
Kafka
构建实时数仓时,确保端到端的Exactly-Once(精确一次)需要从数据消费(Source)、处理(Processing)、写入(Sink)三个阶段协同设计,结合Flink的检查点机制
静听山水
·
2025-05-11 12:58
大数据
大数据
Kafka
事务消息实现原理深度解析
文章目录一、
Kafka
事务概述1.1消息传递语义1.2事务消息的应用场景二、
Kafka
事务核心概念2.1事务协调器(TransactionCoordinator)2.2事务ID(TransactionalId
北辰alk
·
2025-05-11 12:58
java
kafka
linq
分布式
Java面试全栈解析:Spring Boot、
Kafka
与Redis实战揭秘
《Java面试全栈解析:SpringBoot、
Kafka
与Redis实战揭秘》【面试现场】面试官:(推了推眼镜)小张,你简历里提到用SpringBoot开发过微服务系统,能说说自动配置的实现原理吗?
杨不易呀
·
2025-05-11 12:27
MCP
Java面试
Spring
Boot
Kafka
Redis
微服务
分布式系统
缓存优化
Spring Boot初级教程:从零搭建企业级Java应用
生态丰富:无缝集成MyBatis、Redis、
Kafka
等中间件,支持RESTful、微
软件派
·
2025-05-11 11:49
java
spring
boot
后端
202535|
Kafka
架构与重要概念+幂等性+事务
以下是关于
Kafka
架构以及其重要概念的详细介绍,结合Mermaid图形和表格,帮助你更好地理解各个概念的关系和作用。
言小乔.
·
2025-05-11 09:38
kafka
架构
linq
rabbitmq和
kafka
的区别
1、吞吐量
kafka
吞吐量更高:1)ZeroCopy机制,内核copy数据直接copy到网络设备,不必经过内核到用户再到内核的copy,减小了copy次数和上下文切换次数,大大提高了效率。
weixin_30776273
·
2025-05-11 06:48
大数据
Kafka
性能为什么比RocketMQ 高
一、引言在消息队列领域,
Kafka
和RocketMQ都是备受关注的产品。RocketMQ参考了
Kafka
的设计思路,在简化架构的同时丰富了功能。
W-vergil
·
2025-05-11 06:17
MQ
原理解析 | Apache Flink 结合
Kafka
构建端到端的 Exactly-Once 处理
文章目录:1.ApacheFlink应用程序中的Exactly-Once语义2.Flink应用程序端到端的Exactly-Once语义3.示例Flink应用程序启动预提交阶段4.在Flink中实现两阶段提交Operator5.总结ApacheFlink自2017年12月发布的1.4.0版本开始,为流计算引入了一个重要的里程碑特性:TwoPhaseCommitSinkFunction(相关的Jira
zxfBdd
·
2025-05-11 06:13
大数据
kafka
java
大数据
Kafka
|处理
Kafka
消息丢失的有效措施
文章目录消息丢失场景生产者端
Kafka
Broker消费者端如何防止消息丢失生产者端
Kafka
Broker端消费者端扩展如何实现消费端的重试功能?有如何处理消息重复?
进击的小白菜
·
2025-05-10 19:36
中间件
kafka
分布式
中间件
Kafka
如何保证消息不丢失
Kafka
为了保证消息不丢失,采用了多种技术和配置来增强消息的持久化和可靠性。
Lzww0608
·
2025-05-10 19:03
MQ
kafka
分布式
kafka
logs storage
Kafka
会将日志文件按段(Segment)存储。Segment是
Kafka
的最小存储单元,它是一个可追加的文件,用于存储
Kafka
分区中的一部分消息。
predisw
·
2025-05-10 17:53
kafka
kafka
分布式
kafka
leader traffic 重平衡
TorebalancebrokertrafficafteraleaderimbalanceinApache
Kafka
,youneedtoredistributepartitionleadersmoreevenlyacrossyourbrokers.Thisensuresthatnobrokerbecomesabottleneckduetohostingtoomanypartitionleaders
predisw
·
2025-05-10 17:21
kafka
kafka
分布式
Java大厂面试实战:Spring Cloud、
Kafka
、Spring Security核心技术深度解析
模拟面试情景面试官:请描述SpringCloud中如何实现服务间负载均衡?xbhog:通过Ribbon和RestTemplate的集成,在调用服务时从Eureka注册中心获取服务实例列表,结合内置的策略(轮询/随机)选择目标节点,并通过Retry机制处理失败。例如配置@LoadBalanced的RestTemplate来实现代理请求。面试官(微笑):不错。那服务雪崩如何预防?xbhog:采用Hys
xbhog
·
2025-05-10 15:40
Spring
Cloud
Kafka
Spring
Security
MyBatis
Junit5
python---
kafka
常规使用
安装依赖在开始之前,需要安装
kafka
-python库。可以通过以下命令安装:pipinstall
kafka
-python创建生产者生产者负责将消息发送到
Kafka
主题。
我姓曹,谢谢
·
2025-05-10 14:06
python
kafka
开发语言
Java面试深度解密:Spring Boot、Redis、日志优化、JUnit5及
Kafka
事务核心技术解析
模拟面试实战面试官:请解释SpringBoot的自动配置原理?哪些关键注解参与了这一过程?xbhog:SpringBoot通过@AutoConfiguration标记核心配置类,通过@ConditonalOnClass和@ConditionalOnMissingBean判断依赖是否存在并自动注入bean。实现原理涉及SpringFactoriesLoader加载META-INF/spring.fa
xbhog
·
2025-05-10 14:36
Spring
Boot
Redis
Kafka
Logback
Junit5
【
kafka
01】消息队列与微服务之
Kafka
详解
Kafka
Kafka
介绍阿里云消息队列云消息队列ApsaraMQ云消息队列ApsaraMQ_打造消息服务生态-阿里云云消息队列ApsaraMQ是阿里云消息队列品牌,致力于“高弹性低成本、更稳定更安全、智能化免运维
运维&陈同学
·
2025-05-10 02:37
#
消息队列与微服务
运维
分布式
微服务
云原生
kafka
架构
容器
后端
Kafka
消息队列之 【消费者分组】 详解
消费者分组(ConsumerGroup)是
Kafka
提供的一种强大的消息消费机制,它允许多个消费者协同工作,共同消费一个或多个主题的消息,从而实现高吞吐量、可扩展性和容错性。
不会飞的鲨鱼
·
2025-05-10 01:05
Kafka
kafka
分布式
Kafka
和RocketMQ相比有什么区别?那个更好用?
Kafka
和RocketMQ相比有什么区别?那个更好用?
Kafka
和RocketMQ都是广泛使用的消息队列系统,它们有很多相似之处,但也有一些关键的区别。
唐人街都是苦瓜脸
·
2025-05-09 14:18
kafka
rocketmq
分布式
中间件
如何监控
Kafka
的Lag(消费延迟)?
监控
Kafka
消费延迟(Lag)主要有以下几种方法:使用
Kafka
自带命令行工具#查看消费者组lag
kafka
-consumer-groups.bat--bootstrap-serverlocalhost
搞不懂语言的程序员
·
2025-05-09 14:48
中间件
kafka
kafka
分布式
设计一个分布式系统:要求全局消息顺序,如何使用
Kafka
实现?
一、高吞吐低延迟
Kafka
集群设计要点1.分区策略优化//计算合理分区数公式(动态调整)intnumPartitions=max(Tp,Tc)/min(Tp,Tc)//Tp=生产者吞吐量Tc=消费者吞吐量建议初始按业务键
搞不懂语言的程序员
·
2025-05-09 14:48
中间件
kafka
kafka
分布式
25 | RocketMQ与
Kafka
中如何实现事务?
不仅要会使用,还要掌握实现原理,这种学习态度,一直是我们非常提倡的,这节,我们就一起来学习一下,在RocketMQ和
Kafka
中,事务消息分别是如何来实现的?RocketMQ的事务是如何实现的?
_Rye_
·
2025-05-09 14:45
消息队列
rocketmq
kafka
Kafka
深度解析,众人推荐,精彩好文!
原文:点击打开链接背景介绍
Kafka
简介
Kafka
是一种分布式的,基于发布/订阅的消息系统。
易醒是好梦
·
2025-05-09 12:05
mq
kafka
Flink +
Kafka
数据血缘追踪与审计机制实战
运维排查:
Kafka
Topic数据乱序或错发后快速定位来源。因此,构建一套数据血缘追踪与审计机制,对稳定、高可用、可观测的实时数据平台至关重要。
晴天彩虹雨
·
2025-05-09 05:18
Flink
+
Kafka
实时数仓实战
flink
kafka
linq
数据仓库
大数据
Kafka
的核心组件有哪些?简要说明其作用。 (Producer、Consumer、Broker、Topic、Partition、ZooKeeper)
Kafka
核心组件解析1.基础架构图解┌─────────┐┌─────────┐┌─────────┐│Producer│───▶│Broker│◀───│Consumer│└─────────┘└─
搞不懂语言的程序员
·
2025-05-09 02:32
中间件
kafka
kafka
zookeeper
分布式
如何保证
Kafka
生产者的消息顺序性? (单分区内有序,需确保同一Key的消息发送到同一分区)
Kafka
生产者消息顺序性保障方案1.核心实现原理消息顺序性保障公式:同一Key→同一Partition→严格顺序写入2.关键配置参数Propertiesprops=newProperties();props.put
搞不懂语言的程序员
·
2025-05-09 02:32
中间件
kafka
kafka
分布式
Kafka
Controller的作用是什么?故障时如何恢复? (管理分区和副本状态;通过ZooKeeper选举新Controller)
Apache
Kafka
Controller是
Kafka
集群的核心协调组件,主要承担两大核心职责:一、核心作用分区领导者选举1//分区领导者选举逻辑示例(伪代码)defelectLeader(partition
搞不懂语言的程序员
·
2025-05-09 02:32
kafka
中间件
kafka
zookeeper
分布式
数据采集与接入:
Kafka
、Flume、Flink CDC、Debezium(实时/离线数据获取方式)
在本篇文章中,我们将深入探讨四种常见的数据采集与接入技术:
Kafka
、Flume、FlinkCDC、Debezium,并分析它们的适用场景。
晴天彩虹雨
·
2025-05-09 02:01
kafka
flume
flink
大数据
Flink +
Kafka
构建实时指标体系的实战方法论
本文聚焦于如何利用Flink与
Kafka
构建一套灵活、可扩展的实时指标体系,特别适用于用户行为分析、营销漏斗转化、业务实时看板等场景。一、为什么要构建实时指标体系?
晴天彩虹雨
·
2025-05-09 02:01
Flink
+
Kafka
实时数仓实战
flink
kafka
linq
数据仓库
大数据
JMS和消息中间件:
Kafka
/RocketMQ
文章目录消息传递模型使用JMS还是
Kafka
Kafka
与RocketMQ的优缺点
Kafka
与RocketMQ的使用场景
Kafka
与RocketMQ的选型指南TPM项目中,iflow之间使用了JMS,后端项目与数据库通信使用
Steven_mdf
·
2025-05-09 02:00
kafka
rabbitmq
ActiveMQ 与其他 MQ 的对比分析:
Kafka
/RocketMQ 的选型参考(一)
消息队列简介在当今的分布式系统架构中,消息队列(MessageQueue,MQ)扮演着举足轻重的角色,已然成为构建高可用、高性能系统不可或缺的组件。消息队列本质上是一种异步通信的中间件,它允许不同的应用程序或系统组件之间通过发送和接收消息来进行通信,而无需直接的同步调用。这种异步通信模式带来了诸多显著的优势,其中最核心的三个方面便是解耦、异步处理和流量削峰。解耦在传统的紧密耦合系统中,各个组件之间
计算机毕设定制辅导-无忧学长
·
2025-05-09 02:00
#
ActiveMQ
activemq
kafka
rocketmq
kafka
消费并行度提升
本文介绍
Kafka
消费的一个例子,以及如何优化提升消费的并行度。例子
Kafka
消费一般使用github.com/Shopify/sarama包实现,现已支持消费组消费。
weixin_46825193
·
2025-05-08 07:04
kafka
分布式
上一页
4
5
6
7
8
9
10
11
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他