E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
消息队列--kafka
Kafka
1.
kafka
的几个角色和概念生产者和消费者消费者组:一些消费者的组合,共同消费一个或几个topic。
人才瘾大
·
2024-09-02 12:21
java面试八股
分布式
kafka
Go操作
Kafka
(confluent-
kafka
-go库)
文章目录Apache
kafka
简介开始使用Apache
Kafka
构建生产者构建消费者总结之前已经有两篇文章介绍过Go如何操作
kafka
28.windows安装
kafka
,Go操作
kafka
示例(sarama
百里守约学编程
·
2024-09-02 11:45
go
golang
kafka
springboot
kafka
group.id多消费组配置
很早之前就使用了springboot+
kafka
组合配置,但是之前使用的spring-
kafka
(1.1.7)版本较低,所以只能通过spring.
kafka
.consumer.group-id=default_consumer_group
Garry1115
·
2024-09-02 03:56
spring
cloud
springboot
kafka
group.id
多消费组
Kafka
ACK机制详解笔记
1.ACK机制简介目的:确保生产者发送的消息可靠地写入
Kafka
集群。核心:生产者发送消息后需等待
Kafka
集群的确认。2.ACK级别acks=0:不等待确认,效率最高,但可能丢数据。
modelsetget
·
2024-09-02 03:23
kafka
kafka
分布式
ACK机制
kafka
生产者发送模式有哪几种?(发后即忘、同步发送、异步发送)
文章目录1.发后即忘(Fire-and-Forget)2.同步发送(SynchronousSend)3.异步发送(AsynchronousSend)总结
Kafka
生产者发送消息时,主要有三种模式,每种模式都有其特定的应用场景和优缺点
小丁学Java
·
2024-09-02 03:52
Kafka
kafka
发后即忘
同步发送
异步发送
Kafka
【二】关于消费者组(Consumer Group)、分区(partition)和副本(replica)的理解
【1】概述Apache
Kafka
是一个分布式流处理平台,它允许你发布和订阅记录流,存储记录流,并且可以对这些记录流进行处理。
流烟默
·
2024-09-02 02:20
#
kafka
分布式
消费者组
面试题集锦:数据库
二:key-value存储系统--Redis:三:
消息队列
--
kafka
:一、关系型数据库–mysql:1.数据库设计的三大范式:第一范式:每个列都不可以再拆分;第二范式:在第一范式的基础上,非主键列完全依赖于主键
浅弋、璃鱼
·
2024-09-01 17:54
面试经
Golang学习
数据库
面试题
python读取
kafka
数据
#-*-coding:utf-8-*-importsysimportjsonimporttimefrom
kafka
import
Kafka
Consumer#pip3install
kafka
-pythoni
827820937
·
2024-09-01 10:35
python
消息中间件:深入理解
Kafka
的核心架构与组件解析
消息中间件:深入理解
Kafka
的核心架构与组件解析
Kafka
是一种流行的分布式流处理平台,广泛应用于实时数据处理和
消息队列
场景。
upgrador
·
2024-09-01 09:33
#
消息中间件
kafka
架构
linq
腾讯开源之道:基于Apache之道的开源实践与探索
作为开源界备受关注的会议之一,今年的ApacheConAsia将持续3天,开设14+分论坛,内容覆盖从大数据到搜索再到
消息队列
等数十个不同类别。
CSDN云计算
·
2024-09-01 09:30
消息中间件:深入理解
Kafka
的消息顺序和一致性、可靠性和高可用性 第1版
消息中间件:深入理解
Kafka
的消息顺序和一致性、可靠性和高可用性第1版
Kafka
是一种分布式消息中间件,它能够处理大规模的实时数据流,是现代分布式系统中的关键组件。
upgrador
·
2024-09-01 09:00
#
消息中间件
kafka
linq
分布式
Kafka
消息积压的典型场景及解决方案
Kafka
消息积压的典型场景:1.实时/消费任务挂掉比如,我们写的实时应用因为某种原因挂掉了,并且这个任务没有被监控程序监控发现通知相关负责人,负责人又没有写自动拉起任务的脚本进行重启。
辞半夏丶北笙
·
2024-09-01 05:39
kafka
分布式
MQ
SparkStreaming结合
kafka
将offSet保存在redis中
SparkStreaming结合
kafka
将offSet保存在redis中SparkStreaming结合
kafka
的两种方式1、SparkStreaming的高级APiCreateDStream,容易发生数据多次读取
哈哈xxy
·
2024-09-01 03:28
bigdata
sparkStreaming
kafka
offset
redis
Spark Streaming+
Kafka
整合+offset管理
Kafka
0-8Receiver模式和Direct模式都不适合当前版本不适用,本次学习采用
Kafka
0-10Direct模式,并通过第三方存储zookeeper来手动管理offset目录前言offset
JiahuiTian
·
2024-09-01 03:27
大数据
#
Spark
#
Kafka
kafka
spark
大数据
Spark(46) -- SparkStreaming整合
kafka
数据源
1.回顾
Kafka
可以看我前面
kafka
文章核心概念图解Broker:安装
Kafka
服务的机器就是一个brokerProducer:消息的生产者,负责将数据写入到broker中(push)Consumer
erainm
·
2024-09-01 03:26
大数据学习
spark
Kafka
入门篇
常用命令Topic列表
kafka
-topics.sh--list--zookeeper172.16.254.28:2181Topic创建
kafka
-topics.sh--create--zookeeper172.16.254.28
墨痕无迹
·
2024-08-31 21:40
使用 ROS 集成 MQTT 的远程机器人驱动框架
以下是对论文主要内容的整理:摘要论文提出了一个框架,通过将机器人操作系统(ROS)与
消息队列
遥测传输(MQTT)协议集成,使用户能够从任何互联网连接的设备远程指挥和驱动机器人。
神一样的老师
·
2024-08-31 20:44
论文阅读分享
物联网
机器人
物联网
Kafka
入门:从零开始了解分布式流处理平台
什么是
Kafka
Apache
Kafka
是由LinkedIn公司开发,后来由Apache软件基金会维护的一个分布式、分区、多副本的基于ZooKeeper协调的分布式消息系统。
犬余
·
2024-08-31 19:34
分布式
kafka
学习
笔记
kafka
客户端连接测试
客户端代码:packagemainimport("fmt""github.com/Shopify/sarama")//
kafka
示例代码funcmain(){//配置config:=sarama.NewConfig
磊-
·
2024-08-31 17:26
go学习笔记
2024面试题
消息队列
什么是
消息队列
:
消息队列
是在消息的传输过程中保存消息的容器,用于接收消息并以文件的方式存储,一个
消息队列
可以被一个也可以被多个消费者消费,包含以下3元素:Producer:消息生产者,负责产生和发送消息到
远飞的梦
·
2024-08-31 12:21
面试题
面试题
MySQL
java
【Python系列】signal信号处理
推荐:kwan的首页,持续学习,不断总结,共同进步,活到老学到老导航檀越剑指大厂系列:全面总结java核心技术,jvm,并发编程redis,
kafka
,Spring,微服务等常用开发工具系列:常用的开发工具
Kwan的解忧杂货铺@新空间代码工作室
·
2024-08-31 09:27
s2
Python
python
信号处理
开发语言
Spring Cloud Stream与
Kafka
(二)
SpringCloudStream与
Kafka
(二)文章目录SpringCloudStream与
Kafka
(二)SpringCloudStream提供的信道自定义Binding声明接口SpringCloudStream
快乐江小鱼
·
2024-08-31 02:40
#
spring
kafka
分布式
spring
cloud
使用 Shell 脚本管理 RocketMQ 服务:启动、停止与状态检查
在分布式系统中,RocketMQ是一个流行的
消息队列
中间件。在开发和运维过程中,能够高效地启动、停止和检查RocketMQ相关服务的状态非常重要。
heromps
·
2024-08-31 00:57
rocketmq
kafka
2.8.2集群离线安装
版本:Centos7、
kafka
_2.13-2.8.2节点:27.196.38.200
kafka
127.196.38.201
kafka
227.196.38.202
kafka
3基础配置在所有节点操作[root
xiongmao0304
·
2024-08-31 00:23
elk
1024程序员节
kafka
(四)
Kafka
离线安装 -
Kafka
下载及安装
Kafka
官方下载地址:Apache
Kafka
这时候下载安装版本。
清风ai明月
·
2024-08-30 23:53
Kafka
kafka
kafka
系列之:使用python消费
kafka
Topic数据
kafka
系列之:使用python消费
kafka
Topic数据一、创建
kafka
Consumer三、查看分区四、查看分区信息五、查看当前消费的Topic六、获取当前消费者可消费的偏移量七、获取当前Topic
快乐骑行^_^
·
2024-08-30 16:37
大数据
kafka系列
python
Centos7离线安装
Kafka
+zookeeper+SASL安全认证
1.安装zookeeper1.下载apache-zookeeper-3.5.8-bin.tar.gz2.解压:tar–zxvfapache-zookeeper-3.5.8-bin.tar.gz3.进入到conf目录cd/opt/apache-zookeeper-3.5.8-bin/conf/4.复制配置文件cfgcpzoo_sample.cfgzoo.cfg5.修改zoo.cfg配置文件:vi/o
weixin_38683859
·
2024-08-30 16:36
centos
kafka
kafka
的安装与测试
kafka
的安装与测试一、概念定义:
kafka
是一个分布式的基于发布/订阅模式的
消息队列
(MessageQueue),主要用于大数据实时处理领域使用
消息队列
的一个好处1.解耦:不需要两台服务器保持同时在线
无情白
·
2024-08-30 16:04
kafka
队列
java
linux
Kafka
配置文件 - server.properties
我安装的
kafka
版本为3.8.0config目录下的配置文件server.properties基础配置修改正常安装好
kafka
后,只需要修改以下两个地方就可以了。
清风ai明月
·
2024-08-30 16:04
Kafka
kafka
使用python创建
kafka
的topic
文章目录使用python创建
kafka
的topic
kafka
基本概念所需安装的包代码样例使用python创建
kafka
的topic
kafka
基本概念Apache
Kafka
是一个开源的分布式流处理平台,
百流
·
2024-08-30 16:02
python笔记
python
kafka
开发语言
12306项目学习笔记(框架篇Base)
在12306项目中由于我们引入了RocketMQ
消息队列
,这些库的对象通常不是Spring管理的,无法直接使用@Autowired注入,所以需要ApplicationContextHolde
Rainyocode
·
2024-08-30 09:20
学习
常见的实时数仓方案
实时部分以
消息队列
的方式实时增量消费,一般以Flink+
Kafka
的组合实现,维度表存在关系型数据库或者HBase;离线部分一般采用T+1周期调度分析历史存量数据,每天凌晨产出,更新覆盖前一天的结果数据
北极冰雨
·
2024-08-30 05:27
大数据
大数据
计算机基础复习8.29
进程间通信需要通过特定的机制,如管道,
消息队列
,信号量等。
我叫啥都行
·
2024-08-30 02:07
计算机基础知识
笔记
后端
计算机网络
linux
Kafka
常用知识点梳理
部署
kafka
支持两种启动方式
Kafka
withKRaft
Kafka
withZooKeeper(4.0后将会被废弃)核心APIProducerAPI允许应用程序将数据流发送到
Kafka
集群中的主题ConsumerAPI
zhangj1125
·
2024-08-30 02:06
kafka
分布式
中间件简介
消息队列
中间件:
消息队列
中间件允许应用程序之间异步地发送和接收消息。常见的
消息队列
中间件包括Apache
Kafka
、RabbitMQ、ActiveMQ和ZeroMQ、TongLinkQ(TLQ)。
Will_1130
·
2024-08-29 22:38
中间件
环境搭建:Redis 概述、安装与配置指南(含windows、macOS、Linux)
环境搭建:Redis概述、安装与配置指南(含windows、macOS、Linux)Redis是一个开源的内存数据结构存储系统,广泛应用于缓存、
消息队列
和实时分析等场景。
upgrador
·
2024-08-29 19:17
#
环境搭建
redis
windows
macos
linux
mysql
oracle
Apache
Kafka
快速学习大纲
Kafka
概述定义
Kafka
传统定义:
Kafka
是一个分布式的基于发布/订阅模式的
消息队列
(MessageQueue),主要应用于大数据实时处理领域。
aaaak_
·
2024-08-29 19:46
大数据
kafka
apache
学习
笔记二十二:
Kafka
基础
消息队列
简称为MQ,指的就是数据在一个容器中,从容器一端传递到另一端的操作
消息队列
,只能暂存数据,不能永久存储数据作用:1)应用解耦合2)异步处理3)限流削峰
消息队列
的协议:JMS(JavaMessageServer
转通下水道的粉色钻头
·
2024-08-29 19:45
笔记
kafka
分布式
大数据实训笔记7:
kafka
概述
Kafka
是一个开源的分布式事件流平台(EventStreamingPlatform),被数千家公司用于高性能数据管道、流分析、数据集成和关键任务应用。
Roslin_v
·
2024-08-29 19:14
大数据
kafka
RabbitMQ 是什么?应用场景有哪些?
RabbitMQ是一个实现了高级
消息队列
协议(AMQP)的开源消息代理软件。
海姐软件测试
·
2024-08-29 19:12
其他
笔记
职场和发展
面试
经验分享
springboot集成
kafka
、消息发送、消费使用
文章目录简介jar引入配置文件
Kafka
Configuration消费工程配置
kafka
消息发送、消费示例简介本示例用于
kafka
在springboot中的配置、消息发送及消息消费使用代码示例。
‘’小磊
·
2024-08-29 18:42
JAVA工具包
java
kafka
中间件
spring
boot
SpringBoot集成
Kafka
并发送消息
SpringBoot集成
kafka
一、下载依赖maven仓库官方地址:https://mvnrepository.com/找到和自己项目SpringBoot相匹配版本的
kafka
版本(此处为1.3.9.
莫笔q
·
2024-08-29 18:41
spring
boot
kafka
java
SpringBoot配置多个
kafka
配置
引入依赖org.springframework.
kafka
spring-
kafka
2.7.14yml配置有几个就配置几个,这里只配置两个因为我在本地启动了两个
kafka
,所以bootstrap-servers
fastjson_
·
2024-08-29 11:55
#
Kafka
kafka
RabbitMQ日常运维指令集
RabbitMQ是一个强大的
消息队列
系统,支持多种命令行工具用于管理和操作。以下是完整罗列的RabbitMQ指令,包括它们的用途、解读和示例。
StaticKing
·
2024-08-29 07:59
RabbitMQ
rabbitmq
运维
ruby
后端开发刷题 | 面试篇4
列表的一个常见用途是
消息队列
。集合(Sets):Redi
jingling555
·
2024-08-29 05:17
面试
面试
职场和发展
java
开发语言
【Rust光年纪】深度解读:Rust语言中各类
消息队列
客户端库详细对比
选择最佳Rust
消息队列
客户端库:全面对比与分析前言随着现代应用程序的复杂性不断增加,
消息队列
成为构建可靠、高性能系统的重要组件。
friklogff
·
2024-08-29 03:27
Rust光年纪
rust
开发语言
后端
kafka
认识篇,java程序员面试笔试真题库
消息队列
降低了进程间的耦合度,所以即使一个处理消息的进程挂掉,加入队列中的消息仍然可以在系统恢复后被处理。
m0_64204730
·
2024-08-28 19:35
程序员
面试
java
后端
IPC通信机制
作业:使用
消息队列
完成两个进程之间相互通信msgsnd.c.c#include//创建信息结构structmsgbuf{longmtype;charmtext[1024];};#defineSIZEsizeof
wuziNO_1
·
2024-08-28 18:53
linux
算法
运维
kafka
监听topic消费_
Kafka
消费者-从
Kafka
读取数据
(2)
Kafka
的消费者和消费者组
Kafka
为这两种模型提供了单一的消费者抽象模型:
weixin_39747296
·
2024-08-28 15:05
kafka监听topic消费
kafka
监听mysql de_
kafka
监听出现的问题,解决和剖析
问题如下:
kafka
为什么监听不到数据
kafka
为什么会有重复数据发送
kafka
数据重复如何解决为什么
kafka
会出现俩个消费端都可以消费问题
kafka
监听配置文件一.解决问题一(
kafka
监听不到数据
Cyber FISH
·
2024-08-28 15:35
kafka
监听mysql
de
上一页
1
2
3
4
5
6
7
8
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他