E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
消息队列(Kafka)
Spring Cloud Stream与
Kafka
(二)
SpringCloudStream与
Kafka
(二)文章目录SpringCloudStream与
Kafka
(二)SpringCloudStream提供的信道自定义Binding声明接口SpringCloudStream
快乐江小鱼
·
2024-08-31 02:40
#
spring
kafka
分布式
spring
cloud
使用 Shell 脚本管理 RocketMQ 服务:启动、停止与状态检查
在分布式系统中,RocketMQ是一个流行的
消息队列
中间件。在开发和运维过程中,能够高效地启动、停止和检查RocketMQ相关服务的状态非常重要。
heromps
·
2024-08-31 00:57
rocketmq
kafka
2.8.2集群离线安装
版本:Centos7、
kafka
_2.13-2.8.2节点:27.196.38.200
kafka
127.196.38.201
kafka
227.196.38.202
kafka
3基础配置在所有节点操作[root
xiongmao0304
·
2024-08-31 00:23
elk
1024程序员节
kafka
(四)
Kafka
离线安装 -
Kafka
下载及安装
Kafka
官方下载地址:Apache
Kafka
这时候下载安装版本。
清风ai明月
·
2024-08-30 23:53
Kafka
kafka
kafka
系列之:使用python消费
kafka
Topic数据
kafka
系列之:使用python消费
kafka
Topic数据一、创建
kafka
Consumer三、查看分区四、查看分区信息五、查看当前消费的Topic六、获取当前消费者可消费的偏移量七、获取当前Topic
快乐骑行^_^
·
2024-08-30 16:37
大数据
kafka系列
python
Centos7离线安装
Kafka
+zookeeper+SASL安全认证
1.安装zookeeper1.下载apache-zookeeper-3.5.8-bin.tar.gz2.解压:tar–zxvfapache-zookeeper-3.5.8-bin.tar.gz3.进入到conf目录cd/opt/apache-zookeeper-3.5.8-bin/conf/4.复制配置文件cfgcpzoo_sample.cfgzoo.cfg5.修改zoo.cfg配置文件:vi/o
weixin_38683859
·
2024-08-30 16:36
centos
kafka
kafka
的安装与测试
kafka
的安装与测试一、概念定义:
kafka
是一个分布式的基于发布/订阅模式的
消息队列
(MessageQueue),主要用于大数据实时处理领域使用
消息队列
的一个好处1.解耦:不需要两台服务器保持同时在线
无情白
·
2024-08-30 16:04
kafka
队列
java
linux
Kafka
配置文件 - server.properties
我安装的
kafka
版本为3.8.0config目录下的配置文件server.properties基础配置修改正常安装好
kafka
后,只需要修改以下两个地方就可以了。
清风ai明月
·
2024-08-30 16:04
Kafka
kafka
使用python创建
kafka
的topic
文章目录使用python创建
kafka
的topic
kafka
基本概念所需安装的包代码样例使用python创建
kafka
的topic
kafka
基本概念Apache
Kafka
是一个开源的分布式流处理平台,
百流
·
2024-08-30 16:02
python笔记
python
kafka
开发语言
12306项目学习笔记(框架篇Base)
在12306项目中由于我们引入了RocketMQ
消息队列
,这些库的对象通常不是Spring管理的,无法直接使用@Autowired注入,所以需要ApplicationContextHolde
Rainyocode
·
2024-08-30 09:20
学习
常见的实时数仓方案
实时部分以
消息队列
的方式实时增量消费,一般以Flink+
Kafka
的组合实现,维度表存在关系型数据库或者HBase;离线部分一般采用T+1周期调度分析历史存量数据,每天凌晨产出,更新覆盖前一天的结果数据
北极冰雨
·
2024-08-30 05:27
大数据
大数据
计算机基础复习8.29
进程间通信需要通过特定的机制,如管道,
消息队列
,信号量等。
我叫啥都行
·
2024-08-30 02:07
计算机基础知识
笔记
后端
计算机网络
linux
Kafka
常用知识点梳理
部署
kafka
支持两种启动方式
Kafka
withKRaft
Kafka
withZooKeeper(4.0后将会被废弃)核心APIProducerAPI允许应用程序将数据流发送到
Kafka
集群中的主题ConsumerAPI
zhangj1125
·
2024-08-30 02:06
kafka
分布式
中间件简介
消息队列
中间件:
消息队列
中间件允许应用程序之间异步地发送和接收消息。常见的
消息队列
中间件包括Apache
Kafka
、RabbitMQ、ActiveMQ和ZeroMQ、TongLinkQ(TLQ)。
Will_1130
·
2024-08-29 22:38
中间件
环境搭建:Redis 概述、安装与配置指南(含windows、macOS、Linux)
环境搭建:Redis概述、安装与配置指南(含windows、macOS、Linux)Redis是一个开源的内存数据结构存储系统,广泛应用于缓存、
消息队列
和实时分析等场景。
upgrador
·
2024-08-29 19:17
#
环境搭建
redis
windows
macos
linux
mysql
oracle
Apache
Kafka
快速学习大纲
Kafka
概述定义
Kafka
传统定义:
Kafka
是一个分布式的基于发布/订阅模式的
消息队列
(MessageQueue),主要应用于大数据实时处理领域。
aaaak_
·
2024-08-29 19:46
大数据
kafka
apache
学习
笔记二十二:
Kafka
基础
消息队列
简称为MQ,指的就是数据在一个容器中,从容器一端传递到另一端的操作
消息队列
,只能暂存数据,不能永久存储数据作用:1)应用解耦合2)异步处理3)限流削峰
消息队列
的协议:JMS(JavaMessageServer
转通下水道的粉色钻头
·
2024-08-29 19:45
笔记
kafka
分布式
大数据实训笔记7:
kafka
概述
Kafka
是一个开源的分布式事件流平台(EventStreamingPlatform),被数千家公司用于高性能数据管道、流分析、数据集成和关键任务应用。
Roslin_v
·
2024-08-29 19:14
大数据
kafka
RabbitMQ 是什么?应用场景有哪些?
RabbitMQ是一个实现了高级
消息队列
协议(AMQP)的开源消息代理软件。
海姐软件测试
·
2024-08-29 19:12
其他
笔记
职场和发展
面试
经验分享
springboot集成
kafka
、消息发送、消费使用
文章目录简介jar引入配置文件
Kafka
Configuration消费工程配置
kafka
消息发送、消费示例简介本示例用于
kafka
在springboot中的配置、消息发送及消息消费使用代码示例。
‘’小磊
·
2024-08-29 18:42
JAVA工具包
java
kafka
中间件
spring
boot
SpringBoot集成
Kafka
并发送消息
SpringBoot集成
kafka
一、下载依赖maven仓库官方地址:https://mvnrepository.com/找到和自己项目SpringBoot相匹配版本的
kafka
版本(此处为1.3.9.
莫笔q
·
2024-08-29 18:41
spring
boot
kafka
java
SpringBoot配置多个
kafka
配置
引入依赖org.springframework.
kafka
spring-
kafka
2.7.14yml配置有几个就配置几个,这里只配置两个因为我在本地启动了两个
kafka
,所以bootstrap-servers
fastjson_
·
2024-08-29 11:55
#
Kafka
kafka
RabbitMQ日常运维指令集
RabbitMQ是一个强大的
消息队列
系统,支持多种命令行工具用于管理和操作。以下是完整罗列的RabbitMQ指令,包括它们的用途、解读和示例。
StaticKing
·
2024-08-29 07:59
RabbitMQ
rabbitmq
运维
ruby
后端开发刷题 | 面试篇4
列表的一个常见用途是
消息队列
。集合(Sets):Redi
jingling555
·
2024-08-29 05:17
面试
面试
职场和发展
java
开发语言
【Rust光年纪】深度解读:Rust语言中各类
消息队列
客户端库详细对比
选择最佳Rust
消息队列
客户端库:全面对比与分析前言随着现代应用程序的复杂性不断增加,
消息队列
成为构建可靠、高性能系统的重要组件。
friklogff
·
2024-08-29 03:27
Rust光年纪
rust
开发语言
后端
kafka
认识篇,java程序员面试笔试真题库
消息队列
降低了进程间的耦合度,所以即使一个处理消息的进程挂掉,加入队列中的消息仍然可以在系统恢复后被处理。
m0_64204730
·
2024-08-28 19:35
程序员
面试
java
后端
IPC通信机制
作业:使用
消息队列
完成两个进程之间相互通信msgsnd.c.c#include//创建信息结构structmsgbuf{longmtype;charmtext[1024];};#defineSIZEsizeof
wuziNO_1
·
2024-08-28 18:53
linux
算法
运维
kafka
监听topic消费_
Kafka
消费者-从
Kafka
读取数据
(2)
Kafka
的消费者和消费者组
Kafka
为这两种模型提供了单一的消费者抽象模型:
weixin_39747296
·
2024-08-28 15:05
kafka监听topic消费
kafka
监听mysql de_
kafka
监听出现的问题,解决和剖析
问题如下:
kafka
为什么监听不到数据
kafka
为什么会有重复数据发送
kafka
数据重复如何解决为什么
kafka
会出现俩个消费端都可以消费问题
kafka
监听配置文件一.解决问题一(
kafka
监听不到数据
Cyber FISH
·
2024-08-28 15:35
kafka
监听mysql
de
kafak推送消息。
1、引入依赖mavenorg.springframework.
kafka
spring-
kafka
2.8.0gradledependencies{compile"org.springframework.
kafka
要小鑫呐
·
2024-08-28 15:05
kafka
java
kafka
-生产者拦截器(SpringBoot整合
Kafka
)
文章目录1、生产者拦截器1.1、创建生产者拦截器1.2、
Kafka
Template配置生产者拦截器1.3、使用Java代码创建主题分区副本1.4、application.yml配置----v1版1.5、
小丁学Java
·
2024-08-28 15:04
Kafka
kafka
spring
boot
linq
生产者拦截器
springboot集成
kafka
@SendTo对于转发单条消息和转发批量消息的两种情况
//当转发单条消息时,可以采用如下方式@
Kafka
Listener(groupId="a-group",topics="a-topic")@SendTo("b-topic")publicStringconsumeA
ddq呀
·
2024-08-28 15:04
spring
boot
kafka
后端
如何查看
kafka
消息消费进度以及是否有未消费的消息
查询是否有未消费的消息的方式有三种:第一种,
kafka
自带命令
kafka
的bin目录下,执行命令:
kafka
-consumer-groups.sh--bootstrap-servernode1:9092
小手追梦
·
2024-08-28 15:03
hadoop实战
(
Kafka
源码四)生产者发送消息到broker
通过上章对缓存池的介绍,我们可以知道生产者会先将消息批次对象放入RecordAccumulator的双端队列中,当满足一定条件时消息才发送至broekr,本文将从源码角度分析当达到什么条件才发送消息,以及生产者对broker发送回来的响应是如何处理的,对于粘包和拆包问题,生产者是如何解决的,另外,生产者对于超时的,异常的,长时间未处理的消息批次是分别怎么处理的都将在本文介绍。消息的发送条件首先来看
vibag
·
2024-08-28 12:15
kafka
linq
分布式
SparkStreaming 如何保证消费
Kafka
的数据不丢失不重复
目录SparkStreaming接收
Kafka
数据的方式有两种:Receiver接收数据和采用Direct方式。
K. Bob
·
2024-08-28 10:02
Spark
Spark
【IO】IPC通信机制函数(
消息队列
,共享内存,信号量集函数整理汇总)
整理了一下IPC通信的函数,包括
消息队列
,共享内存,信号量集;信号量集的使用是在共享内存的基础上使用,函数太多啦,慢慢学吧cc,争取全部记住其中在使用有关信号量集的函数的时候,进行简单的封装函数功能之后
只对您心动
·
2024-08-28 03:20
知识点汇总
开发语言
IO
c语言
linux
如何保证Redis与数据库之间的一致性
在现代应用程序架构中,Redis等内存数据库因其高性能和低延迟特性而被广泛用于缓存、会话管理、
消息队列
等多种场景。
张某布响丸辣
·
2024-08-28 02:41
数据库
redis
缓存
java
kafka
(一)
Kafka
概述
定义
Kafka
是一个的基于的(MessageQueue),主要应用于大数据实时处理领域。
万事万物
·
2024-08-27 23:57
kafka
常用命令及配置参数详解
kafka
常用命令及配置参数详解常用命令1、启动zookeeperbin/zookeeper-server-start.shconfig/zookeeper.properties&2、启动
kafka
bin
微笑着流浪
·
2024-08-27 23:19
Kafka
Kafka
Kafka常用命令
Kafka参数配置
maxwell读取mysql binlog到
kafka
下载地址https://maxwells-daemon.io/解压压缩包tar-zxvfmaxwell-1.29.0.tar.gz-C/opt/module/初始化maxwell元数据库在mysql中为maxwell创建一个数据库复制config.properties.example文件cpconfig.properties.exampleconfig.properties修改config.pro
gengjianchun
·
2024-08-27 22:18
我的笔记
mysql
kafka
数据库
RocketMQ顺序消费
针对实时预警任务,会有同时消费某个设备正常或异常的事件,而这类事件具有时间维度上的先后性,需要符合先进先出(FIFO)原则进行发布和消费,而MQ消费为了吞吐量基本会使用多线程消费,RocketMQ也会分为多个
消息队列
葵续浅笑
·
2024-08-27 20:35
rocketmq
java
【成为架构师4-2】解耦:MQ,互联网架构的解耦利器
目录MQ是什么不应该使用MQ的场景典型场景一:数据驱动的依赖任务典型场景二:上游不关心执行结果典型场景三:上游关注执行结果,但是执行时间较长典型场景四:削峰填谷,流量控制,保护下游MQ是什么MQ,
消息队列
Nevercome_
·
2024-08-27 18:18
成为架构师
消息队列
架构
后端
spark采坑集锦之用
kafka
作为DStream数据源,并行度问题
在SparkStreaming中作为数据源的
Kafka
怎样接收多主题发送的数据呢?
方兵兵
·
2024-08-27 16:41
spark采坑集锦
涨姿势了 SpringBoot+
Kafka
将实战讲解到极致,你悟了吗?
目录一、环境准备二、生产者实践普通生产者带回调的生产者自定义分区器
kafka
事务提交三、消费者实践简单消费指定topic、partition、offset消费批量消费监听异常处理器消息过滤器消息转发定时启动
技术布道师
·
2024-08-27 16:39
java
kafka
spring
boot
java
分布式
spring
Kafka
命令详解:从零开始,掌握
Kafka
集群管理、主题操作与监控的全方位技能,理解每一条命令背后的逻辑与最佳实践
本文主要是关于
Kafka
的命令详解,每个命令都进行了非常详细的注释,帮助大家能更好的理解这些命令背后的含义,从底层去理解,如果大家喜欢,请多多点赞关注,欢迎评论!
长风清留扬
·
2024-08-27 16:37
大数据
Kafka
Linux
kafka
分布式
linux
大数据
命令模式
java springboot 集成activeMQ(保姆级别教程)
javaspringboot集成activeMQ1.配置信息spring:#配置
消息队列
activemq:broker-url:tcp://127.0.0.1:61616user:adminpassword
大白菜程序猿
·
2024-08-27 03:48
JAVA
java
spring
boot
java-activemq
关于
kafka
的分区和消费者之间的关系
消费者和消费者组当生产者向Topic写入消息的速度超过了消费者(consumer)的处理速度,导致大量的消息在
Kafka
中淤积,此时需要对消费者进行横向伸缩,用多个消费者从同一个主题读取消息,对消息进行分流
窦再兴
·
2024-08-26 22:48
kafka
分布式
基于Zookeeper搭建
Kafka
高可用集群
基于Zookeeper搭建
Kafka
高可用集群一、Zookeeper集群搭建为保证集群高可用,Zookeeper集群的节点数最好是奇数,最少有三个节点,所以这里搭建一个三个节点的集群。
数字游牧人0v0
·
2024-08-26 16:58
大数据BigData
kafka
java-zookeeper
zookeeper
大数据
zookeeper+
KAFKA
集群搭建
因为
Kafka
集群是把状态信息保存在Zookeeper中的,并且
Kafka
的动态扩容是通过Zookeeper来实现的,所以需要优先搭建Zookeer
懵逼的运维弟弟
·
2024-08-26 16:28
Linux
zookeeper+KAFKA
集群搭建
flink 状态参数设置
前提代码示例,通过flink消费
kafka
,查看list状态中的数据,确定参数的具体含义
kafka
的代码:发送两个key值,一秒发送一次for(inti=0;isource=
Kafka
Source.builder
陪你一起捡蛋壳
·
2024-08-26 13:36
flink
linq
大数据
上一页
1
2
3
4
5
6
7
8
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他