E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
Kafka原理解析
【总结】消息队列 -
Kafka
3.
kafka
相关概念1)producer(生产者):消息生产者,发布消息到
kafka
集群的终端或服务。produ
tianya3530
·
2024-01-11 06:48
消息中间件
学习笔记
kafka
消息队列
kafka
,zookeper的搭建 消息队列---------基于linux
Kafka
和RabbitMQ的区别首先是在不考虑一些非功能性限制(如运营成本,开发人员对两个平台的了解等)的情况下:优先选择RabbitMQ的条件高级灵活的路由规则。
kjshuan
·
2024-01-11 06:14
Java
kafka
java-rabbitmq
rabbitmq
zookeper
Kafka
- Broker 详解
目录零、前置一、
Kafka
Broker工作流程1.Zookeeper存储的
Kafka
信息2.
Kafka
Broker总体工作流程模拟
Kafka
上下线,Zookeeper中数据变化3.Broker重要参数二
不会调制解调的猫
·
2024-01-11 06:41
Kafka
Zookeeper
kafka
大数据
服务器
云原生
分布式
【
Kafka
-3.x-教程】-【四】
Kafka
-消费者-Consumer
【
Kafka
-3.x-教程】专栏:【
Kafka
-3.x-教程】-【一】
Kafka
概述、
Kafka
快速入门【
Kafka
-3.x-教程】-【二】
Kafka
-生产者-Producer【
Kafka
-3.x-教程
bmyyyyyy
·
2024-01-11 06:40
Kafka
kafka
分布式
#kafka-consumer
#consumer工作流程
【
Kafka
-3.x-教程】-【七】
Kafka
生产调优、
Kafka
压力测试
【
Kafka
-3.x-教程】专栏:【
Kafka
-3.x-教程】-【一】
Kafka
概述、
Kafka
快速入门【
Kafka
-3.x-教程】-【二】
Kafka
-生产者-Producer【
Kafka
-3.x-教程
bmyyyyyy
·
2024-01-11 06:40
Kafka
kafka
压力测试
分布式
#kafka调优
#kafka压测
09、
Kafka
------ 通过修改保存时间来删除消息(retention.ms 配置)
目录通过修改保存时间来删除消息★删除指定主题的消息演示1、修改
kafka
检查过期消息的时间间隔2、修改主题下消息的过期时间3、查看修改是否生效4、先查看下主题下有没有消息5、添加几条消息看效果6、查看消息是否被删除
_L_J_H_
·
2024-01-11 06:39
Kafka
系列
kafka
linq
分布式
08、
Kafka
------ 消息存储相关的配置-->消息过期时间设置、查看主题下的消息存活时间等配置
目录消息存储相关的配置★消息的存储介绍★消息过期时间及处理方式演示:log.cleanup.policy属性配置★修改指定主题的消息保存时间演示:将test2主题下的消息的保存时间设为10个小时1、先查看test2主题下的配置2、然后设置消息的保存时间3、然后再查一遍test2的配置,看是否修改成功★查看指定主题的配置命令1:查看所有对象的信息命令2:查看特定主题的信息消息存储相关的配置★消息的存
_L_J_H_
·
2024-01-11 06:09
Kafka
系列
kafka
linq
分布式
kafka
连接失败时springboot项目启动停机问题
问题:springboot整合
kafka
,作为消费端,对端的
kafka
系统是在生产环境,在本地开发测试时配置了对端的生产环境的
kafka
地址。
行善积德_Fei
·
2024-01-11 06:38
kafka
spring
boot
分布式
使用Springboot+websocket+
kafka
模拟实时数据传输
文章目录使用Springboot+websocket+
kafka
模拟实时数据传输环境准备数据源读取WebSocket服务器网页启动使用Springboot+websocket+
kafka
模拟实时数据传输环境准备环境
叶梦璃愁
·
2024-01-11 06:36
websocket
springboot
kafka
spring
boot
websocket
Kafka
Connect 启动服务以及提交任务初体验
Kafka
提供两种启动方式,一种是单机版standalone,一种是分布式版distributed,与之想对应的配置文件也是分开的单机版的配置文件:connect-standalone.properties
LijunYe
·
2024-01-11 05:08
Kafka
之集群搭建
1.为什么要使用
kafka
集群单机服务下,
Kafka
已经具备了非常高的性能。TPS能够达到百万级别。但是,在实际工作中使用时,单机搭建的
Kafka
会有很大的局限性。消息太多,需要分开保存。
瑜伽娃娃
·
2024-01-11 03:22
Kafka
kafka
分布式
9.2、增量表数据同步
1、数据通道2、Flume配置1)Flume配置概述Flume需要将
Kafka
中topic_db主题的数据传输到HDFS,故其需选用
Kafka
Source以及HDFSSink,Channel选用FileChannel
施小赞
·
2024-01-11 02:16
数仓架构搭建
增量数据同步
2021-05-19
Kafka
Docker安装配置
1.下载docker镜像
kafka
镜像dockerpullwurstmeister/
kafka
zookeeper镜像dockerpullwurstmeister/zookeeper2.启动ZK容器dockerrun-d
四川辣条协会会长
·
2024-01-11 01:13
Java面试题整理(带答案)
题目来源是https://blog.csdn.net/sufu1065/article/details/88051083我删除了自己不使用的框架技术栈,像Hibernate、
Kafka
、Zookeeper
隔壁老赵
·
2024-01-11 00:37
java
面试
BitMap解析之RoaringBitMap
文章目录BitMap计算的问题RoaringBitMap
原理解析
Container介绍1.ArrayContainer2.BitmapContainer3.RunContainer小结RoaringBitMap
倜傥村的少年
·
2024-01-11 00:22
数据结构
java
Kafka
基本概念和术语
1、消息Record:
Kafka
是消息引擎嘛,这里的消息就是指
Kafka
处理的主要对象。2、主题Topic:主题是承载消息的逻辑容器,在实际使用中多用来区分具体的业务。
Java-Talk
·
2024-01-11 00:15
Kafka
原理与实践
kafka
分布式
springCould中的Bus-从小白开始【11】
目前支持RabbitMQ和
Kafka
。S
会敲代码的小张
·
2024-01-10 23:56
后端
idea
java
分布式
架构
中间件
rabbitmq
黑马头条(APP端)
项目包含三个部分用户移动app端用户自媒体端管理平台端涉及技术栈:SpringBoot+SpringCloud+nacos+swagger+freemarker+OSS+ElasticSearch+Redis+
Kafka
一码一上午
·
2024-01-10 23:41
项目
spring
cloud
spring
boot
离线数仓构建案例一
数据采集日志数据(文件)到
Kafka
自己写个程序模拟一些用户的行为数据,这些数据存在一个文件夹中。接着使用flume监控采集这些文件,然后发送给
kafka
中待消费。
躺着听Jay
·
2024-01-10 22:06
大数据
big
data
大数据
【高效开发工具系列】idea注释设置
推荐:kwan的首页,持续学习,不断总结,共同进步,活到老学到老导航檀越剑指大厂系列:全面总结java核心技术点,如集合,jvm,并发编程redis,
kafka
,Spring,微服务,Netty等常用开发工具系列
檀越剑指大厂
·
2024-01-10 22:30
s0
常用工具
intellij-idea
java
ide
81、Spark Streaming之DStream以及基本工作原理
它支持从很多种数据源中读取数据,比如
Kafka
、Flume、Twitter、ZeroMQ、Kinesis或者是TCPSocket。
ZFH__ZJ
·
2024-01-10 20:43
面试|
Kafka
常见面试问题总结
[TOC]现如今,
Kafka
已不再是一个单纯的消息队列系统。
Kafka
是一个分布式的流处理平台,被越来越多的公司使用,
Kafka
可以被用于高性能的数据管道,流处理分析,数据集成等场景。
tracy_668
·
2024-01-10 19:22
docker 快速启动 Confluent
Kafka
文章目录参考资料来自Confluent
Kafka
与Confluent创建docker-compose.yml启动服务创建Topic向quickstart中写入数据消费quickstart中的数据关闭
Kafka
秀强
·
2024-01-10 16:20
Kafka
kafka
Kafka
中 topic、partition、offset、replica、ISR 等概念详解
文章目录消息的数据结构topic和partition位移(offset)replicaleader和followerISR先说一个题外话,就是
Kafka
名字的由来:Ithoughtthatsince
Kafka
wasasystemoptimizedforwritingusingawriter
秀强
·
2024-01-10 16:20
Kafka
kafka
分布式
java
Java内存泄漏问题分析
内存泄漏也是一个老八股文了,下面来看看实际项目中内存泄漏的场景分析时间回到9月某一天分析阶段一现象:在当时各种请求在那段时间响应很慢,特别是
kafka
异步消费线程不足点:当时主业务基本不可用,有点急,未及时
北i
·
2024-01-10 15:38
jvm
java
内存泄漏
tcp
oom
FlinkSQL设置sink的并行度
pt_dtstring,proc_timetimestamp,ctimetimestamp,PRIMARYKEY(tqi_id)NOTENFORCED)with('connector'='upsert-
kafka
青云游子
·
2024-01-10 15:51
Flink
flink
《PySpark大数据分析实战》-26.数据可视化图表Seaborn介绍
对大数据技术栈Hadoop、Hive、Spark、
Kafka
等有深入研究,对Data
wux_labs
·
2024-01-10 14:58
PySpark大数据分析实战
数据分析
数据挖掘
大数据
数据科学
PySpark
分布式系统架构设计之分布式消息队列中间件的技术选型报告
1、主流消息队列中间件01
Kafka
基本原理
Kafka
基于发布-订阅模式,它维护了一个或多个Topic,生产者将消息发送到Topic,消费者从Topic中读取消息。
灸哥漫谈
·
2024-01-10 13:38
架构师修炼导航
分布式
架构
消息队列
日志系统二(ilogtail+
kafka
+logstash+es+kibana)
流程介绍:ilogtail日志采集写入
kafka
指定TopicLogstash消费kafak消息写入ESKibana展示数据注:ilogtail采集的日志也能直接写入ES,需求ES版本8.0+一、ilogtail
`Liar`
·
2024-01-10 13:24
kafka
elasticsearch
分布式
用hextoraw解决update、delete语句执行慢
问题描述 近期在做数据同步功能,各模块数据经过AOP拦截,形成insert、update、delete语句,统一进入
Kafka
,然后由消费端取出消费到Oracle。
活宝战斗机
·
2024-01-10 12:51
数据库
sql
java
Kafka
的bug解决方法 -ERROR Shutdown broker because all log dirs in xxx have failed(
kafka
.log.LogManager)
报错问题我弄了三个broker节点,但是老是出问题,所以我把
kafka
配置的存储数据文件的文件夹删除了,重启发现目录虽然出现了,但是启动
kafka
这个节点失败。而且已经删除的主题也还在。
_L_J_H_
·
2024-01-10 11:34
Kafka
系列
kafka
bug
分布式
07、
Kafka
------ 消息生产者(演示 发送消息) 和 消息消费者(演示 监听消息)
目录
Kafka
---消息生产者★消息★消息的分发机制★分发到哪个分区★轮询策略(round-robin)★使用命令行工具发送消息演示添加消息
Kafka
---消息消费者★消息消费者命令▲监听【指定主题】的所有消息
_L_J_H_
·
2024-01-10 11:23
Kafka
系列
kafka
分布式
kafka
: 基础概念回顾(生产者客户端和机架感知相关内容)
一、
kafka
生产者客户端在
kafka
体系结构中有如下几个重要的概念:Producer:生产者,负责生产消息并投递到
kafka
broker的某个的分区中Consumer:消费者,负责消费
kafka
若干个分区中的消息
玉成226
·
2024-01-10 11:41
【kafka】
kafka
kafka
KRaft 集群搭建
kafka
KRaft集群安装包下载https://downloads.apache.org/
kafka
/3.6.1/
kafka
_2.13-3.6.1.tgz
kafka
集群构建好后的数据目录结构[root
liao__ran
·
2024-01-10 11:07
运维
kafka
分布式
命令行重置
kafka
消费最新数据 —— 筑梦之路
kafka
消费能力不足,消息积压太多,现需要重置消费,使其消费最新的数据
kafka
-consumer-groups.sh--bootstrap-serverlocalhost:9092--grouptest_topic_group1
筑梦之路
·
2024-01-10 11:07
Java技术
大数据
缓存技术
kafka
分布式
kafka
入门(六):日志分段(LogSegment)
日志分段(LogSegment)
Kafka
的一个主题可以分为多个分区。一个分区可以有一至多个副本,每个副本对应一个日志文件。每个日志文件对应一个至多个日志分段(LogSegment)。
乐之者v
·
2024-01-10 11:03
A1--kafka
kafka
关于springboot项目集成
kafka
的常见错误
Acomponentrequiredabeanoftype‘org.apache.
kafka
.clients.consumer.
Kafka
Consumer’thatcouldnotbefound.程序运行后
Everybody_up
·
2024-01-10 11:03
spring
boot
kafka
后端
ELK生命周期
ELK+
kafka
一、创建索引模式根据logstash中的日志规则匹配对应系统日志二、创建索引生命周期策略:可以控制生成索引的生命周期共4个阶段:热阶段——温阶段——冷阶段——删除阶段阶段1.hot:索引被频繁写入和查询阶段
卧蚕文逗
·
2024-01-10 11:23
elk
【
Kafka
每日一问】
Kafka
如何保证消息不丢失?
但是要注意的是
Kafka
生产者(Producer)使用send方法发送消息实际上是异步的操作,我们可以通过get()方法获取调用结果,但是这样也让它变为了同步操作如果消息发送
jianjun_fei
·
2024-01-10 09:09
Kafka每日一问
kafka
分布式
Kafka
的@
Kafka
Listener注解参数详解
@
Kafka
Listener注解提供了许多可配置的参数,以便更灵活地定制
Kafka
消息监听器的行为。topics:描述:指定监听的
Kafka
主题,可以是一个字符串数组。
Everybody_up
·
2024-01-10 07:12
kafka
分布式
【spark】基于Spark的电影推荐系统+[详细代码及配置]
基于Spark的电影推荐系统项目架构组件版本及配置名称版本Hadoop2.8.5Hive2.1.0Spark1.6.3
Kafka
2.10_0.8.21MariaDB(Mysql)5.5.64Scala2.10.6Java1.8.0
BIG*BOSS
·
2024-01-10 06:25
Spark
spark
Kafka
学习笔记(三)
Kafka
API
1.ProducerAPI消息发送流程
Kafka
的Producer发送消息采用的是异步发送的方式。
做个合格的大厂程序员
·
2024-01-10 06:29
开源内容管理框架Drupal在Docker本地部署并实现公网远程访问
推荐:kwan的首页,持续学习,不断总结,共同进步,活到老学到老导航檀越剑指大厂系列:全面总结java核心技术点,如集合,jvm,并发编程redis,
kafka
,Spring,微服务,Netty等常用开发工具系列
檀越剑指大厂
·
2024-01-10 05:45
s20
cpolar
开源
docker
容器
c#
kafka
写入数据
c#
kafka
写入数据usingConfluent.
Kafka
;usinglogcxx;usingSystem;namespaceTimTools{class
Kafka
Class{publicstaticvoid
吭哧瘪肚的万能工
·
2024-01-10 03:40
kafka
c#
分布式
如何使用Docker本地部署一个开源网址导航页并分享好友公网使用
推荐:kwan的首页,持续学习,不断总结,共同进步,活到老学到老导航檀越剑指大厂系列:全面总结java核心技术点,如集合,jvm,并发编程redis,
kafka
,Spring,微服务,Netty等常用开发工具系列
檀越剑指大厂
·
2024-01-10 03:07
s20
cpolar
docker
开源
容器
Kafka
教程
Kafka
教程官网地址:https://
kafka
.apache.org本文以2.12版本为例。
242030
·
2024-01-10 02:19
kafka
kafka
springcloud bus消息总线
SpringCludBus目前支持RabbitMQ和
Kafka
。SpringCloudBus能管理和传播分布式系统间的消息,就像一个分布式执行器,可用于广播状态更改、事
Sahm5k
·
2024-01-10 02:47
spring
cloud
spring
后端
消息中间件
Kafka
与RabbitMQ谁更胜一筹?
在IM这种讲究高并发、高消息吞吐的互联网场景下,MQ消息中间件是个很重要的基础设施,它在IM系统的服务端架构中担当消息中转、消息削峰、消息交换异步化等角色。当然,MQ消息中间件的作用远不止于此,它的价值不仅仅存在于技术上,更重要的是改变了以往同步处理消息的思路。比如进行IM消息历史存储时,传统的信息系统作法可能是收到一条消息就马上同步存入数据库,这种作法在小并发量的情况下可以很好的工作,但互联网大
Java大生
·
2024-01-10 02:27
kafka
API实战
Kafka
生产者JavaAPISrping整合
kafka
之生成者导入依赖:org.springframework.
kafka
spring-
kafka
2.2.0.RELEASEorg.apache.
kafka
kafka
故里良田
·
2024-01-10 00:20
【算法Hot100系列】搜索插入位置
推荐:kwan的首页,持续学习,不断总结,共同进步,活到老学到老导航檀越剑指大厂系列:全面总结java核心技术点,如集合,jvm,并发编程redis,
kafka
,Spring,微服务,Netty等常用开发工具系列
檀越剑指大厂
·
2024-01-10 00:30
s6
算法与数据结构
算法
上一页
24
25
26
27
28
29
30
31
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他