E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
Kafka】
kerberos+
kafka
(2.13)认证(单节点ubuntu)
一:搭建kerberos。1.运行安装命令apt-getinstallkrb5-admin-serverkrb5-kdckrb5-userkrb5-config2.检查服务是否启动。systemctlstatuskrb5-admin-serversystemctlstatuskrb5-kdcsystemctlstartkrb5-admin-serversystemctlstartkrb5-kdc3
宇智波云
·
2024-01-31 07:55
kafka
ubuntu
数据库
kafka
3.0.0学习记录
文章目录第1章
Kafka
概述1.1定义1.2消息队列1.2.1应用场景第1章
Kafka
概述1.1定义
Kafka
是一个开源的分布式事件流平台(EventStreamingPlatform),被数千家公司用于高性能数据管道
珍珠是蚌的眼泪
·
2024-01-31 07:24
中间件
kafka
实时计算平台
Flink实时计算平台架构Flink+
kafka
+clickHouse+mysql+postgresql
xfchn多多学习学习
·
2024-01-31 07:24
大数据
实时大数据
kafka
Standalone 配置 测试
一安装1、安装jdk安装jdk2安装zk这里Standalone模型$tar-zxfapache-zookeeper-3.5.9-bin.tar.gz-C/var/soft/$mvapache-zookeeper-3.5.9-bin/zookeeper-3.5.9-bin/$mvzoo_sample.cfgzoo.cfg$vizoo.cfg修改此处,其他默认dataDir=/var/soft/zo
xfchn多多学习学习
·
2024-01-31 07:24
大数据
kafka
RabbitMQ和
Kafka
对比
RabbitMQ和
Kafka
都是流行的消息传递系统,但它们在设计哲学、功能特性和最适用的场景上有所不同:1.设计和架构RabbitMQ:基于AMQP(高级消息队列协议)。
薛定谔的zhu
·
2024-01-31 07:21
rabbitmq
kafka
分布式
【
kafka
-01数据保留时间设置】
kafka
正确设置过期时间背景如何正确配置数据过期时间背景某天突然发现我的
kafka
中group_id消费记录不见了,特地查了下咋回事。
我先森
·
2024-01-31 07:50
kafka
分布式
Kafka
与RocketMQ性能对比大揭秘
在双十一过程中投入同样的硬件资源,
Kafka
搭建的日志集群单个Topic可以达到几百万的TPS,而使用RocketMQ组件的核心业务集群,集群TPS只能达到几十万TPS,这样的现象激发了我对两者性能方面的思考
Java柱柱
·
2024-01-31 07:21
【
Kafka
】服务器Broker与Controller详解
Broker概述Broker总体工作流程Broker重要参数Controller为什么需要Controller具体作用数据服务Leader选举选举流程脑裂问题羊群效应触发leader选举Broker概述
Kafka
Ethan-running
·
2024-01-31 06:59
#
kafka
kafka
服务器
分布式
Zookeeper实现分布式队列
目录Zookeeper分布式队列普通方式实现设计思路具体实现使用Curator实现具体实现注意事项Zookeeper分布式队列常见的消息队列有:RabbitMQ,RocketMQ,
Kafka
等。
山鸟与鱼!
·
2024-01-31 05:33
分布式中间件
分布式
zookeeper
后端
java
spring
boot
spring boot 使用
Kafka
一、
Kafka
作为消息队列的好处高吞吐量:
Kafka
能够处理大规模的数据流,并支持高吞吐量的消息传输。持久性:
Kafka
将消息持久化到磁盘上,保证了消息不会因为系统故障而丢失。
奋力向前123
·
2024-01-31 03:20
java
spring
boot
kafka
后端
【
Kafka
系列】生产级集群参数配置
2.4Topic管理相关配置2.5数据存留相关配置3.Topic级别参数4.JVM参数5.操作系统参数6.小结1.概述本文将从Bocker端参数、Topic级别参数、JVM端参数、操作系统级别参数分别介绍
Kafka
Hyatt1024
·
2024-01-30 23:44
kafka
kafka
分布式
【
Kafka
系列】
Kafka
副本机制详解
目录1.前言2.副本定义3.副本角色4.In-syncReplicas(ISR)5.Unclean领导者选举(UncleanLeaderElection)6.小结1.前言所谓的副本机制(Replication),也可以称之为备份机制,通常是指分布式系统在多台网络互联的机器上保存有相同的数据拷贝。副本机制有什么好处呢?提供数据冗余。即使系统部分组件失效,系统依然能够继续运转,因而增加了整体可用性以及
Hyatt1024
·
2024-01-30 23:44
kafka
kafka
分布式
【
Kafka
系列】
Kafka
线上集群部署方案
目录前言操作系统磁盘磁盘容量带宽小结前言
Kafka
线上集群部署方案怎么做?既然是集群部署,那必然就要有多个
Kafka
节点机器,且需要仔细地考量各种因素,结合自身的业务需求而制定。
Hyatt1024
·
2024-01-30 23:13
kafka
kafka
分布式
RabbitMQ、
Kafka
、RocketMQ 是如何实现高可用的?
本文从高可用的角度观察一下RabbitMQ、
Kafka
、RocketMQ,看看它们各自的实现思路。
SlowGO
·
2024-01-30 22:03
Kafka
常见问题
1.
Kafka
介绍
Kafka
是一个分布式的基于发布/订阅模式的消息队列(MessageQueue),主要应用于大数据实时处理领域。
头未秃
·
2024-01-30 21:48
笔记
kafka
kafka
常见参数配置
Broker端参数auto.create.topics.enable:是否允许自动创建Topic。建议最好设置成false,即不允许自动创建Topic。线上环境里面有很多名字稀奇古怪的Topic,大概都是因为该参数被设置成了true的缘故。unclean.leader.election.enable:是否允许UncleanLeader选举。关闭UncleanLeader选举的。何谓Unclean?
YYangBBB
·
2024-01-30 21:48
kafka
Kafka
常见问题
Kafka
常见问题1.什么是分布式?2.什么是
Kafka
?3.为什么用
Kafka
(使用消息队列的好处)?4.消息队列的两种模式?5.
Kafka
的组成(架构)?
斯沃福德
·
2024-01-30 21:47
消息队列
/
缓存
kafka
java
分布式
Kafka
常见配置
producer.properties配置acks消息确认机制,ack可配置为三种:0,1,-1(all),默认为1acks=0,producer端发送消息后,不管broker的副本是否成功收到消息,producer端都认为发送成功。优点:时延最小,缺点:有消息丢失风险,如果消息生产成功后在发送过程中leader异常,则消息丢失。可靠性低,leader收到消息后,如果同步到其他follower过程
Jessie_hhhhhzy
·
2024-01-30 21:17
kafka
Kafka
常见参数
参数名含义默认值解释max.request.size生产端:最大请求字节大小1MB如果生产请求消息体大小大于该值,客户端生产时会报错max.poll.records消费端:一次poll()请求最大拉取消息条数500条如果单条消息处理时间长,需要减少该参数值,反之增加fetch.min.bytes消费端:一次poll()请求最小返回字节大小1增加该值可以提高吞吐量,同时也会产生一定延迟fetch.m
沉默终止
·
2024-01-30 21:46
kafka
分布式
kafka
学习笔记一
目录第一章初识
Kafka
一、
kafka
的作用二、
kafka
架构三、分区&日志四、生产者&消费者五、
kafka
高性能之道总结:
kafka
读写性能高的原因?
薛薛哦
·
2024-01-30 21:56
分布式
kafka
kafka
学习笔记二
课程地址:【尚硅谷】
Kafka
3.x教程(从入门到调优,深入全面)_哔哩哔哩_bilibili讲解版本:
kafka
3.x;时长13小时官网:Apache
Kafka
Kafka
2.8.0以后也可以配置不采用
薛薛哦
·
2024-01-30 21:25
分布式
kafka
kafka
集群搭建需要做的事情
首先,虚拟机克隆好之后的步骤如下:1.修改IP、主机名,关闭防火墙;(reboot重启)2.在/etc/hosts文件中进行IP与主机名的映射配置,集群中每天都记得配置;3.安装JDK并进行分发;进入/etc/profile.d/目录创建my_env.sh文件并在其中配置JAVA_HOME并进行分发;(分发jdk前先卸载自带的jdk);4.安装zookeeper并进行分发,具体为:首先,在zook
薛薛哦
·
2024-01-30 21:24
分布式
一碰就头疼的
Kafka
消息重复问题,立马解决!
一碰就头疼的
Kafka
消息重复问题,立马解决!
一名技术极客
·
2024-01-30 20:13
随笔
日常开发问题集锦
kafka
linq
RabbitMQ安全防护,加固策略
简介中间件简介消息队列中间件是分布式系统中重要的组件,主要解决应用耦合,异步消息,流量削锋等问题实现高性能,高可用,可伸缩和最终一致性[架构]使用较多的消息队列有ActiveMQ(安全),RabbitMQ,ZeroMQ,
Kafka
中年程序员一枚
·
2024-01-30 17:27
环境搭建专栏
rabbitmq
安全
分布式
Kafka
记录
推荐资源官网http://
kafka
.apache.org/Githubhttps://github.com/apache/
kafka
书籍《深入理解
Kafka
核心设计与实践原理》
Kafka
架构
Kafka
Beth_Chan
·
2024-01-30 16:00
Java
数据
Kafka
Java
MQ
Message
Queue
ELK集群搭建(基础教程)
ELK集群搭建(基础教程)目录:机器准备集群内各台机器安装Elasticsearch安装部署
Kafka
(注:每个节点都配置,注意ip不同)安装logstash工具安装filebeatELK收集Nginx
lqcbj_IT老混混
·
2024-01-30 16:41
ELK集群
elk
如何接手一个大数据项目
:了解一个大数据系统,我认为需要从以下几个方面入手:宏观方面:1.了解系统的整体架构和技术栈:需要了解系统中使用的技术栈,包括各种大数据组件和工具,例如Hadoop、Spark、Hive、Flink、
Kafka
Mmj666
·
2024-01-30 15:19
大数据
如何监控
Kafka
消费者组消费进度?
如何监控
Kafka
消费者组消费进度?对于
Kafka
消费者来说,最重要的事情就是监控它们的消费进度了,或者说是监控它们消费的滞后程度。这个滞后程度有个专门的名称:消费者Lag或ConsumerLag。
章全蛋
·
2024-01-30 07:32
Kafka
【
Kafka
】 分区和副本 Partition 详解
ISR和OSRLEO和HW分区Leader选举分区重新分配自动再均衡修改分区副本分区分配策略RangeAssignorRoundRobinAssignorStickyAssignor自定义分配策略概述
Kafka
Ethan-running
·
2024-01-30 07:32
#
kafka
kafka
分布式
消息中间件
【Spring连载】使用Spring访问 Apache
Kafka
(二十)----测试应用
【Spring连载】使用Spring访问Apache
Kafka
(二十)----测试应用TestingApplications一、
Kafka
TestUtils二、JUnit三、配置主题ConfiguringTopics
85程序员老王
·
2024-01-30 07:30
spring
apache
kafka
消息队列和
Kafka
消息队列(类似于蜂巢柜的功能):异步操作特点:低耦合,响应时间快,异步削峰限流(在不繁忙的时间段处理再处理任务),系统结构弹性大,易于扩展
kafka
Kafka
的主要组件包括:-Broker:
Kafka
集群中的单个服务器节点
一路向北看星晴
·
2024-01-30 07:30
kafka
分布式
【Spring连载】使用Spring访问 Apache
Kafka
(十九)----Apache
Kafka
Streams支持
【Spring连载】使用Spring访问Apache
Kafka
(十九)----Apache
Kafka
Streams支持一、基础Basics二、Spring管理三、
Kafka
StreamsMicrometer
85程序员老王
·
2024-01-30 07:00
spring
apache
kafka
Kafka
- 消费进度监控(Consumer Lag)
所谓滞后程度,就是指消费者当前落后于生产者的程度。Lag应该算是最最重要的监控指标了。它直接反映了一个消费者的运行情况。一个正常工作的消费者,它的Lag值应该很小,甚至是接近于0的,这表示该消费者能够及时地消费生产者生产出来的消息,滞后程度很小。反之,如果一个消费者Lag值很大,通常就表明它无法跟上生产者的速度,最终Lag会越来越大,从而拖慢下游消息的处理速度。通常来说,Lag的单位是消息数,而且
放羊的牧码
·
2024-01-30 07:56
#
MQ
kafka
分布式
消费者
消费
监控
Lag
consumer
stream
【Spring连载】使用Spring访问 Apache
Kafka
(二十一)----提示,技巧和例子
【Spring连载】使用Spring访问Apache
Kafka
(二十一)----提示,技巧和例子Tips,TricksandExamples一、手动分配所有分区ManuallyAssigningAllPartitions
85程序员老王
·
2024-01-30 07:26
spring
apache
kafka
Redis中发布订阅模式用法
这个第三方我们通常称之为消息中间件,消息中间件主要是用来做系统之间的异步通信,常见的消息中间件有:ActiveMQ,RocketMQ,RabbitMQ,
Kafka
等。
IT之一小佬
·
2024-01-30 06:07
Redis数据库
redis
发布订阅
Java高级面试题目
集合数据结构b.jvm:gc、内存模型、堆分代c.多线程:volatile、java.util.concurrent包d.spring:启动、时间e.redis:分布式锁、lua保证原⼦性、集群f.消息队列:
kafka
g.Springcloudh.mysql
Lemonrel
·
2024-01-30 01:08
深入分析
Kafka
生产者和消费者
深入
Kafka
生产者和消费者
Kafka
生产者消息发送的流程发送方式发送并忘记同步发送异步发送生产者属性配置序列化器分区器自定义分区器
Kafka
消费者消费者属性配置消费者基础概念消费者群组订阅主题轮询拉取提交和偏移量提交偏移量带来的问题自动提交手动提交异步提交同步和异步提交特定提交消费者核心概念群组协调分区再均衡再均衡监听器从特定偏移量处开始记录优雅退出反序列化器独立消费者
wzljiayou
·
2024-01-29 23:23
kafka系列
kafka
kafka
主动消费_
Kafka
服务中消费者创建详解
与生产者对应的是消费者,应用程序可以通过
Kafka
Consumer来订阅主题,并从订阅的主题拉取消息。
weixin_39540934
·
2024-01-29 23:53
kafka
主动消费
kafka
生产者和消费者的基本操作
文章目录1.单节点安装2.Topic2.1创建topic2.2查看Topic2.3查看topic描述2.4修改topic2.5删除topic3.启动生产者发送消息4.启动消费者接收消息在学习
kafka
集群之前
冬天里的懒猫
·
2024-01-29 23:22
kafka
java
kafka
面试
程序人生
经验分享
3
kafka
生产者消费者初体验
消息发送到broker的过程图如下:生产者主要的对象有:
Kafka
Producer,ProducerRecord。
dream21st
·
2024-01-29 23:22
kafka学习笔记
java
消息中间件
kafka
生产者和消费者配置介绍
kafka
默认配置每个
kafka
broker中配置文件server.properties默认必须配置的属性如下:broker.id=0num.network.threads=2num.io.threads
Java技术债务
·
2024-01-29 23:22
Kafka
kafka
java
分布式
kafka
生产者与消费者
/
kafka
-server-start.sh../config/server.properties创建topic.
代码人的自白
·
2024-01-29 23:22
Hadoop大数据技术
kafka生产与消费
Kafka
及
Kafka
消费者的消费问题及线程问题
Kafka
一、
Kafka
中的基本信息
kafka
中topic、broker、partition、及customer和producer等的对应关系Window安装配置
kafka
和zookeeper并将其加入服务的方式二
经年小栈
·
2024-01-29 23:22
kafka
java
分布式
Java实现
kafka
生产者和消费者
需要的依赖:org.apache.
kafka
kafka
-clients2.7.0生产者:Propertiesproperties=newProperties();//
Kafka
代理的地址,生产者建立连接
西凉的悲伤
·
2024-01-29 23:52
java
kafka
java
Kafka
建立生产者消费者
Kafka
是一个分布式流处理平台,可以用于构建高效的消息系统。在
Kafka
中,消息的产生和消费分别由生产者(Producer)和消费者(Consumer)来完成。
爱编程的小白L
·
2024-01-29 23:51
Java零基础学习
Java面试集
kafka
linq
分布式
【代码随想录-链表】移除链表元素
推荐:kwan的首页,持续学习,不断总结,共同进步,活到老学到老导航檀越剑指大厂系列:全面总结java核心技术点,如集合,jvm,并发编程redis,
kafka
,Spring,微服务,Netty等常用开发工具系列
檀越剑指大厂
·
2024-01-29 23:11
s6
算法与数据结构
链表
数据结构
103.Flume对
Kafka
数据采集并写入HBase
103.1演示环境介绍CM版本:5.12.1CDH版本:5.12.1Flume,HBase服务已安装且正常运行root用户操作103.2操作演示1.HBaseSink开发示例开发HBaseSink需要添加HBase相关的依赖包org.apache.flume.flume-ng-sinksflume-ng-hbase-sink1.6.0-cdh5.12.1org.apache.hbasehbase-
大勇任卷舒
·
2024-01-29 21:54
kafka
安装
内容小白,包含JDK+Zookeeper+
Kafka
三部分。
yaoyao妖妖
·
2024-01-29 20:24
如何搭建Nextcloud云存储网盘并实现无公网ip访问本地文件【内网穿透】
推荐:kwan的首页,持续学习,不断总结,共同进步,活到老学到老导航檀越剑指大厂系列:全面总结java核心技术点,如集合,jvm,并发编程redis,
kafka
,Spring,微服务,Netty等常用开发工具系列
檀越剑指大厂
·
2024-01-29 19:13
s20
cpolar
tcp/ip
网络协议
网络
MQ消息队列中间件介绍及IoT领域应用
消息队列中间件
Kafka
、ActiveMQ、RabbitMQ、RocketMQ都有什么区别,以及适合哪些场景?IoT领域中的消息队列应用什么是消息队列什么是消息队列?
EnjoyCodingAndGame
·
2024-01-29 18:36
分布式系统
消息队列
MQ
MessageQueue
MQTT
Kafka
上一页
8
9
10
11
12
13
14
15
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他