E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
kafka消息系统源码解析
uniapp实现app检查更新与升级-uni-upgrade-center详解
的几个疑问什么是升级中心uni-upgrade-centeruniapp官方开发的App版本更新的插件,基于unicloud的后端服务因为是开源的,通过修改源码可以实现请求java等其他后端服务,后续的
源码解析
永远不会太晚
·
2024-01-31 08:24
uniapp
uni-app
java
前端
Kafka
系列之:不重启
kafka
集群设置
kafka
topic数据保留时间
Kafka
系列之:不重启
kafka
集群设置
kafka
topic数据保留时间一、
kafka
topic数据保留3天的bash命令二、查看
kafka
删除数据日志三、批量设置上千个topic保留3天数据1.构建
最笨的羊羊
·
2024-01-31 07:57
大数据
Kafka系列
不重启kafka集群
kafka
topic数据
KAFKA
节点故障的容错方案
KAFKA
节点故障的容错方案1.broker启动加载逻辑1.1日志组成和分析1.2snapshot文件1.3broker启动流程1.4LogManager的初始化和启动过程2.controller高可用
李姓门徒
·
2024-01-31 07:25
分布式
Kafka
大数据
kafka
分布式
大数据
kerberos+
kafka
(2.13)认证(单节点ubuntu)
一:搭建kerberos。1.运行安装命令apt-getinstallkrb5-admin-serverkrb5-kdckrb5-userkrb5-config2.检查服务是否启动。systemctlstatuskrb5-admin-serversystemctlstatuskrb5-kdcsystemctlstartkrb5-admin-serversystemctlstartkrb5-kdc3
宇智波云
·
2024-01-31 07:55
kafka
ubuntu
数据库
kafka
3.0.0学习记录
文章目录第1章
Kafka
概述1.1定义1.2消息队列1.2.1应用场景第1章
Kafka
概述1.1定义
Kafka
是一个开源的分布式事件流平台(EventStreamingPlatform),被数千家公司用于高性能数据管道
珍珠是蚌的眼泪
·
2024-01-31 07:24
中间件
kafka
实时计算平台
Flink实时计算平台架构Flink+
kafka
+clickHouse+mysql+postgresql
xfchn多多学习学习
·
2024-01-31 07:24
大数据
实时大数据
kafka
Standalone 配置 测试
一安装1、安装jdk安装jdk2安装zk这里Standalone模型$tar-zxfapache-zookeeper-3.5.9-bin.tar.gz-C/var/soft/$mvapache-zookeeper-3.5.9-bin/zookeeper-3.5.9-bin/$mvzoo_sample.cfgzoo.cfg$vizoo.cfg修改此处,其他默认dataDir=/var/soft/zo
xfchn多多学习学习
·
2024-01-31 07:24
大数据
kafka
RabbitMQ和
Kafka
对比
RabbitMQ和
Kafka
都是流行的消息传递系统,但它们在设计哲学、功能特性和最适用的场景上有所不同:1.设计和架构RabbitMQ:基于AMQP(高级消息队列协议)。
薛定谔的zhu
·
2024-01-31 07:21
rabbitmq
kafka
分布式
【
kafka
-01数据保留时间设置】
kafka
正确设置过期时间背景如何正确配置数据过期时间背景某天突然发现我的
kafka
中group_id消费记录不见了,特地查了下咋回事。
我先森
·
2024-01-31 07:50
kafka
分布式
Kafka
与RocketMQ性能对比大揭秘
在双十一过程中投入同样的硬件资源,
Kafka
搭建的日志集群单个Topic可以达到几百万的TPS,而使用RocketMQ组件的核心业务集群,集群TPS只能达到几十万TPS,这样的现象激发了我对两者性能方面的思考
Java柱柱
·
2024-01-31 07:21
k8s的operator基石:controller-runtime
源码解析
写在之前今天开始开更controller-runtime的源码阅读,笔者建议大家在阅读前了解以下知识,可能会帮助大家更好的理解源码逻辑。1.client-go的基础使用2.使用kubebuilder搭建一个简单的controller-runtime环境3.informer的基本思想1.源码环境搭建参考链接:https://book.kubebuilder.io/cronjob-tutorial/c
bug_createman
·
2024-01-31 07:52
云原生源码阅读
kubernetes
网络
容器
【
Kafka
】服务器Broker与Controller详解
Broker概述Broker总体工作流程Broker重要参数Controller为什么需要Controller具体作用数据服务Leader选举选举流程脑裂问题羊群效应触发leader选举Broker概述
Kafka
Ethan-running
·
2024-01-31 06:59
#
kafka
kafka
服务器
分布式
Nacos
源码解析
:Nacos配置管理-客户端篇
本文源码来源于Nacos2.1.0版本https://github.com/alibaba/nacos/releases/tag/2.1.0一、一个例子Nacos获取配置以及监听配置变更的基本使用方式如下:publicclassNacosConfigExample{publicstaticvoidmain(String[]args)throwsNacosException,InterruptedE
huangyk206
·
2024-01-31 06:30
Nacos
java
开源软件
cesium
源码解析
篇:GeoJsonDataSource(Polygon)
本篇主要内容为介绍使用GeoJsonDataSource加载GeoJSON数据之后的代码调用和业务逻辑从中提炼对polygon进行解析和创建entity的函数以供参考读取GeoJSON获取feature判断是PolygonorMultiPolygon带hole创建entity对象代码调用栈Cesium.GeoJsonDataSource.load(data,options)newGeoJsonDa
游无穷
·
2024-01-31 05:44
Cesium
Cesium
源码解析
Zookeeper实现分布式队列
目录Zookeeper分布式队列普通方式实现设计思路具体实现使用Curator实现具体实现注意事项Zookeeper分布式队列常见的消息队列有:RabbitMQ,RocketMQ,
Kafka
等。
山鸟与鱼!
·
2024-01-31 05:33
分布式中间件
分布式
zookeeper
后端
java
spring
boot
spring boot 使用
Kafka
一、
Kafka
作为消息队列的好处高吞吐量:
Kafka
能够处理大规模的数据流,并支持高吞吐量的消息传输。持久性:
Kafka
将消息持久化到磁盘上,保证了消息不会因为系统故障而丢失。
奋力向前123
·
2024-01-31 03:20
java
spring
boot
kafka
后端
Android EventBus
源码解析
前言上一篇文章自己对EventBus的用法进行了简单的叙述,然后自己又去研究了一下EventBus3.0源码也参考了网上的一些大佬的博客进行进一步的理解,写这一篇文章让自己对EventBus有个好的总结回顾,如有不正确的地方欢迎留言。一、EventBus简介在EventBus没出现之前,那时候的开发者一般是使用Android四大组件中的广播进行组件间的消息传递,那么我们为什么要使用事件总线机制来替
阿木木丶涛
·
2024-01-31 00:53
【
Kafka
系列】生产级集群参数配置
2.4Topic管理相关配置2.5数据存留相关配置3.Topic级别参数4.JVM参数5.操作系统参数6.小结1.概述本文将从Bocker端参数、Topic级别参数、JVM端参数、操作系统级别参数分别介绍
Kafka
Hyatt1024
·
2024-01-30 23:44
kafka
kafka
分布式
【
Kafka
系列】
Kafka
副本机制详解
目录1.前言2.副本定义3.副本角色4.In-syncReplicas(ISR)5.Unclean领导者选举(UncleanLeaderElection)6.小结1.前言所谓的副本机制(Replication),也可以称之为备份机制,通常是指分布式系统在多台网络互联的机器上保存有相同的数据拷贝。副本机制有什么好处呢?提供数据冗余。即使系统部分组件失效,系统依然能够继续运转,因而增加了整体可用性以及
Hyatt1024
·
2024-01-30 23:44
kafka
kafka
分布式
【Java系列】ArrayList
源码解析
温馨提示:本文源码分析基于JDK1.8。目录ArrayList简介ArrayList核心源码分析底层数据结构构造函数自动扩容add方法grow方法ArrayList简介ArrayList实现了List接口,是有序集合,即用户可以精确控制每个元素在列表中的插入位置,允许放入null元素,底层通过数组实现,支持动态扩容。每个ArrayList都有一个容量(capacity),表示底层数组的实际大小。当
Hyatt1024
·
2024-01-30 23:43
Java
源码系列
java
【
Kafka
系列】
Kafka
线上集群部署方案
目录前言操作系统磁盘磁盘容量带宽小结前言
Kafka
线上集群部署方案怎么做?既然是集群部署,那必然就要有多个
Kafka
节点机器,且需要仔细地考量各种因素,结合自身的业务需求而制定。
Hyatt1024
·
2024-01-30 23:13
kafka
kafka
分布式
Nacos服务注册
源码解析
简介:本文将以图文方式详述SpringCloudAlibaba技术体系之Nacos服务注册
源码解析
。
Hyatt1024
·
2024-01-30 23:39
Spring
Cloud
Alibaba
微服务系列
源码系列
springboot
Nacos
SpringCloud
Java
RabbitMQ、
Kafka
、RocketMQ 是如何实现高可用的?
本文从高可用的角度观察一下RabbitMQ、
Kafka
、RocketMQ,看看它们各自的实现思路。
SlowGO
·
2024-01-30 22:03
Kafka
常见问题
1.
Kafka
介绍
Kafka
是一个分布式的基于发布/订阅模式的消息队列(MessageQueue),主要应用于大数据实时处理领域。
头未秃
·
2024-01-30 21:48
笔记
kafka
kafka
常见参数配置
Broker端参数auto.create.topics.enable:是否允许自动创建Topic。建议最好设置成false,即不允许自动创建Topic。线上环境里面有很多名字稀奇古怪的Topic,大概都是因为该参数被设置成了true的缘故。unclean.leader.election.enable:是否允许UncleanLeader选举。关闭UncleanLeader选举的。何谓Unclean?
YYangBBB
·
2024-01-30 21:48
kafka
Kafka
常见问题
Kafka
常见问题1.什么是分布式?2.什么是
Kafka
?3.为什么用
Kafka
(使用消息队列的好处)?4.消息队列的两种模式?5.
Kafka
的组成(架构)?
斯沃福德
·
2024-01-30 21:47
消息队列
/
缓存
kafka
java
分布式
Kafka
常见配置
producer.properties配置acks消息确认机制,ack可配置为三种:0,1,-1(all),默认为1acks=0,producer端发送消息后,不管broker的副本是否成功收到消息,producer端都认为发送成功。优点:时延最小,缺点:有消息丢失风险,如果消息生产成功后在发送过程中leader异常,则消息丢失。可靠性低,leader收到消息后,如果同步到其他follower过程
Jessie_hhhhhzy
·
2024-01-30 21:17
kafka
Kafka
常见参数
参数名含义默认值解释max.request.size生产端:最大请求字节大小1MB如果生产请求消息体大小大于该值,客户端生产时会报错max.poll.records消费端:一次poll()请求最大拉取消息条数500条如果单条消息处理时间长,需要减少该参数值,反之增加fetch.min.bytes消费端:一次poll()请求最小返回字节大小1增加该值可以提高吞吐量,同时也会产生一定延迟fetch.m
沉默终止
·
2024-01-30 21:46
kafka
分布式
kafka
学习笔记一
目录第一章初识
Kafka
一、
kafka
的作用二、
kafka
架构三、分区&日志四、生产者&消费者五、
kafka
高性能之道总结:
kafka
读写性能高的原因?
薛薛哦
·
2024-01-30 21:56
分布式
kafka
Dubbo学习笔记(四)——负载均衡与SPI机制
代码执行流程分析参考文章:阿里面试真题:Dubbo的SPI机制_三太子敖丙博客-CSDN博客dubbo(二)dubbospi机制_dubbospi-CSDN博客核心技术概念-SPI(baidu.com)Dubbo
源码解析
薛薛哦
·
2024-01-30 21:25
分布式
dubbo
kafka
学习笔记二
课程地址:【尚硅谷】
Kafka
3.x教程(从入门到调优,深入全面)_哔哩哔哩_bilibili讲解版本:
kafka
3.x;时长13小时官网:Apache
Kafka
Kafka
2.8.0以后也可以配置不采用
薛薛哦
·
2024-01-30 21:25
分布式
kafka
kafka
集群搭建需要做的事情
首先,虚拟机克隆好之后的步骤如下:1.修改IP、主机名,关闭防火墙;(reboot重启)2.在/etc/hosts文件中进行IP与主机名的映射配置,集群中每天都记得配置;3.安装JDK并进行分发;进入/etc/profile.d/目录创建my_env.sh文件并在其中配置JAVA_HOME并进行分发;(分发jdk前先卸载自带的jdk);4.安装zookeeper并进行分发,具体为:首先,在zook
薛薛哦
·
2024-01-30 21:24
分布式
一碰就头疼的
Kafka
消息重复问题,立马解决!
一碰就头疼的
Kafka
消息重复问题,立马解决!
一名技术极客
·
2024-01-30 20:13
随笔
日常开发问题集锦
kafka
linq
Spring注解开发
源码解析
一:SpringIOC注解解析1:@Configuration注解下面是@Configuration注解的源码翻译部分:@Target(ElementType.TYPE)@Retention(RetentionPolicy.RUNTIME)@Documented@Componentpublic@interfaceConfiguration{/***1、显式指定与此配置类关联的Springbean定
*共清欢*
·
2024-01-30 20:26
Spring框架
spring
java
mysql
RabbitMQ学习(一)AMQP协议
RabbitMQ是MQ产品的典型代表,是一款基于AMQP协议可复用的企业
消息系统
。业务上,可以实现服务提供者和消费者之间的数据解耦,提供高可用性的消息传输机制,在实际生产
kobe0429
·
2024-01-30 19:43
RabbitMQ安全防护,加固策略
简介中间件简介消息队列中间件是分布式系统中重要的组件,主要解决应用耦合,异步消息,流量削锋等问题实现高性能,高可用,可伸缩和最终一致性[架构]使用较多的消息队列有ActiveMQ(安全),RabbitMQ,ZeroMQ,
Kafka
中年程序员一枚
·
2024-01-30 17:27
环境搭建专栏
rabbitmq
安全
分布式
Kafka
记录
推荐资源官网http://
kafka
.apache.org/Githubhttps://github.com/apache/
kafka
书籍《深入理解
Kafka
核心设计与实践原理》
Kafka
架构
Kafka
Beth_Chan
·
2024-01-30 16:00
Java
数据
Kafka
Java
MQ
Message
Queue
ELK集群搭建(基础教程)
ELK集群搭建(基础教程)目录:机器准备集群内各台机器安装Elasticsearch安装部署
Kafka
(注:每个节点都配置,注意ip不同)安装logstash工具安装filebeatELK收集Nginx
lqcbj_IT老混混
·
2024-01-30 16:41
ELK集群
elk
如何接手一个大数据项目
:了解一个大数据系统,我认为需要从以下几个方面入手:宏观方面:1.了解系统的整体架构和技术栈:需要了解系统中使用的技术栈,包括各种大数据组件和工具,例如Hadoop、Spark、Hive、Flink、
Kafka
Mmj666
·
2024-01-30 15:19
大数据
[React
源码解析
] Fiber (二)
在React15及以前,Reconciler采用递归的方式创建虚拟Dom,但是递归过程不可以中断,如果组件的层级比较深的话,递归会占用线程很多时间,那么会造成卡顿。为了解决这个问题,React16将递归的无法中断的更新重构为异步的可中断更新,Fiber架构诞生。文章目录1.Fiber的结构2.作为架构来说3.作为静态的数据结构4.作为动态的工作单元1.Fiber的结构作为架构来说,之前React1
959y
·
2024-01-30 15:57
react
react.js
前端
【学习笔记】Vue3
源码解析
:第一部分-实现vue3环境搭建
课程地址:【已完结】全网最详细Vue3
源码解析
!
youyoufenglai
·
2024-01-30 14:53
学习
笔记
vue
消息中间件RabbitMQ介绍
AMQP(高级消息队列协议)基础上完成的,简称MQ全称为MessageQueue,消息队列(MQ)是一种应用程序对应用程序的通信方法,由Erlang(专门针对于大数据高并发的语言)语言开发,可复用的企业
消息系统
xmh-sxh-1314
·
2024-01-30 12:56
rabbitmq
Feign
源码解析
SpringCloudFeignFeignClientsRegistrar实现包扫描@FeignClient注解的接口逻辑@OverridepublicvoidregisterBeanDefinitions(AnnotationMetadatametadata,BeanDefinitionRegistryregistry){//找到被注解的类,注册bean的定义registerDefaultCon
minute_5
·
2024-01-30 12:50
快来看看
源码解析
概述FastJson2是FastJson项目的重要升级,目标是为下一个十年提供一个高性能的JSON库。根据官方给出的性能来看,相比v1版本,确实有了很大的提升,本篇文章我们来看下究竟做了哪些事情,使得性能有了大幅度的提升。本篇将采用代码测试+源码阅读的方式对FastJson2的性能提升做一个较为全面的探索。一、环境准备首先,我们搭建一套用于测试的环境,这里采用springboot项目,分别创建两个
java小皮皮
·
2024-01-30 09:19
Java
大数据
java
如何监控
Kafka
消费者组消费进度?
如何监控
Kafka
消费者组消费进度?对于
Kafka
消费者来说,最重要的事情就是监控它们的消费进度了,或者说是监控它们消费的滞后程度。这个滞后程度有个专门的名称:消费者Lag或ConsumerLag。
章全蛋
·
2024-01-30 07:32
Kafka
【
Kafka
】 分区和副本 Partition 详解
ISR和OSRLEO和HW分区Leader选举分区重新分配自动再均衡修改分区副本分区分配策略RangeAssignorRoundRobinAssignorStickyAssignor自定义分配策略概述
Kafka
Ethan-running
·
2024-01-30 07:32
#
kafka
kafka
分布式
消息中间件
【Spring连载】使用Spring访问 Apache
Kafka
(二十)----测试应用
【Spring连载】使用Spring访问Apache
Kafka
(二十)----测试应用TestingApplications一、
Kafka
TestUtils二、JUnit三、配置主题ConfiguringTopics
85程序员老王
·
2024-01-30 07:30
spring
apache
kafka
消息队列和
Kafka
消息队列(类似于蜂巢柜的功能):异步操作特点:低耦合,响应时间快,异步削峰限流(在不繁忙的时间段处理再处理任务),系统结构弹性大,易于扩展
kafka
Kafka
的主要组件包括:-Broker:
Kafka
集群中的单个服务器节点
一路向北看星晴
·
2024-01-30 07:30
kafka
分布式
【Spring连载】使用Spring访问 Apache
Kafka
(十九)----Apache
Kafka
Streams支持
【Spring连载】使用Spring访问Apache
Kafka
(十九)----Apache
Kafka
Streams支持一、基础Basics二、Spring管理三、
Kafka
StreamsMicrometer
85程序员老王
·
2024-01-30 07:00
spring
apache
kafka
Kafka
- 消费进度监控(Consumer Lag)
所谓滞后程度,就是指消费者当前落后于生产者的程度。Lag应该算是最最重要的监控指标了。它直接反映了一个消费者的运行情况。一个正常工作的消费者,它的Lag值应该很小,甚至是接近于0的,这表示该消费者能够及时地消费生产者生产出来的消息,滞后程度很小。反之,如果一个消费者Lag值很大,通常就表明它无法跟上生产者的速度,最终Lag会越来越大,从而拖慢下游消息的处理速度。通常来说,Lag的单位是消息数,而且
放羊的牧码
·
2024-01-30 07:56
#
MQ
kafka
分布式
消费者
消费
监控
Lag
consumer
stream
上一页
12
13
14
15
16
17
18
19
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他