E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
kafka消息系统源码解析
深入浅出hdfs源码
1、hadoop基本介绍2、周边生态图3、hdfs读
源码解析
4、hdfs写
源码解析
5、hdfs副本机制解读6、hdfs常见管理
源码解析
7、hdfs高可用
源码解析
-ha8、hdfs监控
源码解析
-dnmetrics-nnmetrics
大数据之家
·
2024-01-27 10:39
hdfs
hadoop
大数据
Kafka
面试题
0.思维导图
Kafka
是一个分布式的基于发布/订阅模式的消息队列,主要用于大数据实时处理邻域 消息队列分为点对点模式(消费者主动拉取数据,消息收到后清除消息)和发布订阅模式(消费者消费数据之后,不删除数据
韩顺平的小迷弟
·
2024-01-27 10:33
大数据面试题
kafka
分布式
kafka
summary
最近整体梳理之前用到的一些东西,回顾
Kafka
的时候好多东西都忘记了,把一些自己记的比较模糊并且感觉有用的东西整理一遍并且记忆一遍,仅用于记录以备后续回顾
Kafka
的哪些场景中使用了零拷贝生产者发送消息
会说话的皮卡丘
·
2024-01-27 09:22
kafka
分布式
电商系统设计到开发03 引入
Kafka
异步削峰
一、前言系统设计:电商系统设计到开发01第一版设计到编码-CSDN博客接着上篇文章:电商系统设计到开发02单机性能压测-CSDN博客本篇为大制作,内容有点多,也比较干货,希望可以耐心看看已经开发的代码,并对其下单接口进行了压力测试压力测试,该接口一个请求需要查询数据库4次,更新4次,插入2次,总共访问数据库10次,其中2个事务,3次查询是加锁查询,还有1次rpc请求,单实例情况下吞吐量为110/s
风萧萧兮s
·
2024-01-27 09:15
电商下单并发研究
kafka
分布式
java
easy-upsert-starter 轻量级数据转换存储服务-MySQL使用(二)
easy-upsert-starter轻量级数据转换存储服务简介:针对轻量级数据(单次包数据量10万)处理,提供数据转移存储到MySQL、
Kafka
、ES、HBase、Redis配置相应的数据源,注入IUpser
还在忙碌的吴小二
·
2024-01-27 09:46
SpringBoot
MySQL
mysql
java
Kafka
-服务端-PartitionStateMachine
PartitionStateMachine是ControllerLeader用于维护分区状态的状态机。分区的状态是通过PartitionState接口定义的,它有四个子类分别代表了分区四种可能的状态,如表所示。分区各个PartitionState之间的转换如图所示。下面分析各个状态之间转换时,需要完成的相关操作。NonExistentPartition→NewPartition从ZooKeeper
Andy技术支援
·
2024-01-27 08:53
队列
kafka
debian
分布式
知识库-
kafka
shell脚本用法
脚本名称用途描述connect-distributed.sh连接
kafka
集群模式connect-standalone.sh连接
kafka
单机模式
kafka
-acls.shtodo
kafka
-broker-api-versions.shtodo
kafka
-configs.sh
知秋ing
·
2024-01-27 08:52
kafka从入门到精通
kafka
分布式
shell脚本--
kafka
生产数据
直接上代码
kafka
参数修改成自己的配置。#!
手提青灯觅佳人
·
2024-01-27 08:52
大数据通用
shell
kafka
Kafka
zookeeper-shell.sh
bin/zookeeper-shell.sh作用是连接zookeeper,并通过命令查询注册的信息,本质上就是zookeeper的语法。bin/zookeeper-shell.shzookeeper_host:port[/path][args…]args参数类型如下statpath[watch]setpathdata[version]lspath[watch]delquota[-n|-b]path
云川之下
·
2024-01-27 08:18
kafka
kafka
【shell-10】shell实现的各种
kafka
脚本
kafka
-shell工具背景日志log一.启动
kafka
->(start-
kafka
)二.停止
kafka
->(stop-
kafka
)三.创建topic->(create-topic)四.删除topic
我先森
·
2024-01-27 08:41
shell
kafka
kafka
linq
分布式
Flink生产环境相关问题
1.Flink+
Kafka
保证精确一次消费相关问题?Fink的检查点和恢复机制和可以重置读位置的source连接器结合使用,比如
kafka
,可以保证应用程序不会丢失数据。
大数据左右手
·
2024-01-27 08:09
Flink
面试
flink
JVM系列-8.GC调优
作者简介:大家好,我是爱吃芝士的土豆倪,24届校招生Java选手,很高兴认识大家系列专栏:Spring原理、JUC原理、
Kafka
原理、分布式技术原理、数据库技术、JVM原理如果感觉博主的文章还不错的话
爱吃芝士的土豆倪
·
2024-01-27 08:06
JVM
jvm
java
开发语言
JVM系列-7内存调优
作者简介:大家好,我是爱吃芝士的土豆倪,24届校招生Java选手,很高兴认识大家系列专栏:Spring原理、JUC原理、
Kafka
原理、分布式技术原理、数据库技术、JVM原理如果感觉博主的文章还不错的话
爱吃芝士的土豆倪
·
2024-01-27 08:32
JVM
jvm
java
开发语言
0806-
Kafka
异地复制
Kafka
异地同步:Mirror-Maker(消费者+生产者)原理大概是启动consumer消费南京的topicmessage,发送到重庆的
kafka
集群。
红苹果_小米粒
·
2024-01-27 08:04
来看看阿里P8亲自手码的Spring
源码解析
整套笔记,高薪offer唾手可得!
正文开发人员面对突如其来的变化,无论在架构选型,还是在日常开发中,总会面临各种挑战和考验。唯有系统性地掌握SpringFramework编程思想、设计理念,以及具体的实现方式,方可游刃有余,以免进退失据。作为Spring技术生态的基石,SpringFramework无论在设计,还是在实现上,都是一个优秀的框架,许多细节方面是非常值得我们学习的,包括:Java语言特性的运用,如反射、动态代理、枚举、
码农小芷
·
2024-01-27 07:09
RestTemplate-postForObject详解、调用Https接口、
源码解析
,读懂这一篇文章就够了
RestTemplate-postForObject详解、调用Https接口、
源码解析
,读懂这一篇文章就够了restTemplate目录restTemplate1.基本介绍2.常用方法分析及举例2.1.
C18298182575
·
2024-01-27 06:06
https
网络协议
http
Flink 集成 Debezium Confluent Avro ( format=debezium-avro-confluent )
本文介绍的场景是:使用
Kafka
Connect的DebeziumMySQLSourc
Laurence
·
2024-01-27 06:54
大数据专题
付费专栏
flink
cdc
debezium
avro
confluent
schema-registry
kafka
37.Java连接
Kafka
37.1实验环境Intellij已安装且正常运行Maven环境正常RedHat7.2CM和CDH版本为5.11.2
Kafka
2.2.0-0.10.2创建topic,test3有3个replication
大勇任卷舒
·
2024-01-27 06:40
RocketMQ-同城双活-高可用架构-同程旅行
背景介绍为何选择RocketMQ我们在几年前决定引入MQ时,市场上已经有不少成熟的解决方案,比如RabbitMQ,ActiveMQ,NSQ,
Kafka
等。
无心六神通
·
2024-01-27 04:59
RocketMQ
rocketmq
架构
同城双活
高可用
【代码随想录-数组】二分查找
推荐:kwan的首页,持续学习,不断总结,共同进步,活到老学到老导航檀越剑指大厂系列:全面总结java核心技术点,如集合,jvm,并发编程redis,
kafka
,Spring,微服务,Netty等常用开发工具系列
檀越剑指大厂
·
2024-01-27 04:58
s6
算法与数据结构
java
Kafka
3.0源码学习
内存池3、sender线程发送数据二、消费者源码1、初始化2、消费者订阅主题3、消费者拉取和处理数据3.1消费总体流程3.2消费者/消费者组初始化3.3拉取数据3.4消费者Offset提交三、服务端源码
kafka
魅Lemon
·
2024-01-27 04:25
大数据
kafka
【代码随想录-数组】有序数组的平方
推荐:kwan的首页,持续学习,不断总结,共同进步,活到老学到老导航檀越剑指大厂系列:全面总结java核心技术点,如集合,jvm,并发编程redis,
kafka
,Spring,微服务,Netty等常用开发工具系列
檀越剑指大厂
·
2024-01-27 03:24
s6
算法与数据结构
java
Android
源码解析
- Launcher启动流程
Launcher概述我们知道,Android系统启动的最后一步,就是去启动一个桌面应用程序,这个应用程序就是Launcher。Launcher其实就是一个普通的App应用程序,只是它的功能是可以显示Android系统中所有已经安装的程序,然后提供用户点击相应的应用快捷图标就可以启动相关应用的功能······。那么,Launcher进程的具体启动流程是怎样的呢?我们下面就来结合源码进行分析。Laun
Whyn
·
2024-01-27 03:42
实时分析海量新数据的难点 和解决方案
解决方案:使用分布式计算和存储技术,如Hadoop、Spark、
Kafka
等,将数据分散存储在多个节点上,同时进行分布式计算和处理,以实现数据的实时处理和分析。2.数据质量的保障:海量新
云台095
·
2024-01-27 03:40
大数据的应用
大数据
EventBus
源码解析
(二)
上一篇我们介绍了EventBus回调的主要流程,解决问题一,今天我们来解决问题二问题二怎么根据ThreadMode来切换线程继续上一篇内容前面我们讲实现流程的时候发现只有在postToSubscription()方法中用到了threadMode,那么有关线程的钱换肯定就是在这个方法中,下面来看方法的实现privatevoidpostToSubscription(Subscriptionsubscr
猫KK
·
2024-01-27 03:50
kafka
多线程消费及处理和手动提交处理方案设计
kafka
与其他消息队列不同的是,
kafka
的消费者状态由外部(消费者本身或者类似于Zookeeper之类的外部存储)进行维护,所以
kafka
的消费就更加灵活,但是也带来了很多的问题,因为客户端消费超时被判定挂掉而消费者重新分配分区
达微
·
2024-01-27 01:38
[MQ]常用的mq产品图形管理web界面或客户端
1.2MQ产品较为成熟的MQ产品:IBMMQ(IBMWebSphereMQ),ActiveMQ,RabbitMQ,
Kafka
,RocketMQ,ZeroMQ,MetaMQ等。
穿山甲yyds
·
2024-01-27 01:05
开发语言
中间件
Apache Pulsar——协议适配器
背景为了能平滑、不改写代码、无侵入地迁移应用使用pulsar,KoP以插件形式支持
Kafka
协议。
小波同学
·
2024-01-26 22:17
斐波那契数列
阶段1、深入多线程阶段2、深入多线程设计模式阶段3、深入juc
源码解析
阶段4、深入jdk其余
源码解析
阶段5、深入jvm
源码解析
码哥源码部分码哥讲源码【炸雷啦!炸雷啦!黄光头他终于跑路啦!】码哥讲源码
smart哥
·
2024-01-26 21:14
数据结构与算法
算法
数据结构
变态跳台阶
阶段1、深入多线程阶段2、深入多线程设计模式阶段3、深入juc
源码解析
阶段4、深入jdk其余
源码解析
阶段5、深入jvm
源码解析
码哥源码部分码哥讲源码-原理源码篇【2024年最新大厂关于线程池使用的场
smart哥
·
2024-01-26 21:14
数据结构与算法
算法
数据结构
青蛙跳台阶
阶段1、深入多线程阶段2、深入多线程设计模式阶段3、深入juc
源码解析
阶段4、深入jdk其余
源码解析
阶段5、深入jvm
源码解析
码哥源码部分码哥讲源码-原理源码篇【2024年最新大厂关于线程池使用的场
smart哥
·
2024-01-26 21:44
数据结构与算法
算法
数据结构
JVM实战(33)——内存溢出之内存使用率过高
阶段1、深入多线程阶段2、深入多线程设计模式阶段3、深入juc
源码解析
阶段4、深入jdk其余
源码解析
阶段5、深入jvm
源码解析
一、简介本章,我们将讲解一个已经稳定运行的系统的内存溢出问题,该内存溢出
smart哥
·
2024-01-26 21:13
jvm专题
jvm
多云与混合云场景下的数据同步方案-
KAFKA
1企业业务系统部署架构的变化趋势-多云与混合云现阶段,企业信息系统部署架构(DA:Deployarchitecture)的一大变化是,越来越多的企业在不断将越来越多的应用部署到云上,即业务系统上云的趋势愈演愈烈。不过企业业务系统上云不是一蹴而就的,也不是单向的一帆风顺的。这里涉及到新开发的业务系统的主动上云(由于是采用云原生技术栈新开发的业务系统,其上云相对顺畅些),也包括历史遗留系统的迁移上云(
明哥的IT随笔
·
2024-01-26 21:29
分布式
kafka
java
storm
zookeeper
解密:消息中间件的选择与使用:打造高效通信枢纽
什么是消息中间件1.2消息中间件的作用1.3消息中间件的分类第二章:消息中间件的选择标准2.1性能2.2可靠性2.3可扩展性2.4易用性2.5社区支持2.6成本第三章:常见的消息中间件对比3.1Apache
Kafka
3.1.1
凛鼕将至
·
2024-01-26 20:59
java
开发语言
中间件
数据中台搭建之安装JDK,zookeeper,
kafka
1.背景接上篇博客搭建数据中台之安装mysql,在此基础上安装其他环境2.准备上传包到主节点上3.解压、安装、修改配置文件3.1解压JDKtar-xvfjdk-8u181-linux-x64.gz3.2移动到/usr/local/jdk目录下mv····/usr/local/jdk3.3解压zookeepertar-zxvfzookeeper-3.4.5.tar.gz3.4移动到/usr/loca
CayongL
·
2024-01-26 20:20
zookeeper
kafka
jdk1.8
tim实践系列——如何架构支持亿级别在线用户的即时
消息系统
前言:tim是去中心化分布式即时通讯引擎。不依赖于任何中心服务器,采用去中心化分布式架构,解决传统中心化通讯方式的问题,去中心化分布式架构的通讯引擎的各个节点之间相互连接,形成一个庞大的分布式网络。可以轻松地扩展服务规模,支持更多的用户和业务需求,提供更加安全、可靠、高效的通讯服务。Github系列开源文章《tim实践系列文章》指望用一个方案可以解决亿级别在线用户并不现实,那应该是一系列方案的组合
donnie4w
·
2024-01-26 19:48
Tim分布式IM引擎
架构
去中心化
实时互动
实时音视频
开源
分布式
ELK 8.8.1 +
Kafka
2.5.0 日志收集架构部署
ELK8.8.1+
Kafka
2.5.0日志收集架构部署服务版本节点角色分布服务兼容性JDK特殊性官方文档库系统优化部署ES集群1.下载ES源码包2.调整配置文件\$ES\_HOME/config/elasticsearch.yml3
JP.Hu
·
2024-01-26 19:01
ELK
elk
kafka
架构
Flink 基础入门
前言SparkStreaming准确来说算是一个微批处理伪实时的做法,可是Flink是真的来一条就会处理一条,而且在SparkStreaming和
Kafka
进行整合时我们需要手动去管理偏移量的问题,而在
IT领域君
·
2024-01-26 19:28
redis分布式锁-redisson
1、Redisson实现分布式锁原理2、Redisson实现分布式锁的
源码解析
3、Redisson实现分布式锁的项目代码(可以用于实际项目中)一、高效分布式当我们在设计分布式锁的时候,我们应该考虑分布式锁至少要满足的一些条件
wwwzhouzy
·
2024-01-26 18:39
java进阶-框架篇
java
redis
分布式
redisson
锁
【Java程序员面试专栏 专业技能篇】
Kafka
核心面试指引
关于
Kafka
部分的核心知识进行一网打尽,包括
Kafka
的基本概念,基本架构,工作流程,存储机制,生产策略和消费策略,通过一篇文章串联面试重点,并且帮助加强日常基础知识的理解,全局思维导图如下所示基本概念从
存在morning
·
2024-01-26 18:50
Java
程序员面试专栏
java
面试
kafka
面试题-【消息队列】
消息队列问题1如何进行消息队列的技术选型优点解耦(pub/sub模型)异步(异步接口性能优化)削峰使用消息队列的缺点几种消息队列的特性问题2引入消息队列之后该如何保证其高可用性RabbitMQ的高可用
kafka
谷新龙001
·
2024-01-26 16:35
面试题
消息队列
active mq topic消费后删除_Spring cloud stream 整合mq
说明:本案例win10环境测试scs(springcloudstream)整合kfk(
kafka
)/rbt(rabbitmq)消息生产消费场景流程一、准备中间件环境(kfk/rbt)后续内容提供kfk与
weixin_39794340
·
2024-01-26 15:35
active
mq
topic消费后删除
mq消费者组
springboot整合es
SpringCloudStream整合MQ(待完善)
概念SpringCloudStream的主要目标是各种各样MQ的学习成本,提供一致性的编程模型,使得开发者能够更容易地集成消息组件(如Apache
Kafka
、RabbitMQ、RocketMQ)官网地址
kk_0910
·
2024-01-26 14:27
springcloud
IBM MQ和
kafka
区别
IBMMQ
Kafka
连接方式socket长连接socket长连接使用方式发布/订阅或者点对点Queue方式,QUEUE只能消费一次,可以用作socket通讯发布/订阅方式
智慧健康
·
2024-01-26 14:04
消息中间件
IBM
MQ
1024程序员节
Spring-
Kafka
3.0 消费者消费失败处理方案
一、背景我们作为
Kafka
在使用
Kafka
是,必然考虑消息消费失败的重试次数,重试后仍然失败如何处理,要么阻塞,要么丢弃,或者保存二、设置消费失败重试次数1默认重试次数在哪里看
Kafka
3.0版本默认失败重试次数为
风萧萧兮s
·
2024-01-26 14:33
Kafka
spring
kafka
java
SpringBoot 3.1.7 集成
Kafka
3.5.0
一、背景写这边篇文章的目的,是记录我在集成
kafka
客户端遇到的一些问题,文章会记录整个接入的过程,其中会遇到几个坑,如果需要最终版本,直接看最后一节就行了,感觉Spring-
Kafka
的文档太少了,如果采用
风萧萧兮s
·
2024-01-26 14:28
Spring
Cloud
spring
boot
kafka
MQ回顾之
kafka
速通
不定期更新官网概念自查官网:Apache
Kafka
kafka
结构和
kafka
相关的关键名词有:Producer、Broker、Topic、Partition、Replication、Message、Consumer
明天一定.
·
2024-01-26 14:28
mq
kafka
分布式
JVM实战(32)——内存溢出之堆外内存
阶段1、深入多线程阶段2、深入多线程设计模式阶段3、深入juc
源码解析
阶段4、深入jdk其余
源码解析
阶段5、深入jvm
源码解析
一、简介本章,我们将讲解一个使用Jetty作为Web容器的应用的内存溢出
smart哥
·
2024-01-26 14:25
jvm专题
jvm
JVM实战(34)——内存溢出之消息队列处理不当
1.1系统背景这是一个线上的数据同步系统,专门从
Kafka
消费其它系统送进去的数据,处理后存储到自己的数据库中:就这么简单的一个系统,生产上却时不时报出OOM异常,然后就得重启系统。
smart哥
·
2024-01-26 14:25
jvm专题
jvm
JVM系列-6.java垃圾回收
作者简介:大家好,我是爱吃芝士的土豆倪,24届校招生Java选手,很高兴认识大家系列专栏:Spring原理、JUC原理、
Kafka
原理、分布式技术原理、数据库技术、JVM原理如果感觉博主的文章还不错的话
爱吃芝士的土豆倪
·
2024-01-26 14:23
JVM
jvm
java
开发语言
上一页
15
16
17
18
19
20
21
22
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他