E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
kafka流计算arthas
对于mysql,redis,
Kafka
,zookeeper磁盘缓存技术使用分析
对于mysql,redis,
Kafka
,zookeeper磁盘缓存技术使用分析大部分组件是基于磁盘存储的,但由于CPU速度和磁盘速度之间的鸿沟,都会使用缓存技术来提高性能,缓存简单来说就是一块内存区域,
魏春雨
·
2024-01-27 21:07
MQ消息队列主流消息服务规范及代表产品
市面上消息队列的种类繁多,我们经常在做技术选型的时候,就会搜“RabbitMQ/RocketMQ/
Kafka
…的区别”这样的字眼,为了就是更好地选型,结合业务需求以及消息队列的性能、功能特性、设计规范来综合考虑
c_zyer
·
2024-01-27 18:13
消息队列
中间件
中间件
【代码随想录-数组】移除元素
推荐:kwan的首页,持续学习,不断总结,共同进步,活到老学到老导航檀越剑指大厂系列:全面总结java核心技术点,如集合,jvm,并发编程redis,
kafka
,Spring,微服务,Netty等常用开发工具系列
檀越剑指大厂
·
2024-01-27 18:08
s6
算法与数据结构
java
SpringBoot activemq收发消息、配置及原理
与Springframework相比,SpringBoot更近了一步,通过auto-configuration机制实现了对jms及amqp主流框架如ActiveMQ、RabbitMQ以及
Kafka
的自动配置
weixin_44612246
·
2024-01-27 17:16
java-activemq
spring
boot
activemq
Kafka
-4.1-工作原理综述
1
Kafka
工作原理详解1.1工作流程
Kafka
集群将Record流存储在称为Topic的类中,每个记录由⼀个键、⼀个值和⼀个时间戳组成。
江中散人
·
2024-01-27 16:47
云原生进阶-PaaS专栏
kafka
云原生
paas
中间件
架构
【云原生进阶之PaaS中间件】第三章
Kafka
-2-安装部署
1安装部署1.1
kafka
的分布式
kafka
是依靠zookeeper来实现分布式的,所以再启动前需要先启动zookeeper,如下图1.2集群部署官方下载地址:Apache
Kafka
(1)安装和Hadoop
江中散人
·
2024-01-27 16:16
云原生进阶-PaaS专栏
云原生
paas
中间件
kafka
zookeeper
【云原生进阶之PaaS中间件】第三章
Kafka
-3-命令操作
1命令操作1.1主题命令操作查看操作主题命令参数:[atguigu@hadoop102
kafka
]$bin/
kafka
-topics.sh参数描述--bootstrap-server,连接的
Kafka
Broker
江中散人
·
2024-01-27 16:16
云原生进阶-PaaS专栏
云原生
paas
中间件
Kafka
消息队列
【Spring连载】使用Spring访问 Apache
Kafka
(十六)----空payload和‘Tombstone‘记录的日志压缩
【Spring连载】使用Spring访问Apache
Kafka
(十六)----空payload和'Tombstone'记录的LogCompaction当你使用LogCompaction时,你可以发送和接收具有空
85程序员老王
·
2024-01-27 16:26
spring
apache
kafka
【Spring连载】使用Spring访问 Apache
Kafka
(十七)----处理异常
【Spring连载】使用Spring访问Apache
Kafka
(十七)----处理异常HandlingExceptions一、监听器错误处理程序ListenerErrorHandlers二、容器错误处理程序
85程序员老王
·
2024-01-27 16:26
spring
kafka
java
【Spring连载】使用Spring访问 Apache
Kafka
(十八)----非阻塞重试
【Spring连载】使用Spring访问Apache
Kafka
(十八)----非阻塞重试Non-BlockingRetries一、HowThePatternWorks二、BackOffDelayPrecision
85程序员老王
·
2024-01-27 16:26
spring
kafka
数据库
【Spring连载】使用Spring访问 Apache
Kafka
(十)----监控
【Spring连载】使用Spring访问Apache
Kafka
(十)----监控Monitoring一、监控监听器性能MonitoringListenerPerformance二、监控
Kafka
Template
85程序员老王
·
2024-01-27 16:56
spring
apache
kafka
【Spring连载】使用Spring访问 Apache
Kafka
(十一)----事务
【Spring连载】使用Spring访问Apache
Kafka
(十一)----事务Transactions一、概览二、使用
Kafka
TransactionManager三、事务同步TransactionSynchronization
85程序员老王
·
2024-01-27 16:56
spring
apache
kafka
【Spring连载】使用Spring访问 Apache
Kafka
(六)----应用程序事件
【Spring连载】使用Spring访问Apache
Kafka
(六)----应用程序事件ApplicationEvents一、检测空闲和无响应的Consumers二、事件消费EventConsumption
85程序员老王
·
2024-01-27 16:55
spring
kafka
java
【Spring连载】使用Spring访问 Apache
Kafka
(七)----Topic/Partition初始偏移量&定位到特定的偏移量
【Spring连载】使用Spring访问Apache
Kafka
(七)----Topic/Partition初始偏移量&定位到特定的偏移量一、Topic/Partition的初始偏移量InitialOffset
85程序员老王
·
2024-01-27 16:55
spring
kafka
java
【Spring连载】使用Spring访问 Apache
Kafka
(三)----接收消息
【Spring连载】使用Spring访问Apache
Kafka
(三)----接收消息一、消息监听器MessageListeners二、消息监听器容器MessageListenerContainers2.1
85程序员老王
·
2024-01-27 16:25
spring
apache
kafka
【Spring连载】使用Spring访问 Apache
Kafka
(十五)----消息头
【Spring连载】使用Spring访问Apache
Kafka
(十五)----消息头MessageHeadersApache
Kafka
client中提供了对消息中headers的支持。
85程序员老王
·
2024-01-27 16:53
spring
apache
kafka
java 加权平均_使用Java 8
流计算
加权平均值
您可以为此任务创建自己的收集器:staticCollectoraveragingWeighted(ToDoubleFunctionvalueFunction,ToIntFunctionweightFunction){classBox{doublenum=0;longdenom=0;}returnCollector.of(Box::new,(b,e)->{b.num+=valueFunction.a
培茛
·
2024-01-27 15:03
java
加权平均
flume+
kafka
+SparkStreaming+mysql+ssm+高德地图热力图项目
第一步、编写python脚本,产生模拟数据#coding=UTF-8importrandomimporttimephone=["13869555210","18542360152","15422556663","18852487210","13993584664","18754366522","15222436542","13369568452","13893556666","1536669855
printf200
·
2024-01-27 12:24
Kafka
面试题
0.思维导图
Kafka
是一个分布式的基于发布/订阅模式的消息队列,主要用于大数据实时处理邻域 消息队列分为点对点模式(消费者主动拉取数据,消息收到后清除消息)和发布订阅模式(消费者消费数据之后,不删除数据
韩顺平的小迷弟
·
2024-01-27 10:33
大数据面试题
kafka
分布式
kafka
summary
最近整体梳理之前用到的一些东西,回顾
Kafka
的时候好多东西都忘记了,把一些自己记的比较模糊并且感觉有用的东西整理一遍并且记忆一遍,仅用于记录以备后续回顾
Kafka
的哪些场景中使用了零拷贝生产者发送消息
会说话的皮卡丘
·
2024-01-27 09:22
kafka
分布式
电商系统设计到开发03 引入
Kafka
异步削峰
一、前言系统设计:电商系统设计到开发01第一版设计到编码-CSDN博客接着上篇文章:电商系统设计到开发02单机性能压测-CSDN博客本篇为大制作,内容有点多,也比较干货,希望可以耐心看看已经开发的代码,并对其下单接口进行了压力测试压力测试,该接口一个请求需要查询数据库4次,更新4次,插入2次,总共访问数据库10次,其中2个事务,3次查询是加锁查询,还有1次rpc请求,单实例情况下吞吐量为110/s
风萧萧兮s
·
2024-01-27 09:15
电商下单并发研究
kafka
分布式
java
easy-upsert-starter 轻量级数据转换存储服务-MySQL使用(二)
easy-upsert-starter轻量级数据转换存储服务简介:针对轻量级数据(单次包数据量10万)处理,提供数据转移存储到MySQL、
Kafka
、ES、HBase、Redis配置相应的数据源,注入IUpser
还在忙碌的吴小二
·
2024-01-27 09:46
SpringBoot
MySQL
mysql
java
Kafka
-服务端-PartitionStateMachine
PartitionStateMachine是ControllerLeader用于维护分区状态的状态机。分区的状态是通过PartitionState接口定义的,它有四个子类分别代表了分区四种可能的状态,如表所示。分区各个PartitionState之间的转换如图所示。下面分析各个状态之间转换时,需要完成的相关操作。NonExistentPartition→NewPartition从ZooKeeper
Andy技术支援
·
2024-01-27 08:53
队列
kafka
debian
分布式
知识库-
kafka
shell脚本用法
脚本名称用途描述connect-distributed.sh连接
kafka
集群模式connect-standalone.sh连接
kafka
单机模式
kafka
-acls.shtodo
kafka
-broker-api-versions.shtodo
kafka
-configs.sh
知秋ing
·
2024-01-27 08:52
kafka从入门到精通
kafka
分布式
shell脚本--
kafka
生产数据
直接上代码
kafka
参数修改成自己的配置。#!
手提青灯觅佳人
·
2024-01-27 08:52
大数据通用
shell
kafka
Kafka
zookeeper-shell.sh
bin/zookeeper-shell.sh作用是连接zookeeper,并通过命令查询注册的信息,本质上就是zookeeper的语法。bin/zookeeper-shell.shzookeeper_host:port[/path][args…]args参数类型如下statpath[watch]setpathdata[version]lspath[watch]delquota[-n|-b]path
云川之下
·
2024-01-27 08:18
kafka
kafka
【shell-10】shell实现的各种
kafka
脚本
kafka
-shell工具背景日志log一.启动
kafka
->(start-
kafka
)二.停止
kafka
->(stop-
kafka
)三.创建topic->(create-topic)四.删除topic
我先森
·
2024-01-27 08:41
shell
kafka
kafka
linq
分布式
Flink生产环境相关问题
1.Flink+
Kafka
保证精确一次消费相关问题?Fink的检查点和恢复机制和可以重置读位置的source连接器结合使用,比如
kafka
,可以保证应用程序不会丢失数据。
大数据左右手
·
2024-01-27 08:09
Flink
面试
flink
JVM系列-8.GC调优
作者简介:大家好,我是爱吃芝士的土豆倪,24届校招生Java选手,很高兴认识大家系列专栏:Spring原理、JUC原理、
Kafka
原理、分布式技术原理、数据库技术、JVM原理如果感觉博主的文章还不错的话
爱吃芝士的土豆倪
·
2024-01-27 08:06
JVM
jvm
java
开发语言
JVM系列-7内存调优
作者简介:大家好,我是爱吃芝士的土豆倪,24届校招生Java选手,很高兴认识大家系列专栏:Spring原理、JUC原理、
Kafka
原理、分布式技术原理、数据库技术、JVM原理如果感觉博主的文章还不错的话
爱吃芝士的土豆倪
·
2024-01-27 08:32
JVM
jvm
java
开发语言
0806-
Kafka
异地复制
Kafka
异地同步:Mirror-Maker(消费者+生产者)原理大概是启动consumer消费南京的topicmessage,发送到重庆的
kafka
集群。
红苹果_小米粒
·
2024-01-27 08:04
Flink 2.0 状态管理存算分离架构演进
内容主要分为以下五部分:引言为什么状态对Flink如此重要状态存储提升——社区和商业版状态存储状态管理存算分离架构——架构演进和挑战总结1.引言我们在这个时间点重新聊状态存储这个话题是因为状态存储是
流计算
的核心
Apache Flink
·
2024-01-27 07:46
flink
架构
大数据
Flink 集成 Debezium Confluent Avro ( format=debezium-avro-confluent )
本文介绍的场景是:使用
Kafka
Connect的DebeziumMySQLSourc
Laurence
·
2024-01-27 06:54
大数据专题
付费专栏
flink
cdc
debezium
avro
confluent
schema-registry
kafka
37.Java连接
Kafka
37.1实验环境Intellij已安装且正常运行Maven环境正常RedHat7.2CM和CDH版本为5.11.2
Kafka
2.2.0-0.10.2创建topic,test3有3个replication
大勇任卷舒
·
2024-01-27 06:40
RocketMQ-同城双活-高可用架构-同程旅行
背景介绍为何选择RocketMQ我们在几年前决定引入MQ时,市场上已经有不少成熟的解决方案,比如RabbitMQ,ActiveMQ,NSQ,
Kafka
等。
无心六神通
·
2024-01-27 04:59
RocketMQ
rocketmq
架构
同城双活
高可用
【代码随想录-数组】二分查找
推荐:kwan的首页,持续学习,不断总结,共同进步,活到老学到老导航檀越剑指大厂系列:全面总结java核心技术点,如集合,jvm,并发编程redis,
kafka
,Spring,微服务,Netty等常用开发工具系列
檀越剑指大厂
·
2024-01-27 04:58
s6
算法与数据结构
java
Kafka
3.0源码学习
内存池3、sender线程发送数据二、消费者源码1、初始化2、消费者订阅主题3、消费者拉取和处理数据3.1消费总体流程3.2消费者/消费者组初始化3.3拉取数据3.4消费者Offset提交三、服务端源码
kafka
魅Lemon
·
2024-01-27 04:25
大数据
kafka
arthas
使用笔记
离线安装https://www.jianshu.com/p/9abb11d5c5a1常用查看方法入参和反参watchcom.allin.safe.harbor.listener.AirSparePartsRepositoryImportListenersaveBatch'{params,returnObj}'
K歌、之王
·
2024-01-27 03:31
arthas
笔记
【代码随想录-数组】有序数组的平方
推荐:kwan的首页,持续学习,不断总结,共同进步,活到老学到老导航檀越剑指大厂系列:全面总结java核心技术点,如集合,jvm,并发编程redis,
kafka
,Spring,微服务,Netty等常用开发工具系列
檀越剑指大厂
·
2024-01-27 03:24
s6
算法与数据结构
java
实时分析海量新数据的难点 和解决方案
解决方案:使用分布式计算和存储技术,如Hadoop、Spark、
Kafka
等,将数据分散存储在多个节点上,同时进行分布式计算和处理,以实现数据的实时处理和分析。2.数据质量的保障:海量新
云台095
·
2024-01-27 03:40
大数据的应用
大数据
kafka
多线程消费及处理和手动提交处理方案设计
kafka
与其他消息队列不同的是,
kafka
的消费者状态由外部(消费者本身或者类似于Zookeeper之类的外部存储)进行维护,所以
kafka
的消费就更加灵活,但是也带来了很多的问题,因为客户端消费超时被判定挂掉而消费者重新分配分区
达微
·
2024-01-27 01:38
[MQ]常用的mq产品图形管理web界面或客户端
1.2MQ产品较为成熟的MQ产品:IBMMQ(IBMWebSphereMQ),ActiveMQ,RabbitMQ,
Kafka
,RocketMQ,ZeroMQ,MetaMQ等。
穿山甲yyds
·
2024-01-27 01:05
开发语言
中间件
Apache Pulsar——协议适配器
背景为了能平滑、不改写代码、无侵入地迁移应用使用pulsar,KoP以插件形式支持
Kafka
协议。
小波同学
·
2024-01-26 22:17
多云与混合云场景下的数据同步方案-
KAFKA
1企业业务系统部署架构的变化趋势-多云与混合云现阶段,企业信息系统部署架构(DA:Deployarchitecture)的一大变化是,越来越多的企业在不断将越来越多的应用部署到云上,即业务系统上云的趋势愈演愈烈。不过企业业务系统上云不是一蹴而就的,也不是单向的一帆风顺的。这里涉及到新开发的业务系统的主动上云(由于是采用云原生技术栈新开发的业务系统,其上云相对顺畅些),也包括历史遗留系统的迁移上云(
明哥的IT随笔
·
2024-01-26 21:29
分布式
kafka
java
storm
zookeeper
解密:消息中间件的选择与使用:打造高效通信枢纽
什么是消息中间件1.2消息中间件的作用1.3消息中间件的分类第二章:消息中间件的选择标准2.1性能2.2可靠性2.3可扩展性2.4易用性2.5社区支持2.6成本第三章:常见的消息中间件对比3.1Apache
Kafka
3.1.1
凛鼕将至
·
2024-01-26 20:59
java
开发语言
中间件
数据中台搭建之安装JDK,zookeeper,
kafka
1.背景接上篇博客搭建数据中台之安装mysql,在此基础上安装其他环境2.准备上传包到主节点上3.解压、安装、修改配置文件3.1解压JDKtar-xvfjdk-8u181-linux-x64.gz3.2移动到/usr/local/jdk目录下mv····/usr/local/jdk3.3解压zookeepertar-zxvfzookeeper-3.4.5.tar.gz3.4移动到/usr/loca
CayongL
·
2024-01-26 20:20
zookeeper
kafka
jdk1.8
ELK 8.8.1 +
Kafka
2.5.0 日志收集架构部署
ELK8.8.1+
Kafka
2.5.0日志收集架构部署服务版本节点角色分布服务兼容性JDK特殊性官方文档库系统优化部署ES集群1.下载ES源码包2.调整配置文件\$ES\_HOME/config/elasticsearch.yml3
JP.Hu
·
2024-01-26 19:01
ELK
elk
kafka
架构
Flink 基础入门
前言SparkStreaming准确来说算是一个微批处理伪实时的做法,可是Flink是真的来一条就会处理一条,而且在SparkStreaming和
Kafka
进行整合时我们需要手动去管理偏移量的问题,而在
IT领域君
·
2024-01-26 19:28
【Java程序员面试专栏 专业技能篇】
Kafka
核心面试指引
关于
Kafka
部分的核心知识进行一网打尽,包括
Kafka
的基本概念,基本架构,工作流程,存储机制,生产策略和消费策略,通过一篇文章串联面试重点,并且帮助加强日常基础知识的理解,全局思维导图如下所示基本概念从
存在morning
·
2024-01-26 18:50
Java
程序员面试专栏
java
面试
kafka
面试题-【消息队列】
消息队列问题1如何进行消息队列的技术选型优点解耦(pub/sub模型)异步(异步接口性能优化)削峰使用消息队列的缺点几种消息队列的特性问题2引入消息队列之后该如何保证其高可用性RabbitMQ的高可用
kafka
谷新龙001
·
2024-01-26 16:35
面试题
消息队列
上一页
11
12
13
14
15
16
17
18
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他