E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
Kafka源码分析
Kafka
-服务端-API层
Handler线程属于
Kafka
的API层,Handler线程对请求的处理通过调用
Kafka
Apis中的方法实现。
Andy技术支援
·
2024-01-23 21:29
队列
kafka
分布式
Zuul
源码分析
目标明确Zuul的执行流程和重要类的分析Zuul过滤器的生命周期zuul.jpg
源码分析
zuul怎么拦截我们的请求?
鱼da王
·
2024-01-23 20:36
Kafka
-服务端-副本机制
Kafka
从0.8版本开始引入副本(Replica)的机制,其目的是为了增加
Kafka
集群的高可用性。
Andy技术支援
·
2024-01-23 19:17
队列
kafka
分布式
Kafka
-服务端-
Kafka
Controller
Broker能够处理来自
Kafka
Controller的LeaderAndIsrRequest、StopReplicaRequest、UpdateMetadataRequest等请求。
Andy技术支援
·
2024-01-23 19:17
队列
kafka
debian
分布式
Kafka
-服务端-网络层
Reactor模式
Kafka
网络层采用的是Reactor模式,是一种基于事件驱动的模式。熟悉Java编程应该了解JavaNIO提供了实现Reactor模式的API。
Andy技术支援
·
2024-01-23 19:16
队列
kafka
分布式
算子:详细篇
目录一、执行环境1.1创建执行环境1.2执行模式二、源算子2.1从集合中读取数据2.2从文件读取数据2.3从socket读取数据2.4从
kafka
读取数据三、转换算子3.1基本转换算子(1)映射(map
莫噶
·
2024-01-23 18:29
flink
报错Caused by: org.apache.
kafka
.common.errors.TimeoutException: Timeout of 60000ms expired before the
Exceptioninthread"main"org.apache.flink.runtime.client.JobExecutionException:Jobexecutionfailed.atorg.apache.flink.runtime.jobmaster.JobResult.toJobExecutionResult(JobResult.java:144)atorg.apache.flin
莫噶
·
2024-01-23 18:58
报错
apache
kafka
分布式
RabbitMQ
MQ框架非常之多,比较流行的有RabbitMq、ActiveMq、ZeroMq、
kafka
,以及阿里开源的RocketMQ。开发语言:Erlang–面向并发的编程语言。1.1为什么会产生消息队列?
愚人钊呀
·
2024-01-23 18:00
MQ
rabbitmq
分布式
JVM系列-4.类加载器
作者简介:大家好,我是爱吃芝士的土豆倪,24届校招生Java选手,很高兴认识大家系列专栏:Spring原理、JUC原理、
Kafka
原理、分布式技术原理、数据库技术、JVM原理如果感觉博主的文章还不错的话
爱吃芝士的土豆倪
·
2024-01-23 18:24
JVM
jvm
java
DataStream API(源算子)
目录源算子1,从集合中读取数据2,从文件读取数据3,从Socket读取数据4,从
Kafka
读取数据5,自定义源算子6,Flink支持的数据类型6.1Flink支持多种数据类型,包括但不限于:6.2对于POJO
佛系爱学习
·
2024-01-23 16:17
flink知识点
大数据
flink
使用Flink处理
Kafka
中的数据
目录使用Flink处理
Kafka
中的数据前提:一,使用Flink消费
Kafka
中ProduceRecord主题的数据具体代码为(scala)执行结果二,使用Flink消费
Kafka
中ChangeRecord
佛系爱学习
·
2024-01-23 16:46
flink的使用
flink
kafka
大数据
Flink编程——基础环境搭建
IDEA集群环境搭建本地模式安装步骤1:下载步骤2:启动集群步骤3:提交作业(Job)步骤4:停止集群总结准备环境搭建我们先把电脑的准备环境给安装好,这样后面才能顺利的学习和时间因为后面可能用到的有:
Kafka
不二人生
·
2024-01-23 16:40
#
Flink
编程
flink
大数据
Pg批量更新数据产生的死锁问题
两个服务同时批量更新相同Pg表的相同记录时,产生如下错误:[2024-01-1809:17:52,172host:173.16.34.10ERRORalarm[org.springframework.
kafka
.
Kafka
ListenerEndpointContainer
Pluto_CSND
·
2024-01-23 16:27
PostgreSql
数据库
mybatis
架构设计:消息队列之
Kafka
深度解析
Kafka
是一种分布式的,基于发布/订阅的消息系统。主要设计目标如下:●以时间复杂度为O(1)的方式提供消息持久化能力,并保证即使对TB级以上数据也能保证常数时间的访问性能●高吞吐率。
弗语笑红尘
·
2024-01-23 15:47
架构设计
队列
分布式
kafka
消息队列
软件架构
大型网站架构系列:分布式消息队列
目前在生产环境,使用较多的消息队列有ActiveMQ,RabbitMQ,ZeroMQ,
Kafka
,MetaMQ,RocketMQ等。二、消息队列应用场景以下介绍消息队列在实际应用中常用的使用场景。
lz0426001
·
2024-01-23 15:44
架构
消息队列之王——
Kafka
Zookeeper在学习
kafka
之前,我们需要先学习Zookeeper,那Zookeeper是什么呢?Zookeeper是一个开源的分布式的,为分布式框架提供协调服务的Apache项目。
袁慕求玲
·
2024-01-23 14:17
kafka
分布式
使用DTS实现TiDB到GaiaDB数据迁移
1概览本文主要介绍通过DTS数据迁移功能,结合消息服务for
Kafka
与TiDB数据库的Pump、Drainer组件,完成从TiDB迁移至百度智能云云原生数据库GaiaDB。
大数据和云计算技术
·
2024-01-23 14:06
tidb
【
Kafka
】开发实战和Springboot集成
kafka
目录消息的发送与接收生产者消费者SpringBoot集成
kafka
服务端参数配置消息的发送与接收生产者生产者主要的对象有:
Kafka
Producer,ProducerRecord。
Ethan-running
·
2024-01-23 13:23
#
kafka
kafka
分布式
消息中间件
Kafka
——管理
Kafka
(命令行工具)详解
文章目录@[toc]管理
Kafka
1、主题操作(
kafka
-topic.sh)1.1、创建主题(–create)1.2、增加分区(–alter)1.3、减少分区数量(无)1.4、删除主题(–delete
Young丶
·
2024-01-23 13:21
kafka
kafka
分布式
Consumer源码解读
consumer初始化2、如何选举ConsumerLeader3、ConsumerLeader是如何制定分区方案4、Consumer如何拉取数据5、Consumer的自动偏移量提交Consumer初始化从
Kafka
Consumer
llp1110
·
2024-01-23 13:40
Kafka
数据库
Producer源码解读
Producer源码解读在
Kafka
中,我们把产生消息的一方称为Producer即生产者,它是
Kafka
的核心组件之一,也是消息的来源所在。
llp1110
·
2024-01-23 13:09
Kafka
java
kafka
Kafka
集群与可靠性
Kafka
集群与可靠性1.
Kafka
集群搭建实战使用两台Linux服务器:一台192.168.182.137一台192.168.182.138安装
kafka
首先,我们需要配置java环境变量(这里就略过了
llp1110
·
2024-01-23 13:39
Kafka
kafka
分布式
SpringBoot整合
Kafka
SpringBoot整合
Kafka
1.快速入门1.1引入依赖,搭建maven工程88UTF-8org.springframework.
kafka
spring-
kafka
2.3.3.RELEASEorg.springframework.bootspring-boot-starter-jsonorg.springframework.bootspring-boot-starter-testtestorg
llp1110
·
2024-01-23 13:37
Kafka
spring
boot
kafka
linq
Zookeeper
源码分析
ZooKeeperServer
ZooKeeperServer实现了单机版zookeeper服务端功能,子类实现了更加丰富的分布式集群功能:ZooKeeperServer|--QuorumZooKeeperServer|--LeaderZooKeeperServer|--LearnerZooKeeperServer|--FollowerZooKeeperServer|--ObserverZooKeeperServer|--Rea
softshow1026
·
2024-01-23 12:58
zookeeper
debian
分布式
Zookeeper+
Kafka
集群
1Zookeeper1.1Zookeeper概述Zookeeper是一个开源的分布式的,为分布式框架提供协调服务的Apache项目。分布式系统管理框架,主要用来解决分布式应用集群中应用系统的一致性问题,想大于各种分布式应用的注册中心+文件系统+通知机制本质用于注册各种分布式应用,存储和管理这些分布式应用的元数据,如果应用或服务本身状态发生变化就会通知到客户端数据结构ZooKeeper数据模型的结构
王德发666
·
2024-01-23 12:25
zookeeper
kafka
分布式
利用
Kafka
的Assign模式实现超大群组(10万+)消息推送
本文主要是针对在线用户推送场景来进行总结和探讨:如何利用
Kafka
的Assign模式,解决百万级长链接海量消息的路由广播问题?如何解决超大聊天室成员(超过10万)的消息推送问题?
小何爆炸
·
2024-01-23 12:34
emacs
源码分析
(三)
emacs
源码分析
(三)这次来分析TAG_PTR宏定义(将指针变成Lisp_Object),首先看LISP_INITIALLY在gdb中展开的样子:(gdb)macroexpLISP_INITIALLY
遍地是牛
·
2024-01-23 12:24
emacs
c语言
emacs
源码分析
(五)
emacs
源码分析
(五)因为emacs的C源码中有大量的宏,在gdb中调试是非常痛苦的,所以有下面的内容:一个更方便的调试emacs源码的方式就像在“emacs
源码分析
(四)”中提到的那样,要么是定义这么复杂的宏
遍地是牛
·
2024-01-23 12:24
emacs
emacs
源码分析
(六)
关于emacs源码中的Qtop_level和Vtop_level有时候光顾着调试看流程,忽略了代码中的细小差别,如果不特别留意的话很难发现这是两个不同的变量Qtop_level和Vtop_level,它们是如此相似:(gdb)pQtop_level$1=(structLisp_X*)0xdd70(gdb)xtypeLisp_Symbol(gdb)pVtop_level$2=XIL(0x6fffff
遍地是牛
·
2024-01-23 12:24
emacs
编辑器
RabbitMQ(不完整版)
文章目录RabbitMQ入门1.什么是MQ2.为什么要用MQ流量消峰应用解耦异步处理3.MQ的分类ActiveMQ
Kafka
RocketMQRabbitMQ4.RabbitMQRabbitMQ的概念四大核心概念
凇:)
·
2024-01-23 12:46
rabbitmq
分布式
java
大厂大数据面试题收录(1)
5.
kafka
组件熟悉吗,
kafka
如何实现消息的有序的?6.在大数据组件中,你们一般用的资源管理框架是哪个?7.那你能谈一下yarn的基础架构及调度流程吗?
后季暖
·
2024-01-23 11:49
java
开发语言
部署Filebeat+
Kafka
+ELK 集群
目录
Kafka
概述为什么需要消息队列(MQ)使用消息队列的好处消息队列的两种模式
Kafka
定义
Kafka
简介
Kafka
的特性
Kafka
系统架构在zookeeper集群的基础上部署
kafka
集群部署zookeeper
GnaW1nT
·
2024-01-23 10:18
kafka
elk
分布式
ELK分离式日志(2)
192.168.233.50)下载fliebeat:安装nginx后查看下日志文件:设置filebeat的主配置文件:关闭logstash,检测文件:在50节点上启动filebeat:访问页面:二.zookeeper+
kafka
伍dLu
·
2024-01-23 10:46
elk
日志平台搭建手册
执行命令:useraddelk#创建用户passwdelk#设置elk用户密码采用同样的方法创建用户zookeeper和
kafka
,这两个用户分别管理zookeep
萧十一郎君
·
2024-01-23 09:15
运维
ELK
FileBeat
Kibana
Kafka
Kafka
-服务端-日志存储
基本概念首先需要了解的是,
Kafka
使用日志文件的方式保存生产者发送的消息。每条消息都有一个offset值来表示它在分区中的偏移量,这个offset值是逻辑值,并不是消息实际存放的物理地址。
Andy技术支援
·
2024-01-23 08:33
队列
kafka
数据库
分布式
Kafka
-服务端-DelayedOperationPurgatory
DelayedOperationPurgatory的底层依赖于
Kafka
提供的时间轮实现。
Andy技术支援
·
2024-01-23 08:33
队列
kafka
分布式
Kafka
-消费者-
Kafka
Consumer分析总结
Kafka
Consumer依赖SubscriptionState管理订阅的Topic集合和Partition的消费状态,通过ConsumerCoordinator与服务端的GroupCoordinator
Andy技术支援
·
2024-01-23 08:32
队列
kafka
分布式
kafka
(二)——常用命令
常用脚本
kafka
执行脚本默认在安装的bin目录下,本文中示例均基于bin目录执行。
却道天凉_好个秋
·
2024-01-23 08:32
kafka
kafka
分布式
kafka
的基本使用--学习笔记
catalyst引擎作用:将SparkSql转换成sparkrdd任务提交进行计算解析器将sparksql代码解析成语法树(未解析的逻辑查询计划)分析器将语法树解析成解析后的逻辑查询计划对逻辑查询计划进行属性和关系关联检验优化器将解析后的逻辑查询计划进行优化,得到优化后的逻辑查询计划谓词下推(调整执行顺序)和列值裁剪(过滤列)执行器将优化后的逻辑查询计划转换成物理查询计划转换成RDD任务进行执行k
祈愿lucky
·
2024-01-23 08:32
大数据
kafka
学习
笔记
Sqoop与
Kafka
的集成:实时数据导入
将Sqoop与
Kafka
集成是实现实时数据导入和流处理的关键步骤之一。Sqoop用于将数据从关系型数据库导入到Hadoop生态系统中,而
Kafka
则用于数据流的传输和处理。
晓之以理的喵~~
·
2024-01-23 08:01
sqoop
sqoop
kafka
hadoop
Kafka
(三)【Broker 存储】
目录前言
Kafka
Broker1、工作流程1.1、Zookeeper存储的
Kafka
信息1.2、
Kafka
Broker的总体工作流程1.3、Broke重要参数2、
Kafka
副本2.1、副本基本信息2.2
让线程再跑一会
·
2024-01-23 08:57
kafka
kafka
分布式
SpringBoot3.1.7集成
Kafka
和
Kafka
安装
一、背景我们在很多系统开发都需要用到消息中间件,目前来说
Kafka
凭借其优秀的性能,使得它的使用率已经是名列前茅了,所以今天我们将它应用到我们的系统二、版本选择在使用一个中间件一定要考虑版本的兼容性,否则后面会遇到很多问题
风萧萧兮s
·
2024-01-23 08:24
软件安装
kafka
分布式
centos
java
kafka
集群和Filebeat+
Kafka
+ELK
一、
Kafka
概述1.1为什么需要消息队列(MQ)主要原因是由于在高并发环境下,同步请求来不及处理,请求往往会发生阻塞。
为什么老是名字被占用
·
2024-01-23 08:23
分布式
kafka
分布式
SpringBoot
源码分析
:prepareEnviroment()
prepareEnviroment做了什么?主要作用按顺序加载命令行参数,系统参数和外部配置文件,创建并配置Web环境,获取profiles.active属性,并发布ApplicationEnvironmentPreparedEvent事件,之后获取属性时,按顺序获取,获取到就立即返回,实现了属性之间的合理加载与替换//准备环境privateConfigurableEnvironmentprepa
weixin_44145526
·
2024-01-23 07:36
spring
boot
后端
java
Flink对接
Kafka
的topic数据消费offset设置参数
scan.startup.mode是Flink中用于设置消费
Kafka
topic数据的起始offset的配置参数之一。
墨子白
·
2024-01-23 07:48
flink
flink
kafka
大数据
12、
Kafka
------
Kafka
生产者API用法(代码演示生产者发送消息到指定主题)
目录
Kafka
生产者API用法(代码演示)生产者API介绍依赖:介绍:使用生产者API发送消息步骤:生产者发送消息代码演示:1、创建一个Maven项目2、依赖3、代码4、演示结果5、一些参数理解代码生产者
_L_J_H_
·
2024-01-23 06:49
Kafka
系列
kafka
分布式
13、
Kafka
------
kafka
消费者API用法(消费者消费消息代码演示)
目录
kafka
消费者API用法消费者API使用消费者API消费消息消费者消费消息的代码演示1、官方API示例2、创建消费者类3、演示消费结果1、演示消费者属于同一个消费者组2、演示消费者不属于同一个消费者组
_L_J_H_
·
2024-01-23 06:05
Kafka
系列
kafka
linq
分布式
2020年我凭借这份pdf成功拿到了阿里,腾讯,京东等六家大厂offer
今天给大家分享我拿到大厂offer的利器,大厂核心知识面试宝典,375页面试宝典,内容囊括jvm,java集合,java多线程并发,java基础,spring原理,微服务,网络,日志,zookeeper,
kafka
09a131ee5c4b
·
2024-01-23 06:09
Kafka
架构总结以及常见的面试题总结
kafka
名词说明分布式高吞吐量消息系统producer:生产者consumer:消费者broker:机器,节点controller:
kafka
服务器的主节点负责管理元数据(zk存储一份)follower
不加班程序员
·
2024-01-23 06:24
kafka
Hadoop相关
原理
大数据
kafka
通过Spark向
Kafka
写入数据
1、·将
Kafka
Producer利用lazyval的方式进行包装packagecn.com.m.utilimportjava.util.concurrent.Futureimportorg.apache.
kafka
.clients.producer
不加班程序员
·
2024-01-23 06:24
Hadoop相关
kafka
spark
kafka
spark
上一页
22
23
24
25
26
27
28
29
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他