E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
kafka消息系统源码解析
Spring 事件发布机制
目录事件驱动使用事件机制Java事件使用Spring事件使用使用Aware不使用AwareSpring事件发布流程及
源码解析
ApplicationEventApplicationListener监听者注册
夜光下丶
·
2024-02-08 14:43
spring
java
2.
Kafka
生产过程
三、
Kafka
生产过程分析1.写入方式producer采用推(push)模式将消息发布到broker,每条消息都被追加(append)到分区(patition)中,属于顺序写磁盘(顺序写磁盘效率比随机写内存要高
chongweiLin
·
2024-02-08 12:56
Spark streaming batch运行时间过长问题02
继续排查发现,在用Spark读取
Kafka
数据之后,由于数据通过
Kafka
读取后是逗号分隔的字符串,但是为了解决字符串某些字段中还有逗号的问题,只能使用正则表达式匹配,导致性能过慢。
kk_io
·
2024-02-08 10:01
疑难杂症
spark
batch
大数据
Flink Checkpoint过程
Checkpoint使用了Chandy-Lamport算法流程1.正常流式处理(尚未Checkpoint)如下图,Topic有两个分区,并行度也为2,根据奇偶数我们假设任务从
Kafka
的某个Topic中读取数据
orange大数据技术探索者
·
2024-02-08 09:49
#
flink迁移
flink
大数据
Checkpoint
Flink Format系列(2)-CSV
Flink的csv格式支持读和写csv格式的数据,只需要指定'format'='csv',下面以
kafka
为例。
sf_www
·
2024-02-08 09:48
flink
flink
大数据
storm整合
kafka
maven4.0.0storm-
kafka
-mysqlstorm-
kafka
-mysql0.0.1-SNAPSHOTjarstorm-
kafka
-mysqlUTF-8javaxjavaee-api8.0providedorg.glassfish.webjavax.servlet.jsp.jstl1.2.2org.apache.stormstorm-core0.9.5provided
piziyang12138
·
2024-02-08 09:01
基于注解的SpringAOP
源码解析
(三)
注意,读完本篇文章需要很长很长时间在之前的2篇文章:AOP源码分析(一)AOP源码分析(二)中,我们搭建了SpringAOP源码分析的环境,介绍了@EnableAspectJAutoProxy注解和postProcessBeforeInstantiation方法是如何加载所有增强的。本篇文章则将描述一下AOP中剩余的实现逻辑postProcessAfterInitialization这个方法是在b
Java学习录
·
2024-02-08 08:18
如何查看
kafka
的topic的消费者组有没有积压
Kafka
自带的命令行工具
kafka
-consumer-groups.sh来查看消费者组的消费情况,包括是否有积压。具体步骤如下:打开命令行终端,进入
Kafka
安装目录下的bin文件夹。
不会吐丝的蜘蛛侠。
·
2024-02-08 08:29
中间件
kafka
java
分布式
大数据系列—数据迁移(Sqoop,Flume,DataX)对比学习(stage3)
个人大数据技术栈:DataX,Sqoop,Hadoop,Hive,Spark,Flink,Hbase,
Kafka
,Kettle,Azkaban,Airflow,Tableau…个人在学习领域:Python
道-闇影
·
2024-02-08 06:07
big
data
大数据
sqoop
flume
网络|使用 Wireshark 分析 TLS/SSL 协议
背景服务端(3.205)是开启SASL_SSL协议的9094端口的
Kafka
服务器客户端(77.20)连接9094端口的生产者。
thlzjfefe
·
2024-02-08 06:29
网络
wireshark
ssl
Install
Kafka
on Ubuntu 16
0准备模拟生产环境,安装
Kafka
,需要最少三台机器,如下主机名IP
Kafka
-110.0.0.5
Kafka
-210.0.0.6
Kafka
-310.0.0.7
Kafka
是使用scala编写的运行与jvm
华阳_3bcf
·
2024-02-08 04:27
消息队列使用的四种场景介绍
使用较多的消息队列有ActiveMQ,RabbitMQ,ZeroMQ,
Kafka
,MetaMQ,RocketMQ。二、消息队列应用场景以下介绍消息队列在实际应用中常用的使用场景。
Bin哥厉害7
·
2024-02-08 03:19
java
spring
boot
消息队列
阅读《极客时间 |
Kafka
核心技术与实战》(一)【
Kafka
入门】
阅读《极客时间|
Kafka
核心技术与实战》为什么要学习
Kafka
消息引擎系统ABC一篇文章带你快速搞定
Kafka
术语我应该选择哪种
Kafka
?
_蓝天IT_
·
2024-02-08 01:13
消息队列(Kafka)
kafka
分布式
cesium系列篇:Entity vs Primitive
源码解析
(从Entity到Primitive)01
Entity和Primitive的关系官方教材中提到,PrimitiveAPI主要适用于图形渲染开发者,EntityAPI则适用于数据驱动的可视化,而EntityAPI的底层则使用了PrimitiveAPI。下面我们将通过cesium的源码探究当添加entity对象时,是如何在底层调用对应的PrimitiveAPI,创建相应的primitive对象。这篇文章中,我们将先从viewer初始化开始,探
游无穷
·
2024-02-08 00:35
Cesium
cesium
entity
primitive
源码解析
cesium系列篇:Entity vs Primitive
源码解析
(从Entity到Primitive)02
上篇文章中,我们介绍了使用viewer.entities.add添加entity之后的信号传递以及最后entity对象被传递到GeometryVisualizer;这篇文章,我们则介绍如何在逐帧渲染的过程中根据GeometryVisualizer中的entity对象创建相应的primitive这是下文中涉及到的类的类图,从中可以清晰的了解各个对象之间的关系,下面我们结合代码来仔细讲解。循环的一帧我
游无穷
·
2024-02-08 00:03
Cesium
javascript
cesium
entity
primitive
源码解析
vue源码浅解析(一)
提供一份详细的Vue
源码解析
在这种格式下是挑战性的,因为Vue的源码非常庞大和复杂,涉及到众多的细节和高级JavaScript特性。
编代码的小王
·
2024-02-07 22:27
vue.js
前端
javascript
Three.js蒙皮骨骼变化原理 | 逆推蒙皮网格的世界位置
文章目录关于蒙皮的GPU计算:
源码解析
转换成CPU可执行的代码:法线部分蒙皮骨骼的变化是在GPU中进行的,所以像获取静态物体一样获取geometry.position是不行的查看当前版本(r160)的shader
Jedi Hongbin
·
2024-02-07 21:48
Three.js
蒙皮
骨骼
three.js
2021,Java最全的分布式面试题合集附答案,共2w字!
分布式分为分布式缓存(Redis)、分布式锁(Redis或Zookeeper)、分布式服务(Dubbo或SpringCloud)、分布式服务协调(Zookeeper)、分布式消息队列(
Kafka
、RabbitMq
码农突围
·
2024-02-07 21:52
玩转RabbitMq
从消息组件来分类(两类):1.JMS组件:ActiveMq(慢)2.AMQP组件:协议组件(性能高):两个主要的开源项目|-RabbitMq==>速度快(十年加的一款产品)|-
Kafka
==>大数据时代产物
dreamer_0137
·
2024-02-07 21:51
SpringBoot集成
Kafka
引入
Kafka
依赖org.springframework.
kafka
spring-
kafka
修改配置文件spring:
kafka
:bootstrap-servers:127.0.0.1:9092,127.0.0.1
DanceDonkey
·
2024-02-07 20:41
消息中间件
大数据计算
kafka
spring
boot
java
SpringBoot集成
kafka
收发消息
传递消息为对象目前springboot整合后的
kafka
,因为序列化器是StringSerializer,这个时候如果需要传递对象可以有两种方式方式一:可以自定义序列化器,对象类型众多,这种方式通用性不强
慕容潇湘
·
2024-02-07 20:41
kafka
spring
boot
kafka
java
Springboot 集成
Kafka
Admin
基础知识点(256条消息)看完这篇
Kafka
,你也许就会了
Kafka
_心的步伐的博客-CSDN博客需要注意消费者offset的配置,生产者ackdocker安装
kafka
和zookeeper记得修改ip
试验者
·
2024-02-07 20:10
spring
boot
kafka
后端
Kafka
整理
常用消息中间件对比
Kafka
是LinkedIn开源的分布式发布-订阅
消息系统
,目前归属于Apache定级项目。
瑜骐
·
2024-02-07 19:08
4、
Kafka
消费者-从
Kafka
读取数据
(2)
Kafka
两种模型提供单一消费者模型:消费者组。消费者用组名标记自己。Topic上消息发给此组中一个消费者。1)所有消费者在一个组中,变成队列。2)不同的组中,变成发布-订阅。
hedgehog1112
·
2024-02-07 19:04
OkHttp
源码解析
应用拦截器和网络拦截器以前其实就有一直在使用okhttp,也有听说过拦截器这东西,但是一直没有去深入了解。最近看《安卓进阶之光》刚好看到okhttp拦截器的内容,然后自己也去挖了下源码,才发现其巧妙之处。拦截器有两种,应用拦截器和网络拦截器。用法可以看下面的代码:classLogInterceptorimplementsInterceptor{privateStringmName;LogInter
嘉伟咯
·
2024-02-07 14:57
日志收集系统ELK+
kafka
部署
日志收集系统ELK+
kafka
部署文章目录日志收集系统ELK+
kafka
部署一、系统准备1.1部署简介1.2升级内核1.3内核优化1.4安装NTP服务1.5关闭swap分区二、部署ISCSI2.1配置数据网络
MappleZF
·
2024-02-07 13:47
kafka
zookeeper
elasticsearch
2020-11-23
Kafka
-server启动报错ERRORProcessorgotuncaughtexception.ERRORProcessorgotuncaughtexception.
北大荒码农
·
2024-02-07 12:33
MxNet
源码解析
(1) KVStore,pslite
源码解析
1.前言从毕业开始工作已经两个多月,这期间相当一部分的时间都用在了对MxNet的学习上,而在MxNet的众多部分中,又是pslite这一部分接触最多。因此,今天将我一直以来的学习过程中的心得和收获总结在这里,也为以后对MxNet的继续学习做一个铺垫2.MxNet构成MxNet作为一个深度学习框架,它最大的特点应该是分布式训练的支持了。从初次接触MxNet到现在的两个多月里,我认为MxNet主要有以
Junr_0926
·
2024-02-07 11:37
【极数系列】ClassNotFoundException: org.apache.flink.connector.base.source.reader.RecordEmitter & 详细分析解决
文章目录01Flink集成
Kafka
Connector运行报错02解决方案03原因分析04深入认识4.1flink-connector-base简介概述4.2flink-connector-base功能作用
浅夏的猫
·
2024-02-07 10:11
Flink专栏
flink
apache
大数据
【
Kafka
专栏】windows搭建
Kafka
环境 & 详细教程(01)
文章目录01引言1.1官网地址1.2概述简介1.3
kafka
与zookeeper02部署zookeeper2.1下载组件包2.2解压压缩包(1)解压到任意路径(2)解压后的目录创建数据目录data2.3
浅夏的猫
·
2024-02-07 10:41
kafka专栏
windows
kafka
分布式
zookeeper
【极数系列】Flink集成
Kafka
Source & 实时消费数据(10)
文章目录01引言02连接器依赖2.1
kafka
连接器依赖2.2base基础依赖03连接器使用方法04消息订阅4.1主题订阅4.2正则表达式订阅4.3Partition列分区订阅05消息解析06起始消费位点
浅夏的猫
·
2024-02-07 10:41
flink
大数据
java
【极数系列】Flink集成
Kafka
Sink & 实时输出数据(11)
文章目录01引言02连接器依赖2.1
kafka
连接器依赖2.2base基础依赖03使用方法04序列化器05指标监控06项目源码实战6.1包结构6.2pom.xml依赖6.3配置文件6.4创建sink作业
浅夏的猫
·
2024-02-07 10:37
Flink专栏
flink
大数据
java
使用debezuim,实现PG同步Oracle
1.对于bytea类型,debezuim发给
kafka
的是一个很短的奇怪字符串。使用wal2json直接decode出来的,是完整的数据,但是到了debezuim,就只有很短的字符串了。
howard_shooter
·
2024-02-07 10:25
PostgreSQL
数据库
Doris中的本地routineload环境,用于开发回归测试用例
----------------2024-2-6-更新--------------doris的routineload,就是从
kafka
中加载数据到表,特点是定时、周期性的从
kafka
取数据。
howard_shooter
·
2024-02-07 10:24
Doris
数据库
大数据命令,一文在手,全部都有(送纯净版文档)
比如linux,
kafka
命令就比较多,hdfs操作也多。但是对于HBase.....这类框架命令比较少,就不再本篇展示。望周知。其中内容包含以下,具体命令会一一介绍。
大数据左右手
·
2024-02-07 09:35
大数据
大数据
zookeeper
hadoop
flink
linux
ELK日志系统技术架构
问题和挑战:主要配置1.ES集群中所有节点使用虚拟机2.索引按照天生成3.数据节点负责数据的索引4.通过Nginx将用户的检索请求负载在数据节点运行状况部分索引节点负载非常高2.索引速度非常慢,经常出现
Kafka
leo_hush
·
2024-02-07 09:58
架构
ELK
日志系统
elk
架构
数据库
spring cloud stream
链接:支持的中间件后文使用
kafka
测试。
此剑之势丶愈斩愈烈
·
2024-02-07 08:56
spring
kafka
spring
cloud
flink soruce详解
flink自定义数据源需要实现SourceFunction,内置的SourceFunction实现类有:SocketTextStreamFunction、FromElementsFunction、Flink
Kafka
Consumer
loukey_j
·
2024-02-07 08:16
NCCL
源码解析
: 共享内存连接的建立
文章目录前言概括详解1.shmCanConnect()2.shmSendSetup3.shmRecvSetup前言NCCL
源码解析
总目录我尽量在每个函数之前介绍每个函数的作用,建议先不要投入到函数内部实现
Happy_Enger
·
2024-02-07 08:25
NCCL
NCCL
SHM
nvidia
P2P
NCCL
源码解析
: proxy 线程
2.2proxyProgressAsync()4.ncclProxyConnect()4.1ncclProxyCallBlocking()4.2ncclPollProxyResponse()前言NCCL
源码解析
总目录我尽量在每个函数之前介绍每个函数的作用
Happy_Enger
·
2024-02-07 08:24
NCCL
NCCL
Linux
nvidia
NCCL
源码解析
: P2P 连接的建立
文章目录前言概括详解ncclTransportP2pSetup()前言NCCL
源码解析
总目录我尽量在每个函数之前介绍每个函数的作用,建议先不要投入到函数内部实现,先把函数作用搞清楚,有了整体框架,再回归到细节
Happy_Enger
·
2024-02-07 08:18
NCCL
NCCL
nvidia
CUDA
android下自定义相机com.otaliastudios.cameraview
源码解析
(二)
目录android下自定义相机com.otaliastudios.cameraview
源码解析
(一)android下自定义相机com.otaliastudios.cameraview
源码解析
(二)这里要分析是
快乐前进
·
2024-02-07 07:50
Android
Github代码分析
android下自定义相机com.otaliastudios.cameraview
源码解析
(一)
目录android下自定义相机com.otaliastudios.cameraview
源码解析
(一)android下自定义相机com.otaliastudios.cameraview
源码解析
(二)前言最近在
快乐前进
·
2024-02-07 07:20
Android
Github代码分析
一文搞懂
Kafka
中的listeners配置策略
客户端通过哪个端口连接到
kafka
,通过9092连接的是什么,broker还是controller?为controller配置了单独的端口有什么用?control.plane.listener
程序饲养员
·
2024-02-07 07:15
kafka
数据库
分布式
如何为
Kafka
加上账号密码(一)
Kafka
认证基本概念一直以来,我们公司内网的
Kafka
集群都是在裸奔,只要知道端口号,任何人都能连上集群操作一番。直到有个主题莫名消失,才引起我们的警觉,是时候该考虑为它添加一套认证策略了。
程序饲养员
·
2024-02-07 07:12
kafka
分布式
Flink cdc debug调试动态变更表结构
Cannotfindfactorywithidentifier"mysql"intheclasspath.2.JsonFactory异常3.NoSuchMethodError异常其他结尾前言接着上一篇Flinkcdc3.0动态变更表结构——
源码解析
yyoc97
·
2024-02-07 06:05
flink
大数据
debug
调试
cdc
同是ZooKeeper,你和架构师的理解差在哪里?
Dubbo,
Kafka
,Hadoop等等项目里都能看到它的影子。但是你真的了解ZooKeeper吗?如果面试官让你给他讲讲ZooKeeper是个什么东西,你能回答到什么地步呢?
l鹿狸i
·
2024-02-07 06:12
Kafka
下载(
kafka
和jdk、zookeeper、SpringBoot的版本对应关系)
文章目录一、准备工作1、必须环境2、
kafka
使用自带的zookeeper还是自己单独部署zookeeper?
kimi-001
·
2024-02-07 06:46
Kafka
java
java-zookeeper
kafka
架构学习(五):scrapy实现自定义代理中间件
scrapy实现自定义代理中间件前言关卡:实现自定义代理中间件代理中间件
源码解析
代理池自定义代理中间件结束前言ip检测是比较常规的反爬手段,一般站点会限制ip的访问频率,或者根据ip的访问规律和频率来识别异常访问
九月镇灵将
·
2024-02-07 06:46
逆向与架构
架构
学习
scrapy
kafka
文件存储机制
1.1topic中partition存储分布:1.2partiton中文件存储方式:1.3partiton中segment文件存储结构:1.4在partition中如何通过offset查找message:2.
kafka
@lihewei
·
2024-02-07 06:14
kafka
分布式
上一页
6
7
8
9
10
11
12
13
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他