Kafka源码分析

由浅至深谈谈JUC

JUC并发工具一、CountDownLatch应用&源码分析1.1CountDownLatch介绍CountDownLatch就是JUC包下的一个工具，整个工具最核心的功能就是计数器。
被Java暴击的星河·2024-02-02 22:06

卡夫卡《变形记》人物小传

作者–弗朗茨·卡夫卡弗朗茨·卡夫卡（FranzKafka）是一位德国语言文学的重要作家，生于1883年7月3日，于1924年6月3日去世。他的作品以其深沉的哲学内涵和对人性困境的揭示而闻名于世。
贾斯汀玛尔斯·2024-02-02 21:46

基于scala使用flink将kafka数据写入mysql示例

使用Flink消费Kafka中ChangeRecord主题的数据，统计每三分钟各设备状态为“预警”且未处理的数据总数。
内向仓鼠·2024-02-02 21:10

windows安装prometheus+grafana

windows-amd64.tar.gz下载后直接解压解压后进入目录运行premetheus.exe，访问端口9090即可，需要查看监控的对象列表可以进入status>targets查看若需要监控服务器资源、数据库、kafka
Yu_摆摆·2024-02-02 20:31

Flink 的架构与组件

Flink支持各种数据源和接口，如Kafka、HDFS、TCP流等，并可以将处理结果输出到各种数据接收器，如HDFS、Elasticsearch、Kafka等。
禅与计算机程序设计艺术·2024-02-02 20:06

【代码随想录-链表】环形链表 II

推荐:kwan的首页,持续学习,不断总结,共同进步,活到老学到老导航檀越剑指大厂系列:全面总结java核心技术点,如集合,jvm,并发编程redis,kafka,Spring,微服务,Netty等常用开发工具系列
檀越剑指大厂·2024-02-02 18:48

SpringBoot使用Kafka详解含完整代码

1.前言随着大数据和实时处理需求的增长，Kafka作为一种分布式流处理平台，与SpringBoot的集成变得尤为重要。
孤蓬&听雨·2024-02-02 18:27

IDEA如何进行远程Debug调试

背景：使用docker进行CVE漏洞复现的时候，由于只能黑盒进行复现，并不能知道为什么会产生这个漏洞，以及漏洞的POC为什么要这么写，之前我都是通过本地debug来进行源码分析，后来搜了一下，发现可以进行远程代码
Smileassissan·2024-02-02 16:47

「连载」边缘计算（十四）02-02：边缘部分源码（源码分析篇）

（接上篇）CloudCore本节将对CloudCore进行剖析，对CloudCore组件中功能模块共用的消息框架和各功能模块的具体功能进行深入剖析，具体包括CloudCore功能模块之间通信的消息框架、cloudhub剖析、edgecontroller剖析、devicecontroller剖析。CloudCore功能模块之间通信的消息框架CloudCore组件中各个功能模块之间是通过Beehive
十越科技·2024-02-02 15:12

Kafka集群搭建

Kafka集群是把状态保存在Zookeeper中的，首先要搭建Zookeeper集群。
莫噶·2024-02-02 14:30

Kafka 集群搭建

1、前提条件1、部署Kafka集群搭建需要服务器至少3台，奇数台2、Kafka的安装需要java环境，jdk1.83、Kafka安装包版本：kafka_2.11-0.10.0.1.tar.gz4、假设3
那小子、真烦·2024-02-02 14:30

kafka集群搭建

本文将记录使用kafka镜像，分别在两种场景下搭建3节点集群：1.在一台机器上使用容器方式安装kafka集群；2.在三台机器上使用容器方式安装kafka集群。
topswim·2024-02-02 14:30

2023-01-04

帅丙我工作以来接触的消息队列中间件有RocketMQ、Kafka、自研，是的因为我主要接触的都是电商公司，相对而言业务体量还有场景来说都是他们比较适合，再加上杭州阿里系公司偏多，身边同事或者公司老大基本都是阿里出来创业的
敲代码的小强·2024-02-02 13:00

Android源码分析：Activity启动流程

分析流程基于Android8.0源码一般情况下我们通过Activity中的startActivity方法启动一个Activity。这个流程中涉及一下几个类：android.app.Activityandroid.app.Instrumentationcom.android.server.am.ActivityManagerServicecom.android.server.am.ActivityS
LeaYw·2024-02-02 12:27

【Kafka】 幂等和事务详解

目录幂等性为什么需要幂等性如何实现幂等性使用幂等幂等性的限制条件幂等性的实现原理事务为什么需要事务开启事务事务保证事务恢复的保证事务原子性的保证事务中Offset的提交保证用于事务特性的控制型消息事务流程事务原理FindCoordinatorRequestInitProducerIdRequest开启事务回话流的处理与转发阶段提交或回滚事务超时事务中止拒绝僵尸实例与分布式事务机制对比事务操作相关配
Ethan-running·2024-02-02 12:00

Kafka客户端实战

目录基础客户端引入依赖消息发送者主流程消息消费者主流程SpringBoot集成Kafka引入Maven依赖application.properties配置文件通过KafkaTemplate发送消息通过@
山鸟与鱼！·2024-02-02 12:29

go数据操作-Kafka

1.下载及安装gogetgithub.com/Shopify/sarama注意事项:saramav1.20之后的版本加入了zstd压缩算法，需要用到cgo，在Windows平台编译时会提示类似如下错误：github.com/DataDog/zstdexec:"gcc":executablefilenotfoundin%PATH%所以在Windows平台请使用v1.19版本的sarama。(如果不会
leellun·2024-02-02 12:59

kafka

在做平台项目的时候，需要使用kafka去做消息队列去向下位机传送指令来操作下位机。
毛毛的毛毛·2024-02-02 12:27

Flink 流式读取 Debezium CDC 数据写入 Hudi 表无法处理 -D / Delete 消息

问题场景是：使用KafkaConnect的DebeziumMySQLSourceConnector将MySQL的CDC数据（Avro格式）接入到Kafka之后，通过Flink读取并解析这些CDC数据，然后以流式方式写入到
　Laurence·2024-02-02 12:56

【Kafka】 存储机制

文件具体结构偏移量索引文件结构时间戳索引文件结构消息日志文件结构查找message过程使用偏移量索引文件使用时间戳索引文件相关配置日志清除及压缩日志清理基于时间基于日志大小基于偏移量日志压缩概述日志压缩实现细节磁盘数据存储顺序写零拷贝页缓存总结日志存储结构总体结构Kafka
Ethan-running·2024-02-02 12:56

使用docker部署Kafka(MAC Apple M2 Pro)

前置准备下载适用于AppleM2Pro的Zookeeper和KafkaDocker镜像dockerpullzookeeper:3.6dockerpullcppla/kafka-docker:arm下载成功后确认镜像无误
刘静咩·2024-02-02 10:47

spark题06

1.kafka收集数据的原理？2.讲讲列式存储的parquet文件底层格式？3.dataset和dataframe？4scala中trait特征和用法？5.redis和memcache的区别？
博弈史密斯·2024-02-02 09:59

字节跳动新一代云原生消息队列实践

作者：火山引擎云原生计算研发工程师｜雷丽媛上文我们了解了在字节跳动内部业务快速增长的推动下，经典消息队列Kafka的劣势开始逐渐暴露，在弹性、规模、成本及运维方面都无法满足业务需求。
字节跳动云原生计算·2024-02-02 09:53

Nginx RTMP源码分析--GOP的实现

nginxrtmpmodule的默认实现中，不支持gop缓存。我们可以自己进行开发，实现的主要原理是：当遇到关键帧时，清空旧的gop缓存并开始缓存新的帧数据；当play时，先将缓存的gop发送给对方，然后开始正常的发送的逻辑。具体逻辑如下：（这里只列出了主要的流程，并不是全部的代码实现）初始化在ngx_rtmp_session_t增加gop相关的字段：typedefstruct{....../*g
龙--技术总结分享·2024-02-02 09:12

Kafka 入门

一、定义Kafka是一个分布式的基于发布/订阅模式的消息队列（messageQueue），主要用于大数据实时处理领域。
永恒的狼牙·2024-02-02 08:13

超详细的Kafka入门，看这篇就够了

超详细的Kafka入门，看这篇就够了kafka的介绍kafka的术语kafka核心Apikafka初の体验1.windows安装kafka2.KafkaProducer与KafkaConsumer配置说明
〆、风神·2024-02-02 08:11

Kafka入门

Kafka入门1.Kafka概述2.Kafka快速入门1.Kafka概述定义Kafka是一个分布式的基于发布/订阅模式的消息队列（MessageQueue），主要应用于大数据实时处理领域。
Kevin_琪琪·2024-02-02 08:39

kafka入门

生产者发送消息，多个消费者只能有一个消费者接收到消息生产者发送消息，多个消费者都可以接收到消息（1）创建kafka-demo项目，导入依赖org.apache.kafkakafka-clients3.4.0
养一只摆烂猫.·2024-02-02 08:38

「连载」边缘计算（八）01-25：边缘部分源码（源码分析篇）

搭建开发环境KubeEdge开发环境的搭建与7.1节高度相似，详情见《深入理解边缘计算：云、边、端工作原理与源码分析》。
十越科技·2024-02-02 08:18

「连载」边缘计算（十一）01-30：边缘部分源码（源码分析篇）

（接上篇）函数StartModules()定义具体如下所示。//StartModulesstartsmodulesthatareregisteredfuncStartModules(){coreContext:=context.GetContext(context.MsgCtxTypeChannel)modules:=GetModules()forname,module:=rangemodules
十越科技·2024-02-02 08:18

「连载」边缘计算（十二）01-31：边缘部分源码（源码分析篇）

组件源码分析本节将对Kubernetes的核心组件的源码进行梳理和分析。
十越科技·2024-02-02 08:18

「连载」边缘计算（十三）02-01：边缘部分源码（源码分析篇）

（接上篇）配置模块初始化配置模块初始化具体如下所示。err:=archaius.Init()...CONFIG=archaius.GetConfigFactory()（3）获取内存配置源获取内存配置源具体如下所示。ms:=memoryconfigsource.NewMemoryConfigurationSource()CONFIG.AddSource(ms)（4）获取命令行配置源获取命令行配置源具
十越科技·2024-02-02 08:46

freertos 源码分析一 list链表数据结构

链表和任务管理是freertos的核心，先分析链表源码，freertos的链表是双向环形链表，定义与数据结构在list.h中，表项的初始化，插入与删除在list.c中。数据结构一、表项数据结构structxLIST_ITEM{listFIRST_LIST_ITEM_INTEGRITY_CHECK_VALUEconfigLIST_VOLATILETickType_txItemValue;struct
yvee·2024-02-02 08:05

消息队列和Kafka

1.消息队列：将需要发送的数据存放在队列中2.消息队列中间件：存储消息的组件（软件），如Kafka、RabbitMQ、ActiveMQ、RocketMQ、ZeroMQ3.Kafka应用场景：异步处理系统解耦流量削峰
一路向北看星晴·2024-02-02 07:47

SpringBoot统一功能处理，拦截器，统一数据格式，捕捉异常

编辑@ControllerAdvice源码分析数据结构面试:HashMap,ConcurrentHashMap,ThreadLocal要看(建议看源码)网络:
狗哥不是甜妹·2024-02-02 06:49

Flink 实时写入数据到 ElasticSearch 性能调优

背景说明线上业务反应使用Flink消费上游kafkatopic里的轨迹数据出现backpressure，数据积压严重。单次bulk的写入量为：3000/50mb/30s，并行度为48。
zhisheng_blog·2024-02-02 06:45

JAVA操作Rabbitmq-原理讲的很详细

常见的消息队列很多，主要包括RabbitMQ、Kafka、RocketMQ和ActiveMQ，相关的选型可以看我之前的系列，这篇文章只讲RabbitMQ，先讲原理，后搞实战。
hjc_042043·2024-02-02 06:41

消息队列的应用场景

消息队列的应用场景消息队列中间件是分布式系统中重要的组件，主要解决应用耦合，异步消息，流量削锋等问题实现高性能，高可用，可伸缩和最终一致性架构使用较多的消息队列有ActiveMQ，RabbitMQ，ZeroMQ，Kafka
hjc_042043·2024-02-02 06:10

【分布式技术专题】Guava RateLimiter 针对于限流器的入门到实战（含源码分析介绍）

GuavaRateLimiter针对于限流器的入门到实战限流器的思路和算法漏桶算法令牌算法RateLimiter限流器RateLimiter的作用create方法acquire方法tryAcquire方法详细分析参数抛出异常参数抛出异常实践案例第1次获取10个令牌第2次获取1个令牌第3次获取10个令牌资料参考限流器的思路和算法如果让你来造一个限流器，有啥想法？漏桶算法用一个固定大小的队列。比如设置
洛神灬殇·2024-02-02 06:52

linux 内核协议栈 ip_loopback,Linux内核协议栈源码分析.pdf

Linux内核协议栈源码分析.pdfLinux2.6协议栈源代码分析基于Linux2.6.18内核源码V0.1luoyu第i页Linux2.6协议栈源代码分析目录目录ii图目录iv表目录viii前言xiii
周雨鑫·2024-02-02 03:14

怎样才是优秀的程序员？

linux、mysql、redis、kafka、netty.学习系统性地学习，而不止于碎片知识。善于向优秀的人学习~每解决一个问题，就多进步一点点。知其然，还知其所以然。看书，看官方文档，阅读源码。
乐之者v·2024-02-02 03:06

替代ELK：ClickHouse+Kafka+FlieBeat，才是最佳选择？

背景SaaS服务未来会面临数据安全、合规等问题。公司的业务需要沉淀一套私有化部署能力，帮助业务提升行业竞争力。为了完善平台系统能力、我们需要沉淀一套数据体系帮助运营分析活动效果、提升运营能力。然而在实际的开发过程中，如果直接部署一套大数据体系，对于使用者来说将是一笔比较大的服务器开销。为此我们选用折中方案完善数据分析能力。EasticsearchvsClickhouseClickHouse是一款高
LinkSLA·2024-02-02 01:44

消息中间件之RocketMQ源码分析(三)

RocketMQ中的Consumer启动流程RocketMQ客户端中有两个独立的消费者实现类分别为DefaultMQPullConsumer和DefaultMQPushConsumer，DefaultMQPullConsumerDefaultMQPullConsumer,该消费者使用时需要用户主动从Broker中Pull消息和消费消息，提交消费位点继承关系图核心属性namesrvAddr:继承自C
coffee_babe·2024-02-02 01:55

消息中间件之RocketMQ源码分析(四)

消费者的Rebalance机制客户端是通过Rebalance服务做到高可靠的。当发生Broker掉线、消费者实例掉线、Topic扩容等各种突发情况时，消费者组中的消费者实例是怎么重平衡的，以支持全部队列的正常消费的?Rebalance服务的类图RebalanceImpl的核心属性ConcurrentMapprocessQueueTable:记录MessageQueue和ProcessQueue的关
coffee_babe·2024-02-02 01:55

LidarView源码分析（十三）vtkLidarReader类

该类负责读取pcap文件，并调用vtkLidarPacketInterpreter类进行数据解析。然后将数据传入vtk的渲染管线中。可以通过各种索引获取数据：帧数，网络时间，数据时间。头文件在渲染管线中调用的函数为RequestData，获取数据的函数为GetFrame。classLVIOLIDAR_EXPORTvtkLidarReader:publicvtkPolyDataAlgorithm{p
上官天耀·2024-02-02 01:05

LidarView源码分析（十四）vtkPacketFileReader类

简介vtkPacketFileReader是对libpcap的包装（windows系统下是winpcap，linux下是libpcap）。winpcap已经停止维护。可以使用Npcap。在LidarView中仍然使用的是winpcap（http://github.com/patmarion/winpcap.git）。vtkPacketFileReader负责对pcap数据进行读取，并可以获取或者设
上官天耀·2024-02-02 01:05

LidarView源码分析（一）源码组织概览

LidarView源码组织结构Application：界面程序。内容比较简单，主要定义了界面的主框架，然后使用ParaView相关的功能进行初始化。LVCore：核心功能及插件。包含LidarView的数据源，滤波器等插件代码。整个程序是使用ParaView开发模式。显示界面只是个框架，主要功能结构是使用插件的形式实现的。源代码目录树如下：├─Application│├─Icons│├─Softw
上官天耀·2024-02-02 01:04

requestLayout()引起的问题

requestLayout()引起的问题网上有大量写的很深入的requestLayout()源码分析的文章。故这里不再写了，只做一个实际情况下遇到的问题的分析。
HWilliamgo·2024-02-01 23:55

【NIO与Netty】Netty优化与源码

文章名链接JavaNIO入门：结合尚硅谷课程文章地址Netty入门文章地址Netty进阶文章地址|粘包、半包Netty优化与源码文章地址|源码分析一、优化1.1扩展序列化算法序列化，反序列化主要用在消息正文的转换上序列化时
愿你满腹经纶·2024-02-01 22:57

Redis 5.0 Streams类型简介

它支持ConsumerGroup，熟悉Kafka或者RocketMQ等分布式消息队列的应该知道这个概念，通过将多个客户端加入同一个ConsumerGroup，可以实现多个客户端相互配合，每个消
空挡·2024-02-01 21:34
上一页 13 14 15 16 17 18 19 20 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他