Kafka从入门到放弃

Kafka入门

文章目录基础架构工作流程文件存储生产者producer消息发送分区策略producer发送消息流程RecordAccumulator（记录累加器）生产者高级设计之自定义数据结构生产者高级设计之内存池设计producerACK是什么Leader何时发送ack?生产者ACK策略Broker副本数据一致性问题follower故障和leader故障AtLeastOnce+幂等性=ExactlyOnceZo
FREE_GIFT_白给怪·2024-01-28 07:08

Python网络爬虫实战——实验8：Python爬虫项目部署与kafka消息队实战

【实验内容】本实验主要介绍关于在Linux云环境下部署和运行爬虫项目并使用kafka发送消息队列。
武汉唯众智创·2024-01-28 07:37

Kafka-服务端-PartitionLeaderSelector、ReplicaStateMachine

PartitionLeaderSelector通过对前面的分析可知，PartitionMachine将Leader副本选举、确定ISR集合的工作委托给了PartitionLeaderSelector接口实现，PartitionMachine可以专注于管理分区状态。这是策略模式的一种典型的应用场景。图展示了PartitionLeaderSelector的实现类，这五个不同的实现提供了不同的策略。Pa
Andy技术支援·2024-01-28 07:37

Java技术栈 —— Kafka入门（一）

Java技术栈——Kafka入门（一）一、什么是Kafka？二、如何安装Kafka？一、什么是Kafka？Kafka是一种消息队列，通过订阅-发布机制可以实现解耦合，用异步处理代替同步处理[1]。
键盘国治理专家·2024-01-28 07:07

【Kafka】高级特性：主题

目录主题的管理创建主题查看主题修改主题删除主题增加分区分区副本的分配必要参数配置KafkaAdminClient应用功能操作示例主题的管理使用kafka-topics.sh脚本。
Ethan-running·2024-01-28 07:36

springboot2.2.9整合kafka之KafkaListener实现原理

1、开启kafka的注解@EnableKafka通过开启kafka注解可以看到Import的类KafkaListenerConfigurationSelector加载一个配置类KafkaBootstrapConfiguration
室内篮球·2024-01-28 07:36

kafka-JVM采集器安装

Kafka采集器安装说明①下载安装采集器下载采集器，并上传至服务器https://github.com/prometheus/jmx_exporterkafka_jmx_exporter.tar.gz②
长空~·2024-01-28 07:27

Zookeeper+Kafka+Log4j日志采集与管理系统

1、Zookeeper+Kafka+Log4j-日志采集与管理随着系统规模变大和复杂度上升，我们的日志管理变得复杂，一个完整的系统通常会有几十上百个节点。
ff&yy·2024-01-28 06:28

MQ面试题之Kafka

本人毕业到现在使用的都是公司内部产品，对于通用产品无实际经验，但是各种消息中间件大差不差，故而本次选择一个相对较熟悉的Kafka进行详细介绍。
for62·2024-01-28 05:39

ES面试题合集

前言前文介绍了消息中间件之Kafka，我们的知识体系逐渐丰满。本文将继续深入，介绍搜索引擎ES。ES面试题合集Elasticsearch有哪些特性？
for62·2024-01-28 05:09

java 分布式 日志方案_ELK + kafka 分布式日志解决方案

本文介绍使用ELK(elasticsearch、logstash、kibana)+kafka来搭建一个日志系统。
kimi无悔-618·2024-01-28 02:37

Kafka的安装部署、基本操作、集群环境

1、Kafka的安装部署下载kafkakafka_2.11-2.0.0.tgz安装过程安装过程非常简单，只需要解压就行，因为这个是编译好之后的可执行程序tar-zxvfkafka_2.11-2.0.0.
有梦想的虫子_2018·2024-01-28 01:46

K8S,KubeSphere安装与卸载

运行环境的搭建花了很多时间，踩了很多坑，写此分享避免小伙伴从入门到放弃。希望正在学习的容器化技术的小伙伴们看完此文章能够更加得心应手。
IT小分享·2024-01-27 23:40

JVM系列-9.性能调优

作者简介：大家好，我是爱吃芝士的土豆倪，24届校招生Java选手，很高兴认识大家系列专栏：Spring原理、JUC原理、Kafka原理、分布式技术原理、数据库技术、JVM原理如果感觉博主的文章还不错的话
爱吃芝士的土豆倪·2024-01-27 21:19

对于mysql，redis，Kafka，zookeeper磁盘缓存技术使用分析

对于mysql，redis，Kafka，zookeeper磁盘缓存技术使用分析大部分组件是基于磁盘存储的，但由于CPU速度和磁盘速度之间的鸿沟，都会使用缓存技术来提高性能，缓存简单来说就是一块内存区域，
魏春雨·2024-01-27 21:07

MQ消息队列主流消息服务规范及代表产品

市面上消息队列的种类繁多，我们经常在做技术选型的时候，就会搜“RabbitMQ/RocketMQ/Kafka…的区别”这样的字眼，为了就是更好地选型，结合业务需求以及消息队列的性能、功能特性、设计规范来综合考虑
c_zyer·2024-01-27 18:13

【代码随想录-数组】移除元素

推荐:kwan的首页,持续学习,不断总结,共同进步,活到老学到老导航檀越剑指大厂系列:全面总结java核心技术点,如集合,jvm,并发编程redis,kafka,Spring,微服务,Netty等常用开发工具系列
檀越剑指大厂·2024-01-27 18:08

SpringBoot activemq收发消息、配置及原理

与Springframework相比，SpringBoot更近了一步，通过auto-configuration机制实现了对jms及amqp主流框架如ActiveMQ、RabbitMQ以及Kafka的自动配置
weixin_44612246·2024-01-27 17:16

Kafka-4.1-工作原理综述

1Kafka工作原理详解1.1工作流程Kafka集群将Record流存储在称为Topic的类中，每个记录由⼀个键、⼀个值和⼀个时间戳组成。
江中散人·2024-01-27 16:47

【云原生进阶之PaaS中间件】第三章Kafka-2-安装部署

1安装部署1.1kafka的分布式kafka是依靠zookeeper来实现分布式的，所以再启动前需要先启动zookeeper，如下图1.2集群部署官方下载地址：ApacheKafka（1）安装和Hadoop
江中散人·2024-01-27 16:16

【云原生进阶之PaaS中间件】第三章Kafka-3-命令操作

1命令操作1.1主题命令操作查看操作主题命令参数：[atguigu@hadoop102kafka]$bin/kafka-topics.sh参数描述--bootstrap-server，连接的KafkaBroker
江中散人·2024-01-27 16:16

【Spring连载】使用Spring访问 Apache Kafka（十六）----空payload和‘Tombstone‘记录的日志压缩

【Spring连载】使用Spring访问ApacheKafka（十六）----空payload和'Tombstone'记录的LogCompaction当你使用LogCompaction时，你可以发送和接收具有空
85程序员老王·2024-01-27 16:26

【Spring连载】使用Spring访问 Apache Kafka（十七）----处理异常

【Spring连载】使用Spring访问ApacheKafka（十七）----处理异常HandlingExceptions一、监听器错误处理程序ListenerErrorHandlers二、容器错误处理程序
85程序员老王·2024-01-27 16:26

【Spring连载】使用Spring访问 Apache Kafka（十八）----非阻塞重试

【Spring连载】使用Spring访问ApacheKafka（十八）----非阻塞重试Non-BlockingRetries一、HowThePatternWorks二、BackOffDelayPrecision
85程序员老王·2024-01-27 16:26

【Spring连载】使用Spring访问 Apache Kafka（十）----监控

【Spring连载】使用Spring访问ApacheKafka（十）----监控Monitoring一、监控监听器性能MonitoringListenerPerformance二、监控KafkaTemplate
85程序员老王·2024-01-27 16:56

【Spring连载】使用Spring访问 Apache Kafka（十一）----事务

【Spring连载】使用Spring访问ApacheKafka（十一）----事务Transactions一、概览二、使用KafkaTransactionManager三、事务同步TransactionSynchronization
85程序员老王·2024-01-27 16:56

【Spring连载】使用Spring访问 Apache Kafka（六）----应用程序事件

【Spring连载】使用Spring访问ApacheKafka（六）----应用程序事件ApplicationEvents一、检测空闲和无响应的Consumers二、事件消费EventConsumption
85程序员老王·2024-01-27 16:55

【Spring连载】使用Spring访问 Apache Kafka（七）----Topic/Partition初始偏移量&定位到特定的偏移量

【Spring连载】使用Spring访问ApacheKafka（七）----Topic/Partition初始偏移量&定位到特定的偏移量一、Topic/Partition的初始偏移量InitialOffset
85程序员老王·2024-01-27 16:55

【Spring连载】使用Spring访问 Apache Kafka（三）----接收消息

【Spring连载】使用Spring访问ApacheKafka（三）----接收消息一、消息监听器MessageListeners二、消息监听器容器MessageListenerContainers2.1
85程序员老王·2024-01-27 16:25

【Spring连载】使用Spring访问 Apache Kafka（十五）----消息头

【Spring连载】使用Spring访问ApacheKafka（十五）----消息头MessageHeadersApacheKafkaclient中提供了对消息中headers的支持。
85程序员老王·2024-01-27 16:53

flume+kafka+SparkStreaming+mysql+ssm+高德地图热力图项目

第一步、编写python脚本，产生模拟数据#coding=UTF-8importrandomimporttimephone=["13869555210","18542360152","15422556663","18852487210","13993584664","18754366522","15222436542","13369568452","13893556666","1536669855
printf200·2024-01-27 12:24

Kafka面试题

0.思维导图  Kafka是一个分布式的基于发布/订阅模式的消息队列，主要用于大数据实时处理邻域  消息队列分为点对点模式（消费者主动拉取数据，消息收到后清除消息）和发布订阅模式（消费者消费数据之后，不删除数据
韩顺平的小迷弟·2024-01-27 10:33

kafka summary

最近整体梳理之前用到的一些东西，回顾Kafka的时候好多东西都忘记了，把一些自己记的比较模糊并且感觉有用的东西整理一遍并且记忆一遍，仅用于记录以备后续回顾Kafka的哪些场景中使用了零拷贝生产者发送消息
会说话的皮卡丘·2024-01-27 09:22

电商系统设计到开发03 引入Kafka异步削峰

一、前言系统设计：电商系统设计到开发01第一版设计到编码-CSDN博客接着上篇文章：电商系统设计到开发02单机性能压测-CSDN博客本篇为大制作，内容有点多，也比较干货，希望可以耐心看看已经开发的代码，并对其下单接口进行了压力测试压力测试，该接口一个请求需要查询数据库4次，更新4次，插入2次，总共访问数据库10次，其中2个事务，3次查询是加锁查询，还有1次rpc请求，单实例情况下吞吐量为110/s
风萧萧兮s·2024-01-27 09:15

easy-upsert-starter 轻量级数据转换存储服务-MySQL使用(二)

easy-upsert-starter轻量级数据转换存储服务简介：针对轻量级数据(单次包数据量10万)处理，提供数据转移存储到MySQL、Kafka、ES、HBase、Redis配置相应的数据源，注入IUpser
还在忙碌的吴小二·2024-01-27 09:46

Kafka-服务端-PartitionStateMachine

PartitionStateMachine是ControllerLeader用于维护分区状态的状态机。分区的状态是通过PartitionState接口定义的，它有四个子类分别代表了分区四种可能的状态，如表所示。分区各个PartitionState之间的转换如图所示。下面分析各个状态之间转换时，需要完成的相关操作。NonExistentPartition→NewPartition从ZooKeeper
Andy技术支援·2024-01-27 08:53

知识库-kafka shell脚本用法

脚本名称用途描述connect-distributed.sh连接kafka集群模式connect-standalone.sh连接kafka单机模式kafka-acls.shtodokafka-broker-api-versions.shtodokafka-configs.sh
知秋ing·2024-01-27 08:52

shell脚本--kafka生产数据

直接上代码kafka参数修改成自己的配置。#!
手提青灯觅佳人·2024-01-27 08:52

Kafka zookeeper-shell.sh

bin/zookeeper-shell.sh作用是连接zookeeper，并通过命令查询注册的信息，本质上就是zookeeper的语法。bin/zookeeper-shell.shzookeeper_host:port[/path][args…]args参数类型如下statpath[watch]setpathdata[version]lspath[watch]delquota[-n|-b]path
云川之下·2024-01-27 08:18

【shell-10】shell实现的各种kafka脚本

kafka-shell工具背景日志log一.启动kafka->(start-kafka)二.停止kafka->(stop-kafka)三.创建topic->(create-topic)四.删除topic
我先森·2024-01-27 08:41

Flink生产环境相关问题

1.Flink+Kafka保证精确一次消费相关问题？Fink的检查点和恢复机制和可以重置读位置的source连接器结合使用，比如kafka，可以保证应用程序不会丢失数据。
大数据左右手·2024-01-27 08:09

JVM系列-8.GC调优

作者简介：大家好，我是爱吃芝士的土豆倪，24届校招生Java选手，很高兴认识大家系列专栏：Spring原理、JUC原理、Kafka原理、分布式技术原理、数据库技术、JVM原理如果感觉博主的文章还不错的话
爱吃芝士的土豆倪·2024-01-27 08:06

JVM系列-7内存调优

作者简介：大家好，我是爱吃芝士的土豆倪，24届校招生Java选手，很高兴认识大家系列专栏：Spring原理、JUC原理、Kafka原理、分布式技术原理、数据库技术、JVM原理如果感觉博主的文章还不错的话
爱吃芝士的土豆倪·2024-01-27 08:32

0806-Kafka异地复制

Kafka异地同步：Mirror-Maker（消费者+生产者）原理大概是启动consumer消费南京的topicmessage，发送到重庆的kafka集群。
红苹果_小米粒·2024-01-27 08:04

Flink 集成 Debezium Confluent Avro ( format=debezium-avro-confluent )

本文介绍的场景是：使用KafkaConnect的DebeziumMySQLSourc
　Laurence·2024-01-27 06:54

37.Java连接Kafka

37.1实验环境Intellij已安装且正常运行Maven环境正常RedHat7.2CM和CDH版本为5.11.2Kafka2.2.0-0.10.2创建topic，test3有3个replication
大勇任卷舒·2024-01-27 06:40

RocketMQ-同城双活-高可用架构-同程旅行

背景介绍为何选择RocketMQ我们在几年前决定引入MQ时，市场上已经有不少成熟的解决方案，比如RabbitMQ,ActiveMQ，NSQ，Kafka等。
无心六神通·2024-01-27 04:59

【代码随想录-数组】二分查找

推荐:kwan的首页,持续学习,不断总结,共同进步,活到老学到老导航檀越剑指大厂系列:全面总结java核心技术点,如集合,jvm,并发编程redis,kafka,Spring,微服务,Netty等常用开发工具系列
檀越剑指大厂·2024-01-27 04:58

Kafka3.0源码学习

内存池3、sender线程发送数据二、消费者源码1、初始化2、消费者订阅主题3、消费者拉取和处理数据3.1消费总体流程3.2消费者/消费者组初始化3.3拉取数据3.4消费者Offset提交三、服务端源码kafka
魅Lemon·2024-01-27 04:25

【代码随想录-数组】有序数组的平方

推荐:kwan的首页,持续学习,不断总结,共同进步,活到老学到老导航檀越剑指大厂系列:全面总结java核心技术点,如集合,jvm,并发编程redis,kafka,Spring,微服务,Netty等常用开发工具系列
檀越剑指大厂·2024-01-27 03:24
上一页 10 11 12 13 14 15 16 17 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他