分布式消息系统kafka

【Spring连载】使用Spring访问 Apache Kafka（十八）----非阻塞重试

【Spring连载】使用Spring访问ApacheKafka（十八）----非阻塞重试Non-BlockingRetries一、HowThePatternWorks二、BackOffDelayPrecision
85程序员老王·2024-01-27 16:26

【Spring连载】使用Spring访问 Apache Kafka（十）----监控

【Spring连载】使用Spring访问ApacheKafka（十）----监控Monitoring一、监控监听器性能MonitoringListenerPerformance二、监控KafkaTemplate
85程序员老王·2024-01-27 16:56

【Spring连载】使用Spring访问 Apache Kafka（十一）----事务

【Spring连载】使用Spring访问ApacheKafka（十一）----事务Transactions一、概览二、使用KafkaTransactionManager三、事务同步TransactionSynchronization
85程序员老王·2024-01-27 16:56

【Spring连载】使用Spring访问 Apache Kafka（六）----应用程序事件

【Spring连载】使用Spring访问ApacheKafka（六）----应用程序事件ApplicationEvents一、检测空闲和无响应的Consumers二、事件消费EventConsumption
85程序员老王·2024-01-27 16:55

【Spring连载】使用Spring访问 Apache Kafka（七）----Topic/Partition初始偏移量&定位到特定的偏移量

【Spring连载】使用Spring访问ApacheKafka（七）----Topic/Partition初始偏移量&定位到特定的偏移量一、Topic/Partition的初始偏移量InitialOffset
85程序员老王·2024-01-27 16:55

【Spring连载】使用Spring访问 Apache Kafka（三）----接收消息

【Spring连载】使用Spring访问ApacheKafka（三）----接收消息一、消息监听器MessageListeners二、消息监听器容器MessageListenerContainers2.1
85程序员老王·2024-01-27 16:25

【Spring连载】使用Spring访问 Apache Kafka（十五）----消息头

【Spring连载】使用Spring访问ApacheKafka（十五）----消息头MessageHeadersApacheKafkaclient中提供了对消息中headers的支持。
85程序员老王·2024-01-27 16:53

flume+kafka+SparkStreaming+mysql+ssm+高德地图热力图项目

第一步、编写python脚本，产生模拟数据#coding=UTF-8importrandomimporttimephone=["13869555210","18542360152","15422556663","18852487210","13993584664","18754366522","15222436542","13369568452","13893556666","1536669855
printf200·2024-01-27 12:24

Kafka面试题

0.思维导图  Kafka是一个分布式的基于发布/订阅模式的消息队列，主要用于大数据实时处理邻域  消息队列分为点对点模式（消费者主动拉取数据，消息收到后清除消息）和发布订阅模式（消费者消费数据之后，不删除数据
韩顺平的小迷弟·2024-01-27 10:33

kafka summary

最近整体梳理之前用到的一些东西，回顾Kafka的时候好多东西都忘记了，把一些自己记的比较模糊并且感觉有用的东西整理一遍并且记忆一遍，仅用于记录以备后续回顾Kafka的哪些场景中使用了零拷贝生产者发送消息
会说话的皮卡丘·2024-01-27 09:22

电商系统设计到开发03 引入Kafka异步削峰

一、前言系统设计：电商系统设计到开发01第一版设计到编码-CSDN博客接着上篇文章：电商系统设计到开发02单机性能压测-CSDN博客本篇为大制作，内容有点多，也比较干货，希望可以耐心看看已经开发的代码，并对其下单接口进行了压力测试压力测试，该接口一个请求需要查询数据库4次，更新4次，插入2次，总共访问数据库10次，其中2个事务，3次查询是加锁查询，还有1次rpc请求，单实例情况下吞吐量为110/s
风萧萧兮s·2024-01-27 09:15

easy-upsert-starter 轻量级数据转换存储服务-MySQL使用(二)

easy-upsert-starter轻量级数据转换存储服务简介：针对轻量级数据(单次包数据量10万)处理，提供数据转移存储到MySQL、Kafka、ES、HBase、Redis配置相应的数据源，注入IUpser
还在忙碌的吴小二·2024-01-27 09:46

Kafka-服务端-PartitionStateMachine

PartitionStateMachine是ControllerLeader用于维护分区状态的状态机。分区的状态是通过PartitionState接口定义的，它有四个子类分别代表了分区四种可能的状态，如表所示。分区各个PartitionState之间的转换如图所示。下面分析各个状态之间转换时，需要完成的相关操作。NonExistentPartition→NewPartition从ZooKeeper
Andy技术支援·2024-01-27 08:53

知识库-kafka shell脚本用法

脚本名称用途描述connect-distributed.sh连接kafka集群模式connect-standalone.sh连接kafka单机模式kafka-acls.shtodokafka-broker-api-versions.shtodokafka-configs.sh
知秋ing·2024-01-27 08:52

shell脚本--kafka生产数据

直接上代码kafka参数修改成自己的配置。#!
手提青灯觅佳人·2024-01-27 08:52

Kafka zookeeper-shell.sh

bin/zookeeper-shell.sh作用是连接zookeeper，并通过命令查询注册的信息，本质上就是zookeeper的语法。bin/zookeeper-shell.shzookeeper_host:port[/path][args…]args参数类型如下statpath[watch]setpathdata[version]lspath[watch]delquota[-n|-b]path
云川之下·2024-01-27 08:18

【shell-10】shell实现的各种kafka脚本

kafka-shell工具背景日志log一.启动kafka->(start-kafka)二.停止kafka->(stop-kafka)三.创建topic->(create-topic)四.删除topic
我先森·2024-01-27 08:41

Flink生产环境相关问题

1.Flink+Kafka保证精确一次消费相关问题？Fink的检查点和恢复机制和可以重置读位置的source连接器结合使用，比如kafka，可以保证应用程序不会丢失数据。
大数据左右手·2024-01-27 08:09

JVM系列-8.GC调优

作者简介：大家好，我是爱吃芝士的土豆倪，24届校招生Java选手，很高兴认识大家系列专栏：Spring原理、JUC原理、Kafka原理、分布式技术原理、数据库技术、JVM原理如果感觉博主的文章还不错的话
爱吃芝士的土豆倪·2024-01-27 08:06

JVM系列-7内存调优

作者简介：大家好，我是爱吃芝士的土豆倪，24届校招生Java选手，很高兴认识大家系列专栏：Spring原理、JUC原理、Kafka原理、分布式技术原理、数据库技术、JVM原理如果感觉博主的文章还不错的话
爱吃芝士的土豆倪·2024-01-27 08:32

0806-Kafka异地复制

Kafka异地同步：Mirror-Maker（消费者+生产者）原理大概是启动consumer消费南京的topicmessage，发送到重庆的kafka集群。
红苹果_小米粒·2024-01-27 08:04

Flink 集成 Debezium Confluent Avro ( format=debezium-avro-confluent )

本文介绍的场景是：使用KafkaConnect的DebeziumMySQLSourc
　Laurence·2024-01-27 06:54

37.Java连接Kafka

37.1实验环境Intellij已安装且正常运行Maven环境正常RedHat7.2CM和CDH版本为5.11.2Kafka2.2.0-0.10.2创建topic，test3有3个replication
大勇任卷舒·2024-01-27 06:40

RocketMQ-同城双活-高可用架构-同程旅行

背景介绍为何选择RocketMQ我们在几年前决定引入MQ时，市场上已经有不少成熟的解决方案，比如RabbitMQ,ActiveMQ，NSQ，Kafka等。
无心六神通·2024-01-27 04:59

【代码随想录-数组】二分查找

推荐:kwan的首页,持续学习,不断总结,共同进步,活到老学到老导航檀越剑指大厂系列:全面总结java核心技术点,如集合,jvm,并发编程redis,kafka,Spring,微服务,Netty等常用开发工具系列
檀越剑指大厂·2024-01-27 04:58

Kafka3.0源码学习

内存池3、sender线程发送数据二、消费者源码1、初始化2、消费者订阅主题3、消费者拉取和处理数据3.1消费总体流程3.2消费者/消费者组初始化3.3拉取数据3.4消费者Offset提交三、服务端源码kafka
魅Lemon·2024-01-27 04:25

【代码随想录-数组】有序数组的平方

推荐:kwan的首页,持续学习,不断总结,共同进步,活到老学到老导航檀越剑指大厂系列:全面总结java核心技术点,如集合,jvm,并发编程redis,kafka,Spring,微服务,Netty等常用开发工具系列
檀越剑指大厂·2024-01-27 03:24

实时分析海量新数据的难点 和解决方案

解决方案：使用分布式计算和存储技术，如Hadoop、Spark、Kafka等，将数据分散存储在多个节点上，同时进行分布式计算和处理，以实现数据的实时处理和分析。2.数据质量的保障：海量新
云台095·2024-01-27 03:40

kafka多线程消费及处理和手动提交处理方案设计

kafka与其他消息队列不同的是,kafka的消费者状态由外部(消费者本身或者类似于Zookeeper之类的外部存储)进行维护,所以kafka的消费就更加灵活,但是也带来了很多的问题,因为客户端消费超时被判定挂掉而消费者重新分配分区
达微·2024-01-27 01:38

[MQ]常用的mq产品图形管理web界面或客户端

1.2MQ产品较为成熟的MQ产品：IBMMQ（IBMWebSphereMQ）,ActiveMQ，RabbitMQ，Kafka，RocketMQ，ZeroMQ，MetaMQ等。
穿山甲yyds·2024-01-27 01:05

Apache Pulsar——协议适配器

背景为了能平滑、不改写代码、无侵入地迁移应用使用pulsar，KoP以插件形式支持Kafka协议。
小波同学·2024-01-26 22:17

多云与混合云场景下的数据同步方案-KAFKA

1企业业务系统部署架构的变化趋势-多云与混合云现阶段，企业信息系统部署架构（DA:Deployarchitecture）的一大变化是，越来越多的企业在不断将越来越多的应用部署到云上，即业务系统上云的趋势愈演愈烈。不过企业业务系统上云不是一蹴而就的，也不是单向的一帆风顺的。这里涉及到新开发的业务系统的主动上云（由于是采用云原生技术栈新开发的业务系统，其上云相对顺畅些），也包括历史遗留系统的迁移上云（
明哥的IT随笔·2024-01-26 21:29

解密：消息中间件的选择与使用：打造高效通信枢纽

什么是消息中间件1.2消息中间件的作用1.3消息中间件的分类第二章：消息中间件的选择标准2.1性能2.2可靠性2.3可扩展性2.4易用性2.5社区支持2.6成本第三章：常见的消息中间件对比3.1ApacheKafka3.1.1
凛鼕将至·2024-01-26 20:59

数据中台搭建之安装JDK，zookeeper，kafka

1.背景接上篇博客搭建数据中台之安装mysql，在此基础上安装其他环境2.准备上传包到主节点上3.解压、安装、修改配置文件3.1解压JDKtar-xvfjdk-8u181-linux-x64.gz3.2移动到/usr/local/jdk目录下mv····/usr/local/jdk3.3解压zookeepertar-zxvfzookeeper-3.4.5.tar.gz3.4移动到/usr/loca
CayongL·2024-01-26 20:20

ELK 8.8.1 + Kafka 2.5.0 日志收集架构部署

ELK8.8.1+Kafka2.5.0日志收集架构部署服务版本节点角色分布服务兼容性JDK特殊性官方文档库系统优化部署ES集群1.下载ES源码包2.调整配置文件\$ES\_HOME/config/elasticsearch.yml3
JP.Hu·2024-01-26 19:01

Flink 基础入门

前言SparkStreaming准确来说算是一个微批处理伪实时的做法，可是Flink是真的来一条就会处理一条，而且在SparkStreaming和Kafka进行整合时我们需要手动去管理偏移量的问题，而在
IT领域君·2024-01-26 19:28

【Java程序员面试专栏 专业技能篇】Kafka核心面试指引

关于Kafka部分的核心知识进行一网打尽，包括Kafka的基本概念，基本架构，工作流程，存储机制，生产策略和消费策略，通过一篇文章串联面试重点，并且帮助加强日常基础知识的理解，全局思维导图如下所示基本概念从
存在morning·2024-01-26 18:50

面试题-【消息队列】

消息队列问题1如何进行消息队列的技术选型优点解耦（pub/sub模型）异步（异步接口性能优化）削峰使用消息队列的缺点几种消息队列的特性问题2引入消息队列之后该如何保证其高可用性RabbitMQ的高可用kafka
谷新龙001·2024-01-26 16:35

active mq topic消费后删除_Spring cloud stream 整合mq

说明：本案例win10环境测试scs(springcloudstream)整合kfk(kafka)/rbt(rabbitmq)消息生产消费场景流程一、准备中间件环境(kfk/rbt)后续内容提供kfk与
weixin_39794340·2024-01-26 15:35

SpringCloudStream整合MQ（待完善）

概念SpringCloudStream的主要目标是各种各样MQ的学习成本，提供一致性的编程模型，使得开发者能够更容易地集成消息组件（如ApacheKafka、RabbitMQ、RocketMQ）官网地址
kk_0910·2024-01-26 14:27

IBM MQ和kafka区别

IBMMQKafka连接方式socket长连接socket长连接使用方式发布/订阅或者点对点Queue方式，QUEUE只能消费一次，可以用作socket通讯发布/订阅方式
智慧健康·2024-01-26 14:04

Spring-Kafka 3.0 消费者消费失败处理方案

一、背景我们作为Kafka在使用Kafka是，必然考虑消息消费失败的重试次数，重试后仍然失败如何处理，要么阻塞，要么丢弃，或者保存二、设置消费失败重试次数1默认重试次数在哪里看Kafka3.0版本默认失败重试次数为
风萧萧兮s·2024-01-26 14:33

SpringBoot 3.1.7 集成Kafka 3.5.0

一、背景写这边篇文章的目的，是记录我在集成kafka客户端遇到的一些问题，文章会记录整个接入的过程，其中会遇到几个坑，如果需要最终版本，直接看最后一节就行了，感觉Spring-Kafka的文档太少了，如果采用
风萧萧兮s·2024-01-26 14:28

MQ回顾之kafka速通

不定期更新官网概念自查官网：ApacheKafkakafka结构和kafka相关的关键名词有：Producer、Broker、Topic、Partition、Replication、Message、Consumer
明天一定.·2024-01-26 14:28

JVM实战（34）——内存溢出之消息队列处理不当

1.1系统背景这是一个线上的数据同步系统，专门从Kafka消费其它系统送进去的数据，处理后存储到自己的数据库中：就这么简单的一个系统，生产上却时不时报出OOM异常，然后就得重启系统。
smart哥·2024-01-26 14:25

JVM系列-6.java垃圾回收

作者简介：大家好，我是爱吃芝士的土豆倪，24届校招生Java选手，很高兴认识大家系列专栏：Spring原理、JUC原理、Kafka原理、分布式技术原理、数据库技术、JVM原理如果感觉博主的文章还不错的话
爱吃芝士的土豆倪·2024-01-26 14:23

面试官问我如何保证Kafka不丢失消息?我哭了！

##kafka如何保证不丢消息ps:这篇文章自我感觉说的很大白话了！希望你们看过了之后能有收获。不了解Kafka的朋友建议先看一看我的下面这几篇文章，第一篇一定要看，其他的可以按需学习。1.[入门篇！
Guide哥·2024-01-26 13:36

Zookeeper集群 + Kafka集群

目录一、概述（一）Zookeeper概述1.Zookeeper定义2.Zookeeper工作机制3.Zookeeper特点（1）组成（2）全局数据一致（3）更新请求顺序执行（4）数据更新原子性（5）实时性4.Zookeeper数据结构5.Zookeeper应用场景（1）统一命名服务（2）统一配置管理（3）统一集群管理（4）服务器动态上下线（5）软负载均衡6.Zookeeper选举机制（1）第一次启
江南字子川·2024-01-26 09:15

Flink问题解决及性能调优-【Flink不同并行度引起sink2es报错问题】

SETtable.exec.state.ttl=86400s;--24hour,默认:0msSETtable.exec.state.ttl=2592000s;--30days,默认:0msCREATETABLEkafka_table
PONY LEE·2024-01-26 08:12

16、Kafka ------ SpringBoot 整合 Kafka （配置 Kafka 属性 及对应的 属性处理类 解析）

目录配置Kafka及对应的属性处理类配置KafkaKafka配置属性的约定代码演示生产者相关的配置消费者相关的配置代码（配置文件）application.properties配置Kafka及对应的属性处理类配置
_L_J_H_·2024-01-26 07:17
上一页 10 11 12 13 14 15 16 17 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他