java后端kafka

Kafka消息流转的挑战与对策：消息丢失与重复消费问题

消息丢失和重复消费时分布式系统重的常见问题，如果处理不好会对业务造成很大的影响。比如用户下单是通过消息队列处理的，对于用户的订单来说，消息丢失会造成用户下单丢失，影响售卖，如果重复消费，可能会生成多个订单，多卖给了用户货物，影响也很大。所以，消息丢失和重复消费问题对于保证系统健壮性和业务正确性至关重要。需要了解问题出现的原因及各种解决方案。一、消息丢失首先来确定什么地方可能会出现消息丢失的问题。生
超越不平凡·2024-02-04 00:26

kafka排除zookeeper使用kraft的最新部署方案

kafka在新版本中已经可以不使用zookeeper进行服务部署，排除zookeeper的部署方案可以节省一些服务资源，这里使用kafka_2.13-3.6.1.tgz版本进行服务部署。
腊笔不小新xingo·2024-02-03 20:03

2021宝藏面试题-Java后端

文章目录Java后端面试题0前言1涉及知识点2高频面试题2.1MySQL2.1.1什么是索引，如何创建索引？2.1.2索引的分类？2.1.3索引什么时候失效？2.1.4聚簇索引和非聚簇索引的区别？
Acndy233·2024-02-03 19:12

【Springcloud篇】学习笔记七（十三章）：Stream消息驱动

第十三章_Stream消息驱动1.消息驱动Stream介绍1.1Stream为什么被引入常见MQ(消息中间件)：ActiveMQRabbitMQRocketMQKafka有没有一种新的技术诞生，让我们不再关注具体
光久li·2024-02-03 19:33

记一次Kafka消费者频繁分区再均衡bug解决

项目背景：两个Kafka消费者群组，消费同样的主题，一个消费者群组消费数据后，发给mqtt服务，供其他应用接收;另一个消费者群组消费数据后，存入mysql数据库。
敲代码的小小酥·2024-02-03 19:30

（java后端助理工程师）月度工作感受感悟

7月11日-8月16日：毕业入职第一个月。在这之前我并没有实习过，找到工作后就摆烂了大四一整个学期。所以我刚入职到部门的时候感觉啥也不会。和无头苍蝇一样，不知道该干嘛。开始的第一周和第二周基本上啥也每做，只是熟悉了公司环境和按装开发环境，安装开发环境也各种问题都是百度或者csdn才解决，把我们组的代码从git上clone下来pom文件还报错，搞了半天还是让师兄来解决的，换成了他的maven仓库。中
我想要的我会认真·2024-02-03 18:10

JAVA后端上传图片至企微临时素材

1.使用场景在使用企业微信API接口中，往往开发者需要使用自定义的资源，比如发送本地图片消息，设置通讯录自定义头像等。为了实现同一资源文件，一次上传可以多次使用，这里提供了素材管理接口：以media_id来标识资源文件，实现文件的上传与下载。以发送消息为示例：以JSSDK选图片上传为示例：上传的媒体文件限制所有文件size必须大于5个字节图片（image）：10MB，支持JPG,PNG格式语音（v
小灰灰-58·2024-02-03 18:38

【零散知识点总结2】

大部分知识点来源于该博主——骆昊知识点来源于网络，知道的可以在评论区贴上来源喔《零散知识点总结1》该文章涉及：Dubbo、HTTP和HTTPS、Mybatis、Hibernate、Zookeeper、Kafka
木林森屿城·2024-02-03 16:44

Kafka速度之谜：高性能的幕后秘密大揭秘

提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮助文档文章目录前言一、kafka高性能的原因PageCacheZeroCopy(零拷贝）前言Kafka的介绍kafka是linkedIn开源的分布式消息系统
代码魔法师Sunny·2024-02-03 10:30

KubeBlocks v0.8.0 发布！Component API 让数据库引擎组装更简单！

举个例子，我们可以将etcd和zookeeper这两种数据库做成了标准组件，开发者在定义Kafka或者Pulsar等复杂引擎时可以直接引用；再举个例子，我们还可以将Proxy做成了标准组件，开发者在定义各种发行版的
小猿姐·2024-02-03 10:51

Kafka核心参数详解

目录消费者分组消费机制生产者拦截器机制消息序列化机制消息分区路由机制生产者消息缓存机制发送应答机制生产者消息幂等性生产者消息事务消息流转模型消费者分组消费机制在Consumer中，需要指定一个GROUP_ID_CONFIG属性，这表示当前Consumer所属的消费者组。他的描述是这样的：publicstaticfinalStringGROUP_ID_CONFIG="group.id";public
山鸟与鱼！·2024-02-03 08:12

Kafka常见生产问题详解

目录生产环境常见问题分析消息零丢失方案1、生产者发消息到Broker不丢失2、Broker端保存消息不丢失3、消费者端防止异步处理丢失消息消息积压如何处理如何保证消息顺序问题一、如何保证Producer发到Partition上的消息是有序的问题二：Partition中的消息有序后，如何保证Consumer的消费顺序是有序的生产环境常见问题分析消息零丢失方案1、生产者发消息到Broker不丢失Kaf
山鸟与鱼！·2024-02-03 08:12

Pull模式和Push模式

例如：在ApacheKafka中，Pull模式是Kafka新增的方式，使用该模式时，消费者可以自主选择从哪个分区开始拉取消息，并可以自主控制拉取消息的速度。Kafka作为消费者维护着一个off
LSYING1·2024-02-03 07:02

Debezium发布历史103

原文地址：https://debezium.io/blog/2021/03/18/understanding-non-key-joins-with-quarkus-extension-for-kafka-streams
大大蚊子·2024-02-03 07:26

常见消息队列：ActiveMQ、RabbitMQ、RocketMQ、Kafka的区别总结

目录前言1、常见消息队列1.ActiveMQ2.RabbitMQ3.RocketMQ4.Kafka2、区别1.消息传递模型2.消息持久化3.消息顺序性4.可靠性5.生态系统和社区支持6.表格对比前言消息队列可以实现应用程序之间的异步通信
cxzm_1024·2024-02-03 07:26

基于SpringBoot Vue超市管理系统

很高兴你能来阅读我，我会陆续更新Java后端、前端、数据库、项目案例等相关知识点总结，还为大家分享优质的实战项目，本人在Java项目开发领域有多年的经验，陆续会更新更多优质的Java实战项目，希望你能有所收获
Dwzun·2024-02-03 06:59

基于SpringBoot Vue学生信息管理

很高兴你能来阅读我，我会陆续更新Java后端、前端、数据库、项目案例等相关知识点总结，还为大家分享优质的实战项目，本人在Java项目开发领域有多年的经验，陆续会更新更多优质的Java实战项目，希望你能有所收获
Dwzun·2024-02-03 06:59

基于SpringBoot Vue单位考勤管理系统

很高兴你能来阅读我，我会陆续更新Java后端、前端、数据库、项目案例等相关知识点总结，还为大家分享优质的实战项目，本人在Java项目开发领域有多年的经验，陆续会更新更多优质的Java实战项目，希望你能有所收获
Dwzun·2024-02-03 06:29

基于SpringBoot Vue学生成绩管理系统

很高兴你能来阅读我，我会陆续更新Java后端、前端、数据库、项目案例等相关知识点总结，还为大家分享优质的实战项目，本人在Java项目开发领域有多年的经验，陆续会更新更多优质的Java实战项目，希望你能有所收获
Dwzun·2024-02-03 06:09

flink sql 部署_Flink SQL Client + Mysql CDC 部署实践

1.环境准备目标实现构建一个以FlinkSQLClient为基础，简单的读取mysqlbinlog增量同步数据到kafkatopic中的Flink任务应用准备清单DockerDesktopwindows
weixin_39934257·2024-02-03 06:33

Kafka_02_Producer详解

Kafka_02_Producer详解ProducerProducerRecordSend&Close实现原理ProducerInterceptorSerializerPartitioner事务ProducerProducer
爱喝可乐的w·2024-02-03 04:29

Kafka_03_Consumer详解

Kafka_03_Consumer详解Consumer消费消息订阅/拉取ConsumerRecord消费位移位移提交位移消费实现原理RebalanceConsumerInterceptorDeSerializer
爱喝可乐的w·2024-02-03 04:28

Debezium系列之：字段schema详解

Debezium系列之：字段schema详解一、字段schema二、字段schema参数解释一、字段schema{"type":"bytes","optional":true,"name":"org.apache.kafka.connect.data.Decimal
最笨的羊羊·2024-02-03 02:04

黑猴子的家：读取properties配置文件

importjava.util.PropertiesobjectPropertyUtil{valproperties=newPropertiestry{valstream=ClassLoader.getSystemResourceAsStream("kafka.properties
黑猴子的家·2024-02-03 01:34

CDC 整合方案：Flink 集成 Confluent Schema Registry 读取 Debezium 消息写入 Hudi

本文介绍的整体方案选型是：使用KafkaConnect的DebeziumMySQLSourceConnector将MySQL的CDC数据（Avro格式）接入到Kafka之后，通过Flink读取并解析这些
　Laurence·2024-02-03 01:35

金九银十，啃完这35个Java技术栈，冲刺年薪百万

准备跳槽的小伙伴注意了，小编在这里为你们准备了Java后端必备的35个专题面试技术栈！
等风来.长·2024-02-03 00:17

啃完这35个Java技术栈，冲刺大厂offer

前言年后准备跳槽的小伙伴注意了，小编在这里为你们准备了Java后端必备的35个专题面试技术栈！
啊码·2024-02-03 00:16

kafka-zookeeper集群架构可视化监控，Kafka-Eagle安装部署

1、简介在kafka-zookeeper集群架构下，zookeeper管理kafka的元数据信息，如何监控这些信息，并且能够直观查看和管理kafka一些具体主题、分区等参数信息，是非常便于开发的，因此Kafka-Eagle
知其_所以然·2024-02-03 00:06

Vue+Springboot项目，前后端分离项目加密传输

第一个项目项目描述：通过RSA对前后端传输的数据进行加密解密，前端通过公钥进行加密，Java后端通过私钥进行解密。
XXH~·2024-02-02 21:33

java去做前端_大四Java后端，刚实习入行被安排做前端 怎么办？

对不起，用这个话题吸引你哈哈哈我自己已经心里有想法了，如果你想听听我的故事可以看看，更期待你评论，我们一起聊聊，今天这一篇是我第一次要在网上写东西分享我的生活，所以用知乎记录我的生活，在CSDN上也要记录我学到专业的知识了嘿嘿面试的时候是要做后端因为前端基础很差js不扎实，刚入行被当时面试我的面试官，也就是现在我们项目组的老大被安排从前端入手然后在往后端转，让我学习vue框架(一头雾水)，但是我在
风投小虾·2024-02-02 21:33

2023 Java和微信小程序登录获取手机号 【springboot接口三步走】

微信小程序准备工作：获取微信小程序的第一次的code，传给后端第一个接口获取微信小程序的第二次的code注意：code共分两次获取，两次不一致Java后端准备工作：获取APPID和SECRETJava三个方法详情以及调用
假客套·2024-02-02 21:25

卡夫卡《变形记》人物小传

作者–弗朗茨·卡夫卡弗朗茨·卡夫卡（FranzKafka）是一位德国语言文学的重要作家，生于1883年7月3日，于1924年6月3日去世。他的作品以其深沉的哲学内涵和对人性困境的揭示而闻名于世。
贾斯汀玛尔斯·2024-02-02 21:46

基于scala使用flink将kafka数据写入mysql示例

使用Flink消费Kafka中ChangeRecord主题的数据，统计每三分钟各设备状态为“预警”且未处理的数据总数。
内向仓鼠·2024-02-02 21:10

windows安装prometheus+grafana

windows-amd64.tar.gz下载后直接解压解压后进入目录运行premetheus.exe，访问端口9090即可，需要查看监控的对象列表可以进入status>targets查看若需要监控服务器资源、数据库、kafka
Yu_摆摆·2024-02-02 20:31

Flink 的架构与组件

Flink支持各种数据源和接口，如Kafka、HDFS、TCP流等，并可以将处理结果输出到各种数据接收器，如HDFS、Elasticsearch、Kafka等。
禅与计算机程序设计艺术·2024-02-02 20:06

【代码随想录-链表】环形链表 II

推荐:kwan的首页,持续学习,不断总结,共同进步,活到老学到老导航檀越剑指大厂系列:全面总结java核心技术点,如集合,jvm,并发编程redis,kafka,Spring,微服务,Netty等常用开发工具系列
檀越剑指大厂·2024-02-02 18:48

什么是接口的幂等性，如何保证接口的幂等性？

✅作者简介：大家好，我是Leo哥，热爱Java后端开发者，一个想要与大家共同进步的男人个人主页：Leo哥的博客当前专栏：Java✨特色专栏：MySQL学习本文内容：什么是接口的幂等性，如何保证接口的幂等性
LeoToJavaer·2024-02-02 18:18

SpringBoot使用Kafka详解含完整代码

1.前言随着大数据和实时处理需求的增长，Kafka作为一种分布式流处理平台，与SpringBoot的集成变得尤为重要。
孤蓬&听雨·2024-02-02 18:27

Kafka集群搭建

Kafka集群是把状态保存在Zookeeper中的，首先要搭建Zookeeper集群。
莫噶·2024-02-02 14:30

Kafka 集群搭建

1、前提条件1、部署Kafka集群搭建需要服务器至少3台，奇数台2、Kafka的安装需要java环境，jdk1.83、Kafka安装包版本：kafka_2.11-0.10.0.1.tar.gz4、假设3
那小子、真烦·2024-02-02 14:30

kafka集群搭建

本文将记录使用kafka镜像，分别在两种场景下搭建3节点集群：1.在一台机器上使用容器方式安装kafka集群；2.在三台机器上使用容器方式安装kafka集群。
topswim·2024-02-02 14:30

2023-01-04

帅丙我工作以来接触的消息队列中间件有RocketMQ、Kafka、自研，是的因为我主要接触的都是电商公司，相对而言业务体量还有场景来说都是他们比较适合，再加上杭州阿里系公司偏多，身边同事或者公司老大基本都是阿里出来创业的
敲代码的小强·2024-02-02 13:00

【Kafka】 幂等和事务详解

目录幂等性为什么需要幂等性如何实现幂等性使用幂等幂等性的限制条件幂等性的实现原理事务为什么需要事务开启事务事务保证事务恢复的保证事务原子性的保证事务中Offset的提交保证用于事务特性的控制型消息事务流程事务原理FindCoordinatorRequestInitProducerIdRequest开启事务回话流的处理与转发阶段提交或回滚事务超时事务中止拒绝僵尸实例与分布式事务机制对比事务操作相关配
Ethan-running·2024-02-02 12:00

Kafka客户端实战

目录基础客户端引入依赖消息发送者主流程消息消费者主流程SpringBoot集成Kafka引入Maven依赖application.properties配置文件通过KafkaTemplate发送消息通过@
山鸟与鱼！·2024-02-02 12:29

go数据操作-Kafka

1.下载及安装gogetgithub.com/Shopify/sarama注意事项:saramav1.20之后的版本加入了zstd压缩算法，需要用到cgo，在Windows平台编译时会提示类似如下错误：github.com/DataDog/zstdexec:"gcc":executablefilenotfoundin%PATH%所以在Windows平台请使用v1.19版本的sarama。(如果不会
leellun·2024-02-02 12:59

kafka

在做平台项目的时候，需要使用kafka去做消息队列去向下位机传送指令来操作下位机。
毛毛的毛毛·2024-02-02 12:27

Flink 流式读取 Debezium CDC 数据写入 Hudi 表无法处理 -D / Delete 消息

问题场景是：使用KafkaConnect的DebeziumMySQLSourceConnector将MySQL的CDC数据（Avro格式）接入到Kafka之后，通过Flink读取并解析这些CDC数据，然后以流式方式写入到
　Laurence·2024-02-02 12:56

【Kafka】 存储机制

文件具体结构偏移量索引文件结构时间戳索引文件结构消息日志文件结构查找message过程使用偏移量索引文件使用时间戳索引文件相关配置日志清除及压缩日志清理基于时间基于日志大小基于偏移量日志压缩概述日志压缩实现细节磁盘数据存储顺序写零拷贝页缓存总结日志存储结构总体结构Kafka
Ethan-running·2024-02-02 12:56

使用docker部署Kafka(MAC Apple M2 Pro)

前置准备下载适用于AppleM2Pro的Zookeeper和KafkaDocker镜像dockerpullzookeeper:3.6dockerpullcppla/kafka-docker:arm下载成功后确认镜像无误
刘静咩·2024-02-02 10:47

spark题06

1.kafka收集数据的原理？2.讲讲列式存储的parquet文件底层格式？3.dataset和dataframe？4scala中trait特征和用法？5.redis和memcache的区别？
博弈史密斯·2024-02-02 09:59
上一页 8 9 10 11 12 13 14 15 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他