分布式消息系统kafka

Spring原理-7.切点与切面

作者简介：大家好，我是爱吃芝士的土豆倪，24届校招生Java选手，很高兴认识大家系列专栏：Spring原理、JUC原理、Kafka原理、分布式技术原理、数据库技术如果感觉博主的文章还不错的话，请三连支持一下博主哦博主正在努力完成
爱吃芝士的土豆倪·2024-01-11 13:09

Apache Flink 和 Paimon 在自如数据集成场景中的使用

业务背景自如目前线上有基于Hive的离线数仓和基于Flink、Kafka的实时数仓，随着业务发展，我们也在探索引入湖仓一体的架构更好的支持业务，我们对比了Iceberg、Hudi、Paimon后，最终选择
Apache Flink·2024-01-11 13:09

Golang实现Kafka消息发送、接收

一：核心概念kafka是消息中间件的一种，是一种分布式流平台，是用于构建实时数据管道和流应用程序。具有横向扩展，容错，wickedfast（变态快）等优点。
姚文08·2024-01-11 08:21

Kafka测试初探【Go】

上周分享了Kafka性能测试初探的Java版本，有读者留言说太简单，内容比较水。这里澄清一下，是我学得比较水。
爱吃 香菜·2024-01-11 08:50

go kafka入门教程，docker启动kafka环境

gokafka入门教程，dockerkafka本地环境搭建在本文中，您将学习：使用docker启动本地环境kafka使用go-kafka链接本地kafka进行消息生产和消费获取本文代码https://github.com
司darling·2024-01-11 08:47

不背锅运维：消息队列概念、kafka入门、Kafka Golang客户端库

消息队列是什么消息队列是一种在应用程序之间进行通信的技术，允许将消息从一个应用程序发送到另一个应用程序，而无需明确的连接这些应用程序。消息队列中的消息被存储在一种称为队列的数据结构中，这些消息在队列中保留，直到被消费者接收。这使得消息的发送者和接收者能够异步地通信，而不必等待对方的响应，从而提高了系统的可伸缩性和弹性。消息队列还可以通过实现各种模式（例如发布/订阅模式、请求/响应模式等）来支持不同
不背锅运维·2024-01-11 08:46

Kafka(Go)教程(一)---通过docker-compose 安装 Kafka

本文记录了如何通过docker-compose快速启动kafka，部署一套开发环境。1.概述Kafka是由Apache软件基金会旗下的一个开源消息引擎系统。
lililidahaoren·2024-01-11 08:43

28.windows安装kafka，Go操作kafka示例（sarama库）

文章目录一:打开Kafka官网进行下载Kafka二:下载完毕之后进行解压三：三、启动Zookeeper四：启动Kafka五:测试kafka1.创建topic2.创建生产者生产数据3.创建消费者消费数据4
百里守约学编程·2024-01-11 08:11

kafka的搭建

kafka的搭建一、kafka介绍kafka是一个分布式数据流平台，可以运行在单台服务器上，也可以在多台服务器上部署形成集群。
Bob drudgery·2024-01-11 08:07

依赖Kafka的Go单元测试例解

Kafka[1]是Apache基金会开源的一个分布式事件流处理平台，是Java阵营(最初为Scala)中的一款杀手级应用，其提供的高可靠性、高吞吐量和低延迟的数据传输能力，让其到目前为止依旧是现代企业级应用系统以及云原生应用系统中使用的重要中间件
Tony Bai·2024-01-11 08:05

Zookeeper+Kafka概述

一Zookeeper1.1Zookeeper定义Zookeeper是一个开源的、分布式的，为分布式框架提供协调服务的Apache项目。1.2Zookeeper特点Zookeeper：一个领导者（leader），多个跟随者（Follower）组成的集群。Zookeeper：集群中只要有半数以上节点存活，Zookeeper集群就正常服务，所以Zookeeper适合安装奇数台服务器。全局数据一致：每个S
峡谷在逃戚风·2024-01-11 07:02

Kafka事务

Kafka事务是2017年Kafka0.11.0.0引入的新特性。类似于数据库的事务。Kafka事务指的是生产者生产消息以及消费者提交offset的操作可以在一个原子操作中，要么都成功，要么都失败。
无语堵上西楼·2024-01-11 07:02

kafka基本操作

Kafka中所有的消息都是保存在主题中，要生产消息到Kafka，首先必须要有一个确定的主题。
无语堵上西楼·2024-01-11 07:32

Java编程操作Kafka

同步生产消息到Kafka中接下来，我们将编写Java程序，将1-100的数字消息写入到Kafka中。
无语堵上西楼·2024-01-11 07:32

Kafaka之架构

Kafka重要概念broker一个Kafka的集群通常由多个broker组成，这样才能实现负载均衡、以及容错broker是无状态（Sateless）的，它们是通过ZooKeeper来维护集群状态一个Kafka
无语堵上西楼·2024-01-11 07:28

基于Flume、Kafka和Storm实现企业大数据平台的实时数据采集

近年来，随着企业信息化建设的飞速发展，大数据应用的问题越来越备受关注。很多企业投入大量的人力、物力和财力建设企业大数据平台，平台建设工作涵盖数据采集、数据处理、数据存储、数据服务、数据展示以及数据质量管理各个环节。而数据采集作为企业大数据平台建设的首要环节，是企业大数据平台建设的根本所在，如果数据采集环节技术体系架构可靠性不高、稳定性不强且不易扩展，企业大数据平台建设就失去了意义。尤其是面对数据量
皮皮杂谈·2024-01-11 07:26

分布式必学的消息中间件---Kafka篇（想不出好名字了＞ ＜）

12.Kafka篇文章目录12.Kafka篇12.1什么是消息中间件？12.2kafka是什么？有什么作用？12.3生产者发送消息有哪些
CodingLemon.·2024-01-11 06:53

【Kafka-3.x-教程】-【六】Kafka 外部系统集成 【Flume、Flink、SpringBoot、Spark】

【Kafka-3.x-教程】专栏：【Kafka-3.x-教程】-【一】Kafka概述、Kafka快速入门【Kafka-3.x-教程】-【二】Kafka-生产者-Producer【Kafka-3.x-教程
bmyyyyyy·2024-01-11 06:50

【Kafka-3.x-教程】-【一】Kafka 概述、Kafka 快速入门

【Kafka-3.x-教程】专栏：【Kafka-3.x-教程】-【一】Kafka概述、Kafka快速入门【Kafka-3.x-教程】-【二】Kafka-生产者-Producer【Kafka-3.x-教程
bmyyyyyy·2024-01-11 06:19

【Kafka-3.x-教程】-【二】Kafka-生产者-Producer

【Kafka-3.x-教程】专栏：【Kafka-3.x-教程】-【一】Kafka概述、Kafka快速入门【Kafka-3.x-教程】-【二】Kafka-生产者-Producer【Kafka-3.x-教程
bmyyyyyy·2024-01-11 06:19

【Kafka-3.x-教程】-【三】Kafka-Broker、Kafka-Kraft

【Kafka-3.x-教程】专栏：【Kafka-3.x-教程】-【一】Kafka概述、Kafka快速入门【Kafka-3.x-教程】-【二】Kafka-生产者-Producer【Kafka-3.x-教程
bmyyyyyy·2024-01-11 06:19

【Kafka-3.x-教程】-【五】Kafka-监控-Eagle

【Kafka-3.x-教程】专栏：【Kafka-3.x-教程】-【一】Kafka概述、Kafka快速入门【Kafka-3.x-教程】-【二】Kafka-生产者-Producer【Kafka-3.x-教程
bmyyyyyy·2024-01-11 06:19

Kafka-基础(同步消息、异步消息、事务消息、分区规则、Leader选举、分区副本、分区分配策略、消息消费)

Kafka-基础Kafka是基于发布/订阅的消息队列，主要用于大数据实时处理领域，Kafka是一个开源的分布式事件流平台，被数千家公式用于高性能数据管道、流分析、数据集成、关键任务应用等消息队列类型目前在企业中比较常见的消息队列重排主要有
JolyouLu·2024-01-11 06:18

【总结】消息队列 - Kafka

3.kafka相关概念1）producer（生产者）：消息生产者，发布消息到kafka集群的终端或服务。produ
tianya3530·2024-01-11 06:48

kafka，zookeper的搭建 消息队列---------基于linux

Kafka和RabbitMQ的区别首先是在不考虑一些非功能性限制（如运营成本，开发人员对两个平台的了解等）的情况下：优先选择RabbitMQ的条件高级灵活的路由规则。
kjshuan·2024-01-11 06:14

Kafka - Broker 详解

目录零、前置一、KafkaBroker工作流程1.Zookeeper存储的Kafka信息2.KafkaBroker总体工作流程模拟Kafka上下线，Zookeeper中数据变化3.Broker重要参数二
不会调制解调的猫·2024-01-11 06:41

【Kafka-3.x-教程】-【四】Kafka-消费者-Consumer

【Kafka-3.x-教程】专栏：【Kafka-3.x-教程】-【一】Kafka概述、Kafka快速入门【Kafka-3.x-教程】-【二】Kafka-生产者-Producer【Kafka-3.x-教程
bmyyyyyy·2024-01-11 06:40

【Kafka-3.x-教程】-【七】Kafka 生产调优、Kafka 压力测试

【Kafka-3.x-教程】专栏：【Kafka-3.x-教程】-【一】Kafka概述、Kafka快速入门【Kafka-3.x-教程】-【二】Kafka-生产者-Producer【Kafka-3.x-教程
bmyyyyyy·2024-01-11 06:40

09、Kafka ------ 通过修改保存时间来删除消息（retention.ms 配置）

目录通过修改保存时间来删除消息★删除指定主题的消息演示1、修改kafka检查过期消息的时间间隔2、修改主题下消息的过期时间3、查看修改是否生效4、先查看下主题下有没有消息5、添加几条消息看效果6、查看消息是否被删除
_L_J_H_·2024-01-11 06:39

08、Kafka ------ 消息存储相关的配置--＞消息过期时间设置、查看主题下的消息存活时间等配置

目录消息存储相关的配置★消息的存储介绍★消息过期时间及处理方式演示：log.cleanup.policy属性配置★修改指定主题的消息保存时间演示：将test2主题下的消息的保存时间设为10个小时1、先查看test2主题下的配置2、然后设置消息的保存时间3、然后再查一遍test2的配置，看是否修改成功★查看指定主题的配置命令1：查看所有对象的信息命令2：查看特定主题的信息消息存储相关的配置★消息的存
_L_J_H_·2024-01-11 06:09

kafka连接失败时springboot项目启动停机问题

问题：springboot整合kafka，作为消费端，对端的kafka系统是在生产环境，在本地开发测试时配置了对端的生产环境的kafka地址。
行善积德_Fei·2024-01-11 06:38

使用Springboot+websocket+kafka模拟实时数据传输

文章目录使用Springboot+websocket+kafka模拟实时数据传输环境准备数据源读取WebSocket服务器网页启动使用Springboot+websocket+kafka模拟实时数据传输环境准备环境
叶梦璃愁·2024-01-11 06:36

Kafka Connect 启动服务以及提交任务初体验

Kafka提供两种启动方式，一种是单机版standalone，一种是分布式版distributed，与之想对应的配置文件也是分开的单机版的配置文件：connect-standalone.properties
LijunYe·2024-01-11 05:08

Kafka之集群搭建

1.为什么要使用kafka集群单机服务下，Kafka已经具备了非常高的性能。TPS能够达到百万级别。但是，在实际工作中使用时，单机搭建的Kafka会有很大的局限性。消息太多，需要分开保存。
瑜伽娃娃·2024-01-11 03:22

9.2、增量表数据同步

1、数据通道2、Flume配置1）Flume配置概述Flume需要将Kafka中topic_db主题的数据传输到HDFS，故其需选用KafkaSource以及HDFSSink，Channel选用FileChannel
施小赞·2024-01-11 02:16

2021-05-19 Kafka Docker安装配置

1.下载docker镜像kafka镜像dockerpullwurstmeister/kafkazookeeper镜像dockerpullwurstmeister/zookeeper2.启动ZK容器dockerrun-d
四川辣条协会会长·2024-01-11 01:13

Java面试题整理（带答案）

题目来源是https://blog.csdn.net/sufu1065/article/details/88051083我删除了自己不使用的框架技术栈，像Hibernate、Kafka、Zookeeper
隔壁老赵·2024-01-11 00:37

Kafka 基本概念和术语

1、消息Record：Kafka是消息引擎嘛，这里的消息就是指Kafka处理的主要对象。2、主题Topic：主题是承载消息的逻辑容器，在实际使用中多用来区分具体的业务。
Java-Talk·2024-01-11 00:15

springCould中的Bus-从小白开始【11】

目前支持RabbitMQ和Kafka。S
会敲代码的小张·2024-01-10 23:56

黑马头条(APP端)

项目包含三个部分用户移动app端用户自媒体端管理平台端涉及技术栈：SpringBoot+SpringCloud+nacos+swagger+freemarker+OSS+ElasticSearch+Redis+Kafka
一码一上午·2024-01-10 23:41

离线数仓构建案例一

数据采集日志数据（文件）到Kafka自己写个程序模拟一些用户的行为数据，这些数据存在一个文件夹中。接着使用flume监控采集这些文件，然后发送给kafka中待消费。
躺着听Jay·2024-01-10 22:06

【高效开发工具系列】idea注释设置

推荐:kwan的首页,持续学习,不断总结,共同进步,活到老学到老导航檀越剑指大厂系列:全面总结java核心技术点,如集合,jvm,并发编程redis,kafka,Spring,微服务,Netty等常用开发工具系列
檀越剑指大厂·2024-01-10 22:30

81、Spark Streaming之DStream以及基本工作原理

它支持从很多种数据源中读取数据，比如Kafka、Flume、Twitter、ZeroMQ、Kinesis或者是TCPSocket。
ZFH__ZJ·2024-01-10 20:43

面试|Kafka常见面试问题总结

[TOC]现如今，Kafka已不再是一个单纯的消息队列系统。Kafka是一个分布式的流处理平台，被越来越多的公司使用，Kafka可以被用于高性能的数据管道，流处理分析，数据集成等场景。
tracy_668·2024-01-10 19:22

docker 快速启动 Confluent Kafka

文章目录参考资料来自ConfluentKafka与Confluent创建docker-compose.yml启动服务创建Topic向quickstart中写入数据消费quickstart中的数据关闭Kafka
秀强·2024-01-10 16:20

Kafka 中 topic、partition、offset、replica、ISR 等概念详解

文章目录消息的数据结构topic和partition位移（offset）replicaleader和followerISR先说一个题外话，就是Kafka名字的由来：IthoughtthatsinceKafkawasasystemoptimizedforwritingusingawriter
秀强·2024-01-10 16:20

Java内存泄漏问题分析

内存泄漏也是一个老八股文了，下面来看看实际项目中内存泄漏的场景分析时间回到9月某一天分析阶段一现象：在当时各种请求在那段时间响应很慢，特别是kafka异步消费线程不足点：当时主业务基本不可用，有点急，未及时
北i·2024-01-10 15:38

FlinkSQL设置sink的并行度

pt_dtstring,proc_timetimestamp,ctimetimestamp,PRIMARYKEY(tqi_id)NOTENFORCED)with('connector'='upsert-kafka
青云游子·2024-01-10 15:51

《PySpark大数据分析实战》-26.数据可视化图表Seaborn介绍

对大数据技术栈Hadoop、Hive、Spark、Kafka等有深入研究，对Data
wux_labs·2024-01-10 14:58

分布式系统架构设计之分布式消息队列中间件的技术选型报告

1、主流消息队列中间件01Kafka基本原理Kafka基于发布-订阅模式，它维护了一个或多个Topic，生产者将消息发送到Topic，消费者从Topic中读取消息。
灸哥漫谈·2024-01-10 13:38
上一页 21 22 23 24 25 26 27 28 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他