E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
【面试专栏】Kafka
KAFKA
基本使用
Kafka
基础入门1.
kafka
定义
kafka
以前的定义是一个分布式的基于发布订阅的消息队列,现在的
kafka
的定义已经是一个分布式的流处理平台,用于数据通道处理,数据流分析,数据集成等现在消息队列只是
竺竺牧牧
·
2024-01-11 18:10
java基础
kafka
java
分布式
Kafka
集群部署 (KRaft模式集群)
KRaft模式是
Kafka
在3.0版本中引入的新模式。KRaft模式使用了Raft共识算法来管理
Kafka
集群元数据。Raft算法是一种分布式共识算法,具有高可用性、可扩展性和安全性等优势。
野猪佩挤
·
2024-01-11 17:02
Kubernetes
存储
k8s
kafka
分布式
《PySpark大数据分析实战》-27.数据可视化图表Pyecharts介绍
对大数据技术栈Hadoop、Hive、Spark、
Kafka
等有深入研究,对Data
wux_labs
·
2024-01-11 16:21
PySpark大数据分析实战
数据分析
数据挖掘
大数据
数据科学
PySpark
【算法Hot100系列】解数独
推荐:kwan的首页,持续学习,不断总结,共同进步,活到老学到老导航檀越剑指大厂系列:全面总结java核心技术点,如集合,jvm,并发编程redis,
kafka
,Spring,微服务,Netty等常用开发工具系列
檀越剑指大厂
·
2024-01-11 15:55
s6
算法与数据结构
算法
Linux搭建
Kafka
详细一步一步指南(linux启动
kafka
脚本)
一、下载到
kafka
的官网,去下载想用的
kafka
包:http://
kafka
.apache.org/downloads我这里下载的是:
kafka
_2.12-3.4.1.tgz再将安装包传送到服务器并解压
雾里看花_
·
2024-01-11 15:48
Linux
linux
kafka
运维
Laravel 使用rd
kafka
_laravel详细教程(实操避坑)
一、选择rd
kafka
首先要看版本兼容问题,我的是Laravel5.6,PHP是7.3.13,所以需要下载兼容此的rd
kafka
,去Packagist搜索
kafka
,我用的是Packagist选择里面0.10.5
雾里看花_
·
2024-01-11 14:07
laravel
laravel
php
kafka
【MQTT】MQTT协议与指令下发;MQTT与
Kafka
比较
LastWillandTestament(遗嘱消息):6.适用场景和优势:7.消息格式:8.安全性:9.开源实现和协议版本:二、指令下发指令下发流程三、使用MQTT实现指令下发具体步骤代码案例四、MQTT数据和数据库数据五、MQTT和
Kafka
嘚嘚嘚嘚嘚嘚哒
·
2024-01-11 14:35
kafka
分布式
数据库
信息与通信
中间件
【
Kafka
每日一问】
Kafka
重平衡逻辑是什么样的?
在
Kafka
中,消费者重平衡(ConsumerRebalance)是指消费者加入或退出消费者组时,以及消费者组内的消费者发生宕机、重启等异常情况时,通过重新分配分区(Partition)来实现消费者负载均衡的过程
jianjun_fei
·
2024-01-11 14:03
Kafka每日一问
kafka
分布式
分布式消息服务
kafka
分布式消息队列DMS什么是消息中间件?消息中间件是分布式系统中重要的组件,本质就是一个具有接收消息、存储消息、分发消息的队列,应用程序通过读写队列消息来通信。例如:在淘宝购物时,订单系统处理完订单后,把订单消息发送到消息中间件中,由消息中间件将订单消息分发到下游子系统(如物流、积分、通知等),订单系统和下游子系统通过消息中间件进行通信,减少他们之间的耦合,增加系统稳定性。主流的消息中间件有哪些?类
单某人是猪
·
2024-01-11 14:31
华为云
分布式
kafka
Spring原理-7.切点与切面
作者简介:大家好,我是爱吃芝士的土豆倪,24届校招生Java选手,很高兴认识大家系列专栏:Spring原理、JUC原理、
Kafka
原理、分布式技术原理、数据库技术如果感觉博主的文章还不错的话,请三连支持一下博主哦博主正在努力完成
爱吃芝士的土豆倪
·
2024-01-11 13:09
Spring
spring
java
Apache Flink 和 Paimon 在自如数据集成场景中的使用
业务背景自如目前线上有基于Hive的离线数仓和基于Flink、
Kafka
的实时数仓,随着业务发展,我们也在探索引入湖仓一体的架构更好的支持业务,我们对比了Iceberg、Hudi、Paimon后,最终选择
Apache Flink
·
2024-01-11 13:09
apache
flink
大数据
Golang实现
Kafka
消息发送、接收
一:核心概念
kafka
是消息中间件的一种,是一种分布式流平台,是用于构建实时数据管道和流应用程序。具有横向扩展,容错,wickedfast(变态快)等优点。
姚文08
·
2024-01-11 08:21
Golang
kafka
golang
kafka
队列
大数据
Kafka
测试初探【Go】
上周分享了
Kafka
性能测试初探的Java版本,有读者留言说太简单,内容比较水。这里澄清一下,是我学得比较水。
爱吃 香菜
·
2024-01-11 08:50
程序员
软件测试
程序人生
kafka
golang
java
程序人生
软件测试
go
kafka
入门教程,docker启动
kafka
环境
go
kafka
入门教程,docker
kafka
本地环境搭建在本文中,您将学习:使用docker启动本地环境
kafka
使用go-
kafka
链接本地
kafka
进行消息生产和消费获取本文代码https://github.com
司darling
·
2024-01-11 08:47
go
kafka
golang
不背锅运维:消息队列概念、
kafka
入门、
Kafka
Golang客户端库
消息队列是什么消息队列是一种在应用程序之间进行通信的技术,允许将消息从一个应用程序发送到另一个应用程序,而无需明确的连接这些应用程序。消息队列中的消息被存储在一种称为队列的数据结构中,这些消息在队列中保留,直到被消费者接收。这使得消息的发送者和接收者能够异步地通信,而不必等待对方的响应,从而提高了系统的可伸缩性和弹性。消息队列还可以通过实现各种模式(例如发布/订阅模式、请求/响应模式等)来支持不同
不背锅运维
·
2024-01-11 08:46
kafka
运维
java
Kafka
(Go)教程(一)---通过docker-compose 安装
Kafka
本文记录了如何通过docker-compose快速启动
kafka
,部署一套开发环境。1.概述
Kafka
是由Apache软件基金会旗下的一个开源消息引擎系统。
lililidahaoren
·
2024-01-11 08:43
docker-comppose
kafka
docker
golang
28.windows安装
kafka
,Go操作
kafka
示例(sarama库)
文章目录一:打开
Kafka
官网进行下载
Kafka
二:下载完毕之后进行解压三:三、启动Zookeeper四:启动
Kafka
五:测试
kafka
1.创建topic2.创建生产者生产数据3.创建消费者消费数据4
百里守约学编程
·
2024-01-11 08:11
go
windows
kafka
golang
kafka
的搭建
kafka
的搭建一、
kafka
介绍
kafka
是一个分布式数据流平台,可以运行在单台服务器上,也可以在多台服务器上部署形成集群。
Bob drudgery
·
2024-01-11 08:07
docker
kafka
依赖
Kafka
的Go单元测试例解
Kafka
[1]是Apache基金会开源的一个分布式事件流处理平台,是Java阵营(最初为Scala)中的一款杀手级应用,其提供的高可靠性、高吞吐量和低延迟的数据传输能力,让其到目前为止依旧是现代企业级应用系统以及云原生应用系统中使用的重要中间件
Tony Bai
·
2024-01-11 08:05
kafka
golang
单元测试
分布式
开发语言
Zookeeper+
Kafka
概述
一Zookeeper1.1Zookeeper定义Zookeeper是一个开源的、分布式的,为分布式框架提供协调服务的Apache项目。1.2Zookeeper特点Zookeeper:一个领导者(leader),多个跟随者(Follower)组成的集群。Zookeeper:集群中只要有半数以上节点存活,Zookeeper集群就正常服务,所以Zookeeper适合安装奇数台服务器。全局数据一致:每个S
峡谷在逃戚风
·
2024-01-11 07:02
zookeeper
分布式
云原生
Kafka
事务
Kafka
事务是2017年
Kafka
0.11.0.0引入的新特性。类似于数据库的事务。
Kafka
事务指的是生产者生产消息以及消费者提交offset的操作可以在一个原子操作中,要么都成功,要么都失败。
无语堵上西楼
·
2024-01-11 07:02
微服务
kafka
数据库
分布式
kafka
基本操作
Kafka
中所有的消息都是保存在主题中,要生产消息到
Kafka
,首先必须要有一个确定的主题。
无语堵上西楼
·
2024-01-11 07:32
微服务
kafka
数据库
分布式
Java编程操作
Kafka
同步生产消息到
Kafka
中接下来,我们将编写Java程序,将1-100的数字消息写入到
Kafka
中。
无语堵上西楼
·
2024-01-11 07:32
微服务
java
kafka
开发语言
Kafaka之架构
Kafka
重要概念broker一个
Kafka
的集群通常由多个broker组成,这样才能实现负载均衡、以及容错broker是无状态(Sateless)的,它们是通过ZooKeeper来维护集群状态一个
Kafka
无语堵上西楼
·
2024-01-11 07:28
微服务
架构
基于Flume、
Kafka
和Storm实现企业大数据平台的实时数据采集
近年来,随着企业信息化建设的飞速发展,大数据应用的问题越来越备受关注。很多企业投入大量的人力、物力和财力建设企业大数据平台,平台建设工作涵盖数据采集、数据处理、数据存储、数据服务、数据展示以及数据质量管理各个环节。而数据采集作为企业大数据平台建设的首要环节,是企业大数据平台建设的根本所在,如果数据采集环节技术体系架构可靠性不高、稳定性不强且不易扩展,企业大数据平台建设就失去了意义。尤其是面对数据量
皮皮杂谈
·
2024-01-11 07:26
分布式必学的消息中间件---
Kafka
篇(想不出好名字了> <)
12.
Kafka
篇文章目录12.
Kafka
篇12.1什么是消息中间件?12.2
kafka
是什么?有什么作用?12.3生产者发送消息有哪些
CodingLemon.
·
2024-01-11 06:53
面试
kafka
消息队列
【
Kafka
-3.x-教程】-【六】
Kafka
外部系统集成 【Flume、Flink、SpringBoot、Spark】
【
Kafka
-3.x-教程】专栏:【
Kafka
-3.x-教程】-【一】
Kafka
概述、
Kafka
快速入门【
Kafka
-3.x-教程】-【二】
Kafka
-生产者-Producer【
Kafka
-3.x-教程
bmyyyyyy
·
2024-01-11 06:50
Kafka
kafka
flume
flink
spark
#kafka集成外部系统
【
Kafka
-3.x-教程】-【一】
Kafka
概述、
Kafka
快速入门
【
Kafka
-3.x-教程】专栏:【
Kafka
-3.x-教程】-【一】
Kafka
概述、
Kafka
快速入门【
Kafka
-3.x-教程】-【二】
Kafka
-生产者-Producer【
Kafka
-3.x-教程
bmyyyyyy
·
2024-01-11 06:19
Kafka
kafka
分布式
#kafka概述
#kafka快速入门
【
Kafka
-3.x-教程】-【二】
Kafka
-生产者-Producer
【
Kafka
-3.x-教程】专栏:【
Kafka
-3.x-教程】-【一】
Kafka
概述、
Kafka
快速入门【
Kafka
-3.x-教程】-【二】
Kafka
-生产者-Producer【
Kafka
-3.x-教程
bmyyyyyy
·
2024-01-11 06:19
Kafka
kafka
分布式
大数据
#Kafka-Producer
#Producer原理
【
Kafka
-3.x-教程】-【三】
Kafka
-Broker、
Kafka
-Kraft
【
Kafka
-3.x-教程】专栏:【
Kafka
-3.x-教程】-【一】
Kafka
概述、
Kafka
快速入门【
Kafka
-3.x-教程】-【二】
Kafka
-生产者-Producer【
Kafka
-3.x-教程
bmyyyyyy
·
2024-01-11 06:19
Kafka
kafka
分布式
#kafka-broker
#broker工作流程
【
Kafka
-3.x-教程】-【五】
Kafka
-监控-Eagle
【
Kafka
-3.x-教程】专栏:【
Kafka
-3.x-教程】-【一】
Kafka
概述、
Kafka
快速入门【
Kafka
-3.x-教程】-【二】
Kafka
-生产者-Producer【
Kafka
-3.x-教程
bmyyyyyy
·
2024-01-11 06:19
Kafka
kafka
分布式
#kafka-eagle
#kafka监控
Kafka
-基础(同步消息、异步消息、事务消息、分区规则、Leader选举、分区副本、分区分配策略、消息消费)
Kafka
-基础
Kafka
是基于发布/订阅的消息队列,主要用于大数据实时处理领域,
Kafka
是一个开源的分布式事件流平台,被数千家公式用于高性能数据管道、流分析、数据集成、关键任务应用等消息队列类型目前在企业中比较常见的消息队列重排主要有
JolyouLu
·
2024-01-11 06:18
分布式中间件
kafka
java
分布式
大数据
消息队列
【总结】消息队列 -
Kafka
3.
kafka
相关概念1)producer(生产者):消息生产者,发布消息到
kafka
集群的终端或服务。produ
tianya3530
·
2024-01-11 06:48
消息中间件
学习笔记
kafka
消息队列
kafka
,zookeper的搭建 消息队列---------基于linux
Kafka
和RabbitMQ的区别首先是在不考虑一些非功能性限制(如运营成本,开发人员对两个平台的了解等)的情况下:优先选择RabbitMQ的条件高级灵活的路由规则。
kjshuan
·
2024-01-11 06:14
Java
kafka
java-rabbitmq
rabbitmq
zookeper
Kafka
- Broker 详解
目录零、前置一、
Kafka
Broker工作流程1.Zookeeper存储的
Kafka
信息2.
Kafka
Broker总体工作流程模拟
Kafka
上下线,Zookeeper中数据变化3.Broker重要参数二
不会调制解调的猫
·
2024-01-11 06:41
Kafka
Zookeeper
kafka
大数据
服务器
云原生
分布式
【
Kafka
-3.x-教程】-【四】
Kafka
-消费者-Consumer
【
Kafka
-3.x-教程】专栏:【
Kafka
-3.x-教程】-【一】
Kafka
概述、
Kafka
快速入门【
Kafka
-3.x-教程】-【二】
Kafka
-生产者-Producer【
Kafka
-3.x-教程
bmyyyyyy
·
2024-01-11 06:40
Kafka
kafka
分布式
#kafka-consumer
#consumer工作流程
【
Kafka
-3.x-教程】-【七】
Kafka
生产调优、
Kafka
压力测试
【
Kafka
-3.x-教程】专栏:【
Kafka
-3.x-教程】-【一】
Kafka
概述、
Kafka
快速入门【
Kafka
-3.x-教程】-【二】
Kafka
-生产者-Producer【
Kafka
-3.x-教程
bmyyyyyy
·
2024-01-11 06:40
Kafka
kafka
压力测试
分布式
#kafka调优
#kafka压测
09、
Kafka
------ 通过修改保存时间来删除消息(retention.ms 配置)
目录通过修改保存时间来删除消息★删除指定主题的消息演示1、修改
kafka
检查过期消息的时间间隔2、修改主题下消息的过期时间3、查看修改是否生效4、先查看下主题下有没有消息5、添加几条消息看效果6、查看消息是否被删除
_L_J_H_
·
2024-01-11 06:39
Kafka
系列
kafka
linq
分布式
08、
Kafka
------ 消息存储相关的配置-->消息过期时间设置、查看主题下的消息存活时间等配置
目录消息存储相关的配置★消息的存储介绍★消息过期时间及处理方式演示:log.cleanup.policy属性配置★修改指定主题的消息保存时间演示:将test2主题下的消息的保存时间设为10个小时1、先查看test2主题下的配置2、然后设置消息的保存时间3、然后再查一遍test2的配置,看是否修改成功★查看指定主题的配置命令1:查看所有对象的信息命令2:查看特定主题的信息消息存储相关的配置★消息的存
_L_J_H_
·
2024-01-11 06:09
Kafka
系列
kafka
linq
分布式
kafka
连接失败时springboot项目启动停机问题
问题:springboot整合
kafka
,作为消费端,对端的
kafka
系统是在生产环境,在本地开发测试时配置了对端的生产环境的
kafka
地址。
行善积德_Fei
·
2024-01-11 06:38
kafka
spring
boot
分布式
使用Springboot+websocket+
kafka
模拟实时数据传输
文章目录使用Springboot+websocket+
kafka
模拟实时数据传输环境准备数据源读取WebSocket服务器网页启动使用Springboot+websocket+
kafka
模拟实时数据传输环境准备环境
叶梦璃愁
·
2024-01-11 06:36
websocket
springboot
kafka
spring
boot
websocket
Kafka
Connect 启动服务以及提交任务初体验
Kafka
提供两种启动方式,一种是单机版standalone,一种是分布式版distributed,与之想对应的配置文件也是分开的单机版的配置文件:connect-standalone.properties
LijunYe
·
2024-01-11 05:08
Kafka
之集群搭建
1.为什么要使用
kafka
集群单机服务下,
Kafka
已经具备了非常高的性能。TPS能够达到百万级别。但是,在实际工作中使用时,单机搭建的
Kafka
会有很大的局限性。消息太多,需要分开保存。
瑜伽娃娃
·
2024-01-11 03:22
Kafka
kafka
分布式
9.2、增量表数据同步
1、数据通道2、Flume配置1)Flume配置概述Flume需要将
Kafka
中topic_db主题的数据传输到HDFS,故其需选用
Kafka
Source以及HDFSSink,Channel选用FileChannel
施小赞
·
2024-01-11 02:16
数仓架构搭建
增量数据同步
2021-05-19
Kafka
Docker安装配置
1.下载docker镜像
kafka
镜像dockerpullwurstmeister/
kafka
zookeeper镜像dockerpullwurstmeister/zookeeper2.启动ZK容器dockerrun-d
四川辣条协会会长
·
2024-01-11 01:13
Java面试题整理(带答案)
题目来源是https://blog.csdn.net/sufu1065/article/details/88051083我删除了自己不使用的框架技术栈,像Hibernate、
Kafka
、Zookeeper
隔壁老赵
·
2024-01-11 00:37
java
面试
Kafka
基本概念和术语
1、消息Record:
Kafka
是消息引擎嘛,这里的消息就是指
Kafka
处理的主要对象。2、主题Topic:主题是承载消息的逻辑容器,在实际使用中多用来区分具体的业务。
Java-Talk
·
2024-01-11 00:15
Kafka
原理与实践
kafka
分布式
springCould中的Bus-从小白开始【11】
目前支持RabbitMQ和
Kafka
。S
会敲代码的小张
·
2024-01-10 23:56
后端
idea
java
分布式
架构
中间件
rabbitmq
黑马头条(APP端)
项目包含三个部分用户移动app端用户自媒体端管理平台端涉及技术栈:SpringBoot+SpringCloud+nacos+swagger+freemarker+OSS+ElasticSearch+Redis+
Kafka
一码一上午
·
2024-01-10 23:41
项目
spring
cloud
spring
boot
离线数仓构建案例一
数据采集日志数据(文件)到
Kafka
自己写个程序模拟一些用户的行为数据,这些数据存在一个文件夹中。接着使用flume监控采集这些文件,然后发送给
kafka
中待消费。
躺着听Jay
·
2024-01-10 22:06
大数据
big
data
大数据
上一页
21
22
23
24
25
26
27
28
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他