E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
Kafka专题学习
Kafka
基础理论与常用命令详解(超详细)
文章目录前言一、
Kafka
概述1.
Kafka
简介2.
Kafka
架构2.1Broker(代理服务器)2.2Topic(主题)2.3Producer(生产者)2.4Consumer(消费者)2.5ConsumerGroup
大数据魔法师
·
2023-12-15 06:53
大数据
kafka
分布式
物流实时数仓:数仓搭建(DIM)
系列文章目录物流实时数仓:采集通道搭建物流实时数仓:数仓搭建物流实时数仓:数仓搭建(DIM)文章目录系列文章目录前言一、文件编写1.pom.xml2.目录创建3.DimApp.java4.
Kafka
Util.java5
超哥--
·
2023-12-15 06:34
物流实时数仓
flink
大数据
06 数仓平台MaxWell
Maxwell简介Maxwell是由Zendesk公司开源,用Java编写的MySQL变更数据抓取软件,能实时监控MySQL数据库的CRUD操作将变更数据以json格式发送给
Kafka
等平台。
kk_io
·
2023-12-15 06:02
数据仓库
数据仓库
hadoop
增量同步
07用户行为日志数据采集
用户行为数据由Flume从
Kafka
直接同步到HDFS,由于离线数仓采用Hive的分区表按天统计,所以目标路径要包含一层日期。具体数据流向如下图所示。
kk_io
·
2023-12-15 06:22
数据仓库
flume
数据仓库
Rocket MQ 架构介绍
它的研发背景是ActiveMQ与
Kafka
不能很好的解决当时的业务场景。官网上是这么描述的:在阿里孕育RocketMQ的雏形时期,我们将其用于异步通信、搜索、社交网络活动流、数据管道,贸易流程中。
Jayden
·
2023-12-15 05:14
RocketMQ
消息中间件比较
其实现在主流的消息中间件就4种:
kafka
、ActiveMQ、RocketMQ、RabbitMQ下面我们来看一下,他们之间有什么区别,他们分别应该用于什么场景ActiveMQ我们先看ActiveMQ。
xmh-sxh-1314
·
2023-12-15 04:35
java
【MySQL系列】Centos安装MySQL
推荐:kwan的首页,持续学习,不断总结,共同进步,活到老学到老导航檀越剑指大厂系列:全面总结java核心技术点,如集合,jvm,并发编程redis,
kafka
,Spring,微服务,Netty等常用开发工具系列
檀越剑指大厂
·
2023-12-15 04:17
s5
数据库
mysql
centos
数据库
KAKFA实践零碎记录
这里写目录标题1内存泄露2生产者报错1内存泄露错误信息反复执行:创建消费者->关闭消费者后,内存缓慢上升且GC不能回收内存错误原因关闭消费者需要执行
Kafka
Consumer#close()函数publicvoidclose
Samson Bruce
·
2023-12-15 03:50
kafka
kafka
kafka
3.X集群安装(不使用zookeeper)
参考文献
kafka
3.X集群安装(不使用zookeeper)http://www.bryh.cn/a/601016.html正文
kafka
3.x不再支持JDK8,建议安装JDK11或JDK17。
cgm625637391
·
2023-12-15 03:41
zookeeper
分布式
云原生
【Flink系列五】Checkpoint及Barrier原理
本章内容一致性检查点从检查点恢复状态检查点实现算法-barrier保存点Savepoint状态后端(statebackend)本文先设置一个前提,流处理的数据都是可回放的(可以理解成消费的
kafka
的数据
周润发的弟弟
·
2023-12-15 02:11
从零开始搞大数据
flink
大数据
关于
kafka
集群出现异常,无法选取topics分区领导问题
1.基础环境ubuntu系统4台物理机4个
kafka
节点3个zookeeper节点节点全部都在docker容器环境运行主要是接手的Farbic1.4的
kafka
共识orderer节点,挖的坑哎2.问题日志
沉心ss
·
2023-12-15 02:21
Linux
kafka
分布式
【
kafka
】——Broker
KfakaBroker1.Zookeeper存储的
kafka
信息/
kafka
/brokers/dis存储broker的id,记录有哪些服务器/
kafka
/brokers/topics存储topic相关信息
那时的样子_
·
2023-12-14 23:57
java
kafka
linux
kafka
java
分布式
Linux 安装 RocketMq
官网:RocketMQ1.RocketMQ、ActiveMQ、
Kafka
产品ActiveMQ
Kafka
RocketMQ客户端SDKjava,.NET,C++etc.Java,Scalaetc.Jav
Ocean@上源码
·
2023-12-14 22:05
消息中间件
linux
java
rocketmq
kafka
入门:简介、使用场景、设计原理、主要配置及集群搭建(转)
李克华云计算高级群:292870151195907286交流:Hadoop、NoSQL、分布式、lucene、solr、nutch
kafka
入门:简介、使用场景、设计原理、主要配置及集群搭建(转)问题导读
weixin_34185320
·
2023-12-14 22:18
运维
操作系统
系统架构
kafka
windows版本的下载安装,并且本地使用(亲测有效)
目录1问题2下载1问题本地启动一个
kafka
,然后可以实现生产者消费者2下载https://downloads.apache.org/
kafka
/选择一个版本下载下载之后解压修改配置修改好之后,就保存,
一写代码就开心
·
2023-12-14 21:10
微服务
kafka
windows
分布式
Kafka
Connect :构建强大分布式数据集成方案
Kafka
Connect是Apache
Kafka
生态系统中的关键组件,专为构建可靠、高效的分布式数据集成解决方案而设计。
晓之以理的喵~~
·
2023-12-14 21:10
KafKa
分布式
kafka
【算法Hot100系列】无重复字符的最长子串
推荐:kwan的首页,持续学习,不断总结,共同进步,活到老学到老导航檀越剑指大厂系列:全面总结java核心技术点,如集合,jvm,并发编程redis,
kafka
,Spring,微服务,Netty等常用开发工具系列
檀越剑指大厂
·
2023-12-14 21:39
s6
算法与数据结构
算法
zookeeper集群
zookeeper集群+
Kafka
集群:
kafka
3.0之前依赖于zookeeperzookeeper开源,分布式架构,提供协调服务(Apache项目)基于观察者模式涉及的分布式服务管理架构。
早上的星星
·
2023-12-14 20:59
mysql
数据库
Windows安装
Kafka
Windows安装
Kafka
提示:可以在windows下使用
kafka
文章目录Windows安装
Kafka
前言一、安装zookeeper1.下载安装包2.解压和配置3.运行zookeeper二、安装
kafka
1
xiejianweifdd
·
2023-12-14 20:22
Windows安装Kafka
kafka
windows
java
Kafka
-快速实战
Kafka
介绍ChatGPT对于Apache
Kafka
的介绍:Apache
Kafka
是一个分布式流处理平台,最初由LinkedIn开发并于2011年开源。
有梦想的年轻人6174
·
2023-12-14 20:21
kafka
java
windows安装
kafka
spm=1001.2014.3001.5502安装
kafka
下载
kafka
,官网下载https://
kafka
.apache.org/downloads一般情况下,下载如图2.解压D盘,如图3.配置server.properties
Dreams°华
·
2023-12-14 20:48
kafka
java
分布式
windows 安装
kafka
说明:
Kafka
2.8及以前的版本,需要依赖zookeeper(独立安装zookeeper)一:安装JDK1、下载地址:www.oracle.com/java/technologies/downloads
AE'091
·
2023-12-14 20:18
kafka
java
分布式
windows 环境安装
kafka
1、windows环境安装
kafka
1.1采用docker安装zookeeperdockerpullzookeeperdockerrun--namezookeeper-p2181:2181--restartalways-dzookeeper
weixin_40956096
·
2023-12-14 20:46
kafka
中间件
docker
zookeeper
kafka
使用_使用
kafka
go连接
Kafka
本文介绍如何使用
kafka
-go库提供的高层API接口连接
Kafka
。
weixin_39628186
·
2023-12-14 20:46
kafka使用
深入浅出分析
kafka
客户端程序设计 ----- 生产者篇----万字总结
前面在深入理解
kafka
中提到的只是理论上的设计原理,本篇讲得是基于c语言的
kafka
库的程序编写!!!!!
乖的小肥羊
·
2023-12-14 20:45
kafka
c++
c语言
java
分布式
消息队列
kafka
入门(四):消费者
消费者(Consumer)消费者订阅
Kafka
中的主题(Topic),并拉取消息。消费者群组(ConsumerGroup)每一个消费者都有一个对应的消费者群组。
乐之者v
·
2023-12-14 20:14
A1--kafka
kafka
保证消息顺序性:
Kafka
的策略与挑战
2.
Kafka
的消息顺序性挑战2.1分区与并行性2.2生产者与网络延迟2.3消费者群组3.保证消息顺序性的策略3.1单分区单线程3.2顺序ID3.3单一消费者4.最佳实践与注意事项4.1合理的分区设计4.2
达芬奇要当程序员
·
2023-12-14 20:43
kafka
分布式
Windows安装
kafka
2.13-2.7.0
环境准备:1.jdk(我电脑是JDK1.8)安装并配置好;2.zookeeper(我电脑是3.4.8)安装配置好并启动;安装包装备:官网下载安装包
kafka
_2.13-2.7.0;官方下载链接:Apache
Kafka
https
仗剑天涯777i
·
2023-12-14 20:10
消息队列
windows
java
kafka
windows 安装
kafka
-manager 客户端管理工具
1.前提条件:1.准备jre1.8环境2.scala环境3.sbt环境4.准备
kafka
-manager源码包:下载地址(https://github.com/yahoo/
kafka
-manager/tags
做一个懒惰的程序员
·
2023-12-14 20:06
kafka
windows
java
windows安装
kafka
-单机版
文章目录windows安装
kafka
准备工作1.安装jdk2.安装zookeeper3.安装
kafka
kafka
运行和测试1.启动
kafka
2.创建主题3.创建生产者4.创建消费者5.生产数据并消费windows
焱鋮
·
2023-12-14 20:06
kafka
kafka
Go社区主流Kakfa客户端简要对比
一.背景众所周知,
Kafka
[1]是Apache开源基金会下的明星级开源项目,作为一个开源的分布式事件流平台,它被成千上万的公司用于高性能数据管道、流分析、数据集成和关键任务应用。
Tony Bai
·
2023-12-14 20:03
go
java
大数据
linux
区块链
kafka
支持外网访问
kafka
支持外网访问1.
kafka
正常部署之后如果不修改,外网是无法访问的,具体如下(这里是单节点)2.这个时候需要修改
kafka
的config中的server.properties中的listeners
爱欣晴
·
2023-12-14 20:28
kafka
分布式
Windows安装
kafka
path=/
kafka
/3.6.1/
kafka
_2.13-3.6.1.tgz启动
kafka
步骤zookeeper-server-start.batrem闭命令提示符窗口的命令回显,这样在运行脚本时不会显示脚本的具体命令内容
org0610
·
2023-12-14 20:28
windows
kafka
kafka
主题分区副本集群的概念
Kafka
是一个高性能、分布式的消息系统,用于处理大规模的实时数据流。
一只java小菜鸡
·
2023-12-14 20:27
kafka
分布式
开源的数据流技术,该选择Redpanda还是Apache
Kafka
?
本文将比较Apache
Kafka
和Redpanda两种开源的数据流技术,在云原生实时处理能力上的不同,以及如何在项目中做出选择。
c++服务器开发
·
2023-12-14 20:56
开源
apache
kafka
51.Go操作
kafka
示例(
kafka
-go库)
文章目录一、简介二、生产者三、消费者代码地址:https://gitee.com/lymgoforIT/golang-trick/tree/master/31-
kafka
-go一、简介之前已经介绍过一个操作
百里守约学编程
·
2023-12-14 20:25
go
golang
kafka
开发语言
【毕业设计】大数据淘宝用户行为数据分析与可视化 - flink
文章目录0前言1、环境准备1.1flink下载相关jar包1.2生成
kafka
数据1.3开发前的三个小tip2、flink-sql客户端编写运行sql2.1创建
kafka
数据源表2.2指标统计:每小时成交量
caxiou
·
2023-12-14 19:08
大数据
毕业设计
大数据
数据分析
Kafka
集群调优+能力探底
一、前言我们需要对4个规格的
kafka
能力进行探底,即其可以承载的最大吞吐;4个规格对应的单节点的配置如下:标准版:2C4G铂金版:4C8G专业版:8C16G企业版:16C32G另外,一般来讲,在同配置下
快乐非自愿
·
2023-12-14 19:44
kafka
linq
分布式
SpringBoot集成系列--Kakfa
文章目录一、代码1、添加依赖2、配置
kafka
3、创建生产者4、创建消费者5、测试二、遇到问题1、couldnotbeestablished.Brokermaynotbeavailable2、Errorwhilefetchingmetadatawithcorrelationidxxx
程序员Forlan
·
2023-12-14 19:16
中间件
spring
boot
后端
kafka
Springboot整合Redis实现消息发布订阅
一、前言有时候在实际项目中,某些业务场景下我们需要使用消息的发布订阅功能,以实现某些特殊的需求,那么我们实际上可以有多种选择,比如使用常见的消息中间件Rabbitmq,
Kafka
,Activemq等,但这几个都算是重量级的消息队列
夜空下的星
·
2023-12-14 17:25
spring
boot
redis
后端
【运维】
Kafka
高可用: KRaft(不依赖zookeeper)集群搭建
文章目录一.
kafka
kraft集群介绍1.KRaft架构2.Controller服务器3.ProcessRoles4.QuorumVoters5.kraft的工作原理ing二.集群安装1.安装1.1.
roman_日积跬步-终至千里
·
2023-12-14 13:33
kafka
运维
kafka
zookeeper
kafka
中消息key作用与分区规则关系
在
kafka
2.0.0的javasdk中org.apache.
kafka
kafka
_2.122.0.0ProducerRecord中类注释如下Akey/valuepairtobesentto
Kafka
.Thisconsistsofatopicnametowhichtherecordisbeingsent
zlpzlpzyd
·
2023-12-14 12:48
消息队列
kafka
linq
分布式
Kafka
-- 初识
目录
kafka
是什么TopicPartitionBrokerCousumerCousumerGroupOffsetreblancebroker消息存储Isr
kafka
是什么
Kafka
是一个分布式的消息引擎
十&年
·
2023-12-14 12:17
大数据
kafla
kafka
分布式
Kafka
集成springboot
安装
kafka
,直接到官网下载bin文件,本文使用windows进行使用
kafka
。下载之后,第一步,启动zookeeper:zookeeper-server-start.bat..\..
沙糖桔45
·
2023-12-14 12:46
kafka
spring
boot
分布式
kafka
Kafka
Template是Spring
Kafka
中用于发送和接收
Kafka
消息的类。它提供了多种方法,其中一些常用的方法及其作用如下:send()方法:用于发送消息到
Kafka
集群中。
啧啧only
·
2023-12-14 12:41
kafka
linq
分布式
Kafka
Streams:深度探索实时流处理应用程序
Apache
Kafka
Streams是一款强大的实时流处理库,为构建实时数据处理应用提供了灵活且高性能的解决方案。
晓之以理的喵~~
·
2023-12-14 12:41
KafKa
kafka
分布式
Kafka
最佳实践:构建可靠、高性能的分布式消息系统
Apache
Kafka
是一个强大的分布式消息系统,被广泛应用于实时数据流处理和事件驱动架构。为了充分发挥
Kafka
的优势,需要遵循一些最佳实践,确保系统在高负载下稳定运行,数据可靠传递。
晓之以理的喵~~
·
2023-12-14 12:41
KafKa
分布式
kafka
《
Kafka
权威指南》读书笔记
《
Kafka
权威指南》第一、三、四、六章,是重点。可以多看看。一、
Kafka
的组成
kafka
是一个发布与订阅消息系统消息:
kafka
的数据单元称为"消息"。可以把消息看成是数据库中的一个"数据行"。
乐之者v
·
2023-12-14 12:39
A1--kafka
kafka
已解决:java.net.ConnectException: Call From XXXXX to XXXXX :8020 failed on connection Exception: 拒绝连接;
整个业务集群呢是在阿里云上搭建的,十几台服务器,在跑flume脚本的时候,发现了一个很奇怪的现象,正常的跑flume的测试脚本,采用loggersink呢,是OK的,但是使用HDFSsink呢,就挂壁了,我又让同事试了下
Kafka
sink
想做CTO的任同学...
·
2023-12-14 12:04
Flume
Sqoop
HBase
java
开发语言
kafka
学习
一、
kafka
概念是一种高吞吐量、分布式、基于发布/订阅的消息系统。
CopyLower
·
2023-12-14 12:55
学习
kafka
学习
分布式
上一页
38
39
40
41
42
43
44
45
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他