E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
Kafka原理解析
Kafka
_2.10-0.10.0.0安装配置文档
Kafka
集群安装指南该文档是建立在已经安装好JAVAJDK的基础上,并且设置好$JAVA_HOME环境变量。
打怪的蚂蚁
·
2023-10-19 19:53
大数据环境
kafka
_2.10集群搭建
环境准备:zookeeper集群搭建机器名称IPmaster192.168.43.32slave1192.168.43.14slave2192.168.43.183
kafka
集群搭建1.把
Kafka
2.10
WSQ(E)
·
2023-10-19 19:52
kafka
kafka
zookeeper
分布式
kafka
_2.10-0.10.1.1集群安装搭建
一、安装环境:安装软件:jdk-8u212-linux-x64.tar.gz、zookeeper-3.4.12.tar.gz、
kafka
_2.10-0.10.1.1.tgz安装目录:/opt/jdk1.8.0
king-hero
·
2023-10-19 19:21
Kafka
kafka
kafka
_2.10-0.10.1.X 以及之后的版本
1适用于
kafka
_2.10-0.10.1.X以及之后的版本该版本代码本人试验通过,
kafka
版本为:
kafka
_2.10-0.10.1.12使用依赖注意:
kafka
版本必须是0.10.1.1及以上版本
Linzx的学习笔记
·
2023-10-19 19:21
kafka
kafka
kafka
_2.10-0.8.1.1.tgz的1或3节点集群的下载、安装和配置(图文详细教程)绝对干货...
运行
kafka
,需要依赖zookeeper,你可以使用已有的zookeeper集群或者利用
kafka
自带的zookeeper。
weixin_33695082
·
2023-10-19 19:51
大数据
java
前端
ViewUI
kafka
_2.10-0.8.X 以及之前的版本
1适用于
kafka
_2.10-0.8.X以及之前的版本该版本代码本人试验通过,
kafka
版本为:
kafka
_2.10-0.8.2.12使用依赖org.apache.
kafka
kafka
_2.100.10.0.13
Linzx的学习笔记
·
2023-10-19 19:51
kafka
kafka
_2.10-0.9.X 至
kafka
_2.10-0.10.0.X 之间偏移量监控
1适用于
kafka
_2.10-0.9.X至
kafka
_2.10-0.10.0.X之间的版本该版本代码本人试验通过,
kafka
版本为:
kafka
_2.10-0.10.0.1、虽然
kafka
_2.11-1.0.1
Linzx的学习笔记
·
2023-10-19 19:51
kafka
kafka
kafka
_2.10-0.10.0.0集群安装
kafka
_2.10-0.10.0.0集群安装IPHOST192.168.132.94BDTEST05192.168.132.95BDTEST06192.168.132.96BDTEST071.配置java
メイ
·
2023-10-19 19:20
大数据
Ubuntu16.04 install
kafka
_2.10-0.10.2.1 And zookeeper-3.4.10
zookeeperwgethttp://mirror.bit.edu.cn/apache/zookeeper/zookeeper-3.4.10/zookeeper-3.4.10.tar.gztarzxvf
kafka
weixin_30446613
·
2023-10-19 19:50
大数据
8--安装
kafka
_2.10-0.10.2.0集群(三个节点)
1.tar–zxvf
kafka
_2.10-0.10.0.1.tgz2.配置(config/server.properties)1)master节点上broker.id=0zookeeper.connect
子秦1117
·
2023-10-19 19:49
大数据环境安装配置
Centos7下prometheus监控
kafka
的插件
kafka
_exporter启动报错
问题:prometheus监控
kafka
的插件
kafka
_exporter启动日志报错如下time="2020-12-11T08:41:08+08:00"level=errormsg="Cannotgetleaderoftopicinput_topicpartition1
划水的运维
·
2023-10-19 19:48
监控类
sparkstream 2.2.0 结合
kafka
_2.10-0.10.2.1 的消费示例演示
今天讲了
kafka
和sparkstream的一个简单结合,试着在网上找了一个例子进行实现1、相关配置spark2.2.0,scala2.11.8,
kafka
_2.10-0.10.2.1,jdk1.82、
maketubu7
·
2023-10-19 19:47
spark
kafka
spark
kafka
kafka
_2.10-0.8.2.1集群搭建和简单使用
1.解压
kafka
tar-zxvf
kafka
_2.10-0.8.2.1-C/software2.1在hadoop节点修改配置文件config/server.propertiesbroker.id=0#代理的
chucancheng5319
·
2023-10-19 19:14
大数据
java
运维
kafka
_2.10启动
Kafka
broker
要启动
Kafka
broker,你需要执行以下步骤:首先,确保你已经安装了
Kafka
。你可以从Apache
Kafka
的官方网站下载
Kafka
的二进制发行版,并按照官方文档中的说明进行安装。
似水流年it
·
2023-10-19 19:39
kafka
分布式
超详细的Guava RateLimiter限流
原理解析
限流是保护高并发系统的三把利器之一,另外两个是缓存和降级。限流在很多场景中用来限制并发和请求量,比如说秒杀抢购,保护自身系统和下游系统不被巨型流量冲垮等。限流的目的是通过对并发访问/请求进行限速或者一个时间窗口内的的请求进行限速来保护系统,一旦达到限制速率则可以拒绝服务或进行流量整形。常用的限流方式和场景有:限制总并发数(比如数据库连接池、线程池)、限制瞬时并发数(如nginx的limitconn
Mr_haining
·
2023-10-19 18:18
Guava
java
2022-02-15 带宽瓶颈导致
kafka
消费无法rebalance成功
美西机器消费宁夏
kafka
集群跨洋网络消费公司带宽有限制为20m应用消费topic多concurrency高两台机器加起来有200+线程同时消费问题:重启机器后
kafka
rebalance期间两台机器cpu
王帅199207
·
2023-10-19 18:33
Jackson中将LinkedHashMap转化成具体业务对象处理
问题接收来自
Kafka
的消息过程中,其中一个字段使用的是Java的Object类,来进行通用业务对象接收的,但是,在反序列化过程中,往往需要将Object类的对象转化成具体的业务对象来使用。
亚林瓜子
·
2023-10-19 17:25
java
jackson
linkedhashmap
Hyperledger Fabric
Kafka
环境搭建
有基础的同学应该都对HyperledgerFabric共识机制有一点了解,Fabric共识机制分为Solo、
Kafka
。
晨宝_2b93
·
2023-10-19 16:45
FLink学习笔记:11-Flink 的Table API的Connector操作
文章目录创建表环境创建表从DataStream创建表使用tableAPI定义表结构使用SQL创建表结构FLINK-SQL的数据类型语法:Formats:CSV格式表JSON格式表Raw格式表Orc格式表使用SQL在
kafka
wangzhongyudie
·
2023-10-19 14:49
FLink
大数据
flink
学习
数据库
FLink学习笔记:05-Flink DataStream的Sink操作
文章目录文件Sink
Kafka
SinkElasticSearchSinkRedisSinkJDBCSink文件Sink从
Kafka
中读取数据,数据做转换后,并将数据写入到文件中packagecom.hjt.yxh.hw.apitestimportorg.apache.flink.api.common.eventtime.WatermarkStrategyimportorg.apache.flink
wangzhongyudie
·
2023-10-19 14:19
FLink
大数据
flink
kafka
kafka
生产者报错Failed to update metadata after 60000 ms.
背景由于新增一个对接渠道,系统要对
Kafka
的消息进行消费,由于对接方目前没有环境,所以自己本地开发,并且使用环境中的一台
kafka
作为开发使用,本地自己设置producer和consumer,分别作为生产者和消费者
CodersCoder
·
2023-10-19 13:46
问题
java
kafka
三十六、《大数据项目实战之用户行为分析》Spark Streaming整合
Kafka
计算实时单词数量
整合原理
Kafka
在0.8和0.10版本之间引入了一个新的消费者API,Spark针对这两个版本有两个单独对应的SparkStreaming包可用,分别为spark-streaming-
kafka
-0-
大数据张老师
·
2023-10-19 12:18
#
kafka
大数据
spark
SparkStreaming
SparkStreaming整合
Kafka
实现wordcount案例(spark-streaming-
kafka
-0-8_2.11版)
概述:spark-streaming-
kafka
-0-8_2.11有两种方式连接
Kafka
,一种是Receiver,另一种是Direct。
万家林
·
2023-10-19 12:47
kafka
kafka
Spark Streaming 整合
Kafka
,实现交流
SparkStreaming整合
Kafka
一、了解SparkStreaming整合
Kafka
1.1
Kafka
Utis.createDstream方式二、实战2.1导入依赖(与spark版本一致)2.2案列
唐樽
·
2023-10-19 12:17
大数据
Linux
kafka
大数据
Spark Streaming整合
Kafka
的两种方式
SparkStreaming整合
Kafka
,两种整合方式:Receiver-based和Direct方式一:
Kafka
准备1、分别启动zookeeper.
kingloneye
·
2023-10-19 12:46
大数据
Spark
kafka
kafka
spark
SparkStreaming 整合
Kafka
SparkStreaming整合
Kafka
架构概述具体实现步骤安装好ZooKeeper和
Kafka
和flume启动好ZooKeeper和
Kafka
创建一个
Kafka
的Topic############启动
夜古诚
·
2023-10-19 12:40
SparkStreaming
整合
Kafka
Spark Streaming 整合
Kafka
本文代码链接:https://download.csdn.net/download/shangjg03/884423081.版本说明Spark针对
Kafka
的不同版本,提供了两套整合方案:`spark-streaming-
kafka
shangjg3
·
2023-10-19 12:07
大数据计算引擎
Spark
大数据
spark
kafka
scala
Kafka
存取原理与实现分析,打破面试难关
系列文章目录上手第一关,手把手教你安装
kafka
与可视化工具
kafka
-eagle
Kafka
是什么,以及如何使用SpringBoot对接
Kafka
架构必备能力——
kafka
的选型对比及应用场景
Kafka
战斧
·
2023-10-19 11:15
kafka
kafka
面试
分布式
kafka原理
kafka面试
kafka性能
Filebeat+
Kafka
+ELK日志分析架构
目录一、zookeeper:1.zookeeper定义:2.Zookeeper工作机制:3.Zookeeper特点:4.Zookeeper数据结构:5.Zookeeper应用场景:5.1统一命名服务:5.2统一配置管理:5.3统一集群管理:5.4服务器动态上下线:5.5软负载均衡:6.Zookeeper选举机制:6.1第一次启动选举机制:6.2非第一次启动选举机制:(1)什么情况下会开始进入Lea
我不道啊;
·
2023-10-19 10:08
zookeeper
kafka
架构
Java IO:文件读写、流操作与常用技巧
流的体系字节流字节输入流(InputStream)FileInputStream字节输出流(OutputStream)FileOutputStream文件拷贝功能字符流字符输入流(Reader)FileReader
原理解析
字符输出流
等月光倾洒
·
2023-10-19 09:55
Java
java
开发语言
k8s StatefulSet
每一个无状态节点存储的数据在重启之后就会被删除,虽然这种服务虽然常见,但是我们仍然需要有状态的服务来实现一些特殊的需求,StatefulSet就是Kubernetes为了运行有状态服务引入的资源,例如Zookeeper、
Kafka
taj3991
·
2023-10-19 07:33
kafka
从入门到实践
image题图:pixabay上周在公上周在公司做了一次内部分享,关于
kafka
科普相关的。总结输出一下:image
kafka
是什么?开源的消息引擎系统。流处理平台。我们说的更多的是"消息队列"。
花一个无所
·
2023-10-19 06:11
Spark分布式计算框架之SparkStreaming+
kafka
1、SparkStreaming的介绍SparkStreaming是流式处理框架,是SparkAPI的扩展,支持可扩展、高吞吐量、容错的实时数据流处理,实时数据的来源可以是:
Kafka
,Flume,Twitter
一流觞
·
2023-10-19 05:14
kafka
spark
big
data
【Todo】【读书笔记】大数据Spark企业级实战版 & Scala学习
目录:/Users/baidu/Documents/Data/Interview/Hadoop-Spark-Storm-
Kafka
下了这本《大数据Spark企业级实战版》,另外还有一本《Spark大数据处理
weixin_33813128
·
2023-10-19 05:00
scala
大数据
java
Spark大数据分与实践笔记(第六章
Kafka
分布式发布订阅消息系统-01)
第六章
Kafka
分布式发布订阅消息系统
Kafka
是一个高吞吐量的分布式发布订阅消息系统,它在实时计算系统中有着非常强大的功能。
妉妉师姐
·
2023-10-19 05:26
大数据-linux-spark
kafka
大数据
分布式
MQ - 35 四款MQ的架构设计与实现的对比
顺序消息定时和延时消息事务消息优先级队列死信队列WebSocketRocketMQ顺序消息定时和延时消息事务消息死信队列消息查询根据Offset查询消息根据时间戳查询消息据消息ID查询消息Schema
Kafka
小小工匠
·
2023-10-19 04:25
【小工匠聊架構】
MQ
kafka
集群搭建与使用
安装前的环境准备由于
Kafka
是用Scala语言开发的,运行在JVM上,因此在安装
Kafka
之前需要先安装JDK。
xuan2017
·
2023-10-19 04:46
kafka
生产者消费者同步与异步
一生产者发送的同步与异步生产者发送消息依靠send方法,主要要同步和异步两种:异步发送producer.send(record,callback)callback就是对发送消息后的回调。该方法输入参数是metaData和exception:当消息异步发送成功则exception为空;反之若发送失败则metadata为空exception非空。同步发送producer.send(record).ge
yanerhao
·
2023-10-19 04:21
KAFKA
kafka
java
分布式
消息队列-
kafka
提交offset问题
当你每提交一次offset,意味着向
kafka
汇报一次消费进度,对于提交offset所以又分为同步和异步提交同步和异步提交offset对比同步提交:1.每次处理完一条消息,然后调用consumer.commitSync
star++
·
2023-10-19 04:50
消息队列
kafka
java
分布式
在两个
kafka
集群同步topic
在两个
kafka
集群同步topic目标:把debezium节点所在集群上的
kafka
集群的名为sysdata的topic同步到目标集群cdh上的
kafka
集群上。
yostkevin
·
2023-10-19 04:19
大数据
kafka
Kafka
如何保证消息不丢失、
Kafka
消费数据模式、
Kafka
的数据存储形式
Kafka
如何保证消息不丢失、消费数据模式消费模式
kafka
采用拉取模型,由消费者自己记录消费状态,每个消费者互相独立地顺序拉取每个分区的消息消费者可以按照任意的顺序消费消息。
yida&yueda
·
2023-10-19 04:48
大数据
kafka
big
data
java
kafka
介绍
设计原理
kafka
的设计初衷是希望作为一个统一的信息收集平台,能够实时的收集反馈信息,并需要能够支撑较大的数据量,且具备良好的容错能力。
qq_37506542
·
2023-10-19 04:47
分布式
kafka
java
大数据
linux
大数据之Flink简介第三部分
大数据之Flink简介第三部分十、Flink容错机制1、检查点检查点的保存检查点的配置保存点(Savepoint)2、状态一致性状态一致性概念端到端精确一次Flink和
Kafka
十一、FlinkTableAPI
梦回pq
·
2023-10-19 04:45
大数据
flink
java
Doris对接消费
kafka
数据方案实现
本篇主要讲述消费
kafka
中的数据同步到Doris中。
HD0do(迪答数据)
·
2023-10-19 04:44
Doris
数据仓库
实时大数据
Kafka
消费者的手动提交详解
Kafka
是一种高性能、分布式的消息队列系统,广泛应用于大规模数据处理和实时流处理场景。在
Kafka
中,消费者(Consumer)是用于从主题(Topic)中读取消息的客户端。
DeoSql
·
2023-10-19 04:43
kafka
kafka
linq
分布式
kafka
学习笔记
1.官网Apache
Kafka
2.akfX轴拆分:水平复制,就是讲单体系统多运行几个实例,做集群加负载均衡的模式,主主、主备、主从。
CelineT
·
2023-10-19 04:13
kafka
Spark Streaming 原理与实践
目前流计算领域也出现了一些流处理工具,如Storm、Flink和
Kafka
Streams。但是这些工具都有自己独有的编程模型,并且支持的语
禅与计算机程序设计艺术
·
2023-10-19 04:12
Python
大数据AI人工智能
大数据
人工智能
语言模型
Java
Python
架构设计
Kafka
入门,手动提交offset,同步提交,异步提交,指定 Offset 消费(二十三)
因此
Kafka
还提供了手动提交offset的API手动提交offset的方法有两种:分别commitSync(同步提交)和commitAsync(异步提交)。
Long long ago.
·
2023-10-19 04:12
kafka
linq
分布式
安防视频监控系统EasyCVR视频汇聚存储平台定制化开发:新增
kafka
配置
安防视频监控/视频集中存储/云存储/磁盘阵列EasyCVR平台可拓展性强、视频能力灵活、部署轻快,可支持的主流标准协议有国标GB28181、RTSP/Onvif、RTMP等,以及支持厂家私有协议与SDK接入,包括海康Ehome、海大宇等设备的SDK等。平台可拓展性强、视频能力灵活,能对外分发RTMP、RTSP、HTTP-FLV、WebSocket-FLV、HLS、WebRTC等视频流。今天我们来介
EasyCVR
·
2023-10-19 04:41
解决方案
EasyCVR
音视频
kafka
分布式
Kafka
C++ SDK编译记录
1、安装rd
kafka
套件sudoyuminstalllibrd
kafka
-devel2、下载cpp
kafka
源码gitclonehttps://github.com/mfontanini/cpp
kafka
3
夏楚子悦
·
2023-10-19 03:42
上一页
84
85
86
87
88
89
90
91
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他