E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
Kafka原理解析
spring-
kafka
中ContainerProperties.AckMode详解
我们线上是对接了腾讯云的IOT平台,任何iot设备的上传事件都是通过腾讯云的C
Kafka
传递给我们的,随着设备量以及事件数据量的增加,我们消费腾讯云CK
·
2023-09-18 19:44
kafka
Linux——
kafka
常用命令
一、
Kafka
的常用命令包括:启动Zookeeper服务前台启动:./bin/zookeeper-server-start.shconfig/zookeeper.properties后台启动:.
前方一片光明
·
2023-09-18 17:56
linux
kafka
运维
qdisc参考文档
from=arti...LinuxTC(TrafficControl)框架
原理解析
https://cloud.tence
·
2023-09-18 17:31
tc
flink1.15.0消费
kafka
报错 The coordinator is not available.
报错Youshouldretrycommittingthelatestconsumedoffsets.Causedby:org.apache.
kafka
.common.errors.CoordinatorNotAvailableException
Thomas2143
·
2023-09-18 16:57
free
kafka
分布式
【二叉树-02】二叉树的最近公共祖先-力扣 236 题
推荐:kuan的首页,持续学习,不断总结,共同进步,活到老学到老导航檀越剑指大厂系列:全面总结java核心技术点,如集合,jvm,并发编程redis,
kafka
,Spring,微服务,Netty等常用开发工具系列
檀越剑指大厂
·
2023-09-18 16:20
s6
算法与数据结构
leetcode
算法
职场和发展
Flink Sink
Kafka
和 Flink 端到端一致性建议
FlinkSink
Kafka
和Flink端到端一致性建议大家好,好久不见,我是大圣!今天,我们来聊一聊ApacheFlink在与
Kafka
对接时的两个常见问题。
·
2023-09-18 16:42
java
topic是什么
在Apache
Kafka
中,"topic"是用于组织消息的逻辑容器或类别。
Kafka
是一个分布式消息发布和订阅系统,它允许应用程序在不同的节点之间进行高效的消息传递。"
qq_33192454
·
2023-09-18 14:57
java
彻底删除
Kafka
数据
step2:server.properties设置delete.topic.enable=true如果没有设置delete.topic.enable=true,则调用
kafka
的d
虎不知
·
2023-09-18 14:04
Kafka
Shell命令交互
Kafka
提供了一个命令行工具,用于管理和与
Kafka
集群交互。这个命令行工具通常称为
Kafka
Shell,它允许您执行各种操作,如创建主题、发送和消费消息、查看主题列表等。
贾斯汀玛尔斯
·
2023-09-18 13:33
flink
spark
kafka
分布式
【算法】相向双指针
推荐:kuan的首页,持续学习,不断总结,共同进步,活到老学到老导航檀越剑指大厂系列:全面总结java核心技术点,如集合,jvm,并发编程redis,
kafka
,Spring,微服务,Netty等常用开发工具系列
檀越剑指大厂
·
2023-09-18 13:01
s6
算法与数据结构
算法
kafka
ack确认机制
Kafka
使用ACK(Acknowledgment)确认机制来确保消息在生产者和消费者之间的可靠传递。这个机制确保消息在被认为已成功发送或处理之前不会被丢失。
贾斯汀玛尔斯
·
2023-09-18 13:30
spark
flink
kafka
SpringBoot集成
Kafka
3
SpringBoot集成
Kafka
1.环境说明2.SpringBoot集成
Kafka
1.建立工程2.pom.xml3.application.yml4.编写生产者Controller5.消费着监听topic
小袁搬码
·
2023-09-18 12:55
Springboot
Kafka
spring
boot
kafka
java
springBoot集成
kafka
一:
kafka
是什么?
Kafka
是一种分布式的,基于发布/订阅的消息系统。主要设计目标如下:以时间复杂度为O(1)的方式提供消息持久化能力,即使对TB级以上数据也能保证常数时间的访问性能高吞吐率。
ZeroMaster
·
2023-09-18 12:25
研发
kafka
java
big
data
kafka
3.5 生产者请求中的acks,在服务端如何处理源码
一、生产者客户端配置参数acks说明1、acks=12、acks=03、acks=-1二、请求在写入Leader的数据管道之前,则会验证Leader的ISR副本数量和配置中的最小ISR数量1、Leader的ISR小于配置文件中minInSyncReplicas,并且acks=-1,则抛异常2、如果acks不等于-1,则就算Leader的ISR小于配置,也会正常执行写入数据管道操作三、请求把数据写入
胖墩的IT
·
2023-09-18 12:24
#
kafka
kafka
springboot集成
kafka
创建工程父工程pom父工程做了子工程管理和包管理4.0.0org.springframework.bootspring-boot-starter-parent2.7.15com.wzw
kafka
1.0-
WuWuII
·
2023-09-18 12:24
spring
boot
kafka
【Maxwell问题小记】maxwell生产者响应超时,无法消费
TimeoutException可能存在的问题:本次案例情况:1.
kafka
的console方式所应用的生产者和消费者可以正常运行。2.maxwell的stdout生产模式可以正确读取到binlog。
大数据路上的一个耕耘者
·
2023-09-18 12:12
kafka
分布式
etl
大数据之-
kafka
学习笔记
Kafka
Kafka
是一个分布式的基于发布/订阅模式的消息队列(MessageQueue),主要应用于大数据实时处理领域。
Kafka
可以用作Flink应用程序的数据源。
躺着听Jay
·
2023-09-18 10:50
大数据
大数据
kafka
学习
Flink中Table API和SQL(五)
目录11.8SQL客户端11.9连接到外部系统11.9.1
Kafka
11.9.3JDBC11.9.4Elasticsearch11.9.5HBase11.9.6Hive11.8SQL客户端有了TableAPI
大数据阿嘉
·
2023-09-18 10:05
flink
sql
scala
kafka
_2.12-3.0.0环境搭建
可以参考我这篇文章:
kafka
_2.13-2.8.1环境搭建_木木夕木目心.HDS的博客-CSDN博客搭建方式一样的增加两条指令:1.后台启动zookeepercd/data/
kafka
_2.12-3.0.0
木木夕木目心.HDS
·
2023-09-18 09:54
大数据
kafka
java
kafka
_2.13-2.8.1环境搭建
本次
kafka
环境主要针对
kafka
2.x版本,运行
kafka
服务之前,需要先搭建zookeeper服务,因为
kafka
服务依赖zookeeper,
kafka
3.x版本后可以不需要手动搭建zookeeper
木木夕木目心.HDS
·
2023-09-18 09:24
大数据
kafka
java
linux
Kakfa - Producer机制原理与调优
Producer是Kakfa模型中生产者组件,也就是
Kafka
架构中数据的生产来源,虽然其整体是比较简单的组件,但依然有很多细节需要细品一番。
Survivor001
·
2023-09-18 08:09
linq
c#
荐书 | 有关Hadoop、
Kafka
、RabbitMQ的三本大数据好书
《
Kafka
源码解析与实战》作者:王亮本书全面解析了
Kafka
的核心架构设计和源码;是国内少有的针对
Kafka
进行系统性讲解的书籍。本书着重分析
Kafka
内部的各模块实现细节。
编程小世界
·
2023-09-18 08:49
Docker安装RabbitMQ——基于docker-compose工具
常用端口说明3.2相关文件说明3.3环境变量附docker-compose安装和命令介绍1.编写docker-compose文件docker-compose.ymlversion:'3.7'services:
kafka
Mr.Darren
·
2023-09-18 08:05
Docker
rabbitmq
docker
容器
Doris】Doris SQL
原理解析
本文主要介绍了DorisSQL解析的原理。重点讲述了生成单机逻辑计划,生成分布式逻辑计划,生成分布式物理计划的过程。对应于代码实现是Analyze,SinglePlan,DistributedPlan,Schedule四个部分。Analyze负责对AST进行前期的一些处理,SinglePlan根据AST进行优化生成单机查询计划,DistributedPlan将单机的查询计划拆成分布式的查询计划,S
九层之台起于累土
·
2023-09-18 08:34
【Doris】
【BigData】
sql
数据库
java
大数据
数据仓库
Kafka
【命令行操作】
Kafka
命令行操作
Kafka
主要包括三大部分:生产者、主题分区节点、消费者。1、Topic命令行操作也就是我们
kafka
下的脚本
kafka
-topics.sh的相关操作。
让线程再跑一会
·
2023-09-18 06:52
kafka
kafka
大数据
Kafka
开篇
前言从本篇开始对个人
Kafka
学习做一个总结,目标有这么几个。
FA-117
·
2023-09-18 06:48
Kafka
kafka
后端中间件安装与启动(Redis、Nginx、Nacos、
Kafka
)
后端中间件安装与启动RedisNginxNacos
Kafka
Redis1.打开cmd终端,进入redis文件目录2.输入redis-server.exeredis.windows.conf即可启动,不能关闭
Orchestrator_me
·
2023-09-18 06:47
nginx
Kafka
简单Demo
首先,在虚拟机上搭建一个
Kafka
,可以参考这里:Linux安装
Kafka
单机、集群。
则好
·
2023-09-18 03:38
kafka
springboot
kafka
spring
boot
Kafka
的优势
消息队列中间件有很多,为什么我们要选择
Kafka
?
伏颜.
·
2023-09-18 01:30
面试
java
kafka
开发语言
【数据结构-树】红黑树
推荐:kuan的首页,持续学习,不断总结,共同进步,活到老学到老导航檀越剑指大厂系列:全面总结java核心技术点,如集合,jvm,并发编程redis,
kafka
,Spring,微服务,Netty等常用开发工具系列
檀越剑指大厂
·
2023-09-18 00:13
s6
算法与数据结构
数据结构
Debezium实现大数据变更状态捕获
目录1、简介2、原理Debezium&MySQLDebezuim&MongoDB3、DockerCompose配置4、启动及容器配置5、禁用
Kafka
自动创建主题6、业务实现相关POM依赖
Kafka
主题父类
八五年的湘哥
·
2023-09-17 22:02
#
Debezuim
kafka
数据库
big
data
debezium
mongodb
Kafka
介绍
1.
Kafka
的基本介绍1.1什么是
Kafka
?
青铜攻城狮
·
2023-09-17 19:03
Java
kafka
java
分布式
Kafka
介绍
一、基本概念1.1什么是
kafka
Kafka
它最初由LinkedIn公司开发,之后成为Apache项目的一部分。
刘李404not found
·
2023-09-17 19:03
Linux
kafka
分布式
java
kafka
介绍(一)
1.0为什么需要
Kafka
其实从需要kafk
dongdongdongJL
·
2023-09-17 19:32
后端开发
kafka
java
分布式
【毕业设计】flink大数据淘宝用户行为数据实时分析与可视化
文章目录0前言1、环境准备1.1flink下载相关jar包1.2生成
kafka
数据1.3开发前的三个小tip2、flink-sql客户端编写运行sql2.1创建
kafka
数据源表2.2指标统计:每小时成交量
DanCheng-studio
·
2023-09-17 19:02
计算机专业
毕设选题
毕业设计系列
kafka
介绍
1.
kafka
概述消息中间件对比特性ActiveMQRabbitMQRocketMQ
Kafka
开发语言javaerlangjavascala单机吞吐量万级万级10万级100万级时效性msusmsms级以内可用性高
无条件做异梦
·
2023-09-17 19:01
微服务
kafka
linq
分布式
mysql+canal+
kafka
数据实时同步
业务场景公司是做社交电商的,一些业务场景会给用户发各种类型的收益,然后用户在app上可以看到自己的各种汇总收益及收益明细。在项目运营初期,用户数少、收益明细少,所以用户在app获取收益汇总时不会有性能相关的问题。然后随着用户数量的增加,业务的扩展,用户收益数据越来越多,用户每次访问收益汇总信息时,实时的通过sql汇总查询会遇到性能问题。解决方案A:离线汇总+缓存B:汇总表+业务逻辑实时【消息队列等
老季的私密空间
·
2023-09-17 19:54
Kafka
入门总结
针对这个需求,经调研后决定选用
Kafka
,再次记录下学习过程。一、
Kafka
简介1.1是什么Apache
Kafka
是一款开源的消息引擎系统。所谓的消息引擎系统,根据维基百科的定义:消息引擎系统是一
六天天天向上
·
2023-09-17 19:59
【Flink实战系列】Flink 如何动态写入
kafka
的多个 topic
昨天在群里一个同学问了这样一个问题,Flink怎么根据数据里面的某个字段动态把数据写入多个
kafka
的topic.其实这个问题非常简单,你肯定会想到说写多个sink就可以了,Flink确实也是支持多个sink
JasonLee实时计算
·
2023-09-17 17:39
Flink
实战系列
flink
【Flink实战系列】Flink 1.14.0 消费
kafka
数据自定义反序列化器
Flink1.14.0消费
kafka
数据自定义反序列类在最近刚发布的Flink1.14.0版本中Source接口进行了重构,API的变化还是非常大的,那在新的接口下消费
kafka
的时候如何自定义反序列类呢
JasonLee实时计算
·
2023-09-17 17:39
Flink
实战系列
kafka
flink
Flink-1.14.0
【Flink实战系列】Hash collision on user-specified ID “
Kafka
Source”
Hashcollisiononuser-specifiedID“
Kafka
Source”在使用fromSource构建
Kafka
Source的时候,遇到下面的报错,下面就走进源码,分析一下原因。
JasonLee实时计算
·
2023-09-17 17:08
Flink
实战系列
flink
kafka
webpack Loader核心
原理解析
配置过webpack的朋友应该都知道webpack中有一个loader的概念,当webpack进行编译时,会从入口文件出发,调用所有配置的loader对模块进行编译。本文来简单梳理一下何为loader?loader有哪些类型以及loader?loader具体运行机制是怎样的?1.何为loader在webpack内部只能识别javascript模块,其他类型的模块是处理不了的。loader其实就充当
前端开发小陈
·
2023-09-17 16:34
webpack
javascript
前端
分布式分布订阅消息系统
image.png几千行C代码实现了的一个优先级/延时队列,短小精悍概念tube-消息通道,类似于
kafka
里面的topic,用来存储某一类或者业务的任务job-生产和消费的基本单元,每个job都会有一个
loloxiaoz
·
2023-09-17 15:10
Docker安装+
Kafka
的简易使用+代码实现
docker简介Docker是一个开源的应用容器引擎,让开发者可以打包他们的应用以及依赖包到一个可移植的容器中,然后发布到任何流行的Linux或Windows操作系统的机器上,也可以实现虚拟化,容器是完全使用沙箱机制,相互之间不会有任何接口。Docker是一种容器系统,容器(container)有点类似虚拟机,但是更加轻量级,容器并没有像虚拟机一样虚拟出一套完整的硬件环境,而是隔离出独立的运行环境
MyBlogHiHi
·
2023-09-17 15:43
kafka
java
分布式
大数据技术实战---项目中遇到的问题及项目经验
2、
Kafka
消息数据积压,
Kafka
消费能力不足怎么处理?3、Sqoop数据导出一致性问题?4、整体项目框架如何设计?项目中遇到过哪些问题7.1Hadoop宕机(1)如果MR造成系统宕机。
000X000
·
2023-09-17 15:12
数据仓库
实战
数据建模
大数据技术实战
项目中遇到的问题及项目经验
黑猴子的家:x
kafka
-topic-create.sh
/bin/bash
kafka
_home=/opt/module/
kafka
-3.2.1#${
kafka
_home}/bin/
kafka
-topics.sh--zookeeperhadoop102:2181
黑猴子的家
·
2023-09-17 13:14
Day69
Kafka
设计原理详解
可以实时处理大量数据,满足各种需求场景.Hadoop批处理系统。Storm/Spark流式处理引擎web/nginx,访问日志消息服务开放统一接口给consumerhadoop,hbase等.装载到hadoop,数仓etl做离线分析和数据挖掘.ScreenShot2022-07-13at2.44.08PM.pngPartition副本选举Leader消息消费offset记录,consumer-of
小周爱吃瓜
·
2023-09-17 12:39
腾讯mini项目-【指标监控服务重构】2023-08-13
今日已办使用watermill框架替代当前的base_runner框架a.参考官方提供的sarama
kafka
Pub/Sub(https://github.com/ThreeDotsLabs/watermill-
kafka
奥库甘道夫
·
2023-09-17 11:42
重构
go
clickhouse
(二十九)大数据实战——
kafka
集群节点服役与退役案例实战
前言本节内容是关于
kafka
集群节点的服役与退役,从而实现
kafka
集群的缩容与扩容。在开始本节内容之前,我们要预先安装好
kafka
集群,并准备一台空余的服务器用来完成我们扩容与缩容的案例。
北溟溟
·
2023-09-17 10:12
大数据
#
kafka
中间键
大数据
kafka
分布式
Kerberos安全认证-连载12-
Kafka
Kerberos安全配置及访问
目录1.
Kafka
配置Kerberos2.客户端操作
Kafka
3.JavaAPI操作
Kafka
4.StructuredStreaming操作
Kafka
5.Flink操作
Kafka
技术连载系列,前面内容请参考前面连载
IT贫道
·
2023-09-17 10:02
Kerberos安全认证
kafka
安全
java
上一页
108
109
110
111
112
113
114
115
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他