E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
Kafka原理解析
【flink学习笔记】【4】Datastream API-源算子
①getExecutionEnvironment②createLocalEnvironment③createRemoteEnvironment④执行模式批处理环境流处理环境三、source(源算子)3.1准备工作pojo类型3.2读取有界流3.3读取
kafka
3.5
路过倾蜓
·
2023-11-12 11:59
flink
sql
hive
hadoop
ELK+Filebeat+
Kafka
+Zookeeper日志分析系统搭建
2、filebeat结合logstash带来好处3、Filebeat和Logstash的区别
Kafka
-----
~407
·
2023-11-12 10:34
elk
kafka
zookeeper
elasticsearch
kafka
高可用集群环境搭建
kafka
是分布式发布订阅消息系统
Kafka
作为一个集群,运行在一台或者多台服务器上.
Kafka
通过topic对存储的流数据进行分类。
Gฅ
·
2023-11-12 10:04
zookeeper
kafka
java
linux
分布式
【Linux】ubuntu下
kafka
集群环境搭建
1.下载
kafka
正式版,本文使用
kafka
_2.10-0.8.2.2(在此特别说明下,
kafka
_2.9.2-0.8.1.1.tgz由于版本相对较低的问题,好多.sh文件时缺少的,比如
kafka
-topics.sh
是原来的你吗
·
2023-11-12 10:04
kafka
linux
ubuntu
linux虚拟机搭建
kafka
集群
Centos7.6虚拟机5配置NAT网络6配置yum7安装java环境8克隆3台虚拟机93台虚拟机互通10下载zookeeper11搭建zookeeper集群12编写脚本启动zookeeper集群13下载
kafka
14
triumph_666
·
2023-11-12 10:03
linux
kafka
运维
Kafka
基于Zookeeper搭建高可用集群实战
在
Kafka
在0.8以前的版本中,是没有Replication的,一旦某一个Broker宕机,则其上所有的Partition数据都不可被消费,这与
Kafka
数据持久性及DeliveryGuarantee
至尊宝l
·
2023-11-12 10:01
Zookeeper
Kafka
kafka
java-zookeeper
zookeeper
kafka
——集群安裝部署(自带zookeeper)
kafka
系列文章第一章linux单机安装第二章
kafka
——集群安裝部署(自带zookeeper)一、
kafka
简介
kafka
官网:http://
kafka
.apache.org/
kafka
下载页面:
厌学的小骚年
·
2023-11-12 10:31
kafka从入门到放弃
linux
kafka
kafka
-02
kafka
集群搭建与使用
安装前的环境准备由于
Kafka
是用Scala语言开发的,运行在JVM上,因此在安装
Kafka
之前需要先安装JDK。
沐宇熙
·
2023-11-12 10:01
kafka
kafka
Linux系统上搭建高可用
Kafka
集群(使用自带的zookeeper)
本次在CentOS7.6上搭建
Kafka
集群Apache
Kafka
是一个高吞吐量的分布式消息系统,被广泛应用于大规模数据处理和实时数据管道中。
不掉头发的阿水
·
2023-11-12 10:27
消息中间件
SpringBoot
虚拟机操作系统
linux
kafka
运维
CVE-2023-25194
Kafka
JNDI 注入分析
Apache
Kafka
ClientsJndiInjection漏洞描述Apache
Kafka
是一个分布式数据流处理平台,可以实时发布、订阅、存储和处理数据流。
合天网安实验室
·
2023-11-12 09:20
kafka
分布式
看完就会的Flink基础API
ExecutionEnvironment)1、创建执行环境2、执行模式(ExecutionMode)3、触发程序执行二、源算子(Source)1、数据源类准备2、从集合中读取数据3、从文件中读取数据4、从Socket中读取数据5、从
Kafka
ha_lydms
·
2023-11-12 08:50
大数据
flink
python
大数据
真实线上OOM溢出借助MAT工具排查(原创)
结论先说结论,后端服务消费到了
kafka
的超大消息,导致解析Json消息时OOM内存溢出了。背景有天,快下班时用户反馈说系统不可用了,加班排查了一晚上给解决了。
吴free
·
2023-11-12 05:58
线上问题排查
java
开发语言
kafka
linux
@
Kafka
Listener注解详解(一)| 常用参数详解
@
Kafka
Listener注解提供了许多可配置的参数,以便更灵活地定制
Kafka
消息监听器的行为。topics:描述:指定监听的
Kafka
主题,可以是一个字符串数组。
鲨鱼辣椒不吃辣c
·
2023-11-12 05:50
kafka
分布式
资料免费领取-Flink/Spark/Java/Python/Redis/
Kafka
/CK/ZK/ES/Flume
首先这是一篇资源福利篇,相信会有很多读者和笔者一样,学习一门技术,至少会有20%的时候来寻找好的学习文章或者书籍。之前在后台提供了相关技术的书籍和视频,但经常有读者后台私信反馈链接失效的问题。由于笔者所有的资源均在某网盘中存放,迁移成本较大,所有这里对获取方式进行了改变,流程可能会有所繁琐,但尽可能节省大家的时间,如还是遇到失效问题,请后台私信进行处理解决。这里先给大家汇总下相关资料,如感兴趣,请
进击吧大数据
·
2023-11-12 04:13
Flink
Spark
Flume
java
kafka
spark
zookeeper
python
消息队列简介及选型对比
消息队列的好处业务解耦最终一致性广播错峰与流控顺序保证消息队列的坏处可用性降低复杂度变高一致性消息队列核心概念消息模式PTP点对点Pub/Sub发布订阅推和拉的区别常用消息队列介绍RabbitMQActiveMQRocketMQ选择Rabbitmq的原因Rocketmq为什么性能高
Kafka
xushiyu1996818
·
2023-11-12 03:39
消息队列
消息队列
消息队列简介-原理和应用
目前使用较多的消息队列有ActiveMQ,RabbitMQ,ZeroMQ,
Kafka
,MetaMQ,RocketMQ典型的:
Kafka
==》发布订阅系统参考:
kafka
基础知识梳理-
kafka
是一种高吞吐量的分布式发布订阅消息系统二
Firm陈
·
2023-11-12 03:38
消息中间件
java
后端
大数据工具-
kafka
Ui-lite
1、
kafka
UI-litev1.0已经发布,此版本更新内容包括:可以实现kafak/zookooper/redis的界面化操作
kafka
:多环境管理、生产消息、消费消息、创建topic、删除topiczookeeper
人猿宇宙
·
2023-11-12 02:44
大数据-玩转数据-工具
大数据
大数据-玩转数据-Flume
Flume、
Kafka
用来实时进行数据收集,Spark、Flink用来实时处理数据,impala用来实时查询。
人猿宇宙
·
2023-11-12 02:41
大数据
flume
Android中免root的hook框架Legend
原理解析
一、前言Android中hook框架已经非常多了,最优秀的当属Xposed和Substrate了,这两个框架我在之前的文章都详细介绍过了,不了解的同学,可以转战这里:http://www.wjdiankong.cn;但是这两个框架用于破解逆向是非常有用的,可惜他们最大的局限性就是需要root权限,这个几乎现阶段可能阻碍了很多产品的商业化,毕竟国内人的安全意识越来越高了。所以这里就需要借助一个免ro
尼古拉斯.赵四
·
2023-11-12 02:50
大数据博文列表
文章目录说明分享大数据简述搭建hadoop平台单机版集群版安装优化组件hadoophdfsyarnflinkHbaseElasticsearch
kafka
sparkhiveoozie其他vmwaredocker
羽落风起
·
2023-11-12 01:05
大数据
kafka
flink
hadoop
Flink SQL -- 命令行的使用
此处选择是时session的模式:yarn-session.sh-d在启动FlinkSQL的client:sql-client.sh2、
kafka
SQL连接器在使用
kafka
作为数据源的时候需要上传jar
新手小农
·
2023-11-12 00:54
Flink
1.15.2
flink
sql
java
【Git系列】Github指令搜索
推荐:kwan的首页,持续学习,不断总结,共同进步,活到老学到老导航檀越剑指大厂系列:全面总结java核心技术点,如集合,jvm,并发编程redis,
kafka
,Spring,微服务,Netty等常用开发工具系列
檀越剑指大厂
·
2023-11-11 23:21
s0
常用工具
git
github
flink-sql所有表格式format-1.15
Flink支持以下格式:格式连接器CSVApache
Kafka
,Upsert
Kafka
,AmazonKinesisDataStreams,FilesystemJSONApa
第一片心意
·
2023-11-11 21:17
flink
flink
sql
flink
flink
sql格式
flink-sql所有表格式format-1.14
Flink支持以下格式:格式连接器CSVApache
Kafka
,Upsert
Kafka
,AmazonKinesisDataStreams,FilesystemJSONApa
第一片心意
·
2023-11-11 21:17
flink
flink
flink
sql
flink
sql格式
Flink基础系列30-Table API和Flink SQL之API调用
文章目录一.基本程序结构二.创建表环境三.在Catalog中注册表3.1表(Table)的概念3.2连接到文件系统(Csv格式)3.3连接到
Kafka
四.表的查询4.1TableAPI的调用4.2SQL
只是甲
·
2023-11-11 21:07
大数据和数据仓库
#
Flink
Flink
SQL
Flink
Blink
Flink
Kafka
Flink Table API & SQL 编程
目录Maven依赖DEMO1消费
Kafka
主题数据,生产主题数据DEMO2Table与DataStream的互相转换DEMO3时间窗口sql-client的使用执行建表语句filesystem数据源
kafka
柏舟飞流
·
2023-11-11 20:01
大数据
flink
flink
Java工程师必备-一些资料的整理
Springboot、SpringCloud、Mybatis、多线程并发、netty、MySQL、MongoDB、Elasticsearch、Redis、HBASE、RabbitMQ、RocketMQ、Pulsar、
Kafka
敲代码的小小芮
·
2023-11-11 18:25
JAVA
Linux 定时删除7天前的文件
/bin/bashfind/home/
kafka
/logs-mtime+10-name"*.
SmallFatMan
·
2023-11-11 17:58
#
自动化部署&脚本
linux
运维
服务器
shell
bash
学习
RabbitMQ实现消息的延迟推送或延迟发送
常见的消息队列有:RabbitMQ、
Kafka
和ActiveMQ2.RabbitMQ的优点RabbitMQ最初起源于金融系统,用于不同模块之间的消息通讯。优点:可靠性:可持久化,消息传输和发布确认。
闻道☞
·
2023-11-11 15:36
rabbitmq
rabbitmq
Java编写程序将数据存入
Kafka
中
Java编写程序将数据存入
Kafka
中
Kafka
是一个类似于RabbitMQ的消息系统,它的主要功能是消息的发布和订阅、处理和存储。1.它类似于一个消息系统,读写流式的数据。
无恋-zx
·
2023-11-11 15:35
java
docker-compose安装
kafka
集群并解决docker内
kafka
外界无法访问问题
本文更好的观看体验在博主的个人博客上:点我访问利用Docker安装之前我说过,我希望能够快速开始实践,所以选择了利用docker来安装组件,docker-compose来解决通信问题,这次也一样,先用docker安装一个
kafka
theonly_df
·
2023-11-11 15:25
后端
中间件
java
kafka
Docker快速安装
kafka
创建zkdockerrun-d--namezookeeper-server\-eALLOW_ANONYMOUS_LOGIN=yes\bitnami/zookeeper:latest创建
kafka
dockerrun-d
喝酸奶要舔盖儿
·
2023-11-11 15:44
docker
kafka
容器
Docker搭建
kafka
docker简易搭建
kafka
在我们大量使用分布式数据库、分布式计算集群的时候,是否会遇到这样的一些问题:想分析一下用户行为,一遍我能设计出更好的广告位,相对用户的搜索关键字尽心统计,分析出前卫的流行趋势
马丁de早晨
·
2023-11-11 15:13
kafka
centos
Kafka
目录1.
Kafka
简介2.安装
Kafka
2.1安装JDK2.2下载、解压
Kafka
2.3启动
Kafka
1.Zookeeper模式启动2.KRaft模式启动3.
Kafka
常用命令3.1
Kafka
服务命令1
m0_37559973
·
2023-11-11 14:39
kafka
消息队列系列
这里填写标题1.消息队列系列1.1.如何选型1.1.1.消息队列模式1.1.1.1.点对点模式1.1.1.2.发布/订阅模式1.1.2.衡量标准1.1.3.消息队列比较1.1.4.优缺点1.1.4.1.
Kafka
1.1.4.2
云满笔记
·
2023-11-11 14:17
bigdata
消息队列
MQ
kafka
rabbitmq
rocketmq
kafka
的Consumer 消费者(六)
Kafka
的消费方式 消息队列主要有两个消费方式:pull(拉)模式和push(推)模式 pull(拉)模式consumer采用从broker中主动拉取数据,push(推)模式broker决定消息发送速率
華小灼
·
2023-11-11 13:16
kafka
kafka
Kafka
Consumer
目录消费者分区分配策略range(默认)roundrobinStickyAssignor分配策略0.11以后新加什么时候触发分区分配策略:offset提交手动提交消费者导致的数据漏消费(数据丢失)消费者导致的数据重复消费问题自动提交offset消费者三中语义At-most-onceat-least-onceExactly-once使用subscribe实现Exactly-once使用assign实
这个程序猿可太秀了
·
2023-11-11 13:45
#
kafka
kafka
java
【
Kafka
源码分析】三、消费者Consumer
Kafka
采用pull(拉)模式!!!基本设计:消费者组内每个消费者负责消费不同分区
wanger61
·
2023-11-11 13:15
Kafka
kafka
java
分布式
【
Kafka
】
Kafka
Consumer消费者客户端实现原理
目录一、消费者和消费组二、消息投递模式三、消费者客户端1.订阅主题与分区2.消息消费四、消费端位移五、消费再均衡、再均衡监听器六、消费者拦截器七、多线程实现1.每个线程实例化一个
Kafka
Consumer
sun_tantan
·
2023-11-11 13:14
框架大集合
kafka
java
Kafka
Consumer 消费 多线程vs多实例
Kafka
Consumer消费性能提升针对一下两种方案进行对比,并通过代码检验。基于
Kafka
2.2.1版本1.方案一在同一个ConsumerGroup中,创建多个Consumer,增加消费者性能。
腹黑客
·
2023-11-11 13:43
kafka
kafka
Kafka
Consumer Api
Kafka
Consumer消费者组和Topic订阅GroupsandTopicSubscriptions
Kafka
usestheconceptofconsumergroupstoallowapoolofprocessestodividetheworkofconsumingandprocessingrecords.Theseprocessescaneitherberunningonthesamema
lanicc
·
2023-11-11 13:12
kafka
kafka
java
【Apache
Kafka
3.2】
Kafka
Consumer源码分析
这里写目录标题
Kafka
Consumer分析方法概述字段概述ConsumerNetworkClientpoll流程回调对象——RequestFutureCompletionHandlerRequestFutureRequestFuture.composeRequestFuture.chain
Mrkang1314
·
2023-11-11 13:12
Kafka
kafka
Kafka
Consumer多线程消费
01概述关于
Kafka
JavaConsumer多线程消费的实现,多个线程可能拿到相同分区的数据,而消费的顺序会破坏消息本身在分区中的顺序,因而扰乱位移的提交。
meavoChen
·
2023-11-11 13:11
大数据
kafka
Consumer的分区分配策略-实测说话
kafka
的消费者分区分配策略_一念花开_的博客-CSDN博客_
kafka
分区分配策略刚接触
kafka
的小伙伴其实一直忽略了一个事。
cclovezbf
·
2023-11-11 13:10
java基础
kafka
分配策略
源码分析之
Kafka
Consumer消费消息的过程
Kafka
Consumer源码中给出的代码示例上述示例主要流程订阅主题的过程是如何实现的?经典思路:主动检测不支持的情况并抛出异常,避免系统产生不可预期的行为有关元数据更新拉取消息的过程是如何实现的?
evasnowind
·
2023-11-11 13:10
Kafka
源码分析
分布式
java
kafka
Kafka
Consumer 消费逻辑
版本:
kafka
-clients-2.0.1.jar之前想写个插件修改
kafka
Consumer消费者的逻辑,根据header过滤一些消息。
不如敲代码
·
2023-11-11 13:05
Java
java
kafka
CSDN超级实习生 | 寒假之前,收藏好这份大厂2022年实习生招聘计划
对技术有热情,对于大数据处理,并发系统,性能优化等有强烈的兴趣;4、熟悉软件工程领域相关知识;5、熟悉大数据领域相关知识,Hadoop、Spark、
Kafka
等。后
实训001
·
2023-11-11 10:16
超级实习生
java
架构
面试
kafa简介及基本原理
kafa简介及基本原理kafa简介概述
kafka
,ActiveMQ,RabbitMQ是当今最流行的分布式消息中间件,其中
kafka
在性能及吞吐量方面是三者中的佼佼者,不过最近查阅官网时,官方与它的定义为一个分布式流媒体平台
卷不动的打工仔
·
2023-11-11 09:13
中间件
kafka
分布式
java
K8S上部署的
kafka
集群没法被外网访问
场景:在K8S集群内的机器上访问
kafka
服务可以成功访问到在非该集群内机器访问
kafka
服务无法访问并报错如下Errorconnectingtonode***java.net.UnknownHostException
笃行_
·
2023-11-11 07:02
大数据
kafka
k8s 中部署
kafka
集群
由于开发过程中使用到了
kafka
,又不想自己部署
kafka
,索性采用k8s部署
kafka
集群,以求做到随时插拔。
会飞的尼古拉斯
·
2023-11-11 07:02
k8s
kafka
kafka
kubernetes
上一页
63
64
65
66
67
68
69
70
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他