E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
消息系统kafka
Kafka
消息发送失败的常见原因及解决方案
一、
Kafka
消息发送失败的常见原因及解决方案1.1、网络故障网络故障是
Kafka
消息发送失败的最常见原因之一。当网络出现故障时,
Kafka
就无法将消息发送到目标主题或分区。
qq_44912620
·
2023-12-27 07:50
kafka
分布式
Kafka
数据清理指南
在本文中,我们将介绍如何使用
Kafka
进行数据清理。
Kafka
是一个高性能、分布式的流数据平台,常用于构建实时数据流应用程序。
WdzDevops
·
2023-12-27 07:19
kafka
分布式
Spring Boot 整合
kafka
消费模式AckMode以及手动消费
依赖管理在pom.xml文件中导入依赖org.springframework.
kafka
spring-
kafka
2.5.5.RELEASE配置文件修改需要自己配置AckMode时候的配置spring:application
angelasp
·
2023-12-27 07:49
Kafka
java
spring
boot
kafka
java
Kafka
日志
kafka
是怎么通过偏移量找到对应的消息?
HannahLi_9f1c
·
2023-12-27 05:45
【Linux系统基础】(5)在Linux上集群化环境前置准备及部署Zookeeper、
Kafka
软件详细教程
集群化环境前置准备介绍在前面,我们所学习安装的软件,都是以单机模式运行的。后续,我们将要学习大数据相关的软件部署,所以后续我们所安装的软件服务,大多数都是以集群化(多台服务器共同工作)模式运行的。所以,在当前小节,我们需要完成集群化环境的前置准备,包括创建多台虚拟机,配置主机名映射,SSH免密登录等等。部署配置多台Linux虚拟机安装集群化软件,首要条件就是要有多台Linux服务器可用。我们可以使
老牛源码
·
2023-12-27 02:49
Linux教程
linux
zookeeper
kafka
内网离线搭建之----
kafka
集群
zookeeper:http://archive.apache.org/dist/zookeeper/zookeeper-3.4.13/zookeeper-3.4.13.tar.gz
kafka
落世繁华
·
2023-12-27 01:02
kafka
分布式
zookeeper
linux
集群
Apache
Kafka
CVE-2023-25194(metasploit版)
Step1:用docker搭建环境Step2:docker查看映射端口Step3:访问特定端口,然后靶标应用。Step4:用metasploit进行攻击:首先,打开metasploit,然后查询需要攻击的板块,利用板块。进入到板块以后,我们需要查看配置信息,并且对端口,host,ssl,版本,payload等进行更改。然后修改完成以后,进行攻击。得到shell以后,验证成功。这个漏洞的payloa
22的卡卡
·
2023-12-27 01:14
漏洞复现及利用
网络安全
docker-compose部署
kafka
docker-compose.yml配置version:"3"services:
kafka
:image:'bitnami/
kafka
:latest'ports:-'7050:7050'environment
坚持学习永不言弃
·
2023-12-26 23:36
Docker
docker
kafka
Kafka
概念与基本架构
1.
Kafka
介绍
Kafka
是最初由Linkedin公司开发,是一个分布式、分区的、多副本的、多生产者、多订阅者,基于zookeeper协调的分布式日志系统(也可以当做MQ系统),常见可以用于web/nginx
左师兄zuosx
·
2023-12-26 21:01
WebService
它还支持从
消息系统
到远程过程调用(RPC)等
GISer_Jing
·
2023-12-26 21:05
web3
大数据实战项目 -- 实时数仓
文章目录一、实时数据1.1日志采集器1.1日志生成器1.3日志分发器1.4采集流脚本二、实时采集2.1项目搭建2.2
Kafka
数据获取2.3Redis数据去重2.4ES数据存储2.5精准一次性消费2.6Kibana
L小Ray想有腮
·
2023-12-26 18:53
BigData
【Java】SpringBoot快速整合
Kafka
目录1.什么是
Kafka
?主要特点和概念:主要组成部分:2.
Kafka
可以用来做什么?
MXin5
·
2023-12-26 18:32
Java
java
spring
boot
kafka
【Flink-
Kafka
-To-Mongo】使用 Flink 实现
Kafka
数据写入 Mongo(根据对应操作类型进行增、删、改操作,写入时对时间类型字段进行单独处理)
【Flink-
Kafka
-To-Mongo】使用Flink实现
Kafka
数据写入Mongo(根据对应操作类型进行增、删、改操作)1)导入依赖2)resources2.1.appconfig.yml2.2
bmyyyyyy
·
2023-12-26 17:15
Flink
flink
kafka
mongodb
#kafka2mongo
【Flink-
Kafka
-To-Mysql】使用 Flink 实现
Kafka
数据写入 Mysql(根据对应操作类型进行增、删、改操作)
【Flink-
Kafka
-To-Mysql】使用Flink实现
Kafka
数据写入Mysql(根据对应操作类型进行增、删、改操作)1)导入依赖2)resources2.1.appconfig.yml2.2
bmyyyyyy
·
2023-12-26 17:08
Flink
flink
kafka
mysql
#kafka2mysql
kafka
发送大消息
1
kafka
消息压缩
kafka
关于消息压缩的定义(来源于官网):此为
Kafka
中端到端的块压缩功能。如果启用,数据将由producer压缩,以压缩格式写入服务器,并由consumer解压缩。
SeaDhdhdhdhdh
·
2023-12-26 16:54
kafka
kafka
常见的锁和zookeeper
以后,本来想入门一下
Kafka
的(装一下环境、看看
Kafka
一些概念啥的)。后来发现
Kafka
用到了ZooKeeper,而我又对ZooK
99WOODYXIN
·
2023-12-26 14:14
java-zookeeper
zookeeper
kafka
kafka
安装部署
1、
Kafka
概述1.1.
Kafka
简介Apache
Kafka
是一个开源
消息系统
、一个开源分布式流平台,由Scala写成。是由Apache软件基金会开发的一个开源
消息系统
项目。
Guff_hys
·
2023-12-26 14:00
kafka
分布式
spark
后端
大数据
开发语言
Kafka
Consumer
1.消费者和消费组消费者(Consumer)负责订阅
Kafka
中的主题(Topic),并且从订阅的主题上拉取消息。消费者并非逻辑上的概念,它是实际的应用实例,它可以是一个钱程,也可以是一个进程。
向梦而来
·
2023-12-26 14:59
Kafka
到底会不会丢消息
目录1、
kafka
是什么一种高吞吐量的分布式、发布订阅
消息系统
,它可以处理消费者规模的,网站中的所有动作流数据,具有高性能、持久化、多副本备份、横向扩展能力……以时间复杂度为O(1)的方式提供消息持久化能力
_心碎乌托邦_
·
2023-12-26 11:47
kafka
面试
1
kafka
可以脱离zookeeper单独使用吗?为什么?
Kafka
从版本0.10.1.0开始支持在某些场景下脱离对Zookeeper的依赖,引入了基于Raft协议的
Kafka
Controller。
shumeigang
·
2023-12-26 10:58
kafka
kafka
面试
分布式
【Flink-
Kafka
-To-
Kafka
】使用 Flink 实现
Kafka
数据写入
Kafka
【Flink-
Kafka
-To-
Kafka
】使用Flink实现
Kafka
数据写入
Kafka
1)导入依赖2)代码实现2.1.resources2.1.1.appconfig.yml2.1.2.log4j.properties2.1.3
bmyyyyyy
·
2023-12-26 07:59
Flink
flink
kafka
#kafka2kafka
Flink电商实时数仓(六)
交易域支付成功事务事实表从topic_db业务数据中筛选支付成功的数据从dwd_trade_order_detail主题中读取订单事实数据、LookUp字典表关联三张表形成支付成功宽表写入
Kafka
支付成功主题执行步骤设置
十七✧ᐦ̤
·
2023-12-26 07:25
flink
数据库
java
Windows下安装单机
Kafka
环境及配置SASL身份认证
0安装JDKzookeeper和
kafka
都是java开发的,所以安装前先安装1.8版本以上的jdk,并设置环境变量JAVA_HOME=d:\env\Java\jdk1.8.0_141安装Zookeeper1.1ApacheZooKeeper
qq_34324703
·
2023-12-26 05:18
java
kafka
zookeeper
【
Kafka
】
Kafka
客户端认证失败:Cluster authorization failed.
背景
kafka
客户端是公司内部基于spring-
kafka
封装的spring-boot版本:3.xspring-
kafka
版本:2.1.11.RELEASE集群认证方式:SASL_PLAINTEXT/SCRAM-SHA
喝不完一杯咖啡
·
2023-12-26 03:24
Kafka
kafka
分布式
SASL认证
spring-kafka
Kafka
基础—4、
Kafka
Streams &
Kafka
Connect
Kafka
知识库-索引目录一、
Kafka
Streams1、
Kafka
Streams简介
Kafka
Streams是Apache
Kafka
提供的一个用于处理实时数据流的库。
风不归Alkaid
·
2023-12-26 02:29
Kafka
kafka
分布式
Kafka
Log4jAppender
Kafka
Log4jAppender是Log4j的一个扩展,它可以将日志信息发送到Apache
Kafka
。
cong_han
·
2023-12-26 02:11
大数据
kafka
log4j
DelayQueue和时间轮
www.jianshu.com/p/e0bcc9eae0aehttps://blog.csdn.net/dkfajsldfsdfsd/article/details/88966814时间轮,基于槽的DelayQueue;
kafka
NazgulSun
·
2023-12-26 00:04
Kafka
日志文件存储
日志文件
kafka
在server.properties配置文件中通过log.dir属性指定了
Kafka
的日志存储路径核心文件1.log文件实际存储消息的日志文件,大小固定1G(参数log.segment.bytes
kk_0910
·
2023-12-25 23:09
kafka
阿里资深架构师整理春招最新面试题汇总:208页核心体系
、MyBatis、ZooKeeper、Dubbo、Elasticsearch、Memcached、Redis、MySQL、Spring、SpringBoot、SpringCloud、RabbitMQ、
Kafka
写代码的珏秒秒
·
2023-12-25 23:34
java
面试
开发语言
分布式
跳槽
rocketmq
Kafka
、RabbitMQ以及RocketMQ的调研对
我的心上人骑着七彩祥云会掉
·
2023-12-25 23:19
面试
RocketMQ 简单原理
但是,如今例如RocketMQ、
Kafka
这些优秀的消息中间件不仅仅是通过一个队列来实现消息存储的。队列模型就像我们理解队列一样,消息中间件的队列模型就真的只是一个队列(类似blockQueue?)
球磨川禊
·
2023-12-25 23:49
rocketmq
kafka
队列
分布式
中间件
消息队列
Kafka
生产环境问题总结与性能优化实践
Kafka
可视化管理工具
kafka
-manager安装及基本使用可参考:httos://wwwcnbloas.com/dadonaaa/o/8205302.html线上环境规划1.消息丢失情况:消
光芒软件工匠
·
2023-12-25 21:26
kafka
数据库
分布式
RocketMQ高级原理:深入剖析
消息系统
的核心机制
一、基础概念:1.消息模型RocketMQ基于Producer、Broker、Consumer三部分构建。其中,Producer负责生成消息,Consumer处理消息,而Broker则承担消息存储的角色。Broker服务器可以存储多个Topic的消息,并支持消息在不同Broker间的分片存储。此外,ConsumerGroup由多个Consumer实例构成,以实现高效的消息处理。2.消息生产者(Pr
光芒软件工匠
·
2023-12-25 21:24
java
中间件
开发语言
分布式系统
rocketmq
Kafka
、RocketMQ、RabbitMQ消息丢失可能存在的地方,以及解决方案
这里主要对比:
Kafka
、RocketMQ、RabbitMQ介绍一下消息生产、存储、消费三者的架构形式。
程序员中的吴彦祖
·
2023-12-25 17:30
kafka
rocketmq
rabbitmq
消息队列消息丢失
MQ丢失消息
mq
大白话带你认识
Kafka
前言
Kafka
是我在疫情期间在游戏之余学的。虽然之前用过ActiveMQ和RabbitMQ,但是在
Kafka
这门技术面前我也算是一个初学者。文章中若有说法有点完善或者不准确的地方敬请指出。
Guide哥
·
2023-12-25 14:25
SpringBoot整合
Kafka
现在大多数公司都是使用SpringBoot技术,所以使用SpringBoot整合
Kafka
是比较重要的。接下来我们就来使用SpringBoot整合
Kafka
。
萧 炎
·
2023-12-25 14:12
#
kafka
java
spring
boot
Kafka
设计原理详解
Kafka
核心总控制器(Controller)在
Kafka
集群中,通常会有一个或多个broker,其中一个会被选举为控制器(
Kafka
Controller),其主要职责是管理整个集群中所有分区和副本的状态
光芒软件工匠
·
2023-12-25 14:42
kafka
debian
分布式
Kafka
入门及可视化界面推荐
Kafka
官方文档:https://
kafka
.apache.org/documentation/
Kafka
中文文档-ApacheCN快速开始vimconfig/server.propertieslog.dirs
沉梦听雨.
·
2023-12-25 14:10
微服务生态
kafka
分布式
Kafka
生产问题总结及性能优化实践
Kafka
可视化管理工具
kafka
-manager安装及基本使用可参考:https://www.cnblogs.com/dadonggg/p/8205302.html
Kafka
可视化管理工具kafdorp
Memory_2020
·
2023-12-25 12:26
kafka
性能优化
分布式
Kafka
操作指令笔记
/
kafka
-consumer-groups.sh--bootstrap-server{
kafka
集群地址}--describe--group{消费组名称}bin/
kafka
-consumer-groups.sh
是二狗诶
·
2023-12-25 12:22
linux
笔记
kafka
笔记
flink 读取
kafka
数据写入mysql
创建flink环境:StreamExecutionEnvironmentenv=StreamExecutionEnvironment.getExecutionEnvironment();env.setParallelism(1);EnvironmentSettingsbuild=EnvironmentSettings.newInstance().useBlinkPlanner().inStream
赤土 炙焱
·
2023-12-25 12:20
flink
kafka
mysql
Kafka
下沉到HDFS报错
错误信息24十二月202312:38:25,127INFO[SinkRunner-PollingRunner-DefaultSinkProcessor](org.apache.flume.sink.hdfs.HDFSCompressedDataStream.configure:64)-Serializer=TEXT,UseRawLocalFileSystem=false24十二月202312:38
Stephen6Yang
·
2023-12-25 07:12
hadoop
kafka
hdfs
Kafka
高效读数据
https://blog.csdn.net/qq_33342248/article/details/107901838
不可一世的绵羊
·
2023-12-25 07:07
安装Hadoop 3.3.5
Hadoop架构设计论述
kafka
依赖Zookeeper管理自身集群(Broker、Offset、Producer、Consumer等),所以先要安装Zookeeper。
IT WorryFree
·
2023-12-25 06:03
hadoop
大数据
分布式
6.Redis发布订阅(Redis Pub/Sub)
6.Redis发布订阅(RedisPub/Sub)专业的事情你就交给专业的人做,MQ、RabbitMQ、
Kafka
人就是专门做消息队列的,Redis还来掺乎一脚。是什么?
凇:)
·
2023-12-25 06:11
Redis
java
redis
【Flink】 Flink实时读取mysql数据
准备你需要将这两个依赖添加到pom.xml中mysqlmysql-connector-java8.0.0读取
kafka
数据这里我依旧用的以前的student类,自己本地起了
kafka
然后造一些测试数据,
奔向理想的星辰大海
·
2023-12-25 05:58
大数据
云原生
flink
mysql
linq
Linux虚拟机、JDK、zookeeper、
Kafka
的安装
我注意到zookeeper和
kafka
的视频教程总是跳过了环境配置这个地方,自己去安装虚拟机遇上一些坑,浪费很多时间,因此写一篇从虚拟机安装-jdk安装-zk安装-kfk安装的流程化教程。
PuppyCoding
·
2023-12-25 04:26
Java
java
zookeeper
kafka
[Suricata]结果写入
kafka
目前是公司正在搞得项目,所以只说思路,具体代码就不贴了修改配置中的写出类型suricata.yaml配置中,修改eve.json的filetype为
kafka
,并在下面新增几个配置传入
kafka
的broker
LzSkyline
·
2023-12-25 03:41
kafka
-安装与简单使用-01
一、基础概念
Kafka
是什么
Kafka
是一个分布式流数据系统,使用Zookeeper进行集群的管理。
伍六七_ba5e
·
2023-12-25 02:27
【Linux系统基础】(2)在Linux上部署MySQL、RabbitMQ、ElasticSearch、Zookeeper、
Kafka
、NoSQL等各类软件
实战章节:在Linux上部署各类软件前言为什么学习各类软件在Linux上的部署在前面,我们学习了许多的Linux命令和高级技巧,这些知识点比较零散,同学们跟随着课程的内容进行练习虽然可以基础掌握这些命令和技巧的使用,但是并没有一些具体的实操能够串联起来这些知识点。所以,现在我们设计了各类软件在Linux上部署安装的实战章节,可以让同学们:对前面学习的各类操作命令进行复习和练习,从而深度掌握它们本章
老牛源码
·
2023-12-25 01:38
Linux教程
linux
运维
服务器
上一页
30
31
32
33
34
35
36
37
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他