E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
Kafka权威指南
kafka
的零拷贝原理
文章目录
kafka
的零拷贝原理今天来跟大家聊聊
kafka
的零拷贝原理是什么?
皮皮攻城狮
·
2023-12-31 16:19
kafka
kafka
分布式
Redis经典五大类型源码及底层实现(二)
作者简介:大家好,我是爱吃芝士的土豆倪,24届校招生Java选手,很高兴认识大家系列专栏:Spring源码、JUC源码、
Kafka
原理、分布式技术原理、数据库技术如果感觉博主的文章还不错的话,请三连支持一下博主哦博主正在努力完成
爱吃芝士的土豆倪
·
2023-12-31 11:38
数据库技术
redis
数据库
缓存
Flink 内容分享(十六):Flink中的容错机制
1.2状态一致性1.2.1一致性的概念和级别1.2.2端到端的状态一致性1.3端到端精确一次(end-to-endexactly-once)1.3.1输入端保证1.3.2输出端保证1.3.3Flink和
Kafka
之乎者也·
·
2023-12-31 11:50
Flink
内容分享
大数据(Hadoop)内容分享
flink
大数据
支付MQ消费场景改造
前言:这是一个MQ消费程序的业务优化改造场景,我们支付服务的消费方,主要功能是根据规则过滤一些消息,继而处理剩下的消息消息来源:框架监听binlog后向
kafka
中写入消息(只监听新增)背景:现有一个topicA
北i
·
2023-12-31 10:31
java
rocketmq
kafka
Kafka
集群详解
Kafka
介绍
Kafka
集群介绍
Kafka
集群特点
Kafka
集群搭建在这里插入图片描述
Kafka
集群如何进行故障切换
Kafka
集群Leader的选举
Kafka
集群如何快速横向拓展
Kafka
集群搭建最佳实践
有梦想的攻城狮
·
2023-12-31 10:00
架构设计
kafka
kafka集群
kafka
-python简单生产消费数据
kafka
-python使用手册
kafka
-python1.生产者同步发送数据#生产者同步发送数据from
kafka
import
Kafka
Producerfrom
kafka
.errorsimport
Kafka
Errorproducer
高过蓝天的云
·
2023-12-31 08:12
kafka
python
分布式
Redis经典五大类型源码及底层实现(一)
作者简介:大家好,我是爱吃芝士的土豆倪,24届校招生Java选手,很高兴认识大家系列专栏:Spring源码、JUC源码、
Kafka
原理、分布式技术原理、数据库技术如果感觉博主的文章还不错的话,请三连支持一下博主哦博主正在努力完成
爱吃芝士的土豆倪
·
2023-12-31 08:11
数据库技术
redis
数据库
缓存
Canal的学习
Canal基本概念整合SpringBoot基本概念Canal是一个基于MySQL数据库增量日志解析,提供增量数据订阅和消费,支持将增量数据投递到下游消费者(如
Kafka
、RocketMQ等)或者存储(如
kk变色龙13
·
2023-12-31 08:08
android
微服务
rabbitmq
java
SpringAMQP的使用方式
比较常见的MQ实现:ActiveMQRabbitMQRocketMQ
Kafka
几种常见MQ的对比:RabbitMQActiveMQRocketMQ
Kafka
公司/社区RabbitApache阿里Apache
Winter.169
·
2023-12-31 07:51
微服务
rabbitmq
Spark编程实验四:Spark Streaming编程
目录一、目的与要求二、实验内容三、实验步骤1、利用SparkStreaming对三种类型的基本数据源的数据进行处理2、利用SparkStreaming对
Kafka
高级数据源的数据进行处理3、完成DStream
Francek Chen
·
2023-12-31 06:24
Spark编程基础
spark
大数据
分布式
Spark
Streaming
kafka
(基础)
kafka
优点:1.解耦:原本单一的处理过程一拆为二,相当于你可以独立扩展和修改(遵循同样的接口约束)2.可恢复性:即使消息进程挂了,仍可在系统恢复后被处理3.缓冲:可以理解为生产消息的速度和消费速度不一致
斯莫奇
·
2023-12-31 05:42
java
java
kafka
分布式消息队列RocketMQ&
Kafka
-- 消息的“顺序消费”-- 一个看似简单的复杂问题
但实际情况却是:无论RocketMQ,还是
Kafka
,缺省都不保证消息的严格有序消费!这个特性看起来很简单,但为什么缺省他们都不保证呢?
秋名山车神_f776
·
2023-12-31 05:59
kafka
.zookeeper.ZooKeeperClientTimeoutException: Timed out waiting for connection while in state
kafka
.zookeeper.ZooKeeperClientTimeoutException:Timedoutwaitingforconnectionwhileinstate:CONNECTING
spencer_tseng
·
2023-12-31 04:46
tomcat
微服务网关选型和实践:Zuul、Spring Cloud GetWay、Kong和Traefik
2年经验总结,告诉你如何做好项目管理Java全套学习资料(14W字),耗时半年整理我肝了三个月,为你写出了GO核心手册消息队列原理和选型:RabbitMQ、
Kafka
、RocketMQ和ActiveMQ
楼仔
·
2023-12-31 04:11
微服务
java
microservices
k3s安装
kafka
集群管理工具eagle
Kafka
Eagle(
kafka
-eagle.org)smartloli/
kafka
-eagle:Aeasyandhigh-performancemonitoringsystem,forcomprehensivemonitoringandmanagementof
kafka
cluster
9e8aeff1c70c
·
2023-12-31 04:02
Kafka
相关面试题知识点总结
1、请说明什么是Apache
Kafka
?Apache
Kafka
是由Apache开发的一种发布订阅消息系统,它是一个分布式的、分区的和可复制的提交日志服务。2、说说
Kafka
的使用场景?
姜汁撞可乐
·
2023-12-31 01:27
最全java面试题及答案(208道)
容器、多线程、反射、对象拷贝、JavaWeb、异常、网络、设计模式、Spring/SpringMVC、SpringBoot/SpringCloud、Hibernate、MyBatis、RabbitMQ、
Kafka
Java烟雨
·
2023-12-31 00:06
java
面试
后端
java
jvm
面试
经验分享
spring
Flink 内容分享(九):Flink生产环境相关问题
目录1.Flink+
Kafka
保证精确一次消费相关问题?2.你们的Flink怎么提交的?使用的per-job模式吗?3.了解过Flink的两阶段提交策略吗?讲讲详细过程。如果第一阶段宕机了会怎么办?
之乎者也·
·
2023-12-30 22:00
Flink
内容分享
大数据(Hadoop)内容分享
flink
华为ICT大赛 2022-2023 中国区 实践赛总决赛--云赛道(本科赛道)理论部分真题
大数据模块(共4题):1、
Kafka
集群现已被多家不同公司作为多种类型的实时数据管道和实时消息系统使用。以下关于
Kafka
的描述,正确的是哪些项?
gaogao_jack
·
2023-12-30 22:50
华为ICT
大数据
华为云
华为
云计算
人工智能
Kafka
、ActiveMQ、RabbitMQ、RocketMQ 都有什么区别,以及适合哪些场景?
一、概述一个产品的出现,通常都有其优缺点,辩证看待,方可明白其适合的应用场景。二、消息队列的优缺点消息队列的优点:前面已经讲述了消息队列的优点,请看文章“为什么要使用消息队列”。消息队列的缺点:系统可用性降低:记得之前大学无偿献血的时候,献血后爱心站会用无偿献血者爱心礼包,其中就包含一个工具盒,里面包含日常家用维修的各种工具,这个工具的可用性很好。如果其中一个工具使用坏了,还可以继续用其他很多的工
善思者_tin
·
2023-12-30 21:27
亚马逊云科技Amazon MSK基于S3云服务器实现导出导入、备份还原、迁移方案
亚马逊云科技AmazonMSK是Amazon云平台提供的托管
Kafka
服务。
Zaker科技
·
2023-12-30 21:53
科技
服务器
运维
Centos安装
Kafka
(KRaft模式)
1.KRaft引入
Kafka
是一种高吞吐量的分布式发布订阅消息系统,它可以处理消费者在网站中的所有动作流数据。
高过蓝天的云
·
2023-12-30 14:45
centos
kafka
linux
基于win10搭建
Kafka
+Zookeeper+
Kafka
Manager+集成SpringBoot实现(一)
基于win10搭建
kafka
_2.13-2.8.0+Zookeeper3.7.0+
Kafka
Manager1.3.3.7+集成SpringBoot实现
Shawn_F
·
2023-12-30 12:10
Flink实时电商数仓(九)
用户注册汇总表需求分析统计各窗口的注册用户数,写入Doris思路分析读取
kafka
用户注册主题数据转换数据结构string->JSONObject->javaBean使用user_info表中的数据代表用户注册设置水位线开窗聚合写入
十七✧ᐦ̤
·
2023-12-30 11:16
flink
大数据
kafka
实现延迟消息
背景我们知道消息中间件mq是支持延迟消息的发送功能的,但是
kafka
不支持这种直接的用法,所以我们需要独立实现这个功能,以下是在
kafka
中实现消息延时投递功能的一种方案
kafka
实现延时消息主要的思路是增加一个检测服务
lixia0417mul2
·
2023-12-30 11:45
kafka
kafka
分布式
python获取钉钉日志数据_python实现对
kafka
中日志数据监控报告(钉钉)
该脚本是作统计fromdatetimeimportdatetime,timedeltaimportosfromdingtalkchatbot.chatbotimportDingtalkChatbotfrom
kafka
import
Kafka
Consumerimportre
weixin_39631445
·
2023-12-30 10:40
python获取钉钉日志数据
RedLock算法和底层源码分析
作者简介:大家好,我是爱吃芝士的土豆倪,24届校招生Java选手,很高兴认识大家系列专栏:Spring源码、JUC源码、
Kafka
原理、分布式技术原理、数据库技术如果感觉博主的文章还不错的话,请三连支持一下博主哦博主正在努力完成
爱吃芝士的土豆倪
·
2023-12-30 09:09
数据库技术
redis
数据库
缓存
分布式
腾讯经典面试题-如何做一个迷你版的微信抢红包呢?
作者简介:大家好,我是爱吃芝士的土豆倪,24届校招生Java选手,很高兴认识大家系列专栏:Spring源码、JUC源码、
Kafka
原理、分布式技术原理、数据库技术如果感觉博主的文章还不错的话,请三连支持一下博主哦博主正在努力完成
爱吃芝士的土豆倪
·
2023-12-30 09:09
数据库技术
微信
redis
缓存
Redis的缓存过期淘汰策略
作者简介:大家好,我是爱吃芝士的土豆倪,24届校招生Java选手,很高兴认识大家系列专栏:Spring源码、JUC源码、
Kafka
原理、分布式技术原理、数据库技术如果感觉博主的文章还不错的话,请三连支持一下博主哦博主正在努力完成
爱吃芝士的土豆倪
·
2023-12-30 09:38
数据库技术
缓存
redis
数据库
初识linux
作者简介:大家好,我是爱吃芝士的土豆倪,24届校招生Java选手,很高兴认识大家系列专栏:Spring源码、JUC源码、
Kafka
原理、分布式技术原理、数据库技术如果感觉博主的文章还不错的话,请三连支持一下博主哦博主正在努力完成
爱吃芝士的土豆倪
·
2023-12-30 09:37
运维
linux
服务器
Flink实时电商数仓(八)
用户域登录各窗口汇总表主要任务:从
kafka
页面日志主题读取数据,统计七日回流用户:之前活跃的用户,有一段时间不活跃了,之后又开始活跃,称为回流用户当日独立用户数:同一个用户当天重复登录,只算作一个独立用户
十七✧ᐦ̤
·
2023-12-30 09:55
flink
linq
数据库
Docker搭建
kafka
集群
Docker搭建
kafka
集群
kafka
概念broker:消息中间件处理节点,一个broker就是一个
kafka
节点,一个或者多个broker就组成了一个
kafka
集群topic:
kafka
根据topic
whhwch1986
·
2023-12-30 09:11
大数据
docker
kafka
容器
记录一次云服务器使用docker搭建
kafka
的过程
创建网络一定要将zookeeper注册中心与
kafka
建在一个network中,不然在springboot集成kakfa的demo测试代码中进行消息发送时会超时,报错:Exceptionthrownwhensendingamessagewithkey
ZYNORL
·
2023-12-30 09:32
java
docker
kafka
容器
zoo
zookeeper
java
spring
boot
NAST概述
不同于Java社区的
kafka
,nats偏于redis式的消息中间件,不不像
Kafka
式的可以持久化。NATS原来是使用Ruby编写,可以实现每秒150k消息,后来使用Go语言重
背帆
·
2023-12-30 08:52
大数据
云原生
中间件
后端
分布式
私有部署ELK,搭建自己的日志中心(六)-- 引入
kafka
对采集日志进行削峰填谷
一、背景首先,要说明一点,elk日志中心,是可以缺少
kafka
组件的。其次,如果是研发环境下,机器资源紧张的情况下,也是可不部署
kafka
。
天草二十六_简村人
·
2023-12-30 06:04
elk
kafka
分布式
java
logback
运维
flink 消费
Kafka
空指针问题
flink消费
Kafka
空指针问题error:2021-12-0210:51:55,644WARNorg.apache.flink.runtime.taskmanager.Task[]-Source:CustomSource
青涩的芒果汁
·
2023-12-30 06:30
技术分享
个人笔记
kafka
flink
apache
大数据技术之Debezium
Debezium依赖于
kafka
上,所以在安装Debezium时需要提前安装好Zookeeper,
Kafka
,以及KakfaConnect。
青涩的芒果汁
·
2023-12-30 06:30
技术分享
Kafka
常用消费者命令
bin/
kafka
-console-consumer.sh--bootstrap-serverxxx05:9092--topicxxx_mongo.xxx2021--from-beginningbin/
青涩的芒果汁
·
2023-12-30 06:00
个人笔记
kafka
分布式
zookeeper
ELK-Nginx+logstash-kafa-logstash-elasticsearch
把Nginx的日志由logstash收集在写到kafa在由logstash抽出给elaticsearch一配置logstash写入
kafka
[root@linux-node3~]#cd/etc/logstash
zhao34yan1
·
2023-12-30 05:11
ELK
elasticsearch
kafka
spring 运行时替换 单例bean 实现
前言
kafka
、redis这些中间件可能会出现超时,这时候我们可能会需要修改他们的链接地址,此时就需要动态替换这些bean思路首先要知道这bean是怎么放到spring容器中的,是放在哪里的?
帆影匆匆
·
2023-12-30 05:38
spring
boot
spring
java
linux查询
kafka
日志,利用Rsyslog进行日志收集到
Kafka
项目需要将日志收集起来做存储分析,数据的流向为rsyslog(收集)->
kafka
(消息队列)->logstash(清理)->es、hdfs;今天我们先将如何利用rsyslog进行日志收集到
kafka
。
李玉北
·
2023-12-30 05:37
linux查询kafka日志
rsyslog对接
kafka
对于日志收集统计分析方案现在主流的有ELKredis
kafka
flume+大数据平台,ELK我们以后再介绍,这里先简单介绍下rsyslog对接
kafka
kafka
中的术语Broker
Kafka
集群包含一个或多个服务器
weixin_33690963
·
2023-12-30 05:37
大数据
python
运维
ELK+
kafka
集群实战
ELK+
Kafka
集群前言前言业务层可以直接写入到
kafka
队列中,不用担心elasticsearch的写入效率问题。
ALAVVY
·
2023-12-30 05:36
linux
企业日志大数据分析系统ELK+
KAFKA
实现【转】
但是只用了一台Redis在中间作为消息队列,以减轻前端es集群的压力,Redis的集群解决方案暂时没有接触过,并且Redis作为消息队列并不是它的强项;所以最近将Redis换成了专业的消息信息发布订阅系统
Kafka
weixin_30449453
·
2023-12-30 05:36
java
运维
git
ELK+Filebeat+
Kafka
搭建Oracle数据库日志平台
数据流向结构图2注意:需要JDK支持安装配置Filebeat收集日志文件2.1安装配置#解压tar-xffilebeat-*-linux-x86_64.tar.gz-C/ups/app/elasticcd/ups/app/elasticln-sfilebeat-*filebeat2.2配置数据采集conf文件filebeat.inputs:-type:logenabled:truepaths:-/
木子87
·
2023-12-30 05:06
linux
nginx
运维
nginx 日志用rsyslog-
kafka
发送
rsyslogv8.7.0才可以支持
kafka
centos7直接安装rsyslog-
kafka
yum-yinstallrsyslog-
kafka
如果centos6就比较麻烦不能直接用yum来升级rsyslog
jacketyding
·
2023-12-30 05:04
elk
日志收集之rsyslog
kafka
配置
source=drahttps://www.jianshu.com/p/8384f6cd0f22背景:最近项目需要上监控,经过规划决定用:rsyslog/telegraf+
kafka
+influxdb+
郎帅
·
2023-12-30 05:03
日志监控
万字长文利用ELK+
kafka
分析Nginx日志生产实战(高清多图)
一、服务介绍1.1、ELKELK是三个开源软件的缩写,分别表示:Elasticsearch,Logstash,Kibana,它们都是开源软件。新增了一个FileBeat,它是一个轻量级的日志收集处理工具(Agent),Filebeat占用资源少,适合于在各个服务器上搜集日志后传输给Logstash,官方也推荐此工具。Elasticsearch是个开源分布式搜索引擎,提供搜集、分析、存储数据三大功能
Richardlygo
·
2023-12-30 05:02
日志分析平台
elk
kafka
nginx
基于Rsyslog+
Kafka
+Flink+Clickhouse的高性能日志采集、分析、汇聚存储方法
在上一篇博文中介绍了简单的实用负载均衡与实时监控方案(tengine+rsyslog+goaccess),功能上是满足日常需要的。但是用户的需求是没有止境的,更何况我们做技术的都有一颗追求极致的心。在实际场景中客户需要了解平台整体UV、PV,各功能模块PV、UV,区域PV、UV,各手机型号、应用版本的使用情况,平台使用的趋势分析,功能模块的热度分析等指标。用户端精确埋点和基于Haddop的大数据采
IT 行者
·
2023-12-30 05:02
理论与实践
微服务
负载均衡
运维
nginx+rsyslog+
kafka
+clickhouse+grafana 实现nginx 网关监控
需求我想做一个类似腾讯云网关日志最终以仪表方式呈现,比如说qps、p99、p95的请求响应时间等等流程图数据流转就像标题nginx---->rsyslog---->
kafka
—>clickhouse—>
帆影匆匆
·
2023-12-30 05:59
nginx
kafka
clickhouse
上一页
28
29
30
31
32
33
34
35
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他