E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
中间件-Kafka
Flink生产环境相关问题
1.Flink+
Kafka
保证精确一次消费相关问题?Fink的检查点和恢复机制和可以重置读位置的source连接器结合使用,比如
kafka
,可以保证应用程序不会丢失数据。
大数据左右手
·
2024-01-27 08:09
Flink
面试
flink
消息
中间件
介绍
一:消息队列的主要作用是什么?1.消息队列的特性:业务无关,一个具有普适性质的消息队列组件不需要考虑上层的业务模型,只做好消息的分发就可以了,上层业务的不同模块反而需要依赖消息队列所定义的规范进行通信。FIFO,先投递先到达的保证是一个消息队列和一个buffer的本质区别。容灾,对于普适的消息队列组件来说,节点的动态增删和消息的持久化,都是支持其容灾能力的重要基本特性。性能,这个不必多说了,消息队
xmh-sxh-1314
·
2024-01-27 08:09
java
JVM系列-8.GC调优
作者简介:大家好,我是爱吃芝士的土豆倪,24届校招生Java选手,很高兴认识大家系列专栏:Spring原理、JUC原理、
Kafka
原理、分布式技术原理、数据库技术、JVM原理如果感觉博主的文章还不错的话
爱吃芝士的土豆倪
·
2024-01-27 08:06
JVM
jvm
java
开发语言
JVM系列-7内存调优
作者简介:大家好,我是爱吃芝士的土豆倪,24届校招生Java选手,很高兴认识大家系列专栏:Spring原理、JUC原理、
Kafka
原理、分布式技术原理、数据库技术、JVM原理如果感觉博主的文章还不错的话
爱吃芝士的土豆倪
·
2024-01-27 08:32
JVM
jvm
java
开发语言
0806-
Kafka
异地复制
Kafka
异地同步:Mirror-Maker(消费者+生产者)原理大概是启动consumer消费南京的topicmessage,发送到重庆的
kafka
集群。
红苹果_小米粒
·
2024-01-27 08:04
django对称加密算法
中间件
在Django中,
中间件
可以用来处理请求和响应的全局生命周期。如果你想要创建一个
中间件
来加密响应数据以便前端接收,你需要实现process_response方法。
win_zcj
·
2024-01-27 08:35
python
Django
django
中间件
状态模式
强!分库分表与分布式数据库技术选项分析
最近经常被问到分库分表与分布式数据库如何选择,网上也有很多关于
中间件
+传统关系数据库(分库分表)与NewSQL分布式数据库的文章,但有些观点与判断是我觉得是偏激的,脱离环境去评价方案好坏其实有失公允。
zl1zl2zl3
·
2024-01-27 07:04
数据库
分布式
分库分表
数据库
分库分表
分布式
rabbitmq的六种工作模式
RabbitMQ是一种流行的消息队列
中间件
,它支持多种工作模式来满足不同的消息通信需求。
111自由人
·
2024-01-27 07:38
rabbitmq
分布式
大数据技术之 Flink-CDC
核心思想是,监测并捕获数据库的变动(包括数据或数据表的插入、更新以及删除等),将这些变更按发生的顺序完整记录下来,写入到消息
中间件
中以供其他服务进行订阅及消费。
莱恩大数据
·
2024-01-27 07:35
大数据训练营
flink
大数据
big
data
rabbitmq基础
rabbitmq基础概念众所周知,rabbitmq是一个非常热门的消息队列
中间件
。
被代码耽误的段子手
·
2024-01-27 07:21
mq
java-rabbitmq
rabbitmq
java
RabbitMq基础详解
它是应用层协议的一个开放标准,为面向消息的
中间件
设计,基于此协议的客户端与消息
中间件
可传递消息,并不受产品、开发语言等条件的限制。
小醉你真好
·
2024-01-27 07:19
rabbitmq
Flink 集成 Debezium Confluent Avro ( format=debezium-avro-confluent )
本文介绍的场景是:使用
Kafka
Connect的DebeziumMySQLSourc
Laurence
·
2024-01-27 06:54
大数据专题
付费专栏
flink
cdc
debezium
avro
confluent
schema-registry
kafka
37.Java连接
Kafka
37.1实验环境Intellij已安装且正常运行Maven环境正常RedHat7.2CM和CDH版本为5.11.2
Kafka
2.2.0-0.10.2创建topic,test3有3个replication
大勇任卷舒
·
2024-01-27 06:40
Redis基础
Redis是互联网技术领域使用最为广泛的存储
中间件
,它是「**Re**mote**Di**ctionary**S**ervice」的首字母缩写,也就是「远程字典服务」。
君子善假于物也
·
2024-01-27 05:27
redis
数据库
缓存
java
spring
boot
RocketMQ-同城双活-高可用架构-同程旅行
背景介绍为何选择RocketMQ我们在几年前决定引入MQ时,市场上已经有不少成熟的解决方案,比如RabbitMQ,ActiveMQ,NSQ,
Kafka
等。
无心六神通
·
2024-01-27 04:59
RocketMQ
rocketmq
架构
同城双活
高可用
【代码随想录-数组】二分查找
推荐:kwan的首页,持续学习,不断总结,共同进步,活到老学到老导航檀越剑指大厂系列:全面总结java核心技术点,如集合,jvm,并发编程redis,
kafka
,Spring,微服务,Netty等常用开发工具系列
檀越剑指大厂
·
2024-01-27 04:58
s6
算法与数据结构
java
Kafka
3.0源码学习
内存池3、sender线程发送数据二、消费者源码1、初始化2、消费者订阅主题3、消费者拉取和处理数据3.1消费总体流程3.2消费者/消费者组初始化3.3拉取数据3.4消费者Offset提交三、服务端源码
kafka
魅Lemon
·
2024-01-27 04:25
大数据
kafka
Erp读书笔记20240125-2
一,技术概念EAI(EnterpriseApplicationIntegration,企业应用集成)
中间件
技术是一种用于连接和集成不同企业应用系统的软件技术。
ISDF-工软未来
·
2024-01-27 04:54
学习
EHOME协议在低功耗场景下使用介绍
LiveMedia视频
中间件
简介LiveMedia视频
中间件
是厚航科技专为安防视频监控行业打造的一套基于H5技术开发的视频基础产品。
hzhouhangkeji
·
2024-01-27 04:08
视频
音视频
【代码随想录-数组】有序数组的平方
推荐:kwan的首页,持续学习,不断总结,共同进步,活到老学到老导航檀越剑指大厂系列:全面总结java核心技术点,如集合,jvm,并发编程redis,
kafka
,Spring,微服务,Netty等常用开发工具系列
檀越剑指大厂
·
2024-01-27 03:24
s6
算法与数据结构
java
信息安全认证首选CISP-PTE
2️⃣知识全面:涵盖Web安全、
中间件
安全、操作系统安全和数据库安全等多个领域,确保学员掌握全面的信息安全知识。3
IT课程顾问
·
2024-01-27 03:44
CISP
安全架构
数据分析
服务器
python
java
安全性测试
安全威胁分析
实时分析海量新数据的难点 和解决方案
解决方案:使用分布式计算和存储技术,如Hadoop、Spark、
Kafka
等,将数据分散存储在多个节点上,同时进行分布式计算和处理,以实现数据的实时处理和分析。2.数据质量的保障:海量新
云台095
·
2024-01-27 03:40
大数据的应用
大数据
day33WEB 攻防-通用漏洞&文件上传&
中间件
解析漏洞&编辑器安全
目录一,
中间件
文件解析漏洞-IIS&Apache&Nginx-IIS67文件名目录名-Apache换行解析配置不当1、换行解析-CVE-2017-157152、配置不当-.htaccess配置不当-Nginx
aozhan001
·
2024-01-27 01:40
中间件
安全
day 32 文件上传&二次渲染&.htaccess&变异免杀
htaccess妙用4、文件上传-PHP语言特性#详细点:1、检测层面:前端,后端等2、检测内容:文件头,完整性,二次渲染等3、检测后缀:黑名单,白名单,MIME检测等4、绕过技巧:多后缀解析,截断,
中间件
特性
匿名用户0x3c
·
2024-01-27 01:38
小迪网安笔记
安全
kafka
多线程消费及处理和手动提交处理方案设计
kafka
与其他消息队列不同的是,
kafka
的消费者状态由外部(消费者本身或者类似于Zookeeper之类的外部存储)进行维护,所以
kafka
的消费就更加灵活,但是也带来了很多的问题,因为客户端消费超时被判定挂掉而消费者重新分配分区
达微
·
2024-01-27 01:38
[MQ]常用的mq产品图形管理web界面或客户端
1.2MQ产品较为成熟的MQ产品:IBMMQ(IBMWebSphereMQ),ActiveMQ,RabbitMQ,
Kafka
,RocketMQ,ZeroMQ,MetaMQ等。
穿山甲yyds
·
2024-01-27 01:05
开发语言
中间件
Apache Pulsar——协议适配器
背景为了能平滑、不改写代码、无侵入地迁移应用使用pulsar,KoP以插件形式支持
Kafka
协议。
小波同学
·
2024-01-26 22:17
<网络安全>《7 网络资产测绘和脆弱性管理系统》
这些信息资产暴露在互联网上的信息包括IP地址、域名、端口、
中间件
、应用、技术架构等。通常包括且不限于在用、试用和停用的IP地址、域名、网络端口、信息系统和设备等资产情况。网络空间资产测绘简称CAM。
Ealser
·
2024-01-26 21:31
#
网络安全
web安全
网络
安全
网络安全
网络资产测绘
多云与混合云场景下的数据同步方案-
KAFKA
1企业业务系统部署架构的变化趋势-多云与混合云现阶段,企业信息系统部署架构(DA:Deployarchitecture)的一大变化是,越来越多的企业在不断将越来越多的应用部署到云上,即业务系统上云的趋势愈演愈烈。不过企业业务系统上云不是一蹴而就的,也不是单向的一帆风顺的。这里涉及到新开发的业务系统的主动上云(由于是采用云原生技术栈新开发的业务系统,其上云相对顺畅些),也包括历史遗留系统的迁移上云(
明哥的IT随笔
·
2024-01-26 21:29
分布式
kafka
java
storm
zookeeper
go-zero
中间件
配置
.api文件新增middleware,通过goctlapi生成文件以后,记得把文档往下翻一翻,还需要再svc里面加一些配置,然后再生成的文件中写入自己的业务@server(prefix:/v1/systemgroup:systemmiddleware:AuthInterceptor)packagemiddlewareimport("go/application/internal/config"re
郭俊强
·
2024-01-26 20:07
golang
中间件
开发语言
go-zero 全局异常处理-全局
中间件
1、在主入口新增packagemainimport("flag""fmt""go/application/internal/config""go/application/internal/handler""go/application/internal/middleware""go/application/internal/svc"manage"go/pkg/manage""github.com/
郭俊强
·
2024-01-26 20:31
golang
中间件
开发语言
解密:消息
中间件
的选择与使用:打造高效通信枢纽
目录第一章:消息
中间件
介绍1.1什么是消息
中间件
1.2消息
中间件
的作用1.3消息
中间件
的分类第二章:消息
中间件
的选择标准2.1性能2.2可靠性2.3可扩展性2.4易用性2.5社区支持2.6成本第三章:常见的消息
中间件
对比
凛鼕将至
·
2024-01-26 20:59
java
开发语言
中间件
数据中台搭建之安装JDK,zookeeper,
kafka
1.背景接上篇博客搭建数据中台之安装mysql,在此基础上安装其他环境2.准备上传包到主节点上3.解压、安装、修改配置文件3.1解压JDKtar-xvfjdk-8u181-linux-x64.gz3.2移动到/usr/local/jdk目录下mv····/usr/local/jdk3.3解压zookeepertar-zxvfzookeeper-3.4.5.tar.gz3.4移动到/usr/loca
CayongL
·
2024-01-26 20:20
zookeeper
kafka
jdk1.8
ELK 8.8.1 +
Kafka
2.5.0 日志收集架构部署
ELK8.8.1+
Kafka
2.5.0日志收集架构部署服务版本节点角色分布服务兼容性JDK特殊性官方文档库系统优化部署ES集群1.下载ES源码包2.调整配置文件\$ES\_HOME/config/elasticsearch.yml3
JP.Hu
·
2024-01-26 19:01
ELK
elk
kafka
架构
Flink 基础入门
前言SparkStreaming准确来说算是一个微批处理伪实时的做法,可是Flink是真的来一条就会处理一条,而且在SparkStreaming和
Kafka
进行整合时我们需要手动去管理偏移量的问题,而在
IT领域君
·
2024-01-26 19:28
【Java程序员面试专栏 专业技能篇】
Kafka
核心面试指引
关于
Kafka
部分的核心知识进行一网打尽,包括
Kafka
的基本概念,基本架构,工作流程,存储机制,生产策略和消费策略,通过一篇文章串联面试重点,并且帮助加强日常基础知识的理解,全局思维导图如下所示基本概念从
存在morning
·
2024-01-26 18:50
Java
程序员面试专栏
java
面试
kafka
网易
中间件
Cetus开源啦
Cetus由网易乐得专家技术团队领队,经多部门协调合作设计出来的优秀
中间件
。具有正统基因,基于官方MySQLProxy的版本进行全面修复和再创新,提供了一个全新的数据库代理软件。
14c715325a45
·
2024-01-26 17:25
面试题-【消息队列】
消息队列问题1如何进行消息队列的技术选型优点解耦(pub/sub模型)异步(异步接口性能优化)削峰使用消息队列的缺点几种消息队列的特性问题2引入消息队列之后该如何保证其高可用性RabbitMQ的高可用
kafka
谷新龙001
·
2024-01-26 16:35
面试题
消息队列
active mq topic消费后删除_Spring cloud stream 整合mq
说明:本案例win10环境测试scs(springcloudstream)整合kfk(
kafka
)/rbt(rabbitmq)消息生产消费场景流程一、准备
中间件
环境(kfk/rbt)后续内容提供kfk与
weixin_39794340
·
2024-01-26 15:35
active
mq
topic消费后删除
mq消费者组
springboot整合es
Springcloud Stream整合Rabbitmq(生产者和消费者)
目录一、引入Rabbitmq概念二、Rabbitmq安装三、代码编写生产者消费者一、引入Rabbitmq概念RabbitMQ是实现了高级消息队列协议(AMQP)的开源消息代理软件(亦称面向消息的
中间件
)
菜鸟小邓
·
2024-01-26 14:58
java-rabbitmq
rabbitmq
spring
cloud
SpringCloudStream整合MQ(待完善)
概念SpringCloudStream的主要目标是各种各样MQ的学习成本,提供一致性的编程模型,使得开发者能够更容易地集成消息组件(如Apache
Kafka
、RabbitMQ、RocketMQ)官网地址
kk_0910
·
2024-01-26 14:27
springcloud
IBM MQ和
kafka
区别
IBMMQ
Kafka
连接方式socket长连接socket长连接使用方式发布/订阅或者点对点Queue方式,QUEUE只能消费一次,可以用作socket通讯发布/订阅方式
智慧健康
·
2024-01-26 14:04
消息中间件
IBM
MQ
1024程序员节
Spring-
Kafka
3.0 消费者消费失败处理方案
一、背景我们作为
Kafka
在使用
Kafka
是,必然考虑消息消费失败的重试次数,重试后仍然失败如何处理,要么阻塞,要么丢弃,或者保存二、设置消费失败重试次数1默认重试次数在哪里看
Kafka
3.0版本默认失败重试次数为
风萧萧兮s
·
2024-01-26 14:33
Kafka
spring
kafka
java
SpringBoot 3.1.7 集成
Kafka
3.5.0
一、背景写这边篇文章的目的,是记录我在集成
kafka
客户端遇到的一些问题,文章会记录整个接入的过程,其中会遇到几个坑,如果需要最终版本,直接看最后一节就行了,感觉Spring-
Kafka
的文档太少了,如果采用
风萧萧兮s
·
2024-01-26 14:28
Spring
Cloud
spring
boot
kafka
MQ回顾之
kafka
速通
不定期更新官网概念自查官网:Apache
Kafka
kafka
结构和
kafka
相关的关键名词有:Producer、Broker、Topic、Partition、Replication、Message、Consumer
明天一定.
·
2024-01-26 14:28
mq
kafka
分布式
redux配置
中间件
后,redux调试工具DEVTools不能用,这可咋整
redux配置
中间件
后,redux调试工具DEVTools不能用,这可咋整我的第一篇技术博客,请各位大佬多多指点,问题如上,我使用的是redux-think
中间件
,主要用来存放一些ajax请求,配置过程仿照官网
EcbJS
·
2024-01-26 14:50
JVM实战(34)——内存溢出之消息队列处理不当
1.1系统背景这是一个线上的数据同步系统,专门从
Kafka
消费其它系统送进去的数据,处理后存储到自己的数据库中:就这么简单的一个系统,生产上却时不时报出OOM异常,然后就得重启系统。
smart哥
·
2024-01-26 14:25
jvm专题
jvm
JVM系列-6.java垃圾回收
作者简介:大家好,我是爱吃芝士的土豆倪,24届校招生Java选手,很高兴认识大家系列专栏:Spring原理、JUC原理、
Kafka
原理、分布式技术原理、数据库技术、JVM原理如果感觉博主的文章还不错的话
爱吃芝士的土豆倪
·
2024-01-26 14:23
JVM
jvm
java
开发语言
面试官问我如何保证
Kafka
不丢失消息?我哭了!
##
kafka
如何保证不丢消息ps:这篇文章自我感觉说的很大白话了!希望你们看过了之后能有收获。不了解
Kafka
的朋友建议先看一看我的下面这几篇文章,第一篇一定要看,其他的可以按需学习。1.[入门篇!
Guide哥
·
2024-01-26 13:36
前后台分离跨域交互
corsheaders',]#添加
中间件
MIDDLEWARE=[...'corsheaders.middleware.CorsMiddl
-wellplayed-
·
2024-01-26 13:32
线上卖课系统
交互
vue.js
前端
开发语言
上一页
22
23
24
25
26
27
28
29
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他