E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
Kafka原理解析
SpringBoot自动配置
原理解析
二、@Import注解1.方式一:.class方式2.方式二:ImportSelector方式3.方式三:ImportBeanDefinitionRegistrar方式三、SpringBoot自动配置
原理解析
F & F
·
2023-10-13 13:00
Spring
spring
boot
java
spring
Kafka
保证消息幂等以及解决方案
1、幂等的基本概念幂等简单点讲,就是用户对于同一操作发起的一次请求或者多次请求的结果是一致的,不会产生任何副作用。幂等分很多种,比如接口的幂等、消息的幂等,它是分布式系统设计时必须要考虑的一个方面。查询操作(天然幂等)查询一次和查询多次,在数据不变的情况下,查询结果是一样的。查询是天然的幂等操作删除操作(天然幂等)删除操作也是幂等的,删除一次和删除多次都是把数据删除(注意可能返回结果不一样,删除的
weixin_53150299
·
2023-10-13 13:18
kafka
分布式
Kafka
,凭什么这么快?
在过去的几年里,软件架构领域发生了巨大的变化。人们不再认为所有的系统都应该共享一个数据库。微服务、事件驱动架构和CQRS(命令查询的责任分离CommandQueryResponsibilitySegregation)是构建当代业务应用程序的主要工具。除此以外,物联网、移动设备和可穿戴设备的普及,进一步对系统的近实时能力提出了挑战。首先让我们对“快”这个词达成共识,这个词是多方面的、复杂的、高度模糊
码字程序员
·
2023-10-13 12:37
Spring Boot集成
Kafka
详解
SpringBoot是一个用于构建独立的、生产级的Java应用程序的框架,而
Kafka
是一种高吞吐量的分布式发布订阅消息系统。在本文中,我们将详细解释如何在SpringBoot项目中集成
Kafka
。
hope笔记
·
2023-10-13 10:39
Java
spring
boot
kafka
Kafka
数据重复和数据丢失的解决方案
1.
Kafka
数据重复的解决方案:对每个生产者生成的每条数据,都添加由生产者id,分区号,随机的序列号组成的标识符:(producerid,partition,SequenceId),通过标识符对数据进行去重
谢小涛
·
2023-10-13 10:38
后端
kafka
重复消费
消息丢失
自动提交
手动提交
Spring Boot集成
kafka
的相关配置
引入依赖:额外依赖只需要这一个,
kafka
-client不是springboot的东西,那是原生的
kafka
客户端,
kafka
-test也不需要,是用代码控制broker的东西。
谢小涛
·
2023-10-13 10:06
Spring
spring
boot
kafka
生产者
消费者
kafka配置
研发必会-异步编程利器之CompletableFuture(含源码 中)
近期热推文章:1、springBoot对接
kafka
,批量、并发、异步获取消息,并动态、批量插入库表;2、SpringBoot用线程池ThreadPoolTaskExecutor异步处理百万级数据;3、
程序猿羊
·
2023-10-13 10:59
多线程
java
线程池
java
【Redis高级篇】分片集群--并发
微信公众号访问地址:【Redis高级篇】分片集群--并发近期热推文章:1、springBoot对接
kafka
,批量、并发、异步获取消息,并动态、批量插入库表;2、SpringBoot用线程池ThreadPoolTaskExecutor
程序猿羊
·
2023-10-13 10:29
Redis
redis
数据库
SpringBoot整合多数据源,并支持动态新增与切换(详细教程)
推荐文章:1、springBoot对接
kafka
,批量、并发、异步获取消息,并动态、批量插入库表;2、SpringBoot用线程池ThreadPoolTaskExecutor异步处理百万级数据;3、java
程序猿羊
·
2023-10-13 10:28
springBoot
java
spring
boot
后端
java
基于内存的分布式NoSQL数据库Redis(一)介绍与安装
RDBMS知识点03:Redis的功能与应用场景知识点04:Redis的Linux版单机部署后记基于内存的分布式NoSQL数据库Redis知识点01:课程目标整体目标Redis:NoSQL数据库,实时存储
Kafka
Maynor996
·
2023-10-13 10:49
#
Redis
分布式
nosql
redis
研发必会-异步编程利器之CompletableFuture(上)
微信公众号访问地址:近期热推文章:1、springBoot对接
kafka
,批量、并发、异步获取消息,并动态、批量插入库表;2、SpringBoot用线程池ThreadPoolTaskExecutor异步处理百万级数据
程序猿羊
·
2023-10-13 10:18
java
多线程
线程池
java
Spring Cloud日志集中化处理:ELK +
Kafka
本文示例代码已上传至github:https://github.com/ZhaiBo/microservice-scaffold为什么需要对微服务日志做集中化处理在微服务架构下,各个基础服务可能使用集群方式部署在不同的机器上,这样日志查看就变得非常困难,一旦服务出现问题,在大量的日志下很难定位问题,所以就需要对微服务日志进行集中式处理,以便于我们查找、定位问题。ELK是目前主流的日志收集处理方案,
清辉丶
·
2023-10-13 09:35
Docker
微服务
SpringCloud
SpringCloud +
kafka
+ ELK 搭建微服务日志管理平台
SpringCloud+
kafka
+ELK搭建微服务日志管理平台2019-12-31,写在前面的话今天是2019最后一天了,最近几天都在搞这块微服务日志管理的事情,有很多种方案实现,每种都有各自的优点,
csdn277
·
2023-10-13 09:04
方案
学习记录
方案实现
ELK
kafka
springcloud
日志管理
ActiveMQ、RabbitMQ、RocketMQ、
Kafka
四种消息中间件分析介绍
ActiveMQ、RabbitMQ、RocketMQ、
Kafka
四种消息中间件分析介绍我们从四种消息中间件的介绍到基本使用,以及高可用,消息重复性,消息丢失,消息顺序性能方面进行分析介绍!
Geoff
·
2023-10-13 08:07
Java的CAS乐观锁
原理解析
CAS全称CompareAndSwap(比较与交换),在不使用锁的情况下实现多线程之间的变量同步。属于硬件同步原语,处理器提供了基本内存操作的原子性保证。juc包中的原子类就是通过CAS来实现了乐观锁。CAS算法涉及到三个操作数:需要读写的内存值V。进行比较的旧值A(期望操作前的值)要写入的新值B。当且仅当V的值等于A时,CAS通过原子方式用新值B来更新V的值(“比较+更新”整体是一个原子操作),
JavaEdge
·
2023-10-13 08:35
kafka
消费者程序日志报错Offset commit failed问题研究
生产环境偶尔会遇到
kafka
消费者程序日志报错的问题截取主要日志如下:2023-10-0219:35:28.554{trace:d7f97f70dd693e3d}ERROR[Thread-49:137]
Java小田
·
2023-10-13 05:38
备忘
kafka
Cent OS7 安装
Kafka
2.5.0-亲测可用
Zookeeper3.6.1二、安装过程2.1下载(如果太慢,可换yum下载,yum配置阿里源试试)[root@VM_0_13_centoslocal]#wgethttps://downloads.apache.org/
kafka
ZerahMu
·
2023-10-13 03:05
项目环境
kafka
java
zookeeper
【异步系列四】async await
原理解析
之爱上 async/await
前言异步编程一直是JavaScript中比较麻烦但相当重要的一件事情,一直也有人在提出各种方案,试图解决这个问题。从回调函数到Promise对象,再到Generator函数,每次都有所改进,但都不彻底,直到出现了async函数,很多人认为它是异步操作的终极解决方案。但很多人对于async和await的原理却一知半解,只知道可以解决异步问题,知其然,不知其所以然。所以,本篇文章对于async、awa
小刘加油!
·
2023-10-13 03:05
javascript
前端经典面试题
javascript
前端
async/await
异步操作
(八)Filebeat收集日志方法
Filebeat收集日志input:日志输入,支持log(常用)、stdin、redisoutput:日志输出,支持elasticsearch、redis、logstash、
kafka
1.log(从日志文件中收取日志
坚持,坚持,再坚持
·
2023-10-13 03:24
ELK
kafka
详解(三)
2.2
Kafka
命令行操作2.2.1主题命令行操作1)查看操作主题命令参数[aa@hadoop102
kafka
]$bin/
kafka
-topics.sh2)查看当前服务器中的所有topic(配置了环境变量不需要写
molecule_jp
·
2023-10-13 00:04
大数据
kafka
linq
分布式
Kafka
数据同步原理详解
Kafka
数据同步原理详解
Kafka
是一种分布式的消息队列系统,它具有高吞吐量、可扩展性和分布式特性等优势。在
Kafka
中,数据按照主题进行分区,每个主题都有一组分区。
隐 风
·
2023-10-13 00:56
java消息中间件笔记
kafka专区
kafka
分布式
面试
大数据
java
Bubbles
原理解析
官方文档https://developer.android.com/develop/ui/views/notifications/bubbles#the_bubble_api气泡使用户可以轻松查看和参与对话。气泡内置于通知系统中。它们漂浮在其他应用程序内容之上,无论用户走到哪里都会跟随他们。气泡可以展开以显示应用程序功能和信息,并且可以在不使用时折叠。当设备被锁定或始终显示处于活动状态时,气泡会像
AmyTan小小燕
·
2023-10-12 22:03
WMS
android
Spring Boot消息服务-RabbitMQ
常见的消息中间件:ActiveMQRabbitMQ
Kafka
RocketMQ在没有特别要求的情况下,通常会选择RabbitMQ作为消息中间件,如果针对的是大数据业务,推荐使用
Kafka
或者RocketM
小辰~
·
2023-10-12 22:32
Spring
Boot
rabbitmq
spring
boot
慕课网笔记-阶段3-分布式消息队列-RabbitMQ-分布式消息队列(MQ)认知提升
在大模块中,我们其实主要围绕这两个业界非常主流的开源消息中间件为主,第一个就是我们的RabbitMQ,也就是兔子,第二个就是我们的apache的
kafka
,这两个mq也是业界非常主流的mq,当然在课程学习过程中还会涉及到比如说像
╭⌒峰
·
2023-10-12 22:59
rabbitmq
消息队列
java
ElasticSearch-
Kafka
-RabbitMQ
目录ElasticSearch什么是ElasticsearchElasticsearch的基本概念倒排索引和正排索引text和keyword类型的区别query和filter的区别?es写数据的过程(ES的写入流程:)(ES的更新和删除流程)写数据的底层原理:ES在高并发下如何保证读写一致性?Elasticsearch的分布式原理(ES如何选举Master节点)Elasticsearch是如何避免
俊祺.
·
2023-10-12 20:43
elasticsearch
kafka
搜索引擎
kafka
将消息发布到指定的Topic中,同时Producer也能决定将此消息归属于哪个partition代理(Broker):已发布的消息保存在一组服务节点中,每个节点称之为一个broker,所有的broker组成一个
kafka
武汉小旭旭
·
2023-10-12 20:10
大数据
kafka
java
大数据
Kafka
技术基础
Apache
Kafka
发源于LinkedIn,于2011年成为Apache的孵化项目,随后于2012年成为Apache的主要项目之一,是消息队列的一种实现方式,提供消息的持久化。
Tina Run 润
·
2023-10-12 20:07
kafka
大数据
分布式
Kafka
的简介与架构
文章目录一、简介1.1概述1.2消息系统介绍1.3
Kafka
中的术语解释1.4
Kafka
的优点1.5常用MQ对比二、
Kafka
的架构分布式模型副本(replicated)Topics和Partition
Java技术债务
·
2023-10-12 20:35
Java
Kafka
分布式
kafka
java
中间件
Kafka
简介
1.简介1.1.概述
Kafka
是最初由Linkedin公司开发,是一个分布式、分区的、多副本的、多订阅者,基于zookeeper协调的分布式日志系统(也可以当做MQ系统),常见可以用于web/nginx
d303577562
·
2023-10-12 20:30
kafka
kafka
解决
kafka
3.6.2启动 could not be established. Broker may not be available.
/
kafka
-console-consumer.sh--bootstrap-server127.0.0.1:9092--from-beginning--topicasp_be报错信息image.png这个原因是因为
yyk_96f8
·
2023-10-12 20:39
java HashMap到ConcurrentHashMap(1.8版本为主)
整个计划分为十个部分(集合、多线程、网络、Spring和Mybatis、MySQL、JVM、
Kafka
、Redis、
格子z
·
2023-10-12 19:26
java
java
hashmap
flink-2
每层的职能分层数据描述生成计算工具存储媒介ODS原始数据,日志和业务数据日志服务器,maxwell
kafka
DWD根据数据对象为单位进行分流,比如订单、页面访问等等。
不爱吃鱼的馋猫
·
2023-10-12 19:02
flink
Kafka
集群压力测试
1)
Kafka
压测用
Kafka
官方自带的脚本,对
Kafka
进行压测。
Kafka
压测时,可以查看到哪个地方出现了瓶颈(CPU,内存,网络IO)。一般都是网络IO达到瓶颈。
无来无去_A
·
2023-10-12 18:03
【051期】阿里面试:为什么 B+ 树更适合作为索引的结构?分析索引原理?
mysql的B+树索引查找使用了二分查找,redis跳表也使用了二分查找法,
kafka
查询消息日志也使用了二分查找法,二分查找法时间复杂度O(logn);在MySQL中,主要有四种类型的索引,分别为:B-Tree
Java精选
·
2023-10-12 16:39
数据库
数据结构
java
面试
redis
Kafka
可靠性保证
多副本机制
Kafka
为分区引入了多副本(Replica)机制,通过增加副本数量可以提升容灾能力。
米兰的小铁匠xxm
·
2023-10-12 16:18
hadoop 3.x大数据集群搭建系列7-安装Hudi
.maven的下载和配置2.1maven的下载和解压2.2添加环境变量到/etc/profile中2.3修改为阿里镜像三.编译hudi3.1修改pom文件3.2修改源码兼容hadoop33.3手动安装
Kafka
只是甲
·
2023-10-12 15:59
大数据和数据仓库
#
Hadoop大数据平台
hadoop
大数据
hdfs
我总结的面试题系列:
kafka
1.
Kafka
的设计时什么样的呢?
姜汁撞可乐
·
2023-10-12 15:53
kafka
广播消费组停机后未删除优化
背景
kafka
广播消息的时候为了保证groupId不重复,再创建的时间采用前缀+时间戳的形式,这样可以保证每次启动的时候是创建的新的,但是会出现一个问题:就是每次停机或者重启都会新建一个应用实例,关闭应用后并不会删除
wuyongde0922
·
2023-10-12 14:00
kafka
2.1、如何在FlinkSQL中读取&写出到
Kafka
目录1、环境设置方式1:在Maven工程中添加pom依赖方式2:在sql-client.sh中添加jar包依赖2、读取
Kafka
2.1创建
kafka
表2.2读取
kafka
消息体(Value)使用'format
广阔天地大有可为
·
2023-10-12 08:58
#
FlinkSQL
使用技巧
kafka
分布式
kafka
快速起步
目录
kafka
快速起步什么是消息队列消息服务器使用场景核心概念消息模式点对点模型发布订阅模型
Kafka
Topic与Partition数据冗余方案消费组如何保证消息的顺序性集群状态维护环境准备GoSDK创建
liwenchao1995
·
2023-10-12 06:33
kafka
分布式
访问开启Kerberos
Kafka
集群报Identifier doesn‘t match expected value (906)
问题描述:使用
Kafka
客户端通过21007端口访问开启Kerberos的集群报以下错误:javax.security.sasl.SaslException:Anerror:(java.security.PrivilegedActionException
一个不安分的程序员
·
2023-10-12 06:22
Java
日志
Spark
kafka
java
分布式
实时计算
kerberos
Debezium同步PostgreSQL数据报:permission denied for database databaseName
问题描述:配置启动Debezium任务同步PostgreSQL表数据时报:org.apache.
kafka
.connect.errors.ConnectException:Unabletocreatetofilteredpublicationslot_name_task1fortableName1
一个不安分的程序员
·
2023-10-12 06:52
Spark
Java
日志
postgresql
数据库
database
debezium
大数据
ActiveMQ一文解读
目前在生产环境中使用较多的消息队列有ActiveMQ、RabbitMQ、ZeroMQ、
Kafka
、MetaMQ、RocketMQ等。
Marlon520
·
2023-10-12 06:08
java-activemq
activemq
java
Mq-pulsar消息中间件
1.2特性支持多租户(涂鸦目前就支持这种方式使得对接方接入涂鸦内部的消息)2.源码3.实战4.FAQ5.参考资料【
kafka
同一个group消费两个topic吗_Pulsar与
Kafka
消费模型对比】【
皮皮皮的代码
·
2023-10-12 04:03
Mq
Kafka
入门看这一篇就够了
初识
Kafka
什么是
Kafka
Kafka
是由Linkedin公司开发的,它是一个分布式的,支持多分区、多副本,基于Zookeeper的分布式消息流平台,它同时也是一款开源的基于发布订阅模式的消息引擎系统
hui0xin
·
2023-10-12 04:45
Jetpack-Lifecycle
原理解析
介绍Lifecycle它是Jetpack组件库的的核心基础,具备宿主生命周期感知能力的组件。它能持有组件(如Activity或Fragment)生命周期状态的信息,并且允许其他观察者监听宿主的状态,大大减少了业务代码发生内存泄漏和NPE的风险,LiveData、ViewModel组件等也都是基于它来实现的(观察者模式)Googledeveloper介绍工程引入implementation'andr
明朗__
·
2023-10-12 03:10
kafka
图解源码-3 消费者代码设计
67)消费者源码-coondinator原理刨析-63}0:16原理图.png68)消费者源码-consumer初始化-64}0:16入口↓▲★\
kafka
-0.10.1.0-nx-src\examples
fat32jin
·
2023-10-12 02:27
Kafka
在linux中的安装
Kafka
集群部署概述环境准备JDK安装Docker环境安装
Kafka
集群搭建(ZK模式)zookeeper集群搭建zookeeper部署情况准备工作下载安装包解压安装包创建数据存放目录创建配置文件编辑配置文件配置
我就是我352
·
2023-10-12 02:10
消息中间件
kafka
linux
分布式
kubernetes 部署单机版
Kafka
、zookeeper
下载资源gitclonehttps://github.com/liangzyayw/MQ.git注意yaml文件里面的nfs目录要挂载命名空间执行mq-namespace.yaml文件kubectlcreate-fmq-namespace.yamlzookeeperDockerfile在zookeeper-Dockerfile目录执行下列操作##下载资源包wgethttps://wget.52li
努力冲
·
2023-10-12 01:57
Linux
kubernetes
服务
kafka
zookeeper
kubernetes
Kafka
读写
我们都知道,
Kafka
的特性之一就是高吞吐率,但是
Kafka
的消息是保存或缓存在磁盘上的,一般认为在磁盘上读写数据是会降低性能的,那么
Kafka
为什么速度那么快?
weixin_jumery
·
2023-10-12 01:27
Kafka
上一页
90
91
92
93
94
95
96
97
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他