E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
Kafka高可用
2、mysql-canal-zk-
kafka
-es数据同步
方案总体介绍:通过zookeeper管理canal和
kafka
集群,zk本身也做集群配置;通过canal作为mysql的从库实时读取binlog,然后将数据以json格式发送到
kafka
平台,会有一个专门消费
kobe0429
·
2024-09-05 08:01
SpringBoot 集成
kafka
,并消费历史事件
SpringBoot集成
kafka
,并消费历史事件消费历史事件上一篇文章我们讲的是SpringBoot集成
kafka
消费最新的事件,如果没有看过的小伙伴可以看这篇文章:SpringBoot集成
kafka
晚枫2000
·
2024-09-05 05:39
kafka学习笔记
spring
boot
kafka
后端
java
spring
docker
运维
Kafka
/
kafka
-console-consumer.sh--zookeeperlocalhost:2181--from-beginning--topict1/opt/
kafka
_2.13-3.1.0/bin
墨咖
·
2024-09-05 04:58
笔记
Redis概述
一、为什么需要NoSQLHighperformance高并发读写HugeStorage海量数据的高效率存储和访问HighScalability&&HighAvailability高可拓展性和
高可用
性二、
AC编程
·
2024-09-05 03:08
logstash
kafka
input{
kafka
{bootstrap_servers=>"127.0.0.1:9092"topics=>["SCHOOL_AQDL"]group_id=>"logstash-group"consumer_threads
墨咖
·
2024-09-05 03:54
logstash
中间件
服务器
运维
实训34天(Docker与套接字的应用)
一、回顾1.主从复制(
高可用
)2.传统的主从复制3.gtids事务型的主从复制4.注意1)server_id唯一2)8.X版本需要get_ssl_pub_key3)5.X不需要4)changemasterto5
旧城少年666
·
2024-09-05 03:54
docker
容器
运维
【Docker系列】docker缓存详解
推荐:kwan的首页,持续学习,不断总结,共同进步,活到老学到老导航檀越剑指大厂系列:全面总结java核心技术,jvm,并发编程redis,
kafka
,Spring,微服务等常用开发工具系列:常用的开发工具
Kwan的解忧杂货铺@新空间代码工作室
·
2024-09-05 02:45
s11
Docker系列
docker
缓存
容器
EMR组件部署指南
本文将详细介绍如何部署EMR的主要组件,包括:JDK1.8Elasticsearch
Kafka
FlinkZookeeperHBaseHadoopPhoenixScalaSparkHive准备工作所有操作都在
ivwdcwso
·
2024-09-05 00:05
运维
EMR
大数据
开源
运维
kafka
集群搭建
Kafka
集群搭建一、概念说明它是一个分布式消息系统,由linkedin使用scala编写,用作LinkedIn的活动流(ActivityStream)和运营数据处理管道(Pipeline)的基础。
java皮皮虫
·
2024-09-04 16:48
kafka
springboot
后台
kafka
kafka测试
kafka集群
springboot集成
Kafka
kafka
:#
kafka
的连接地址(注意,是
kafka
所在服务器的公网ip,不要写成zookeeper的了)bootstrap-servers:localh
Maruko310
·
2024-09-04 16:48
java
Kafka
kafka
spring
boot
java
Kafka
学习
1、
kafka
集群配置①需要提前配置zookeeper环境②配置环境变量,与Java类似③配置server.properties文件#服务器序号broker.id=numlisteners=PLAINTEXT
nlhkfcdxb
·
2024-09-04 16:48
kafka
学习
分布式
Kafka
~
Kafka
命令行参数使用教程
一、
kafka
-topics.sh1.参数参数描述–bootstrap-server连接的
Kafka
Broker主机名称和端口号–topic操作的topic名称–create创建主题–delete删除主题
飞Link
·
2024-09-04 15:14
大数据
kafka
zookeeper
分布式
kafka
单条消息太大引起的线上故障
问题现象1.收到日志异常报警,一个Flink任务写入
kafka
消息出现了异常,异常消息如下org.apache.flink.streaming.connectors.
kafka
.Flink
Kafka
Exception
ab342173024
·
2024-09-04 15:44
线上故障篇
java
多图详解
kafka
生产者消息发送过程
:fire:《
Kafka
运维管控平台LogiKM》:fire::pencil2:更强大的管控能力:pencil2::tennis:更高效的问题定位能力:tennis::sunrise:更便捷的集群运维能力
JAVAQXQ
·
2024-09-04 15:13
java
kafka
开发语言
kafka
---- producer与broker配置详解以及ack机制详解
一、producer配置1、bootstrap.servers
kafka
broker集群的ip列表,格式为:host1:port1,host2:port2,…2、client.id用于追踪消息的源头3、
husterlichf
·
2024-09-04 15:41
#
kafka
kafka
java
分布式
kafka
单条消息过大发送失败
一、背景生产环境中使用
kafka
作为消息队列,生产者发送消息失败,查询报错日志,得到如下输出:Causedby:org.springframework.
kafka
.
Kafka
Exception:Sendfailed
hungteshun
·
2024-09-04 15:11
kafka
分布式
【MySQL数据库管理问答题】第14章 使用 MySQL InnoDB 集群实现
高可用
性
目录1.结合“体系结构”,请说明你对InnoDB集群的整体认知。2.请对组复制的原理和功能做一个完整的描述,并说明组复制有哪些先决条件和限制。3.MySQLShell(mysqlsh)和MySQLRouter(mysqlrouter)各自提供了什么样的集群管理功能?4.面对集群的重大停机事故,请给出你所能采取的恢复集群的办法和步骤。1.结合“体系结构”,请说明你对InnoDB集群的整体认知。(1)
summer.335
·
2024-09-04 14:31
MySQL
MySQL数据库管理问答题
数据库
mysql
Redis:支撑高并发及
高可用
复杂的缓存架构
这里写目录标题一、企业级Redis集群架构二、(nginx+lua)+redis+ehcache的三级缓存架构三、数据库+缓存双写一致性解决方案四、大key:缓存维度拆分解决方案五、如何提高缓存的命中率一、企业级Redis集群架构二、(nginx+lua)+redis+ehcache的三级缓存架构三、数据库+缓存双写一致性解决方案四、大key:缓存维度拆分解决方案五、如何提高缓存的命中率
玉成226
·
2024-09-04 12:51
【Redis】
缓存
redis
架构
【架构-29】RPC
实现分布式系统在现代的软件应用中,尤其是大规模的企业级应用和互联网服务,往往需要构建分布式系统来满足高并发、
高可用
和可扩展性的要求。
W Y
·
2024-09-04 07:44
架构
rpc
网络协议
动态扩缩容-测试报告
确保扩缩容过程的平滑性和系统的
高可用
性。提高资源利用率-通过动态调整资源,避免资源浪费,降低成本。保障业务连续性-确保在高流量期间系统稳定运行,提升用户体验。
俊俏的萌妹纸
·
2024-09-04 05:28
运维
写的很全面的Redis
高可用
技术解决方案大全
很多朋友向我咨询关于里面提到的
高可用
的方案的优缺点以及如何选择合适的方案线上使用,这里再整理发出来,供大家参考,如有不妥之处,欢迎批评指正,也欢迎推荐更好的技术方案。
JAVA架构师的圈子
·
2024-09-04 04:31
阿里云上云方案:Web与移动App云上部署解决方案
方案简介通过负载均衡SLB对多台云服务器ECS进行流量分发,并结合云数据库RDS,助力企业快速构建互联网
高可用
弹性的应用架构,同时方案整合云上计算、数据、存储等云服务实现Web与移动App
阿里云最新优惠和活动汇总
·
2024-09-04 02:47
RabbitMQ和
Kafka
的区别
Kafka
:基于分布式流平台设计,强调高吞吐量和可扩展性。数据以“主题”(Topics)为基础,生产者将消息发送到主题,消费者从主题读取消息。消息按时
知知之之
·
2024-09-04 00:35
RabbitMQ
rabbitmq
kafka
分布式
zookeeper实践篇-Zookeeper经典分布式场景实践
上篇我们学习了zk的api基础实践,并且了解了zk原生api与一些开源实现的zk客户端框架的选择使用,本篇我们开始学习zk作为一个分布式协调工具在分布式场景中一些实现Zookeeper是一个
高可用
的分布式数据管理与分布式协调服务框架
逐梦々少年
·
2024-09-03 23:29
谈谈PhxSQL的设计和实现哲学(上)
AhighavailabilityMySQLclusterthatguaranteesdataconsistencybetweenamasterandslaves.摘要微信PhxSQL是一个提供Zookeeper级别强一致和
高可用
的
OpenIMup
·
2024-09-03 23:53
2022-Java 后端工程师面试指南 -(Redis)
Redis具有内置的复制,Lua脚本,LRU逐出,事务和不同级别的磁盘持久性,并通过RedisSentinel和RedisCluster自动分区提供了
高可用
性。说说Redis
倾听铃的声
·
2024-09-03 22:21
后端
redis
java
面试
分布式
经验分享
二、Prometheus常用exporter安装详解
elasticsearch_exporter1.安装配置2.节点添加3.状态查询三、redis_exporter1.安装配置2.节点添加3.状态查询四、rabbitmq_exporter1.安装配置2.节点添加3.状态查询五、
kafka
_exporter1
Spring雷
·
2024-09-03 19:34
监控日志管理
企业运维实战
Doker运维实战
prometheus
elasticsearch
linux
运维
Gateway服务网关
服务网关:高性能,
高可用
一、流量网关与服务网关的区别流量网关:指提供全局性的、与后端业务应用无关的策略,如HTTPS证书认证、Web防火墙、全局流量监控、黑白名单等服务网关:指与业务紧耦合的、提供单个业务域级别的策略
HW--
·
2024-09-03 17:20
微服务
gateway
Nginx IP 哈希负载均衡配置:实现请求智能分发
在构建
高可用
的Web应用时,负载均衡是关键技术之一。Nginx是一个强大的负载均衡器,支持多种负载均衡策略,包括轮询、最少连接、IP哈希等。
2401_85763639
·
2024-09-03 16:46
nginx
负载均衡
算法
Kafka
原理生产过程的几张图解
11.png(1)点对点模式(一对一,消费者主动拉取数据,消息收到后消息清除)点对点模型通常是一个基于拉取或者轮询的消息传送模型,这种模型从队列中请求信息,而不是将消息推送到客户端。这个模型的特点是发送到队列的消息被一个且只有一个接收者接收处理,即使有多个消息监听者也是如此。(2)发布/订阅模式(一对多,数据生产后,推送给所有订阅者)发布订阅模型则是一个基于推送的消息传送模型。发布订阅模型可以有多
一个人一匹马
·
2024-09-03 11:11
消息中间件概述
常用的消息中间件综述组件\特点ActiveMQRabbitMQ
Kafka
跨语言支持(Java优先)语言无关支持(Java优先)支持协议OpenWire,Stomp,XMPP,AMQPAMQP-优点遵循JMS
小孩真笨
·
2024-09-03 08:36
【
Kafka
】怎么解决
Kafka
消费者消费堆积问题?
文章目录一、引言二、
Kafka
消费堆积原因分析三、解决方案1.重制消费点位2.增加消费者数量3.优化消费能力四、重制消费点位五、增加消费者数量六、优化消费能力七、总结八、参考文献九、附录摘要:在分布式系统中
程序者王大川
·
2024-09-03 07:47
大数据
kafka
linq
分布式
Redis
高可用
方案:使用Keepalived实现主备双活
注意:请确保已经安装Redis和keepalived,本文不在介绍如何安装。1、使用版本说明Redis版本:5.0.2Keepalived版本:1.3.5Linux版本:Centos7.9查看Redis版本:/usr/local/redis/bin/redis-cli-v查看Keepalived版本信息:rpm-qa|grepkeepalived或者keepalived-v2、功能实现说明:使用K
广东数字化转型
·
2024-09-03 05:03
redis
bootstrap
数据库
docker启动
kafka
并挂载配置文件,并让外部环境连接
kafka
docker启动
kafka
并挂载配置文件,并让外部环境连接
kafka
拉取
kafka
镜像dockerpullapache/
kafka
:3.7.0通过docker启动
kafka
dockerrun-d--name
kafka
-p9092
晚枫2000
·
2024-09-03 01:09
kafka学习笔记
docker
kafka
容器
大数据
阿里云
后端
运维
Flume介绍及调优
一、概述Flume是Cloudera提供的一个
高可用
的,高可靠的,分布式的海量日志采集、聚合和传输的系统,Flume支持在日志系统中定制各类数据发送方,用于收集数据;同时,Flume提供对数据进行简单处理
桓桓桓桓
·
2024-09-03 01:04
分布式
大数据
日志搜集
大数据技术之Flume
第1章Flume概述1.1Flume定义Flume是Cloudera提供的一个
高可用
的,高可靠的,分布式的海量日志采集、聚合和传输的系统。Flume基于流式架构,灵活简单。
okbin1991
·
2024-09-03 00:32
大数据
flume
java
hadoop
开发语言
【HBase之轨迹】(1)使用 Docker 搭建 HBase 集群
——目录——0.前置准备1.下载安装2.配置(重)3.启动与关闭4.搭建
高可用
HBase前言(贫穷使我见多识广)前边经历了Hadoop,Zookeeper,
Kafka
,他们的集群,全都是使用Docker
寒冰小澈IceClean
·
2024-09-02 22:49
【大数据之轨迹】
【Docker之轨迹】
笔记
hbase
docker
hadoop
Kafka
-3.3.4摒弃zookeeper集群部署操作文档
一、集群规划
kafka
从2.8版本开始,就允许用户在不需要zookeeper的情况下运行。
ShoShin1020
·
2024-09-02 18:28
kafka
zookeeper
分布式
大数据开发技术HBase优化与特点分析
高可用
在HBase中Hmaster负责监控RegionServer的生命周期,均衡RegionServer的负载,如果Hmaster挂掉了,那么整个HBase集群将陷入不健康的状态,并且此时的工作状态并不会维持太久
at小白在线中
·
2024-09-02 13:32
大数据
Kafka
为什么这么快?
Kafka
是一个号称能用普通PC机也能处理超千万亿吞吐量的实时消息平台,之所以能够做到这些,主要原因有四个:一、磁盘的顺序读写在讲磁盘顺序读写之前,我们先来了解一下磁盘的寻址的过程。
神州永泰
·
2024-09-02 12:23
java
大数据
消息中间件
kafka
分布式
Kafka
1.
kafka
的几个角色和概念生产者和消费者消费者组:一些消费者的组合,共同消费一个或几个topic。
人才瘾大
·
2024-09-02 12:21
java面试八股
分布式
kafka
Go操作
Kafka
(confluent-
kafka
-go库)
文章目录Apache
kafka
简介开始使用Apache
Kafka
构建生产者构建消费者总结之前已经有两篇文章介绍过Go如何操作
kafka
28.windows安装
kafka
,Go操作
kafka
示例(sarama
百里守约学编程
·
2024-09-02 11:45
go
golang
kafka
MySQL 管理:全面指南
目录MySQL简介MySQL安装与配置MySQL性能优化MySQL安全性管理MySQL备份与恢复MySQL
高可用
与集群MySQL监控与维护MySQL常
wjs2024
·
2024-09-02 08:57
开发语言
springboot
kafka
group.id多消费组配置
很早之前就使用了springboot+
kafka
组合配置,但是之前使用的spring-
kafka
(1.1.7)版本较低,所以只能通过spring.
kafka
.consumer.group-id=default_consumer_group
Garry1115
·
2024-09-02 03:56
spring
cloud
springboot
kafka
group.id
多消费组
Kafka
ACK机制详解笔记
1.ACK机制简介目的:确保生产者发送的消息可靠地写入
Kafka
集群。核心:生产者发送消息后需等待
Kafka
集群的确认。2.ACK级别acks=0:不等待确认,效率最高,但可能丢数据。
modelsetget
·
2024-09-02 03:23
kafka
kafka
分布式
ACK机制
kafka
生产者发送模式有哪几种?(发后即忘、同步发送、异步发送)
文章目录1.发后即忘(Fire-and-Forget)2.同步发送(SynchronousSend)3.异步发送(AsynchronousSend)总结
Kafka
生产者发送消息时,主要有三种模式,每种模式都有其特定的应用场景和优缺点
小丁学Java
·
2024-09-02 03:52
Kafka
kafka
发后即忘
同步发送
异步发送
Kafka
【二】关于消费者组(Consumer Group)、分区(partition)和副本(replica)的理解
【1】概述Apache
Kafka
是一个分布式流处理平台,它允许你发布和订阅记录流,存储记录流,并且可以对这些记录流进行处理。
流烟默
·
2024-09-02 02:20
#
kafka
分布式
消费者组
心跳机制大揭秘:Redis、数据库与 PING 命令的多面演绎
心跳机制被广泛应用于多种场景,以确保服务的
高可用
性和稳定性。比如Eureka的服务续约,Redis中的哨兵节点,Kubernetes的存活探针等等。今天我们来探究下心跳机制具体是如何实现的。
coding侠客
·
2024-09-01 23:00
java
开发语言
微服务
redis
eureka
ping++
spring
boot
面试题集锦:数据库
二:key-value存储系统--Redis:三:消息队列--
kafka
:一、关系型数据库–mysql:1.数据库设计的三大范式:第一范式:每个列都不可以再拆分;第二范式:在第一范式的基础上,非主键列完全依赖于主键
浅弋、璃鱼
·
2024-09-01 17:54
面试经
Golang学习
数据库
面试题
MySQL基础学习:MySQL主从复制如何实现
这里写自定义目录标题一、为什么使用MySQL主从二、主从复制原理是什么三、如何保证主从一致一、为什么使用MySQL主从保证服务的
高可用
:当主机宕机的时候可以选择一个从节点作为主节点,保证了我们服务的
高可用
玉成226
·
2024-09-01 15:39
【MySQL】
mysql
学习
数据库
上一页
1
2
3
4
5
6
7
8
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他