E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
【Kafka】
超详细的
Kafka
入门,看这篇就够了
超详细的
Kafka
入门,看这篇就够了
kafka
的介绍
kafka
的术语
kafka
核心Api
kafka
初の体验1.windows安装
kafka
2.
Kafka
Producer与
Kafka
Consumer配置说明
〆、风神
·
2024-02-02 08:11
Kafka
kafka
java
分布式
Kafka
入门
Kafka
入门1.
Kafka
概述2.
Kafka
快速入门1.
Kafka
概述定义
Kafka
是一个分布式的基于发布/订阅模式的消息队列(MessageQueue),主要应用于大数据实时处理领域。
Kevin_琪琪
·
2024-02-02 08:39
bigdata
kafka
分布式
java
kafka
入门
生产者发送消息,多个消费者只能有一个消费者接收到消息生产者发送消息,多个消费者都可以接收到消息(1)创建
kafka
-demo项目,导入依赖org.apache.
kafka
kafka
-clients3.4.0
养一只摆烂猫.
·
2024-02-02 08:38
从0-1的后端学习
kafka
分布式
消息队列和
Kafka
1.消息队列:将需要发送的数据存放在队列中2.消息队列中间件:存储消息的组件(软件),如
Kafka
、RabbitMQ、ActiveMQ、RocketMQ、ZeroMQ3.
Kafka
应用场景:异步处理系统解耦流量削峰
一路向北看星晴
·
2024-02-02 07:47
java
Flink 实时写入数据到 ElasticSearch 性能调优
背景说明线上业务反应使用Flink消费上游
kafka
topic里的轨迹数据出现backpressure,数据积压严重。单次bulk的写入量为:3000/50mb/30s,并行度为48。
zhisheng_blog
·
2024-02-02 06:45
JAVA操作Rabbitmq-原理讲的很详细
常见的消息队列很多,主要包括RabbitMQ、
Kafka
、RocketMQ和ActiveMQ,相关的选型可以看我之前的系列,这篇文章只讲RabbitMQ,先讲原理,后搞实战。
hjc_042043
·
2024-02-02 06:41
MQ系列
Java相关
java-rabbitmq
java
rabbitmq
消息队列的应用场景
消息队列的应用场景消息队列中间件是分布式系统中重要的组件,主要解决应用耦合,异步消息,流量削锋等问题实现高性能,高可用,可伸缩和最终一致性架构使用较多的消息队列有ActiveMQ,RabbitMQ,ZeroMQ,
Kafka
hjc_042043
·
2024-02-02 06:10
MQ系列
MQ队列
怎样才是优秀的程序员?
linux、mysql、redis、
kafka
、netty.学习系统性地学习,而不止于碎片知识。善于向优秀的人学习~每解决一个问题,就多进步一点点。知其然,还知其所以然。看书,看官方文档,阅读源码。
乐之者v
·
2024-02-02 03:06
工作-软技能
职场和发展
替代ELK:ClickHouse+
Kafka
+FlieBeat,才是最佳选择?
背景SaaS服务未来会面临数据安全、合规等问题。公司的业务需要沉淀一套私有化部署能力,帮助业务提升行业竞争力。为了完善平台系统能力、我们需要沉淀一套数据体系帮助运营分析活动效果、提升运营能力。然而在实际的开发过程中,如果直接部署一套大数据体系,对于使用者来说将是一笔比较大的服务器开销。为此我们选用折中方案完善数据分析能力。EasticsearchvsClickhouseClickHouse是一款高
LinkSLA
·
2024-02-02 01:44
elk
clickhouse
kafka
Redis 5.0 Streams类型简介
它支持ConsumerGroup,熟悉
Kafka
或者RocketMQ等分布式消息队列的应该知道这个概念,通过将多个客户端加入同一个ConsumerGroup,可以实现多个客户端相互配合,每个消
空挡
·
2024-02-01 21:34
Kafka
运维相关知识
目录一、基本概念二、技术特性三、设计思想四、运维建议一、基本概念Apache
kafka
是一个分布式的基于push-subscribe的消息系统,它具备快速、可扩展、可持久化的特点。
全脂主妇
·
2024-02-01 17:31
消息组件
kafka
分布式
redis stream结合springboot构造简单消息队列
同时,stream借鉴了
kafka
的消费组模型概念和设计,使消费消息处理上更加高效快速。Redis中有三种消息队列模式:名称简要说明List不支持消息确认机制(Ack),不支持消息回朔pubSub不
jsl小时光
·
2024-02-01 17:50
redis
redis
spring
boot
数据库
mq
消息队列
重写代码实现Flink连接Redis集群(Java版,解决Flink无法连接私有IP Redis集群问题)
1缘起团队需要使用实时数据(小时级别)给业务系统使用,数据流向是这样:实时数据-》
Kafka
-》Flink-》Redis(集群和哨兵),可是,Flink原生并不支持Redis连接,于是,有第三方提供连接工具
天然玩家
·
2024-02-01 15:04
#
Flink
实践大数据
java
flink
redis
Flink消费
kafka
写入hive,报错GC
报错信息Flink消费
kafka
写入hive,报错GC。Taskmanager内存加到16GB。不起作用。
dgbcf
·
2024-02-01 15:55
hive
大数据
hadoop
flink
Flink 读取
Kafka
消息写入 Hudi 表无报错但没有写入任何记录的解决方法
本问题发生的场景是:使用
Kafka
Connect的DebeziumMySQLSour
Laurence
·
2024-02-01 15:24
大数据专题
付费专栏
flink
hudi
kafka
无数据
无写入
streaming
Kafka
下载安装及基本使用
目录
Kafka
介绍消息队列的作用消息队列的优势应用解耦异步提速削峰填谷为什么要用
Kafka
Kafka
下载安装
Kafka
快速上手(单机体验)1.启动zookeeper服务2.启动
kafka
服务3.简单收发消息
山鸟与鱼!
·
2024-02-01 13:15
分布式中间件
kafka
分布式
java
后端
Cloudera Manager开启
kafka
JMX监控
在ClouderaManager上创建了3节点的
kafka
集群服务,想要外部连接
kafka
JMX监控kakfa数据,需要修改kakfa配置:-Dcom.sun.management.jmxremote.host
Troyong
·
2024-02-01 13:28
Kafka
kafka
jmx
cloudera
利用 Cloudera Manager下安装
kafka
文章目录前言一、基于CDH版本选择安装1.1基于CDH版本选择安装1.2选择依赖项1.3角色分配1.4设置
Kafka
Broker配置1.5查看命令详请1.6安装概要1.7主页查看/启动前言本文章是是利用
914 JJ
·
2024-02-01 13:28
KAFKA
kafka
大数据
cloudera
使用Cloudera Manager部署
Kafka
消息队列
一.下载需要安装的
Kafka
版本1.查看ClouderaDistributionofApache
Kafka
(简称CDK)版本CDK版本链接地址:https://www.cloudera.com/documentation
至尊宝l
·
2024-02-01 13:27
Cloudera
Manager
kafka
cloudera
分布式
Cloudera Manager 安装
Kafka
并简单使用
Kafka
简介
kafka
是一款分布式消息发布和订阅的系统,具有高性能和高吞吐率。
Kafka
是一种高吞吐量的分布式发布订阅消息系统,它可以处理消费者规模的网站中的所有动作流数据。
大数据AI
·
2024-02-01 13:25
大数据从入门到精通
cloudera
kafka
大数据
Kafka
生产者缓存
不建议使用:publicvoidproduce(Stringmessage){DmsProducerproducer=newDmsProducer();try{producer.produce("test1",0,"key",message);}finally{producer.close();}}原因:每次调用produce函数时,都会新建一个producer,每次都需要进行新建与broker连
沉默终止
·
2024-02-01 11:00
kafka
缓存
spring
KAFKA
鉴权设计以及相关探讨
文章目录1.
kafka
的鉴权设计2.
kafka
鉴权应用范围3.
kafka
鉴权的常用方法3.1SASL/GSSAPI3.2SASL/PLAIN3.2.1配置jaas3.2.2配置服务启动参数3.2.3配置
李姓门徒
·
2024-02-01 11:00
分布式
Kafka
大数据
kafka
分布式
大数据
利用
Kafka
实现延迟队列实践
利用
Kafka
实现延迟队列实践一、RocketMq二、
kafka
实践三、
kafka
实践+四、更多一、RocketMq阿里提供的RocketMq消息中间件是天然支持消息先延迟队列功能的,主要原理和实现方法可以参加以下链接
加权不下平权
·
2024-02-01 11:59
最佳实践
kafka
java
分布式
Kafka
如何实现延迟队列?
Kafka
并没有使⽤JDK⾃带的Timer或者DelayQueue来实现延迟的功能,⽽是基于时间轮自定义了⼀个⽤于实现延迟功能的定时器(SystemTimer)。
图图是个好孩纸~
·
2024-02-01 11:57
#
消息队列
kafka
java
分布式
Kafka
延迟队列的实现方式
Apache
Kafka
是一个高性能、可扩展的分布式消息队列,可以作为延迟队列的基础设施。本文将介绍如何使用
Kafka
实现延迟队列,并提供详细的Java示例。什么是延迟队列?
一叶飘零_sweeeet
·
2024-02-01 11:26
java
kafka
分布式
消息队列
kafka
实现延迟队列
前言首先说一下延迟队列这个东西,实际上实现他的方法有很多,
kafka
实现并不是一个最好的选择,例如redis的zset可以实现,rocketmq天然的可以实现,rabbitmq也可以实现。
走,我们去吹风
·
2024-02-01 11:55
kafka
分布式
golang
开发语言
后端
面试
confluent入库hive安全认证问题
使用confluent将
Kafka
中的数据入库hive失败的解决方案应用场景:用户想在HD平台使用confluent开源组件将
Kafka
中的数据直接导入到hive中,测试环境中已经实现,但生产环境中由于平台开启了
建康_木子
·
2024-02-01 10:08
【万字长文】带你搞懂
Kafka
中的所有知识点
目录概述主题和分区日志消息压缩日志分段条件日志清理多副本写入流程生产者必要参数配置消息的发送流程元数据更新重要的生产者参数消费者消费者组分区分配策略协调器重平衡触发方式流程如何避免rebalance位移提交消费者offset的存储broker集群控制器事务消息保障传输幂等性事务概述Apache
Kafka
1_5_2_
·
2024-02-01 09:46
Kafka
kafka
分布式
数据结构
18、
Kafka
------ SpringBoot 整合
Kafka
流API(演示发送到test1主题的消息,被导流到 test2主题,通过监听器看是否导流成功)
目录SpringBoot整合
Kafka
流API流API的支持配置属性分析为流配置应用程序id配置流API使用@Enable
Kafka
Streams效果演示完整代码1、application.properties
_L_J_H_
·
2024-02-01 09:42
#
Kafka
系列
kafka
spring
boot
linq
17、
Kafka
------ SpringBoot 整合
Kafka
发送 和 接收消息(使用
Kafka
Template 发送消息 和 使用 @
Kafka
Listener 修饰监听器来接收消息)
目录SpringBoot整合
Kafka
发送和接收消息使用
Kafka
Template发送消息1、配置自动创建主题(代码)2、发送消息(代码)1、controller2、service3、演示1、启动应用程序
_L_J_H_
·
2024-02-01 09:11
#
Kafka
系列
kafka
spring
boot
分布式
go mysql transfer_go-mysql-transfer
特性1、简单,不依赖其它组件,一键部署2、集成多种接收端,如:Redis、MongoDB、Elasticsearch、RocketMQ、
Kafka
、Ra
廖宝华
·
2024-02-01 08:40
go
mysql
transfer
k8s Sidecar filebeat 收集容器中的trace日志和app日志
目录一、背景二、设计三、具体实现Filebeat配置K8SSideCaryamlLogstash配置一、背景将容器中服务的trace日志和应用日志收集到
KAFKA
,需要注意的是trace日志和app日志需要存放在同一个
Cloud孙文波
·
2024-02-01 08:33
kubernetes
kubernetes
容器
云原生
消息中间件(MQ)对比:RabbitMQ、
Kafka
、ActiveMQ 和 RocketMQ
RabbitMQ、
Kafka
、ActiveMQ和RocketMQ是当前流行的消息中间件之一,它们各自具有独特的特点和适用场景。本文将对这四种消息中间件进行综合比较,帮助您在项目中作出明智的选择。
CodeArtisanX
·
2024-02-01 07:07
rabbitmq
kafka
activemq
KAFKA
监控方法以及核心指标
文章目录1.监控指标采集1.1部署
kafka
_exporter1.2prometheus采集
kafka
_exporter的暴露指标1.3promethues配置告警规则或者配置grafana大盘2.核心告警指标
李姓门徒
·
2024-02-01 07:23
分布式
Kafka
大数据
kafka
分布式
大数据
32个Java面试必考点-09(上)消息队列
Kafka
架构与原理
本课时主要讲解消息队列与数据库相关的知识,重点讲解三部分知识点:1.
Kafka
的架构与消息交互流程;2.数据库事务的4大特性和分类;3.MySQL相关的内容,比如索引、MySQL调优等。
机智阳
·
2024-01-31 21:38
java
面试
kafka
后端
架构
开发语言
为什么你的创业公司应该运行在Kubernetes上
有些公司仅仅使用scp部署简单的PHP应用程序,就能让公司走的很远,而有些公司的架构达到极限,不得不使用诸如Redis或者
Kafka
这样的基础组件作为内部通信,从而将系统拆分为不同的服务。
云原生学院
·
2024-01-31 21:23
Spring Cloud Bus消息总线
SpringCludBus目前支持RabbitMQ和
Kafka
。SpringCloudBus配合SpringCloudConfig使用可以实现配置的动态刷新。
七七真的是太棒了
·
2024-01-31 17:01
springcloud
微服务
kafka
_example_01
1安装brewhttps://www.jianshu.com/p/2b209d74139c安装目录:/usr/local/Cellar/
kafka
/1.1.02运行修改:1.app登录成功返回ErrorCode
Kate_Blog
·
2024-01-31 16:44
kafka
集群部署(最新版本
kafka
_2.13-3.1.0)
集群环境:节点名ip地址OS版本部署服务broker信息
kafka
01192.168.96.10CentOSLinuxrelease7.9.2009(Core)jdk、zookeeper、
kafka
broker
小米bb
·
2024-01-31 15:55
笔记
kafka
分布式
zookeeper
数据湖技术Iceberg0.12预研文档
Iceberg0.12预研本次预研场景主要为
kafka
=>flinksql=>iceberg=>hive=>hdfs=>trino(presto)本次预研使用组件如下:名称版本描述flink1.12.1
我去探险了
·
2024-01-31 15:36
数据湖技术
hive
kafka
big
data
KAFKA
高可用架构涉及常用功能整理
KAFKA
高可用架构涉及常用功能整理1.
kafka
的高可用系统架构和相关组件2.
kafka
的核心参数2.1常规配置2.2特殊优化配置3.
kafka
常用命令3.1常用基础命令3.1.1创建topic3.1.2
李姓门徒
·
2024-01-31 11:07
Kafka
大数据
分布式
kafka
架构
分布式
消息
在Java中使用消息机制通常需要依赖于消息中间件,比如常用的ActiveMQ、RabbitMQ、
Kafka
等。下面我以使用ActiveMQ为例,简单介绍如何在Java中编写消息生产者和消费者的代码。
.:::.
·
2024-01-31 10:55
消息
Flink 添加 / 部署 Jar 包的若干注意事项
Flink添加/部署Jar包可根据Jar包的声明周期、作用范围选择不同的附属方式,从实际应用上来看,可以分成以下几种场景:普遍使用的框架或基础设施级别的Jar包,例如
Kafka
、Hive、Hudi等Connector
Laurence
·
2024-01-31 09:01
大数据专题
flink
jar
添加
部署
add
sql-client.sh
Kafka
源码分析(史上最全)1:源码的开发环境搭建
文章很长,建议收藏起来,慢慢读!Java高并发发烧友社群:疯狂创客圈奉上以下珍贵的学习资源:免费赠送经典图书:《Java高并发核心编程(卷1)》面试必备+大厂必备+涨薪必备加尼恩免费领免费赠送经典图书:《Java高并发核心编程(卷2)》面试必备+大厂必备+涨薪必备加尼恩免费领免费赠送经典图书:《NettyZookeeperRedis高并发实战》面试必备+大厂必备+涨薪必备加尼恩免费领免费赠送经典图
40岁资深老架构师尼恩
·
2024-01-31 09:29
java
kafka
面试
java
Kafka
源码分析9:Controller控制器的原理(图解+秒懂+史上最全)
文章很长,建议收藏起来,慢慢读!Java高并发发烧友社群:疯狂创客圈奉上以下珍贵的学习资源:免费赠送经典图书:《Java高并发核心编程(卷1)》面试必备+大厂必备+涨薪必备加尼恩免费领免费赠送经典图书:《Java高并发核心编程(卷2)》面试必备+大厂必备+涨薪必备加尼恩免费领免费赠送经典图书:《NettyZookeeperRedis高并发实战》面试必备+大厂必备+涨薪必备加尼恩免费领免费赠送经典图
40岁资深老架构师尼恩
·
2024-01-31 09:29
java
kafka
面试
java
Kafka
源码分析10:副本状态机ReplicaStateMachine详解 (图解+秒懂+史上最全)
文章很长,建议收藏起来,慢慢读!Java高并发发烧友社群:疯狂创客圈奉上以下珍贵的学习资源:免费赠送经典图书:《Java高并发核心编程(卷1)》面试必备+大厂必备+涨薪必备加尼恩免费领免费赠送经典图书:《Java高并发核心编程(卷2)》面试必备+大厂必备+涨薪必备加尼恩免费领免费赠送经典图书:《NettyZookeeperRedis高并发实战》面试必备+大厂必备+涨薪必备加尼恩免费领免费赠送经典图
40岁资深老架构师尼恩
·
2024-01-31 09:59
java
kafka
面试
java
kafka
部署 & 开发 & 通用模块 (非常有用)
狂创客圈经典图书:《NettyZookeeperRedis高并发实战》面试必备+面试必备+面试必备【博客园总入口】疯狂创客圈经典图书:《SpringCloud、Nginx高并发核心编程》大厂必备+大厂必备+大厂必备【博客园总入口】入大厂+涨工资必备:高并发【亿级流量IM实战】实战系列【SpringCloudNginx秒杀】实战系列【博客园总入口】《SpringCloudNginx高并发核心编程》环
40岁资深老架构师尼恩
·
2024-01-31 09:25
java
中间件系列 -
Kafka
3.x从入门到精通
前言学习视频:【尚硅谷】
Kafka
3.x教程(从入门到调优,深入全面)本内容仅用于个人学习笔记,如有侵扰,联系删除1
Kafka
概述1.1定义
Kafka
传统定义:
Kafka
是一个分布式的基于发布/订阅模式的消息队列
代码的知行者
·
2024-01-31 08:58
中间件
中间件
Kafka
系列之:不重启
kafka
集群设置
kafka
topic数据保留时间
Kafka
系列之:不重启
kafka
集群设置
kafka
topic数据保留时间一、
kafka
topic数据保留3天的bash命令二、查看
kafka
删除数据日志三、批量设置上千个topic保留3天数据1.构建
最笨的羊羊
·
2024-01-31 07:57
大数据
Kafka系列
不重启kafka集群
kafka
topic数据
KAFKA
节点故障的容错方案
KAFKA
节点故障的容错方案1.broker启动加载逻辑1.1日志组成和分析1.2snapshot文件1.3broker启动流程1.4LogManager的初始化和启动过程2.controller高可用
李姓门徒
·
2024-01-31 07:25
分布式
Kafka
大数据
kafka
分布式
大数据
上一页
7
8
9
10
11
12
13
14
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他