Kafka从入门到放弃

k8s Sidecar filebeat 收集容器中的trace日志和app日志

目录一、背景二、设计三、具体实现Filebeat配置K8SSideCaryamlLogstash配置一、背景将容器中服务的trace日志和应用日志收集到KAFKA，需要注意的是trace日志和app日志需要存放在同一个
Cloud孙文波·2024-02-01 08:33

消息中间件（MQ）对比：RabbitMQ、Kafka、ActiveMQ 和 RocketMQ

RabbitMQ、Kafka、ActiveMQ和RocketMQ是当前流行的消息中间件之一，它们各自具有独特的特点和适用场景。本文将对这四种消息中间件进行综合比较，帮助您在项目中作出明智的选择。
CodeArtisanX·2024-02-01 07:07

KAFKA监控方法以及核心指标

文章目录1.监控指标采集1.1部署kafka_exporter1.2prometheus采集kafka_exporter的暴露指标1.3promethues配置告警规则或者配置grafana大盘2.核心告警指标
李姓门徒·2024-02-01 07:23

32个Java面试必考点-09(上)消息队列Kafka架构与原理

本课时主要讲解消息队列与数据库相关的知识，重点讲解三部分知识点：1.Kafka的架构与消息交互流程；2.数据库事务的4大特性和分类；3.MySQL相关的内容，比如索引、MySQL调优等。
机智阳·2024-01-31 21:38

为什么你的创业公司应该运行在Kubernetes上

有些公司仅仅使用scp部署简单的PHP应用程序，就能让公司走的很远，而有些公司的架构达到极限，不得不使用诸如Redis或者Kafka这样的基础组件作为内部通信，从而将系统拆分为不同的服务。
云原生学院·2024-01-31 21:23

spark从入门到放弃三十九:Spark Sql(12)SparkSql工作原理以及性能优化

文章地址：http://www.haha174.top/article/details/2570731工作原理1.大家都知道，只要在数据库类型的技术里面，比如,最传统的mysql,Oracle包括现在大数据领域的数据仓库如Hive，他的基本Sql执行的模型，都是类似的，首先生成一条SQL语句的执行计划。例如Selectnamefromnames=>解析成从哪里去查询（names表在那个文件里面，从
意浅离殇·2024-01-31 20:42

Spring Cloud Bus消息总线

SpringCludBus目前支持RabbitMQ和Kafka。SpringCloudBus配合SpringCloudConfig使用可以实现配置的动态刷新。
七七真的是太棒了·2024-01-31 17:01

kafka_example_01

1安装brewhttps://www.jianshu.com/p/2b209d74139c安装目录：/usr/local/Cellar/kafka/1.1.02运行修改：1.app登录成功返回ErrorCode
Kate_Blog·2024-01-31 16:44

kafka集群部署(最新版本kafka_2.13-3.1.0)

集群环境：节点名ip地址OS版本部署服务broker信息kafka01192.168.96.10CentOSLinuxrelease7.9.2009(Core)jdk、zookeeper、kafkabroker
小米bb·2024-01-31 15:55

数据湖技术Iceberg0.12预研文档

Iceberg0.12预研本次预研场景主要为kafka=>flinksql=>iceberg=>hive=>hdfs=>trino(presto)本次预研使用组件如下：名称版本描述flink1.12.1
我去探险了·2024-01-31 15:36

KAFKA高可用架构涉及常用功能整理

KAFKA高可用架构涉及常用功能整理1.kafka的高可用系统架构和相关组件2.kafka的核心参数2.1常规配置2.2特殊优化配置3.kafka常用命令3.1常用基础命令3.1.1创建topic3.1.2
李姓门徒·2024-01-31 11:07

消息

在Java中使用消息机制通常需要依赖于消息中间件，比如常用的ActiveMQ、RabbitMQ、Kafka等。下面我以使用ActiveMQ为例，简单介绍如何在Java中编写消息生产者和消费者的代码。
.:::.·2024-01-31 10:55

Flink 添加 / 部署 Jar 包的若干注意事项

Flink添加/部署Jar包可根据Jar包的声明周期、作用范围选择不同的附属方式，从实际应用上来看，可以分成以下几种场景：普遍使用的框架或基础设施级别的Jar包，例如Kafka、Hive、Hudi等Connector
　Laurence·2024-01-31 09:01

Kafka源码分析（史上最全）1：源码的开发环境搭建

文章很长，建议收藏起来，慢慢读！Java高并发发烧友社群：疯狂创客圈奉上以下珍贵的学习资源：免费赠送经典图书:《Java高并发核心编程（卷1）》面试必备+大厂必备+涨薪必备加尼恩免费领免费赠送经典图书:《Java高并发核心编程（卷2）》面试必备+大厂必备+涨薪必备加尼恩免费领免费赠送经典图书:《NettyZookeeperRedis高并发实战》面试必备+大厂必备+涨薪必备加尼恩免费领免费赠送经典图
40岁资深老架构师尼恩·2024-01-31 09:29

Kafka源码分析9：Controller控制器的原理（图解+秒懂+史上最全）

文章很长，建议收藏起来，慢慢读！Java高并发发烧友社群：疯狂创客圈奉上以下珍贵的学习资源：免费赠送经典图书:《Java高并发核心编程（卷1）》面试必备+大厂必备+涨薪必备加尼恩免费领免费赠送经典图书:《Java高并发核心编程（卷2）》面试必备+大厂必备+涨薪必备加尼恩免费领免费赠送经典图书:《NettyZookeeperRedis高并发实战》面试必备+大厂必备+涨薪必备加尼恩免费领免费赠送经典图
40岁资深老架构师尼恩·2024-01-31 09:29

Kafka源码分析10：副本状态机ReplicaStateMachine详解 （图解+秒懂+史上最全）

文章很长，建议收藏起来，慢慢读！Java高并发发烧友社群：疯狂创客圈奉上以下珍贵的学习资源：免费赠送经典图书:《Java高并发核心编程（卷1）》面试必备+大厂必备+涨薪必备加尼恩免费领免费赠送经典图书:《Java高并发核心编程（卷2）》面试必备+大厂必备+涨薪必备加尼恩免费领免费赠送经典图书:《NettyZookeeperRedis高并发实战》面试必备+大厂必备+涨薪必备加尼恩免费领免费赠送经典图
40岁资深老架构师尼恩·2024-01-31 09:59

kafka 部署 & 开发 & 通用模块 （非常有用）

狂创客圈经典图书：《NettyZookeeperRedis高并发实战》面试必备+面试必备+面试必备【博客园总入口】疯狂创客圈经典图书：《SpringCloud、Nginx高并发核心编程》大厂必备+大厂必备+大厂必备【博客园总入口】入大厂+涨工资必备：高并发【亿级流量IM实战】实战系列【SpringCloudNginx秒杀】实战系列【博客园总入口】《SpringCloudNginx高并发核心编程》环
40岁资深老架构师尼恩·2024-01-31 09:25

中间件系列 - Kafka3.x从入门到精通

前言学习视频：【尚硅谷】Kafka3.x教程（从入门到调优，深入全面）本内容仅用于个人学习笔记，如有侵扰，联系删除1Kafka概述1.1定义Kafka传统定义:Kafka是一个分布式的基于发布/订阅模式的消息队列
代码的知行者·2024-01-31 08:58

Kafka系列之：不重启kafka集群设置kafka topic数据保留时间

Kafka系列之：不重启kafka集群设置kafkatopic数据保留时间一、kafkatopic数据保留3天的bash命令二、查看kafka删除数据日志三、批量设置上千个topic保留3天数据1.构建
最笨的羊羊·2024-01-31 07:57

KAFKA节点故障的容错方案

KAFKA节点故障的容错方案1.broker启动加载逻辑1.1日志组成和分析1.2snapshot文件1.3broker启动流程1.4LogManager的初始化和启动过程2.controller高可用
李姓门徒·2024-01-31 07:25

kerberos+kafka（2.13）认证（单节点ubuntu）

一：搭建kerberos。1.运行安装命令apt-getinstallkrb5-admin-serverkrb5-kdckrb5-userkrb5-config2.检查服务是否启动。systemctlstatuskrb5-admin-serversystemctlstatuskrb5-kdcsystemctlstartkrb5-admin-serversystemctlstartkrb5-kdc3
宇智波云·2024-01-31 07:55

kafka3.0.0学习记录

文章目录第1章Kafka概述1.1定义1.2消息队列1.2.1应用场景第1章Kafka概述1.1定义Kafka是一个开源的分布式事件流平台（EventStreamingPlatform），被数千家公司用于高性能数据管道
珍珠是蚌的眼泪·2024-01-31 07:24

实时计算平台

Flink实时计算平台架构Flink+kafka+clickHouse+mysql+postgresql
xfchn多多学习学习·2024-01-31 07:24

kafka Standalone 配置 测试

一安装1、安装jdk安装jdk2安装zk这里Standalone模型$tar-zxfapache-zookeeper-3.5.9-bin.tar.gz-C/var/soft/$mvapache-zookeeper-3.5.9-bin/zookeeper-3.5.9-bin/$mvzoo_sample.cfgzoo.cfg$vizoo.cfg修改此处，其他默认dataDir=/var/soft/zo
xfchn多多学习学习·2024-01-31 07:24

RabbitMQ和Kafka对比

RabbitMQ和Kafka都是流行的消息传递系统，但它们在设计哲学、功能特性和最适用的场景上有所不同：1.设计和架构RabbitMQ:基于AMQP（高级消息队列协议）。
薛定谔的zhu·2024-01-31 07:21

【kafka-01数据保留时间设置】

kafka正确设置过期时间背景如何正确配置数据过期时间背景某天突然发现我的kafka中group_id消费记录不见了，特地查了下咋回事。
我先森·2024-01-31 07:50

Kafka与RocketMQ性能对比大揭秘

在双十一过程中投入同样的硬件资源，Kafka搭建的日志集群单个Topic可以达到几百万的TPS，而使用RocketMQ组件的核心业务集群，集群TPS只能达到几十万TPS，这样的现象激发了我对两者性能方面的思考
Java柱柱·2024-01-31 07:21

【Kafka】服务器Broker与Controller详解

Broker概述Broker总体工作流程Broker重要参数Controller为什么需要Controller具体作用数据服务Leader选举选举流程脑裂问题羊群效应触发leader选举Broker概述Kafka
Ethan-running·2024-01-31 06:59

Zookeeper实现分布式队列

目录Zookeeper分布式队列普通方式实现设计思路具体实现使用Curator实现具体实现注意事项Zookeeper分布式队列常见的消息队列有:RabbitMQ，RocketMQ，Kafka等。
山鸟与鱼！·2024-01-31 05:33

spring boot 使用 Kafka

一、Kafka作为消息队列的好处高吞吐量：Kafka能够处理大规模的数据流，并支持高吞吐量的消息传输。持久性：Kafka将消息持久化到磁盘上，保证了消息不会因为系统故障而丢失。
奋力向前123·2024-01-31 03:20

【Kafka系列】生产级集群参数配置

2.4Topic管理相关配置2.5数据存留相关配置3.Topic级别参数4.JVM参数5.操作系统参数6.小结1.概述本文将从Bocker端参数、Topic级别参数、JVM端参数、操作系统级别参数分别介绍Kafka
Hyatt1024·2024-01-30 23:44

【Kafka系列】Kafka副本机制详解

目录1.前言2.副本定义3.副本角色4.In-syncReplicas（ISR）5.Unclean领导者选举（UncleanLeaderElection）6.小结1.前言所谓的副本机制（Replication），也可以称之为备份机制，通常是指分布式系统在多台网络互联的机器上保存有相同的数据拷贝。副本机制有什么好处呢？提供数据冗余。即使系统部分组件失效，系统依然能够继续运转，因而增加了整体可用性以及
Hyatt1024·2024-01-30 23:44

【Kafka系列】Kafka线上集群部署方案

目录前言操作系统磁盘磁盘容量带宽小结前言Kafka线上集群部署方案怎么做？既然是集群部署，那必然就要有多个Kafka节点机器，且需要仔细地考量各种因素，结合自身的业务需求而制定。
Hyatt1024·2024-01-30 23:13

RabbitMQ、Kafka、RocketMQ 是如何实现高可用的？

本文从高可用的角度观察一下RabbitMQ、Kafka、RocketMQ，看看它们各自的实现思路。
SlowGO·2024-01-30 22:03

Kafka常见问题

1.Kafka介绍Kafka是一个分布式的基于发布/订阅模式的消息队列（MessageQueue），主要应用于大数据实时处理领域。
头未秃·2024-01-30 21:48

kafka常见参数配置

Broker端参数auto.create.topics.enable：是否允许自动创建Topic。建议最好设置成false，即不允许自动创建Topic。线上环境里面有很多名字稀奇古怪的Topic，大概都是因为该参数被设置成了true的缘故。unclean.leader.election.enable：是否允许UncleanLeader选举。关闭UncleanLeader选举的。何谓Unclean？
YYangBBB·2024-01-30 21:48

Kafka 常见问题

Kafka常见问题1.什么是分布式？2.什么是Kafka？3.为什么用Kafka（使用消息队列的好处）？4.消息队列的两种模式？5.Kafka的组成（架构）？
斯沃福德·2024-01-30 21:47

Kafka常见配置

producer.properties配置acks消息确认机制，ack可配置为三种:0,1,-1(all)，默认为1acks=0，producer端发送消息后，不管broker的副本是否成功收到消息，producer端都认为发送成功。优点：时延最小，缺点：有消息丢失风险，如果消息生产成功后在发送过程中leader异常，则消息丢失。可靠性低，leader收到消息后，如果同步到其他follower过程
Jessie_hhhhhzy·2024-01-30 21:17

Kafka常见参数

参数名含义默认值解释max.request.size生产端：最大请求字节大小1MB如果生产请求消息体大小大于该值，客户端生产时会报错max.poll.records消费端：一次poll()请求最大拉取消息条数500条如果单条消息处理时间长，需要减少该参数值，反之增加fetch.min.bytes消费端：一次poll()请求最小返回字节大小1增加该值可以提高吞吐量，同时也会产生一定延迟fetch.m
沉默终止·2024-01-30 21:46

kafka学习笔记一

目录第一章初识Kafka一、kafka的作用二、kafka架构三、分区&日志四、生产者&消费者五、kafka高性能之道总结：kafka读写性能高的原因？
薛薛哦·2024-01-30 21:56

kafka学习笔记二

课程地址：【尚硅谷】Kafka3.x教程（从入门到调优，深入全面）_哔哩哔哩_bilibili讲解版本：kafka3.x；时长13小时官网：ApacheKafkaKafka2.8.0以后也可以配置不采用
薛薛哦·2024-01-30 21:25

kafka集群搭建需要做的事情

首先，虚拟机克隆好之后的步骤如下：1.修改IP、主机名，关闭防火墙；（reboot重启）2.在/etc/hosts文件中进行IP与主机名的映射配置，集群中每天都记得配置；3.安装JDK并进行分发；进入/etc/profile.d/目录创建my_env.sh文件并在其中配置JAVA_HOME并进行分发；（分发jdk前先卸载自带的jdk）；4.安装zookeeper并进行分发，具体为：首先，在zook
薛薛哦·2024-01-30 21:24

一碰就头疼的 Kafka 消息重复问题，立马解决！

一碰就头疼的Kafka消息重复问题，立马解决！
一名技术极客·2024-01-30 20:13

RabbitMQ安全防护，加固策略

简介中间件简介消息队列中间件是分布式系统中重要的组件，主要解决应用耦合，异步消息，流量削锋等问题实现高性能，高可用，可伸缩和最终一致性[架构]使用较多的消息队列有ActiveMQ（安全），RabbitMQ，ZeroMQ，Kafka
中年程序员一枚·2024-01-30 17:27

Kafka 记录

推荐资源官网http://kafka.apache.org/Githubhttps://github.com/apache/kafka书籍《深入理解Kafka核心设计与实践原理》Kafka架构Kafka
Beth_Chan·2024-01-30 16:00

ELK集群搭建(基础教程)

ELK集群搭建(基础教程)目录：机器准备集群内各台机器安装Elasticsearch安装部署Kafka（注：每个节点都配置，注意ip不同）安装logstash工具安装filebeatELK收集Nginx
lqcbj_IT老混混·2024-01-30 16:41

如何接手一个大数据项目

：了解一个大数据系统，我认为需要从以下几个方面入手：宏观方面：1.了解系统的整体架构和技术栈：需要了解系统中使用的技术栈，包括各种大数据组件和工具，例如Hadoop、Spark、Hive、Flink、Kafka
Mmj666·2024-01-30 15:19

Android APP开发从入门到放弃

一、引言一直用qt进行界面编程，感觉点击按钮操作电脑文件或者解压缩非常简单，突然想实现一个手机app，做一个款高仿微信支付宝，只实现界面功能，难度应该也不高，于是抱着试一试的想法，学习Androidapp开发。二、开发工具选型1、Flutter由于实在不想用eclipse进行开发，于是需求其他开发框架，在同学的推荐下，尝试使用Flutter开发app,Flutter是谷歌的移动UI框架，可以实现一
凌睿马·2024-01-30 10:21

如何监控 Kafka 消费者组消费进度？

如何监控Kafka消费者组消费进度？对于Kafka消费者来说，最重要的事情就是监控它们的消费进度了，或者说是监控它们消费的滞后程度。这个滞后程度有个专门的名称：消费者Lag或ConsumerLag。
章全蛋·2024-01-30 07:32

【Kafka】 分区和副本 Partition 详解

ISR和OSRLEO和HW分区Leader选举分区重新分配自动再均衡修改分区副本分区分配策略RangeAssignorRoundRobinAssignorStickyAssignor自定义分配策略概述Kafka
Ethan-running·2024-01-30 07:32
上一页 8 9 10 11 12 13 14 15 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他