Kafka流式处理

kafka_example_01

1安装brewhttps://www.jianshu.com/p/2b209d74139c安装目录：/usr/local/Cellar/kafka/1.1.02运行修改：1.app登录成功返回ErrorCode
Kate_Blog·2024-01-31 16:44

kafka集群部署(最新版本kafka_2.13-3.1.0)

集群环境：节点名ip地址OS版本部署服务broker信息kafka01192.168.96.10CentOSLinuxrelease7.9.2009(Core)jdk、zookeeper、kafkabroker
小米bb·2024-01-31 15:55

数据湖技术Iceberg0.12预研文档

Iceberg0.12预研本次预研场景主要为kafka=>flinksql=>iceberg=>hive=>hdfs=>trino(presto)本次预研使用组件如下：名称版本描述flink1.12.1
我去探险了·2024-01-31 15:36

KAFKA高可用架构涉及常用功能整理

KAFKA高可用架构涉及常用功能整理1.kafka的高可用系统架构和相关组件2.kafka的核心参数2.1常规配置2.2特殊优化配置3.kafka常用命令3.1常用基础命令3.1.1创建topic3.1.2
李姓门徒·2024-01-31 11:07

消息

在Java中使用消息机制通常需要依赖于消息中间件，比如常用的ActiveMQ、RabbitMQ、Kafka等。下面我以使用ActiveMQ为例，简单介绍如何在Java中编写消息生产者和消费者的代码。
.:::.·2024-01-31 10:55

Flink 添加 / 部署 Jar 包的若干注意事项

Flink添加/部署Jar包可根据Jar包的声明周期、作用范围选择不同的附属方式，从实际应用上来看，可以分成以下几种场景：普遍使用的框架或基础设施级别的Jar包，例如Kafka、Hive、Hudi等Connector
　Laurence·2024-01-31 09:01

Kafka源码分析（史上最全）1：源码的开发环境搭建

文章很长，建议收藏起来，慢慢读！Java高并发发烧友社群：疯狂创客圈奉上以下珍贵的学习资源：免费赠送经典图书:《Java高并发核心编程（卷1）》面试必备+大厂必备+涨薪必备加尼恩免费领免费赠送经典图书:《Java高并发核心编程（卷2）》面试必备+大厂必备+涨薪必备加尼恩免费领免费赠送经典图书:《NettyZookeeperRedis高并发实战》面试必备+大厂必备+涨薪必备加尼恩免费领免费赠送经典图
40岁资深老架构师尼恩·2024-01-31 09:29

Kafka源码分析9：Controller控制器的原理（图解+秒懂+史上最全）

文章很长，建议收藏起来，慢慢读！Java高并发发烧友社群：疯狂创客圈奉上以下珍贵的学习资源：免费赠送经典图书:《Java高并发核心编程（卷1）》面试必备+大厂必备+涨薪必备加尼恩免费领免费赠送经典图书:《Java高并发核心编程（卷2）》面试必备+大厂必备+涨薪必备加尼恩免费领免费赠送经典图书:《NettyZookeeperRedis高并发实战》面试必备+大厂必备+涨薪必备加尼恩免费领免费赠送经典图
40岁资深老架构师尼恩·2024-01-31 09:29

Kafka源码分析10：副本状态机ReplicaStateMachine详解 （图解+秒懂+史上最全）

文章很长，建议收藏起来，慢慢读！Java高并发发烧友社群：疯狂创客圈奉上以下珍贵的学习资源：免费赠送经典图书:《Java高并发核心编程（卷1）》面试必备+大厂必备+涨薪必备加尼恩免费领免费赠送经典图书:《Java高并发核心编程（卷2）》面试必备+大厂必备+涨薪必备加尼恩免费领免费赠送经典图书:《NettyZookeeperRedis高并发实战》面试必备+大厂必备+涨薪必备加尼恩免费领免费赠送经典图
40岁资深老架构师尼恩·2024-01-31 09:59

kafka 部署 & 开发 & 通用模块 （非常有用）

狂创客圈经典图书：《NettyZookeeperRedis高并发实战》面试必备+面试必备+面试必备【博客园总入口】疯狂创客圈经典图书：《SpringCloud、Nginx高并发核心编程》大厂必备+大厂必备+大厂必备【博客园总入口】入大厂+涨工资必备：高并发【亿级流量IM实战】实战系列【SpringCloudNginx秒杀】实战系列【博客园总入口】《SpringCloudNginx高并发核心编程》环
40岁资深老架构师尼恩·2024-01-31 09:25

中间件系列 - Kafka3.x从入门到精通

前言学习视频：【尚硅谷】Kafka3.x教程（从入门到调优，深入全面）本内容仅用于个人学习笔记，如有侵扰，联系删除1Kafka概述1.1定义Kafka传统定义:Kafka是一个分布式的基于发布/订阅模式的消息队列
代码的知行者·2024-01-31 08:58

Kafka系列之：不重启kafka集群设置kafka topic数据保留时间

Kafka系列之：不重启kafka集群设置kafkatopic数据保留时间一、kafkatopic数据保留3天的bash命令二、查看kafka删除数据日志三、批量设置上千个topic保留3天数据1.构建
最笨的羊羊·2024-01-31 07:57

KAFKA节点故障的容错方案

KAFKA节点故障的容错方案1.broker启动加载逻辑1.1日志组成和分析1.2snapshot文件1.3broker启动流程1.4LogManager的初始化和启动过程2.controller高可用
李姓门徒·2024-01-31 07:25

kerberos+kafka（2.13）认证（单节点ubuntu）

一：搭建kerberos。1.运行安装命令apt-getinstallkrb5-admin-serverkrb5-kdckrb5-userkrb5-config2.检查服务是否启动。systemctlstatuskrb5-admin-serversystemctlstatuskrb5-kdcsystemctlstartkrb5-admin-serversystemctlstartkrb5-kdc3
宇智波云·2024-01-31 07:55

kafka3.0.0学习记录

文章目录第1章Kafka概述1.1定义1.2消息队列1.2.1应用场景第1章Kafka概述1.1定义Kafka是一个开源的分布式事件流平台（EventStreamingPlatform），被数千家公司用于高性能数据管道
珍珠是蚌的眼泪·2024-01-31 07:24

实时计算平台

Flink实时计算平台架构Flink+kafka+clickHouse+mysql+postgresql
xfchn多多学习学习·2024-01-31 07:24

kafka Standalone 配置 测试

一安装1、安装jdk安装jdk2安装zk这里Standalone模型$tar-zxfapache-zookeeper-3.5.9-bin.tar.gz-C/var/soft/$mvapache-zookeeper-3.5.9-bin/zookeeper-3.5.9-bin/$mvzoo_sample.cfgzoo.cfg$vizoo.cfg修改此处，其他默认dataDir=/var/soft/zo
xfchn多多学习学习·2024-01-31 07:24

RabbitMQ和Kafka对比

RabbitMQ和Kafka都是流行的消息传递系统，但它们在设计哲学、功能特性和最适用的场景上有所不同：1.设计和架构RabbitMQ:基于AMQP（高级消息队列协议）。
薛定谔的zhu·2024-01-31 07:21

【kafka-01数据保留时间设置】

kafka正确设置过期时间背景如何正确配置数据过期时间背景某天突然发现我的kafka中group_id消费记录不见了，特地查了下咋回事。
我先森·2024-01-31 07:50

Kafka与RocketMQ性能对比大揭秘

在双十一过程中投入同样的硬件资源，Kafka搭建的日志集群单个Topic可以达到几百万的TPS，而使用RocketMQ组件的核心业务集群，集群TPS只能达到几十万TPS，这样的现象激发了我对两者性能方面的思考
Java柱柱·2024-01-31 07:21

【Kafka】服务器Broker与Controller详解

Broker概述Broker总体工作流程Broker重要参数Controller为什么需要Controller具体作用数据服务Leader选举选举流程脑裂问题羊群效应触发leader选举Broker概述Kafka
Ethan-running·2024-01-31 06:59

Zookeeper实现分布式队列

目录Zookeeper分布式队列普通方式实现设计思路具体实现使用Curator实现具体实现注意事项Zookeeper分布式队列常见的消息队列有:RabbitMQ，RocketMQ，Kafka等。
山鸟与鱼！·2024-01-31 05:33

spring boot 使用 Kafka

一、Kafka作为消息队列的好处高吞吐量：Kafka能够处理大规模的数据流，并支持高吞吐量的消息传输。持久性：Kafka将消息持久化到磁盘上，保证了消息不会因为系统故障而丢失。
奋力向前123·2024-01-31 03:20

【Kafka系列】生产级集群参数配置

2.4Topic管理相关配置2.5数据存留相关配置3.Topic级别参数4.JVM参数5.操作系统参数6.小结1.概述本文将从Bocker端参数、Topic级别参数、JVM端参数、操作系统级别参数分别介绍Kafka
Hyatt1024·2024-01-30 23:44

【Kafka系列】Kafka副本机制详解

目录1.前言2.副本定义3.副本角色4.In-syncReplicas（ISR）5.Unclean领导者选举（UncleanLeaderElection）6.小结1.前言所谓的副本机制（Replication），也可以称之为备份机制，通常是指分布式系统在多台网络互联的机器上保存有相同的数据拷贝。副本机制有什么好处呢？提供数据冗余。即使系统部分组件失效，系统依然能够继续运转，因而增加了整体可用性以及
Hyatt1024·2024-01-30 23:44

【Kafka系列】Kafka线上集群部署方案

目录前言操作系统磁盘磁盘容量带宽小结前言Kafka线上集群部署方案怎么做？既然是集群部署，那必然就要有多个Kafka节点机器，且需要仔细地考量各种因素，结合自身的业务需求而制定。
Hyatt1024·2024-01-30 23:13

RabbitMQ、Kafka、RocketMQ 是如何实现高可用的？

本文从高可用的角度观察一下RabbitMQ、Kafka、RocketMQ，看看它们各自的实现思路。
SlowGO·2024-01-30 22:03

Kafka常见问题

1.Kafka介绍Kafka是一个分布式的基于发布/订阅模式的消息队列（MessageQueue），主要应用于大数据实时处理领域。
头未秃·2024-01-30 21:48

kafka常见参数配置

Broker端参数auto.create.topics.enable：是否允许自动创建Topic。建议最好设置成false，即不允许自动创建Topic。线上环境里面有很多名字稀奇古怪的Topic，大概都是因为该参数被设置成了true的缘故。unclean.leader.election.enable：是否允许UncleanLeader选举。关闭UncleanLeader选举的。何谓Unclean？
YYangBBB·2024-01-30 21:48

Kafka 常见问题

Kafka常见问题1.什么是分布式？2.什么是Kafka？3.为什么用Kafka（使用消息队列的好处）？4.消息队列的两种模式？5.Kafka的组成（架构）？
斯沃福德·2024-01-30 21:47

Kafka常见配置

producer.properties配置acks消息确认机制，ack可配置为三种:0,1,-1(all)，默认为1acks=0，producer端发送消息后，不管broker的副本是否成功收到消息，producer端都认为发送成功。优点：时延最小，缺点：有消息丢失风险，如果消息生产成功后在发送过程中leader异常，则消息丢失。可靠性低，leader收到消息后，如果同步到其他follower过程
Jessie_hhhhhzy·2024-01-30 21:17

Kafka常见参数

参数名含义默认值解释max.request.size生产端：最大请求字节大小1MB如果生产请求消息体大小大于该值，客户端生产时会报错max.poll.records消费端：一次poll()请求最大拉取消息条数500条如果单条消息处理时间长，需要减少该参数值，反之增加fetch.min.bytes消费端：一次poll()请求最小返回字节大小1增加该值可以提高吞吐量，同时也会产生一定延迟fetch.m
沉默终止·2024-01-30 21:46

kafka学习笔记一

目录第一章初识Kafka一、kafka的作用二、kafka架构三、分区&日志四、生产者&消费者五、kafka高性能之道总结：kafka读写性能高的原因？
薛薛哦·2024-01-30 21:56

kafka学习笔记二

课程地址：【尚硅谷】Kafka3.x教程（从入门到调优，深入全面）_哔哩哔哩_bilibili讲解版本：kafka3.x；时长13小时官网：ApacheKafkaKafka2.8.0以后也可以配置不采用
薛薛哦·2024-01-30 21:25

kafka集群搭建需要做的事情

首先，虚拟机克隆好之后的步骤如下：1.修改IP、主机名，关闭防火墙；（reboot重启）2.在/etc/hosts文件中进行IP与主机名的映射配置，集群中每天都记得配置；3.安装JDK并进行分发；进入/etc/profile.d/目录创建my_env.sh文件并在其中配置JAVA_HOME并进行分发；（分发jdk前先卸载自带的jdk）；4.安装zookeeper并进行分发，具体为：首先，在zook
薛薛哦·2024-01-30 21:24

一碰就头疼的 Kafka 消息重复问题，立马解决！

一碰就头疼的Kafka消息重复问题，立马解决！
一名技术极客·2024-01-30 20:13

RabbitMQ安全防护，加固策略

简介中间件简介消息队列中间件是分布式系统中重要的组件，主要解决应用耦合，异步消息，流量削锋等问题实现高性能，高可用，可伸缩和最终一致性[架构]使用较多的消息队列有ActiveMQ（安全），RabbitMQ，ZeroMQ，Kafka
中年程序员一枚·2024-01-30 17:27

Kafka 记录

推荐资源官网http://kafka.apache.org/Githubhttps://github.com/apache/kafka书籍《深入理解Kafka核心设计与实践原理》Kafka架构Kafka
Beth_Chan·2024-01-30 16:00

ELK集群搭建(基础教程)

ELK集群搭建(基础教程)目录：机器准备集群内各台机器安装Elasticsearch安装部署Kafka（注：每个节点都配置，注意ip不同）安装logstash工具安装filebeatELK收集Nginx
lqcbj_IT老混混·2024-01-30 16:41

如何接手一个大数据项目

：了解一个大数据系统，我认为需要从以下几个方面入手：宏观方面：1.了解系统的整体架构和技术栈：需要了解系统中使用的技术栈，包括各种大数据组件和工具，例如Hadoop、Spark、Hive、Flink、Kafka
Mmj666·2024-01-30 15:19

如何监控 Kafka 消费者组消费进度？

如何监控Kafka消费者组消费进度？对于Kafka消费者来说，最重要的事情就是监控它们的消费进度了，或者说是监控它们消费的滞后程度。这个滞后程度有个专门的名称：消费者Lag或ConsumerLag。
章全蛋·2024-01-30 07:32

【Kafka】 分区和副本 Partition 详解

ISR和OSRLEO和HW分区Leader选举分区重新分配自动再均衡修改分区副本分区分配策略RangeAssignorRoundRobinAssignorStickyAssignor自定义分配策略概述Kafka
Ethan-running·2024-01-30 07:32

【Spring连载】使用Spring访问 Apache Kafka（二十）----测试应用

【Spring连载】使用Spring访问ApacheKafka（二十）----测试应用TestingApplications一、KafkaTestUtils二、JUnit三、配置主题ConfiguringTopics
85程序员老王·2024-01-30 07:30

消息队列和Kafka

消息队列（类似于蜂巢柜的功能）：异步操作特点：低耦合，响应时间快，异步削峰限流（在不繁忙的时间段处理再处理任务），系统结构弹性大，易于扩展kafkaKafka的主要组件包括：-Broker：Kafka集群中的单个服务器节点
一路向北看星晴·2024-01-30 07:30

【Spring连载】使用Spring访问 Apache Kafka（十九）----Apache Kafka Streams支持

【Spring连载】使用Spring访问ApacheKafka（十九）----ApacheKafkaStreams支持一、基础Basics二、Spring管理三、KafkaStreamsMicrometer
85程序员老王·2024-01-30 07:00

Kafka - 消费进度监控（Consumer Lag）

所谓滞后程度，就是指消费者当前落后于生产者的程度。Lag应该算是最最重要的监控指标了。它直接反映了一个消费者的运行情况。一个正常工作的消费者，它的Lag值应该很小，甚至是接近于0的，这表示该消费者能够及时地消费生产者生产出来的消息，滞后程度很小。反之，如果一个消费者Lag值很大，通常就表明它无法跟上生产者的速度，最终Lag会越来越大，从而拖慢下游消息的处理速度。通常来说，Lag的单位是消息数，而且
放羊的牧码·2024-01-30 07:56

【Spring连载】使用Spring访问 Apache Kafka（二十一）----提示，技巧和例子

【Spring连载】使用Spring访问ApacheKafka（二十一）----提示，技巧和例子Tips,TricksandExamples一、手动分配所有分区ManuallyAssigningAllPartitions
85程序员老王·2024-01-30 07:26

Redis中发布订阅模式用法

这个第三方我们通常称之为消息中间件，消息中间件主要是用来做系统之间的异步通信，常见的消息中间件有：ActiveMQ，RocketMQ，RabbitMQ，Kafka等。
IT之一小佬·2024-01-30 06:07

Java高级面试题目

集合数据结构b.jvm：gc、内存模型、堆分代c.多线程：volatile、java.util.concurrent包d.spring：启动、时间e.redis：分布式锁、lua保证原⼦性、集群f.消息队列：kafkag.Springcloudh.mysql
Lemonrel·2024-01-30 01:08

深入分析Kafka生产者和消费者

深入Kafka生产者和消费者Kafka生产者消息发送的流程发送方式发送并忘记同步发送异步发送生产者属性配置序列化器分区器自定义分区器Kafka消费者消费者属性配置消费者基础概念消费者群组订阅主题轮询拉取提交和偏移量提交偏移量带来的问题自动提交手动提交异步提交同步和异步提交特定提交消费者核心概念群组协调分区再均衡再均衡监听器从特定偏移量处开始记录优雅退出反序列化器独立消费者
wzljiayou·2024-01-29 23:23
上一页 8 9 10 11 12 13 14 15 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他