kafka消息队列

RabbitMQ入门

配置文件1.3创建实现类1.4结果，打开控制台1.5消费2、工作队列模型3、发布与订阅的广播模式4、发布与订阅的路由模式5、发布与订阅的主题模式五、消息传递的格式1、默认格式一、基本介绍1、概念MQ是消息队列
何怀逸·2024-01-21 02:26

第二章 Spring Boot 整合 Kafka消息队列 生产者

系列文章目录第一章Kafka配置部署及SASL_PLAINTEXT安全认证第二章SpringBoot整合Kafka消息队列生产者第三章SpringBoot整合Kafka消息队列消息者（待续）前言Kafka
维基框架·2024-01-21 00:13

第一章 Kafka 配置部署及SASL_PLAINTEXT安全认证

系列文章目录第一章Kafka配置部署及SASL_PLAINTEXT安全认证第二章SpringBoot整合Kafka消息队列生产者第三章SpringBoot整合Kafka消息队列消息者（待续）1、下载安装
维基框架·2024-01-21 00:43

kfaka基本概念

Kafka第一章kafka基本概念文章目录Kafka一、kafak作用？二、基本概念一、kafak作用？Kafka是一种高吞吐量的分布式发布订阅消息系统，具有高性能、持久化、多副本备份、横向扩展能力。
西堂AI编程提效·2024-01-20 23:28

Kafka总结

Kafka保证的是分区有序而不是全局有序。
西堂AI编程提效·2024-01-20 23:28

kafka生产者消费者

生产者生产者发送确认机制半数follower响应全部follower响应–>改进：ISR机制：in-sync-replicaset【挑选进入isr的follower规则：1、同步的时间2、和leader相差的条数（0.9版本中被去掉）】注意：isr中的follower和正常的follower的概念问题acks配置0：发送完就返回。Atmostonce1：只等待leader写完就返回。-1：lead
西堂AI编程提效·2024-01-20 23:57

数据集成时表模型同步方法解析

功能更加全面的数据中台通常还具有对接非关系型数据库、消息队列、日志源、文件源等功能。数据湖通常是OLAP型的数据库，虽然中台系统很少会采用多种数据仓库技术，但在技术选型时，可选项也有很多。
KaiwuDB 数据库·2024-01-20 23:58

Spark读取kafka（流式和批数据）

spark读取kafka（批数据处理）#按照偏移量读取kafka数据frompyspark.sqlimportSparkSessionss=SparkSession.builder.getOrCreate
中长跑路上crush·2024-01-20 23:55

kafka核心原理及数据积压问题

1kafka的分片和副本机制何为分片?分片有什么用呢?
江枫渔火R·2024-01-20 22:24

【Kafka原理】数据积压问题

Kafka消费者消费数据的速度是非常快的，但是如果在处理Kafka消息时，由于外部IO或者网络拥堵会导致Kafka中的数据积压（数据堆积）。如果数据一直积压，会导致数据出来的实时性受到较大影响。
TAIKEMAN·2024-01-20 22:23

【Kafka面试】Kafka消费积压百万数据怎么办？

Kafka面试大全（万字长文，37张图，28个知识点）高频面试题：kafka消费积压百万数据怎么办一、问题背景二、问题排查三、解决方案
TAIKEMAN·2024-01-20 22:23

Kafka3.0 消费者事务与数据积压

消费者事务如果想完成Consumer端的精准一次性消费，那么需要Kafka消费端将消费过程和提交offset过程做原子绑定。
Alienware^·2024-01-20 22:53

kafka数据积压语句查询记录

/kafka-consumer-groups.sh--bootstrap-server192.168.45.79:9092--list查看某些消费组是否积压.
飞鸟还巢·2024-01-20 22:23

Spark Streaming通过receiver方式消费kafka数据时数据积压问题

1.问题在通过receiver方式接受kafka消息时，发现有大量消息在队列中阻塞最终导致spark任务执行失败。
sinat_36710456·2024-01-20 22:23

kafka消费组数据积压导致节点挂掉解决办法

前提Kafka运行一段时间后，容易出现节点挂掉的情况。排查原因是:存在多个由zookeeper命令创建的消费组，里面消息没有进行消费，导致数据积压，从而导致kafka节点挂掉。导致原因.
恒星0915·2024-01-20 22:22

消费数据积压

生产者生产数据的速度超过消费者处理数据的速度,会造成kafka中积压大量未处理的数据2-1使用KafkaEagle查看消费积压KafkaEagle是一个用于监控和管理kafka的开源组件，可以同时监控多个
中长跑路上crush·2024-01-20 22:21

Kafka消息数据积压如何处理

可以从两方面考虑：1、如果是Kafka消费能力不足，则可以考虑增加Topic的分区数（一般一个Topic分区数为3-10个），并且同时提升消费组的消费者数量，消费者数==分区数。
AlbenXie·2024-01-20 22:21

消息队列介绍

什么是MQMQ(messagequeue)，本质是个队列，FIFO先入先出，只不过队列中存放的内容是message而已，还是一种跨进程的通信机制，用于上下游传递消息。在互联网架构中，MQ是一种非常常见的上下游“逻辑解耦+物理解耦”的消息通信服务。使用了MQ之后，消息发送上游只需要依赖MQ，不用依赖其他服务。为什么要用MQ1.流量消峰如一个订单系统最多能处理一万次订单，当请求量超过最大请求量时，系统
Alonzo de blog·2024-01-20 22:38

一文了解消息队列MQ（超详细+干货满满）

原文章链接：消息队列MQ快速入门（概念、RPC、MQ实质思路、队列介绍、队列对比、应用场景）_zmqrpc-CSDN博客基本定义：MQ是一种进程间通信或同一进程的不同线程间的通信方式，队列就是一个消息容器
GeekInk小火龙·2024-01-20 21:56

使用Python基于metricbeat和heartbeat采集数据进行告警

一、系统架构IP主机名角色备注11.0.1.11kafka1kafka和MySQL11.0.1.12kafka2kafka11.0.1.13kafka3kafka11.0.1.14demo1metricbeat
你说咋整就咋整·2024-01-20 19:25

MeterSphere本地化部署实践

JDK11，配置好JDK环境，系统同时支持JDK8和JDK11安装IEAD，配置JDK环境配置maven环境,IDEA配置(解压可以直接使用)无限重置IDEA试用期配置redis环境(解压可以直接使用)配置kafka
小李广·2024-01-20 19:24

java kafka client_Kafka Client API 基本使用

之前讲过了[Kafka基本概念及原理][1]，这次我们来看看KafkaClient的API。要使用KafkaClient的API，首先需要先部署Kafka集群，部署过程请参见[官网][2]。
沈逸老师·2024-01-20 18:00

Kafka consumer group位移重设

本文阐述如何使用Kafka自带的kafka-consumer-groups.sh脚本随意设置消费者组(consumergroup)的位移。
zxfBdd·2024-01-20 18:30

Kafka查看topic、consumer group状态命令

1，查看kafkatopic列表，使用–list参数bin/kafka-topics.sh--zookeeper127.0.0.1:2181--list2，查看kafka特定topic的详情，使用–topic
mhbsoft·2024-01-20 18:29

Kafka常用命令

文章目录启动Kafka并生产消费消息查看修改topic、group命令启动Kafka并生产消费消息启动ZooKeeper#启动ZooKeeper$bin/zookeeper-server-start.shconfig
楓葉也·2024-01-20 18:29

【kafka】Kafka 1.1.0 consumer group位移重设

1.概述转载：https://www.cnblogs.com/huxi2b/p/7284767.html本文阐述如何使用Kafka自带的kafka-consumer-groups.sh脚本随意设置消费者组
九师兄·2024-01-20 18:29

kafka参数配置参考和优化建议 —— 筑梦之路

对于Kafka的优化，可以从以下几个方面进行思考和优化：硬件优化：使用高性能的硬件设备，包括高速磁盘、大内存和高性能网络设备，以提高Kafka集群的整体性能。
筑梦之路·2024-01-20 18:57

在控制台从指定时间戳消费kafka

1.重置消费位点${KAFKA_HOME}/bin/kafka-consumer-groups.sh\--bootstrap-server127.0.0.1:9092\--grouptest_group
Mathieu66·2024-01-20 18:57

Kafka Console Client 的 Consumer Group

以往使用kafka-console-consumer.sh消费Kafka消息时并没有太在意过ConsumerGroup，在命令行中也不会使用--group参数，本文针对KafkaConsoleClient
　Laurence·2024-01-20 18:26

处理积压消息

一、避免消息积压对于绝大多数使用消息队列的业务来说，消息队列本身的处理能力要远大于业务系统的处理能力。
滴流乱转的小胖子·2024-01-20 17:50

消息中间件之Kafka(一)

1.简介高性能的消息中间件，在大数据的业务场景下性能比较好，kafka本身不维护消息位点，而是交由Consumer来维护，消息可以重复消费，并且内部使用了零拷贝技术，性能比较好Broker持久化消息时采用了
coffee_babe·2024-01-20 15:15

kafka hang 问题记录

参考文档https://cloud.tencent.com/developer/article/18214779092端口端口9092通常与ApacheKafka关联。
~kiss~·2024-01-20 15:14

解决celery与kafka的联用问题

0X01背景大数据过滤、导入，用celery下发任务，任务内容为kafka生产一些数据。
LzSkyline·2024-01-20 15:25

4.Kafka消费过程

四、Kafka消费过程分析1.消费方式consumer采用pull（拉）模式从broker中读取数据。pull模式不足之处是，如果kafka没有数据，消费者可能会陷入循环中，一直返回空数据。
chongweiLin·2024-01-20 14:23

程序员~高级~消息队列

一、什么是消息队列MQ(MessageQuene):翻译为消息队列,通过典型的⽣产者和消费者模型,⽣产者不断向消息队列中⽣产消息，消费者不断的从队列中获取消息。
爱可2020·2024-01-20 13:13

Debezium发布历史75

audit-logs-with-kogito/欢迎关注留言，我是收集整理小能手，工具翻译，仅供参考，笔芯笔芯.使用Kogito进行审核日志的管理服务十月22,2019作者：MaciejSwiderski讨论示例apache-kafkakafka-streamskogito
大大蚊子·2024-01-20 13:13

Debezium发布历史77

欢迎关注留言，我是收集整理小能手，工具翻译，仅供参考，笔芯笔芯.使用Debezium连接器实现秘密外部化十二月13,2019作者：JiriPechanecmysql的秘密示例当Debezium连接器部署到KafkaConnect
大大蚊子·2024-01-20 13:43

Debezium发布历史71

audit-logs-with-change-data-capture-and-stream-processing/欢迎关注留言，我是收集整理小能手，工具翻译，仅供参考，笔芯笔芯.使用变更数据捕获和流处理构建审核日志2019年10月1日作者：GunnarMorling讨论示例apache-kafkakafka-str
大大蚊子·2024-01-20 13:41

开源文件清理工具 Czkawka v6.0.0 中文便携版

介绍Czkawka（tch•kav•ka（国际音标：[ʈ͡ʂkafka]），波兰语中的“打嗝”）是一个开源、简单、快速且免费的应用程序，可以从您的计算机中删除不必要的文件。
小虾米的互联网江湖·2024-01-20 12:12

【Flink】Flink1.12.0 FlinkSQL消费Kafka 使用 temporal join 关联维表Hive 最新分区数据 join 不上

文章目录1.概述2.场景12.1概述2.2解决1.概述2.场景12.1概述场景是这样的FlinkSQL消费kafka关联Hive维表最新分区刚开始我往Hive维表里筛了10条左右数据运行FlinkSQL
九师兄·2024-01-20 11:27

flume实现上传nginx日志到kafka

内置的可以满足当下我们的需求，这里选用source是TAILDIR，channel是SPILLABLEMEMORY，sink是org.apache.flume.sink.kafka.KafkaSink。
sf_www·2024-01-20 11:20

深入探讨生产环境中秒杀接口并发量剧增、负载过高的情况该如何应对？

：2.5优化事务范围：3.使用缓存技术3.1.选择合适的缓存系统：3.2.缓存热门商品信息：3.3.缓存热门商品列表：3.4.使用缓存刷新策略：3.5.使用缓存预热：4.异步处理订单4.1.选择合适的消息队列系
喔的 喔的嘛呀·2024-01-20 11:08

【Flink-CDC】Flink CDC 介绍和原理概述

FlinkSQLCDC的数据同步方案实践4.1.案例1:FlinkSQLCDC+JDBCConnector4.2.案例2:CDCStreamingETL4.3.案例3:StreamingChangestoKafkaCDC
bmyyyyyy·2024-01-20 10:27

python接收activemq服务器的消息，转发到另外两个activemq服务器消息中

pika是一个流行的AMQP（高级消息队列协议）客户端库，可以与ActiveMQ等消息代理进行交互。
三希·2024-01-20 10:51

大数据开发之Kafka（概述、快速入门、生产者）

第1章：Kafka概述1.1定义Kafka是一个分布式的基于发布/订阅模式的消息队列，主要应用于大数据实时处理领域。
Key-Key·2024-01-20 10:39

Kafka 新版消费者 API（三）：以时间戳查询消息和消费速度控制

1.以时间戳查询消息(1)Kafka新版消费者基于时间戳索引消费消息kafka在0.10.1.1版本增加了时间索引文件，因此我们可以根据时间戳来访问消息。
CoderJed·2024-01-20 10:18

Kafka框架详解

Kafka1、Kafka介绍Kafka是最初由linkedin公司开发的，使用scala语言编写，kafka是一个分布式，分区的，多副本的，多订阅者的消息队列系统。
坐在风口上de猪·2024-01-20 10:23

RocketMQ源码阅读-Message顺序发送与消费

RocketMQ源码阅读-Message顺序发送与消费1普通顺序消息2严格顺序消息2.1分配消息队列2.2移除消息队列2.3消费消息队列2.3.1消费消息2.3.2处理消费结果2.3.3消息处理队列ProcessQueue2.3.4
迷思特王·2024-01-20 09:46

RabbitMQ 消息队列使用

文章目录MQ同步调用和异步调用RabbitMQ基础概念模型简单队列(Hello-World)工作队列(WorkQueue)Pub/Sub(Fanoutexchange)DirectExchangeTopicExchange序列化方式MQ同步调用和异步调用同步调用优点:时效性强,立即得到结果缺点:耦合度高新业务新需求到来时,需要修改代码性能和吞吐能力下降调用服务的响应时间为所有服务的时间之和资源浪费
怡人蝶梦·2024-01-20 08:29

RabbitMQ的基本使用&入门

它实现了高级消息队列协议（AMQP），是一个可靠且灵活的消息中间件，广泛用于构建分布式系统、微服务架构以及异构系统之间的通信，本期文章将为大家带来RabbitMQ的基本使用及入门一.RabbitMQ基本介绍
ChatYU.·2024-01-20 08:28
上一页 25 26 27 28 29 30 31 32 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他