消息队列--kafka

kafka（二）——常用命令

常用脚本kafka执行脚本默认在安装的bin目录下，本文中示例均基于bin目录执行。
却道天凉_好个秋·2024-01-23 08:32

kafka的基本使用--学习笔记

catalyst引擎作用：将SparkSql转换成sparkrdd任务提交进行计算解析器将sparksql代码解析成语法树(未解析的逻辑查询计划)分析器将语法树解析成解析后的逻辑查询计划对逻辑查询计划进行属性和关系关联检验优化器将解析后的逻辑查询计划进行优化,得到优化后的逻辑查询计划谓词下推(调整执行顺序)和列值裁剪(过滤列)执行器将优化后的逻辑查询计划转换成物理查询计划转换成RDD任务进行执行k
祈愿lucky·2024-01-23 08:32

Sqoop与Kafka的集成：实时数据导入

将Sqoop与Kafka集成是实现实时数据导入和流处理的关键步骤之一。Sqoop用于将数据从关系型数据库导入到Hadoop生态系统中，而Kafka则用于数据流的传输和处理。
晓之以理的喵~~·2024-01-23 08:01

Kafka（三）【Broker 存储】

目录前言KafkaBroker1、工作流程1.1、Zookeeper存储的Kafka信息1.2、KafkaBroker的总体工作流程1.3、Broke重要参数2、Kafka副本2.1、副本基本信息2.2
让线程再跑一会·2024-01-23 08:57

SpringBoot3.1.7集成Kafka和Kafka安装

一、背景我们在很多系统开发都需要用到消息中间件，目前来说Kafka凭借其优秀的性能，使得它的使用率已经是名列前茅了，所以今天我们将它应用到我们的系统二、版本选择在使用一个中间件一定要考虑版本的兼容性，否则后面会遇到很多问题
风萧萧兮s·2024-01-23 08:24

kafka集群和Filebeat+Kafka+ELK

一、Kafka概述1.1为什么需要消息队列（MQ）主要原因是由于在高并发环境下，同步请求来不及处理，请求往往会发生阻塞。
为什么老是名字被占用·2024-01-23 08:23

Flink对接Kafka的topic数据消费offset设置参数

scan.startup.mode是Flink中用于设置消费Kafkatopic数据的起始offset的配置参数之一。
墨子白·2024-01-23 07:48

12、Kafka ------ Kafka 生产者API用法（代码演示生产者发送消息到指定主题）

目录Kafka生产者API用法（代码演示）生产者API介绍依赖：介绍：使用生产者API发送消息步骤：生产者发送消息代码演示：1、创建一个Maven项目2、依赖3、代码4、演示结果5、一些参数理解代码生产者
_L_J_H_·2024-01-23 06:49

RabbitMQ安装和使用

简介RabbitMQ是一套开源（MPL）的消息队列服务软件，是由LShift提供的一个AdvancedMessageQueuingProtocol(AMQP)的开源实现，由以高性能、健壮以及可伸缩性出名的
余温x·2024-01-23 06:36

13、Kafka ------ kafka 消费者API用法（消费者消费消息代码演示）

目录kafka消费者API用法消费者API使用消费者API消费消息消费者消费消息的代码演示1、官方API示例2、创建消费者类3、演示消费结果1、演示消费者属于同一个消费者组2、演示消费者不属于同一个消费者组
_L_J_H_·2024-01-23 06:05

2020年我凭借这份pdf成功拿到了阿里，腾讯，京东等六家大厂offer

今天给大家分享我拿到大厂offer的利器，大厂核心知识面试宝典，375页面试宝典，内容囊括jvm，java集合，java多线程并发，java基础，spring原理，微服务，网络，日志，zookeeper，kafka
09a131ee5c4b·2024-01-23 06:09

Kafka架构总结以及常见的面试题总结

kafka名词说明分布式高吞吐量消息系统producer：生产者consumer：消费者broker：机器，节点controller：kafka服务器的主节点负责管理元数据（zk存储一份）follower
不加班程序员·2024-01-23 06:24

通过Spark向Kafka写入数据

1、·将KafkaProducer利用lazyval的方式进行包装packagecn.com.m.utilimportjava.util.concurrent.Futureimportorg.apache.kafka.clients.producer
不加班程序员·2024-01-23 06:24

flume案例

在构建数仓时，经常会用到flume接收日志数据，通常涉及到的组件为kafka，hdfs等。下面以一个flume接收指定topic数据，并存入hdfs的案例，大致了解下flume相关使用规则。
不加班程序员·2024-01-23 06:48

【并发编程】异步模式之生产者消费者

而消费者专心处理结果数据消息队列是有容量限制的，满时不会再加入数据，空时不会再消耗数据。JDK中各种阻塞队列，采用的就是这种模式。实现思想就是封装消息类，
五敷有你·2024-01-23 05:05

【并发编程】同步模式之保护性暂停

GuardedSuspension,用在一个线程等待另一个线程的执行结果要点：有一个结果需要从一个线程传递到另一个线程，让他们关联同一个GuardedObject如果有结果不断从一个线程到另一个线程那么可以使用消息队列
五敷有你·2024-01-23 05:34

【分布式技术】消息队列Kafka

目录一、Kafka概述二、消息队列Kafka的好处三、消息队列Kafka的两种模式四、Kafka1、Kafka定义2、Kafka简介3、Kafka的特性五、Kafka的系统架构六、实操部署Kafka集群步骤一
liu_xueyin·2024-01-23 04:01

Hadoop -- ZooKeeper

ZooKeeper是一个分布式的，开放源码的分布式应用程序协调服务，是Hadoop、Hbase、kafka、dubbo等重要组件。
Cool_Pepsi·2024-01-23 02:42

Java - 深入四大限流算法：原理、实现与应用

文章目录Pre概述简单计数器原理实现测试优缺点滑动窗口算法原理实现测试优缺点漏桶算法原理实现测试优缺点令牌桶算法原理实现测试优缺点小结Pre深入理解分布式技术-限流并发编程-25高并发处理手段之消息队列思路
小小工匠·2024-01-23 02:41

redis实现异步消息队列和延时队列

redis可以通过list来实现消息队列lpush和rpop左进右出rpush和lpop右进左出blpush和brpop堵塞式，可以指定超时时间实现消息延时队列：通过zset来实现，将value设置成消息
日落黄昏下·2024-01-23 00:47

spring boot kafka 发送消息 完整的例子工程

以下是一个简单的SpringBootKafka发送消息的完整例子：首先，添加SpringBootKafka的依赖到你的pom.xml文件：xmlorg.springframework.bootspring-boot-starter-kafka
欧亨利式结局·2024-01-23 00:47

【算法Hot100系列】跳跃游戏

推荐:kwan的首页,持续学习,不断总结,共同进步,活到老学到老导航檀越剑指大厂系列:全面总结java核心技术点,如集合,jvm,并发编程redis,kafka,Spring,微服务,Netty等常用开发工具系列
檀越剑指大厂·2024-01-22 21:04

kafka基础入门

ApacheKafka是一个事件流平台，其结合了三个关键的功能，使你可以完成端到端的事件流解决方案。发布(写)和订阅(读)事件流，包括从其他系统连续导入/导出数据。事件流存储具有持久性和可靠性。
从大数据到人工智能·2024-01-22 19:08

【算法Hot100系列】字母异位词分组

推荐:kwan的首页,持续学习,不断总结,共同进步,活到老学到老导航檀越剑指大厂系列:全面总结java核心技术点,如集合,jvm,并发编程redis,kafka,Spring,微服务,Netty等常用开发工具系列
檀越剑指大厂·2024-01-22 19:59

大数据之使用Flume监听本地文件采集数据流到HDFS

本文介绍Flume监听本地文件采集数据流到HDFS我还写了一篇文章是Flume监听端口采集数据流到Kafka【点击即可跳转，写的也非常详细】任务一：在Master节点使用Flume采集/data_log
十二点的泡面·2024-01-22 19:54

大数据之使用Flume监听端口采集数据流到Kafka

本文介绍Flume监听端口采集数据流到Kafka我还写了一篇文章是Flume监听本地文件采集数据流到HDFS【点击即可跳转，写的也非常详细】任务一：实时数据采集前摘：Flume是一种分布式、高可靠、高可用的数据收集系统
十二点的泡面·2024-01-22 19:53

架构师的36项修炼-03架构核心技术之分布式消息队列

本课时的主题是分布式消息队列，分布式消息队列的知识结构如下图。本课时主要介绍以下内容。&同步架构和异步架构的区别。异步架构的主要组成部分：消息生产者、消息消费者、分布式消息队列。
机智阳·2024-01-22 18:37

Prometheus插件安装kafka_exporter

下载地址https://github.com/danielqsj/kafka_exporter/releases解压tar-zxvfkafka_exporter-1.7.0.linux-amd64.tar.gzmvkafka_exporter
weixin_43169720·2024-01-22 18:41

Spark消费Kafka的两种方式

目录介绍Receiver方式code原理如何保证数据不丢失但是会导致数据重复问题优点缺点Direct(NoReceiver)方式code特点优点缺点介绍kafka版本，kafka0.8支持Receiver
这个程序猿可太秀了·2024-01-22 17:57

Kafka Connect: Debezium MySQL Connector 的 Partition 和 Replication 配置

使用KafkaConnect的DebeziumMySQLConnector将MySQL数据库中的CDC数据写入Kafka时，在Kafka默认允许自动创建Topic的情况下，KafkaConnect自动创建的
　Laurence·2024-01-22 17:56

如何解决消息队列的延时以及过期失效问题？消息队列满了以后该怎么处理？有几百万消息持续积压几小 时，说说怎么解决？

接着就坑爹了，可能你的消息队列集群的磁盘都快写满了，都没人消费，这个时候怎么办？或者是这整个就积压了几个小时，你这个时候怎么办？
久伴_不离·2024-01-22 17:20

如何本地安装Python Flask并结合内网穿透实现远程开发

推荐:kwan的首页,持续学习,不断总结,共同进步,活到老学到老导航檀越剑指大厂系列:全面总结java核心技术点,如集合,jvm,并发编程redis,kafka,Spring,微服务,Netty等常用开发工具系列
檀越剑指大厂·2024-01-22 17:36

在windows初装kafka

1.下载kafka:http://kafka.apache.org/downloadsimage.png2.解压image.png3.运行CMD到这里：image.png1).启动zookeeper.
小狼在IT·2024-01-22 17:37

分布式系统中为什么需要使用消息队列

本文转载自linkedkeeper.com消息队列已经逐渐成为企业IT系统内部通信的核心手段。它具有低耦合、可靠投递、广播、流量控制、最终一致性等一系列功能，成为异步RPC的主要手段之一。
码农小旋风·2024-01-22 12:44

【Flink-1.17-教程】-【四】Flink DataStream API（1）源算子（Source）

创建执行环境1.2.执行模式（ExecutionMode）1.3.触发程序执行2）源算子（Source）2.1.准备工作2.2.从集合中读取数据2.3.从文件读取数据2.4.从Socket读取数据2.5.从Kafka
bmyyyyyy·2024-01-22 11:34

【后端目录贴】

【大数据】kafka8.【JAVA】目录贴9.【linux】目录贴10.【后端】深入浅出Node.js
骑鱼过海的猫123·2024-01-22 11:39

另类方式实现PHP后台运行

比如用户做某个操作后，需要发邮件，这里假设没有消息队列，而是直接通过smtp进行发送，由于发送邮件建立tcp连接很耗时，而用户浏览器端的请求一直在等待服务端响应结束，给用户的体验是页面一直在加载中，卡在那里了
易点互联·2024-01-22 11:47

Handler、Looper、HandleThread、ActivityThread简介

每个Handler实例都与单个线程和该线程的消息队列相关联。当创建一个新的Handler时，它会被绑定到一个Looper上。Handler将会把Mess
Snasph·2024-01-22 09:55

某马头条——day06

自媒体文章上下架使用消息队列在自媒体下架时通知文章微服务。
北岭山脚鼠鼠·2024-01-22 09:55

初始RabbitMQ(入门篇)

消息队列(MQ)本质上就是一个队列,一个先进先出的队列,队列中存放的内容是message(消息),是一种跨进程的通信机制,用于上下游传递消息,为什么使用MQ:削峰填谷:MQ可以很好的做一个缓冲机制,例如在一个系统中有
陌上 烟雨齐·2024-01-22 08:47

Flink on yarn 实时日志收集到 kafka 打造日志检索系统

点击上方"JasonLee实时计算",选择"设为星标"再也不用担心错过重要文章后台回复"监控",获取grafana监控Flink最新的模板背景在Flinkonyarn的模式下,程序运行的日志会分散的存储在不同的DN上,当Flink任务发生异常的时候,我们需要查看日志来定位问题,一般我们会选择通过FlinkUI上面的logs来查看日志,或者登录到对应的服务器上去查看,但是在任务日志量非常大的情况下,
JasonLee实时计算·2024-01-22 08:33

ELK日志分析

Kiabana3.Logstash（1）定义（2）插件①input②filter③output（三）可以添加的其它组件1.Filebeat（1）定义（2）filebeat结合logstash带来好处2.缓存/消息队列
江南字子川·2024-01-22 08:55

JVM系列-3.类的生命周期

作者简介：大家好，我是爱吃芝士的土豆倪，24届校招生Java选手，很高兴认识大家系列专栏：Spring原理、JUC原理、Kafka原理、分布式技术原理、数据库技术、JVM原理如果感觉博主的文章还不错的话
爱吃芝士的土豆倪·2024-01-22 08:16

JVM系列-1.初识JVM

作者简介：大家好，我是爱吃芝士的土豆倪，24届校招生Java选手，很高兴认识大家系列专栏：Spring原理、JUC原理、Kafka原理、分布式技术原理、数据库技术、JVM原理如果感觉博主的文章还不错的话
爱吃芝士的土豆倪·2024-01-22 08:16

JVM系列-2.字节码文件详解

作者简介：大家好，我是爱吃芝士的土豆倪，24届校招生Java选手，很高兴认识大家系列专栏：Spring原理、JUC原理、Kafka原理、分布式技术原理、数据库技术、JVM原理如果感觉博主的文章还不错的话
爱吃芝士的土豆倪·2024-01-22 08:07

Kafka（八）使用Kafka构建数据管道

目录1使用场景2构建数据管道时需要考虑的问题2.1及时性2.2可靠性高可用可靠性数据传递2.3高吞吐量2.4数据格式2.5转换ETLELT2.6安全性2.7故障处理2.8耦合性和灵活性临时数据管道元数据丢失末端处理3使用ConnectAPI3.1Connect的数据处理流程sourcesinkconnectorsTasksWorkersTransformerConverters偏移量管理3.2运行
yunyun1886358·2024-01-22 07:35

kafka入门(十)：副本数据同步

Kafka通过多副本机制实现故障自动转移，在Kafka集群中某个broker节点失效的情况下仍然保证服务可用。
乐之者v·2024-01-22 07:04

Spark写入kafka（批数据和流式）

Spark写入（批数据和流式处理）Spark写入kafka批处理写入kafka基础#spark写入数据到kafkafrompyspark.sqlimportSparkSession,functionsasFss
中长跑路上crush·2024-01-22 07:02

大数据开发之电商数仓（hadoop、flume、hive、hdfs、zookeeper、kafka）

第1章：数据仓库1.1数据仓库概述1.1.1数据仓库概念1、数据仓库概念：为企业制定决策，提供数据支持的集合。通过对数据仓库中数据的分析，可以帮助企业，改进业务流程、控制成本，提高产品质量。数据仓库并不是数据的最终目的地，而是为数据最终的目的地做好准备，这些准备包括对数据的：清洗、转义、分类、重组、合并、拆分、统计等。2、数据仓库的数据通常包括：业务数据、用户行为数据和爬虫数据等3、业务系统数据库
Key-Key·2024-01-22 07:29

Kafka常见指令及监控程序介绍

kafka在流数据、IO削峰上非常有用，以下对于这款程序，做一些常见指令介绍。
necessary653·2024-01-22 07:49
上一页 23 24 25 26 27 28 29 30 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他