Kafka每日一问

日志平台搭建手册

执行命令：useraddelk#创建用户passwdelk#设置elk用户密码采用同样的方法创建用户zookeeper和kafka，这两个用户分别管理zookeep
萧十一郎君·2024-01-23 09:15

Kafka-服务端-日志存储

基本概念首先需要了解的是，Kafka使用日志文件的方式保存生产者发送的消息。每条消息都有一个offset值来表示它在分区中的偏移量，这个offset值是逻辑值，并不是消息实际存放的物理地址。
Andy技术支援·2024-01-23 08:33

Kafka-服务端-DelayedOperationPurgatory

DelayedOperationPurgatory的底层依赖于Kafka提供的时间轮实现。
Andy技术支援·2024-01-23 08:33

Kafka-消费者-KafkaConsumer分析总结

KafkaConsumer依赖SubscriptionState管理订阅的Topic集合和Partition的消费状态，通过ConsumerCoordinator与服务端的GroupCoordinator
Andy技术支援·2024-01-23 08:32

kafka（二）——常用命令

常用脚本kafka执行脚本默认在安装的bin目录下，本文中示例均基于bin目录执行。
却道天凉_好个秋·2024-01-23 08:32

kafka的基本使用--学习笔记

catalyst引擎作用：将SparkSql转换成sparkrdd任务提交进行计算解析器将sparksql代码解析成语法树(未解析的逻辑查询计划)分析器将语法树解析成解析后的逻辑查询计划对逻辑查询计划进行属性和关系关联检验优化器将解析后的逻辑查询计划进行优化,得到优化后的逻辑查询计划谓词下推(调整执行顺序)和列值裁剪(过滤列)执行器将优化后的逻辑查询计划转换成物理查询计划转换成RDD任务进行执行k
祈愿lucky·2024-01-23 08:32

Sqoop与Kafka的集成：实时数据导入

将Sqoop与Kafka集成是实现实时数据导入和流处理的关键步骤之一。Sqoop用于将数据从关系型数据库导入到Hadoop生态系统中，而Kafka则用于数据流的传输和处理。
晓之以理的喵~~·2024-01-23 08:01

Kafka（三）【Broker 存储】

目录前言KafkaBroker1、工作流程1.1、Zookeeper存储的Kafka信息1.2、KafkaBroker的总体工作流程1.3、Broke重要参数2、Kafka副本2.1、副本基本信息2.2
让线程再跑一会·2024-01-23 08:57

SpringBoot3.1.7集成Kafka和Kafka安装

一、背景我们在很多系统开发都需要用到消息中间件，目前来说Kafka凭借其优秀的性能，使得它的使用率已经是名列前茅了，所以今天我们将它应用到我们的系统二、版本选择在使用一个中间件一定要考虑版本的兼容性，否则后面会遇到很多问题
风萧萧兮s·2024-01-23 08:24

kafka集群和Filebeat+Kafka+ELK

一、Kafka概述1.1为什么需要消息队列（MQ）主要原因是由于在高并发环境下，同步请求来不及处理，请求往往会发生阻塞。
为什么老是名字被占用·2024-01-23 08:23

Flink对接Kafka的topic数据消费offset设置参数

scan.startup.mode是Flink中用于设置消费Kafkatopic数据的起始offset的配置参数之一。
墨子白·2024-01-23 07:48

12、Kafka ------ Kafka 生产者API用法（代码演示生产者发送消息到指定主题）

目录Kafka生产者API用法（代码演示）生产者API介绍依赖：介绍：使用生产者API发送消息步骤：生产者发送消息代码演示：1、创建一个Maven项目2、依赖3、代码4、演示结果5、一些参数理解代码生产者
_L_J_H_·2024-01-23 06:49

13、Kafka ------ kafka 消费者API用法（消费者消费消息代码演示）

目录kafka消费者API用法消费者API使用消费者API消费消息消费者消费消息的代码演示1、官方API示例2、创建消费者类3、演示消费结果1、演示消费者属于同一个消费者组2、演示消费者不属于同一个消费者组
_L_J_H_·2024-01-23 06:05

2020年我凭借这份pdf成功拿到了阿里，腾讯，京东等六家大厂offer

今天给大家分享我拿到大厂offer的利器，大厂核心知识面试宝典，375页面试宝典，内容囊括jvm，java集合，java多线程并发，java基础，spring原理，微服务，网络，日志，zookeeper，kafka
09a131ee5c4b·2024-01-23 06:09

Kafka架构总结以及常见的面试题总结

kafka名词说明分布式高吞吐量消息系统producer：生产者consumer：消费者broker：机器，节点controller：kafka服务器的主节点负责管理元数据（zk存储一份）follower
不加班程序员·2024-01-23 06:24

通过Spark向Kafka写入数据

1、·将KafkaProducer利用lazyval的方式进行包装packagecn.com.m.utilimportjava.util.concurrent.Futureimportorg.apache.kafka.clients.producer
不加班程序员·2024-01-23 06:24

flume案例

在构建数仓时，经常会用到flume接收日志数据，通常涉及到的组件为kafka，hdfs等。下面以一个flume接收指定topic数据，并存入hdfs的案例，大致了解下flume相关使用规则。
不加班程序员·2024-01-23 06:48

每日一问

爱情是什么?我原本以为是两个人的相伴，互相护持到老，可是现在的恋爱理念好像不怎么适合我啊，我想了好久都不知道为什么他们在分手后又可以爱上另一个人，既然没有携手共进的准备，有何必把爱情牵扯进来？难不成所谓的恋爱只是炫耀的资本?
安定_b641·2024-01-23 04:31

【分布式技术】消息队列Kafka

目录一、Kafka概述二、消息队列Kafka的好处三、消息队列Kafka的两种模式四、Kafka1、Kafka定义2、Kafka简介3、Kafka的特性五、Kafka的系统架构六、实操部署Kafka集群步骤一
liu_xueyin·2024-01-23 04:01

Hadoop -- ZooKeeper

ZooKeeper是一个分布式的，开放源码的分布式应用程序协调服务，是Hadoop、Hbase、kafka、dubbo等重要组件。
Cool_Pepsi·2024-01-23 02:42

spring boot kafka 发送消息 完整的例子工程

以下是一个简单的SpringBootKafka发送消息的完整例子：首先，添加SpringBootKafka的依赖到你的pom.xml文件：xmlorg.springframework.bootspring-boot-starter-kafka
欧亨利式结局·2024-01-23 00:47

【算法Hot100系列】跳跃游戏

推荐:kwan的首页,持续学习,不断总结,共同进步,活到老学到老导航檀越剑指大厂系列:全面总结java核心技术点,如集合,jvm,并发编程redis,kafka,Spring,微服务,Netty等常用开发工具系列
檀越剑指大厂·2024-01-22 21:04

kafka基础入门

ApacheKafka是一个事件流平台，其结合了三个关键的功能，使你可以完成端到端的事件流解决方案。发布(写)和订阅(读)事件流，包括从其他系统连续导入/导出数据。事件流存储具有持久性和可靠性。
从大数据到人工智能·2024-01-22 19:08

【算法Hot100系列】字母异位词分组

推荐:kwan的首页,持续学习,不断总结,共同进步,活到老学到老导航檀越剑指大厂系列:全面总结java核心技术点,如集合,jvm,并发编程redis,kafka,Spring,微服务,Netty等常用开发工具系列
檀越剑指大厂·2024-01-22 19:59

大数据之使用Flume监听本地文件采集数据流到HDFS

本文介绍Flume监听本地文件采集数据流到HDFS我还写了一篇文章是Flume监听端口采集数据流到Kafka【点击即可跳转，写的也非常详细】任务一：在Master节点使用Flume采集/data_log
十二点的泡面·2024-01-22 19:54

大数据之使用Flume监听端口采集数据流到Kafka

本文介绍Flume监听端口采集数据流到Kafka我还写了一篇文章是Flume监听本地文件采集数据流到HDFS【点击即可跳转，写的也非常详细】任务一：实时数据采集前摘：Flume是一种分布式、高可靠、高可用的数据收集系统
十二点的泡面·2024-01-22 19:53

Prometheus插件安装kafka_exporter

下载地址https://github.com/danielqsj/kafka_exporter/releases解压tar-zxvfkafka_exporter-1.7.0.linux-amd64.tar.gzmvkafka_exporter
weixin_43169720·2024-01-22 18:41

Spark消费Kafka的两种方式

目录介绍Receiver方式code原理如何保证数据不丢失但是会导致数据重复问题优点缺点Direct(NoReceiver)方式code特点优点缺点介绍kafka版本，kafka0.8支持Receiver
这个程序猿可太秀了·2024-01-22 17:57

Kafka Connect: Debezium MySQL Connector 的 Partition 和 Replication 配置

使用KafkaConnect的DebeziumMySQLConnector将MySQL数据库中的CDC数据写入Kafka时，在Kafka默认允许自动创建Topic的情况下，KafkaConnect自动创建的
　Laurence·2024-01-22 17:56

孩子多大分房睡比较好？/520亲子成长迹 068/520

520家庭教育每日一问068/520问：孩子多大分房睡比较好？
成长迹·2024-01-22 17:39

如何本地安装Python Flask并结合内网穿透实现远程开发

推荐:kwan的首页,持续学习,不断总结,共同进步,活到老学到老导航檀越剑指大厂系列:全面总结java核心技术点,如集合,jvm,并发编程redis,kafka,Spring,微服务,Netty等常用开发工具系列
檀越剑指大厂·2024-01-22 17:36

在windows初装kafka

1.下载kafka:http://kafka.apache.org/downloadsimage.png2.解压image.png3.运行CMD到这里：image.png1).启动zookeeper.
小狼在IT·2024-01-22 17:37

分布式系统中为什么需要使用消息队列

当今市面上有很多主流的消息中间件，如老牌的ActiveMQ、RabbitMQ，炙手可热的Kafka，阿里巴巴自主开发的Notify、MetaQ、RocketMQ等。
码农小旋风·2024-01-22 12:44

【Flink-1.17-教程】-【四】Flink DataStream API（1）源算子（Source）

创建执行环境1.2.执行模式（ExecutionMode）1.3.触发程序执行2）源算子（Source）2.1.准备工作2.2.从集合中读取数据2.3.从文件读取数据2.4.从Socket读取数据2.5.从Kafka
bmyyyyyy·2024-01-22 11:34

【后端目录贴】

【大数据】kafka8.【JAVA】目录贴9.【linux】目录贴10.【后端】深入浅出Node.js
骑鱼过海的猫123·2024-01-22 11:39

某马头条——day06

kafka概述kafka环境搭建dockerpullzookeeper:3.4.14dockerrun-d--namezookeeper-p2181:2181zookeeper:3.4.14安装kafkadockerpullwurstmeister
北岭山脚鼠鼠·2024-01-22 09:55

59号yuki婷#百日营#7.25日打卡

图片发自App#每日一问52#你有什么拿得出手的作品？图片发自App图片发自App图片发自App图片发自App图片发自App
yuki婷_cf4d·2024-01-22 08:58

Flink on yarn 实时日志收集到 kafka 打造日志检索系统

点击上方"JasonLee实时计算",选择"设为星标"再也不用担心错过重要文章后台回复"监控",获取grafana监控Flink最新的模板背景在Flinkonyarn的模式下,程序运行的日志会分散的存储在不同的DN上,当Flink任务发生异常的时候,我们需要查看日志来定位问题,一般我们会选择通过FlinkUI上面的logs来查看日志,或者登录到对应的服务器上去查看,但是在任务日志量非常大的情况下,
JasonLee实时计算·2024-01-22 08:33

ELK日志分析

Logstash（1）定义（2）插件①input②filter③output（三）可以添加的其它组件1.Filebeat（1）定义（2）filebeat结合logstash带来好处2.缓存/消息队列（redis、kafka
江南字子川·2024-01-22 08:55

JVM系列-3.类的生命周期

作者简介：大家好，我是爱吃芝士的土豆倪，24届校招生Java选手，很高兴认识大家系列专栏：Spring原理、JUC原理、Kafka原理、分布式技术原理、数据库技术、JVM原理如果感觉博主的文章还不错的话
爱吃芝士的土豆倪·2024-01-22 08:16

JVM系列-1.初识JVM

作者简介：大家好，我是爱吃芝士的土豆倪，24届校招生Java选手，很高兴认识大家系列专栏：Spring原理、JUC原理、Kafka原理、分布式技术原理、数据库技术、JVM原理如果感觉博主的文章还不错的话
爱吃芝士的土豆倪·2024-01-22 08:16

JVM系列-2.字节码文件详解

作者简介：大家好，我是爱吃芝士的土豆倪，24届校招生Java选手，很高兴认识大家系列专栏：Spring原理、JUC原理、Kafka原理、分布式技术原理、数据库技术、JVM原理如果感觉博主的文章还不错的话
爱吃芝士的土豆倪·2024-01-22 08:07

Kafka（八）使用Kafka构建数据管道

目录1使用场景2构建数据管道时需要考虑的问题2.1及时性2.2可靠性高可用可靠性数据传递2.3高吞吐量2.4数据格式2.5转换ETLELT2.6安全性2.7故障处理2.8耦合性和灵活性临时数据管道元数据丢失末端处理3使用ConnectAPI3.1Connect的数据处理流程sourcesinkconnectorsTasksWorkersTransformerConverters偏移量管理3.2运行
yunyun1886358·2024-01-22 07:35

kafka入门(十)：副本数据同步

Kafka通过多副本机制实现故障自动转移，在Kafka集群中某个broker节点失效的情况下仍然保证服务可用。
乐之者v·2024-01-22 07:04

Spark写入kafka（批数据和流式）

Spark写入（批数据和流式处理）Spark写入kafka批处理写入kafka基础#spark写入数据到kafkafrompyspark.sqlimportSparkSession,functionsasFss
中长跑路上crush·2024-01-22 07:02

大数据开发之电商数仓（hadoop、flume、hive、hdfs、zookeeper、kafka）

第1章：数据仓库1.1数据仓库概述1.1.1数据仓库概念1、数据仓库概念：为企业制定决策，提供数据支持的集合。通过对数据仓库中数据的分析，可以帮助企业，改进业务流程、控制成本，提高产品质量。数据仓库并不是数据的最终目的地，而是为数据最终的目的地做好准备，这些准备包括对数据的：清洗、转义、分类、重组、合并、拆分、统计等。2、数据仓库的数据通常包括：业务数据、用户行为数据和爬虫数据等3、业务系统数据库
Key-Key·2024-01-22 07:29

Kafka常见指令及监控程序介绍

kafka在流数据、IO削峰上非常有用，以下对于这款程序，做一些常见指令介绍。
necessary653·2024-01-22 07:49

Kafka 生产者投递内存池源码刨铣

大体逻辑是这样的。。初始化BufferPool的时候会指定BufferPool的大小以及内存块(poolableSize)的大小。在申请内存的时候如果申请的内存大小大于指定的内存块大小就会抛出异常，无法申请。如果是等于poolableSize的话，就会判断free中是否有，有的话就直接从free中取出，没有的话再去申请（这个free可以里面为一个缓存，每次归还的时候会归还到free中（前提free
老耿·2024-01-22 06:02

42号 #百日生涯营#Day63 镜像日

#每日一问63##每日一问63#如果你下个月将辞职或者被辞退，你觉得你有什么能力和经验可以从现在的工作/学习中带走？
粉水晶女孩·2024-01-22 04:25

日精进2020.7.27/day57

【3】每日一问❓要不要做？接龙吗？我要的结
好奇宝宝余非鱼·2024-01-22 03:53
上一页 15 16 17 18 19 20 21 22 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他