E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
kakfa
kafka对接flume
kakfa
对接flume以及时间同步集群中的多台服务器进行时间同步yuminstallntpd但是当位置定位是上海之后,发现时间还是没有同步这个时候可以这样操作一波首先可以关闭时间不同的ntpdservicentpdstop
@~~~~小飞
·
2020-06-25 12:23
Apache Kafka基本操作
ApacheKafka基本操作一、概述http://kafka.apache.org/ApacheKafka是一个分布式的流数据平台;三层含义:消息系统(MQ):发布和订阅流数据流数据处理(Streaming):可以基于
Kakfa
高志遠
·
2020-06-25 05:05
Kafka
kafka
分布式
kafka2.2源码分析之KafkaChannel
概述
Kakfa
Channel基本是对SocketChannel的封装,只是这个中间多个一个间接层:TransportLayer,为了封装普通和加密的Channel。
weiqing687
·
2020-06-25 02:32
kafka
Flume与Kafka整合
Flume与
Kakfa
整合flume官方下载地址:https://flume.apache.org/download.html建议下载最新的1.6.0版本的,因为1.6.0版本的集成了整合kafka的插件包可以直接配置使用
MatrixSparse
·
2020-06-25 02:30
hadoop生态组件
KafkaConsumer使用介绍、参数配置
常用参数说明消息解序列化多线程处理总结前言KafkaProducer作为生产者发送消息到Kafka,那么自然也就需要从kafka读取消息,这就是KafkaConsumer,通过和Producer使用相同的topic约定来消费指定数据,使用
kakfa
russqiang
·
2020-06-25 00:26
Kafka
kafka源码解析——kafka生产者模块
1.
kakfa
生产者的
卖萌の哈士奇
·
2020-06-24 13:51
kafka
Kafka性能调优分析-线上环境篇
在意识这个问题后,专门腾出时间来总结一下
kakfa
参数配置的调优,以充分发挥kafka在低时延,高吞吐等不同场景下的优势。二、通用介绍:--------生产者配置-------常规
Java程序猿小七
·
2020-06-24 12:34
java
kafka
java
分布式
大数据
linux
Kafka 使用 Zookeeper 做什么?
Zookeeper在
Kakfa
中扮演的角色:Kafka将元数据信息保存在Zookeeper中,但是发送给Topic本身的数据是不会发到Zk上的·kafk
我有明珠一颗
·
2020-06-24 12:40
Linux与工具
Kafka集群无法外网访问问题解决攻略
环境说明:kafka服务器:阿里云VPC网络服务器,内网ip:10.10.10.10,绑定的弹性ip(外网ip)x.x.x.x,是单机测试环境,zk和kafka都在一台机器上,使用默认端口,
kakfa
是
能量守恒洛
·
2020-06-24 09:14
kafka
kudu性能优化
2.大量数据进入
kakfa
,得不到sparkstreaming及时处理,kafka有大量消息堆积。3.streaming任务,d
longxibendi
·
2020-06-24 08:53
hadoop
大数据运维框架(一)--几类比较常用的自动化运维工具
2.
Kakfa
框架的自动化部署3.Spar
lilyjoke
·
2020-06-24 05:39
大数据
一、kafka简介
转自:http://news.watchstor.com/news-161695.htm1概述
Kakfa
起初是由LinkedIn公司开发的一个分布式的消息系统,后成为Apache的一部分,它使用Scala
YanniZhang的博客
·
2020-06-23 21:55
kafka
【赵强老师】Kafka的持久化
一、Kafka持久化概述
Kakfa
依赖文件系统来存储和缓存消息。对于硬盘的传统观念是硬盘总是很慢,基于文件系统的架构能否提供优异的性能?实际上硬盘的快慢完全取决于使用方式。
赵强老师
·
2020-06-23 13:15
大数据
kafka
scala
消息
中间件
logstash kafka多台机器取数据,只有一个实例消费【logstash2.3.4】
感觉
kakfa
的代码写的还是有点问题的。首先介绍logstash的input-kafka模块的代码结构kafka.rb--l
Fang Shuzhi
·
2020-06-23 09:03
大数据可视化
电商金融风控
Kubernetes StatefulSet 详解
使用案例参考:kubernetescontrib-statefulsets,其中包含zookeeper和
kakfa
的statefulset设置和使用说明。
挖煤工人学IT
·
2020-06-22 20:06
kubernetes
【赵强老师】Kafka的持久化
一、Kafka持久化概述
Kakfa
依赖文件系统来存储和缓存消息。对于硬盘的传统观念是硬盘总是很慢,基于文件系统的架构能否提供优异的性能?实际上硬盘的快慢完全取决于使用方式。
赵强老师
·
2020-06-22 18:00
【赵强老师】Kafka的持久化
一、Kafka持久化概述
Kakfa
依赖文件系统来存储和缓存消息。对于硬盘的传统观念是硬盘总是很慢,基于文件系统的架构能否提供优异的性能?实际上硬盘的快慢完全取决于使用方式。
赵强老师
·
2020-06-22 18:00
【赵强老师】Kafka的持久化
一、Kafka持久化概述
Kakfa
依赖文件系统来存储和缓存消息。对于硬盘的传统观念是硬盘总是很慢,基于文件系统的架构能否提供优异的性能?实际上硬盘的快慢完全取决于使用方式。
collen7788
·
2020-06-22 18:47
大数据
Kafka
Scala
Flink 1.10.0应用场景,
kakfa
->flink->kafka/mysql/es/hive/hdfs
Flink1.10通过开发将Hive集成到Flink,可用于生产环境。Flink1.10.0部署文档:https://blog.csdn.net/RivenDong/article/details/104416464应用场景:1、kafka->flink->kafka:https://mp.weixin.qq.com/s/mokYFllNwvObW65d_6EQjQ2、Kafka->flink->
源神
·
2020-06-22 10:13
Flink
kafka概念扫盲
一、kafka概述1.1、定义
Kakfa
是一个分布式的基于发布/订阅模式的消息队列(messagequeue),主要应用于大数据的实时处理领域1.2、消息队列1.2.1、传统的消息队列&新式的消息队列的模式上面是传统的消息队列
起昵称好麻烦
·
2020-06-22 09:24
Spark Streaming分析
Kakfa
数据
SparkStreaming分析
Kakfa
数据环境spark-2.2.0kafka-2.11-2.30zookeeper-3.5.5kafkaProducer开发packagedocimportjava.util.Propertiesimportorg.apache.kafka.clients.producer
H_w
·
2020-06-22 08:30
Spark
4天如何完爆Kafka源码核心流程!
这几年,大数据技术发展迅猛,其中
Kakfa
凭借高可靠、高吞吐、高可用、可伸缩几大特性,成为数据管道技术的首选。
zsfz_053
·
2020-06-10 17:50
Kafka
在家办公这些天整理的Kafka知识点大全
简介:
Kakfa
广泛应用于国内外大厂,例如BAT、字节跳动、美团、Netflix、Airbnb、Twitter等等。今天我们通过这篇文章深入了解Kafka的工作原理。
阿里技术
·
2020-05-27 23:30
kafka
离线源码安装kafka
(1)下载kafka链接:https://pan.baidu.com/s/17htebLgRhoHyihTJnY3eew提取码:n4hg(3)解压
kakfa
tar-zxvfxxx.tar(2)启动zookeeper
Jetlag时
·
2020-05-07 14:28
别再说读不懂 Kafka 源码了,都为你整理好了!
这几年,大数据发展迅猛,其中
Kakfa
凭借高可靠、高吞吐、高可用、可伸缩几大特性,成为数据管道技术的首选。
公众号-芋道源码
·
2020-04-14 10:00
Kakfa
常用命令
创建主题4个分区,2个副本kafka-topics.sh--create--zookeeperlocalhost:2181--replication-factor2--partition4--topictest查询集群描述kafka-topics.sh--describe--zookeeper生产者kafak-console-producer.sh--broker-listlocalhost:90
2fc2a81494ac
·
2020-04-08 12:19
原来这才是 Kafka!(多图+深入)
作者:bai_nian_min_guohttps://www.cnblogs.com/baini...一、kafka概述1.1、定义
Kakfa
是一个分布式的基于发布/订阅模式的消息队列(messagequeue
Java技术栈
·
2020-04-08 04:03
java
原来这才是 Kafka!(多图+深入)
作者:bai_nian_min_guohttps://www.cnblogs.com/bainianminguo/p/12247158.html一、kafka概述1.1、定义
Kakfa
是一个分布式的基于发布
Java技术栈
·
2020-04-07 11:00
Kakfa
Producer 干货篇
KafkaProducer是负责向Kafka服务发送消息的应用程序,该文不讲故事,跟多偏重于原理和思考方面,对于Kafka没有任何了解的人,可能有点困难和枯燥。KafkaProducerKafkaProducer线程安全,支持多个线程共享同一个实例对象。ProducerRecordpublicclassProducerRecord{privatefinalStringtopic;privatefi
迹_Jason
·
2020-04-06 18:28
kafka
分享一些 Kafka 消费数据的小经验
建议对
Kakfa
还比较陌生的朋友可以先看看。就我的使用经验来说,大部分情况都是处于数据下游的消费者角色。
crossoverJie
·
2020-04-06 18:54
kafka
java
多线程
从源码分析如何优雅的使用 Kafka 生产者
其中有朋友咨询在大量消息的情况下
Kakfa
是如何保证消息的高效及一致性呢?正好以这个问题结合
Kakfa
的源码讨论下如何正确、高效的发送消息。
crossoverJie
·
2020-04-06 18:22
java
kafka
分享一些 Kafka 消费数据的小经验
建议对
Kakfa
还比较陌生的朋友可以先看看。就我的使用经验来说,大部分情况都是处于数据下游的消费者角色。
crossoverJie
·
2020-04-02 21:39
kafka集群安装部署
kakfa
集群部署实验室3台机器:34,35,361、到官网http://kafka.apache.org/下载安装包kafka_2.12-1.1.0.tgz2、解压到36服务器:cd/utxt/soft
行走的阿舒
·
2020-03-26 11:00
如何学习kafka?
0什么是
kakfa
1kafka的版本2
kakfa
中的术语3Kafka消息模型4kafka的结构5使用kafka创建demo6
kakfa
客户端请求是如何被处理的7kafka中的组件coordinatorcontrol
进击的李同学
·
2020-03-11 23:00
用Python连接kafka时出现ImportError:librdkafka.so.1:cannotopen shared object file:No such file or directory异常处理
用Python往
kakfa
读写数据,选择的是confluent-kafka0.9.4库,在fromconfluent_kafkaimportConsumer时报如下异常:应该是找不到动态链接库librdkafka.so
囧蛋
·
2020-03-11 14:45
从0开始搭建多节点kafka集群
mac系统,kafka0.11,java8,zk3.4.10,100%可复现安装Java安装ZooKeeper安装kafka验证测试topic创建测试消息读写安装Java 不论是ZooKeeper还是
kakfa
进击的李同学
·
2020-03-05 19:00
Kakfa
Server配置文件
#Theidofthebroker.Thismustbesettoauniqueintegerforeachbroker.#节点的ID,必须与其它节点不同broker.id=0#Switchtoenabletopicdeletionornot,defaultvalueisfalse#选择启用删除主题功能,默认falsedelete.topic.enable=trueunclean.leader.e
sqtce
·
2020-03-02 14:01
kafka配置
Kakfa
集群(2.11-0.10.1.0)版本滚动升级方案
Kafka集群版本升级(2.11-0.10.1.0)升级(2.11-0.10.2.2)官网升级说明:一、系统环境Zookeeper集群:172.16.2.10172.16.2.11172.16.2.12Kafka集群:172.16.2.10172.16.2.11172.16.2.12现Kafka版本:2.11-0.10.1.0,安装目录:/usr/local/kafka计划升级至版本:2.11-0
liucx
·
2020-02-26 10:00
Spring Boot 中使用@KafkaListener并发批量接收消息
转自:https://blog.csdn.net/russle/article/details/81258590
kakfa
是我们在项目开发中经常使用的消息中间件。
不1见2不3散4
·
2020-02-22 09:58
kafka入门
#基本操作参考:http://kafka.apache.org/quickstart#quickstart_multibroker
kakfa
安装配置启动http://kafka.apache.org/quickstart
swa19
·
2020-02-20 13:07
从源码分析如何优雅的使用 Kafka 生产者
前言其中有朋友咨询在大量消息的情况下
Kakfa
是如何保证消息的高效及一致性呢?正好以这个问题结合
Kakfa
的源码讨论下如何正确、高效的发送消息。
CQqfjy
·
2020-02-17 10:00
Kafka Producer详解(二)
一、Producer介绍在
kakfa
中,生产者采用push的方式想kafka集群提交数据。
kakfa
官方提供了一个producer的api,方便我们调用代码向集群发送消息。
疯狂的哈丘
·
2020-02-16 13:52
从源码分析如何优雅的使用 Kafka 生产者
前言在大量消息的情况下
Kakfa
是如何保证消息的高效及一致性呢?正好以这个问题结合
Kakfa
的源码讨论下如何正确、高效的发送消息。
陈晨辰
·
2020-02-07 14:44
java
kafka概念扫盲
一、kafka概述1.1、定义
Kakfa
是一个分布式的基于发布/订阅模式的消息队列(messagequeue),主要应用于大数据的实时处理领域1.2、消息队列1.2.1、传统的消息队列&新式的消息队列的模式上面是传统的消息队列
陈晨辰
·
2020-02-07 14:44
java
从源码分析如何优雅的使用 Kafka 生产者
前言在大量消息的情况下
Kakfa
是如何保证消息的高效及一致性呢?正好以这个问题结合
Kakfa
的源码讨论下如何正确、高效的发送消息。
陈晨辰
·
2020-02-07 11:00
kafka概念扫盲
一、kafka概述1.1、定义
Kakfa
是一个分布式的基于发布/订阅模式的消息队列(messagequeue),主要应用于大数据的实时处理领域1.2、消息队列1.2.1、传统的消息队列&新式的消息队列的模式上面是传统的消息队列
陈晨辰
·
2020-02-07 10:00
Kafka 消息持久化
持久化原理
Kakfa
依赖文件系统来存储和缓存消息。对于硬盘的传统观念是硬盘总是很慢,基于文件系统的架构能否提供优异的性能?实际上硬盘的快慢完全取决于使用方式。
Alex90
·
2020-02-02 06:32
Spring boot 和 kafka的优雅集成
来源于网络在日常的开发工作中,kafka作为消息处理中间件,会经常在SpringBoot的应用中连接kafka,消费
kakfa
中的流式数据,那么怎么优雅的集成kafka,有什么使用的小技巧呢?
宝仲
·
2020-02-01 18:34
kafka概念扫盲
一、kafka概述1.1、定义
Kakfa
是一个分布式的基于发布/订阅模式的消息队列(messagequeue),主要应用于大数据的实时处理领域1.2、消息队列1.2.1、传统的消息队列&新式的消息队列的模式上面是传统的消息队列
bainianminguo
·
2020-01-31 22:00
03. KafkaProducer 是如何从服务器获取元数据的原理分析
我们在平时研发时一般向
kakfa
broker发送数据的过程,大概遵循以
源码解读者
·
2020-01-06 19:35
上一页
2
3
4
5
6
7
8
9
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他