E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
kafka启动异常
[每周一更]-(第37期):PHP常见的操作消息队列
Kafka
:
Kafka
是另一个流行的消息队列系统,也被广泛应用于分布式系统的消息传递和异步处理。在PHP中,可以使用rdkaf
ifanatic
·
2023-12-23 16:41
每周一更
php
开发语言
[每周一更]-(第38期):Go常见的操作消息队列
Apache
Kafka
:Apache
Kafka
是一个开源的分布式流处理平台,也可以用作消息队列,用于处理高容量的消息流和实时数据。
Kafka
提供了高
ifanatic
·
2023-12-23 16:40
每周一更
golang
开发语言
后端
SparkStreaming和
Kafka
0.一些问题SparkStreaming如何消费
Kafka
Kafka
的offset如何维护如何获取
Kafka
的offset
Kafka
获取offset的时候会不会消费
kafka
的记录
Kafka
的分区和sparktask
天之見證
·
2023-12-23 16:25
【高效开发工具系列】eclipse部署web项目
推荐:kwan的首页,持续学习,不断总结,共同进步,活到老学到老导航檀越剑指大厂系列:全面总结java核心技术点,如集合,jvm,并发编程redis,
kafka
,Spring,微服务,Netty等常用开发工具系列
檀越剑指大厂
·
2023-12-23 12:10
s0
常用工具
eclipse
前端
java
11-
Kafka
1
Kafka
Kafka
是一个分布式流式数据平台,它具有三个关键特性MessageSystem:Pub-Sub消息系统Availability&Reliability:以容错及持久化的方式存储数据记录流Scalable
爱写代码的小男孩
·
2023-12-23 09:20
knative
kafka
云原生
knative
serverless
SparkStreaming学习记录
2.BasicConceptsMaven依赖org.apache.sparkspark-streaming_2.122.4.1provided如果数据源来自
Kafka
或Flume等,需要添加如下依赖SourceArtifact
Kafka
spark-streaming
Jorvi
·
2023-12-23 08:49
kafka
流数据_使用数据流将
Kafka
转换为BigQuery
kafka
流数据Disclaimer:IworkatGoogleinthecloudteam.Opinionsaremyownandnottheviewsofmycurrentemployer.免责声明
weixin_26752759
·
2023-12-23 08:24
kafka
大数据
【FLink消费
Kafka
之FlinkConsumer到
Kafka
Source的转变】
前言上篇介绍了flink的入门程序wordcount,在项目开发过程中,最常接触的还是跟各种源头系统打交道,其中消费接收
kafka
中的数据是最常见的情况,而flink在1.15版本后连接
kafka
的依赖包发生了变化
以茉萱
·
2023-12-23 07:07
flink
kafka
大数据
【
Kafka
每日一问】
kafka
三种压缩方式差别?
Kafka
提供了三种压缩算法,分别是GZIP、Snappy和LZ4。
jianjun_fei
·
2023-12-23 07:36
Kafka每日一问
kafka
分布式
【
Kafka
-Eagle】EFAK告警配置与实践
Kafka
-Eagle是一个开源的
Kafka
集群监控与告警系统,可以帮助用户实现对
Kafka
集群的实时监控、性能指标收集以及异常告警等功能。
后端研发Marion
·
2023-12-23 07:36
消息中间件
kafka
分布式
Kafka
怎么保证消息发送不丢失
前言
Kafka
发送消息是异步发送的,所以我们不知道消息是否发送成功,所以会可能造成消息丢失。而且
Kafka
架构是由生产者-服务器端-消费者三种组成部分构成的。
.L.JIN.Jie
·
2023-12-23 07:04
Kafka
kafka
消息队列
Kafka
收发消息核心参数详解
从客户端属性来梳理客户端工作机制消费者分组消费机制生产者拦截器机制消息序列化机制消息分区路由机制生产者消息缓存机制发送应答机制生产者消息幂等性生产者消息事务三、客户端流程总结四、SpringBoot集成
Kafka
小超同学卷起来
·
2023-12-23 07:34
kafka
linq
分布式
分布式理论(CPA/BASE)和分布式服务Dubbo
分布式分为分布式缓存(Redis)、分布式锁(Redis或Zookeeper)、分布式服务(Dubbo或SpringCloud)、分布式服务协调(Zookeeper)、分布式消息队列(
Kafka
、RabbitMq
周大豆
·
2023-12-23 03:59
rabbitmq
redis
实时更改数据捕获到 BigQuery — 没有
Kafka
,没有Dataflow
实时更改数据捕获到BigQuery—没有
Kafka
,没有Dataflow使用Debezium和Pub/Sub实时运行从MySQL到BigQuery的CDC概念验证……我已经有一段时间没有考虑使用Debezium
xuejianxinokok
·
2023-12-23 00:56
kafka
分布式
Redis大Key问题
作者简介:大家好,我是爱吃芝士的土豆倪,24届校招生Java选手,很高兴认识大家系列专栏:Spring源码、JUC源码、
Kafka
原理、分布式技术原理、数据库技术如果感觉博主的文章还不错的话,请三连支持一下博主哦博主正在努力完成
爱吃芝士的土豆倪
·
2023-12-22 21:47
数据库技术
redis
数据库
缓存
Mysql索引优化
作者简介:大家好,我是爱吃芝士的土豆倪,24届校招生Java选手,很高兴认识大家系列专栏:Spring源码、JUC源码、
Kafka
原理、分布式技术原理、数据库技术如果感觉博主的文章还不错的话,请三连支持一下博主哦博主正在努力完成
爱吃芝士的土豆倪
·
2023-12-22 21:47
数据库技术
mysql
数据库
Redis浅谈
作者简介:大家好,我是爱吃芝士的土豆倪,24届校招生Java选手,很高兴认识大家系列专栏:Spring源码、JUC源码、
Kafka
原理、分布式技术原理、数据库技术如果感觉博主的文章还不错的话,请三连支持一下博主哦博主正在努力完成
爱吃芝士的土豆倪
·
2023-12-22 21:17
数据库技术
redis
数据库
缓存
Mysql的SQL优化和锁
作者简介:大家好,我是爱吃芝士的土豆倪,24届校招生Java选手,很高兴认识大家系列专栏:Spring源码、JUC源码、
Kafka
原理、分布式技术原理、数据库技术如果感觉博主的文章还不错的话,请三连支持一下博主哦博主正在努力完成
爱吃芝士的土豆倪
·
2023-12-22 21:16
数据库技术
mysql
sql
数据库
四种消息队列,如何选型
这篇文章,主要讲述
Kafka
、RabbitMQ、RocketMQ和ActiveMQ这4种消息队列的异同,无论是面试,还是用于技术选型,都有非常强的参考价值。01消息队列基础1.1什么是消息队列?
ღ᭄陽先生꧔ꦿ᭄
·
2023-12-22 17:55
信息可视化
CloudCanal x Debezium 打造实时数据流动新范式
简述Debezium是一个开源的数据订阅工具,主要功能为捕获数据库变更事件发送到
Kafka
。
ClouGence
·
2023-12-22 16:48
CloudCanal
数据库
大数据
数据仓库
etl
kafka
单节点安装与启动
主机环境与依赖操作系统:centos7CPU架构:x86_64软件依赖:jdk1.8以及zookeeper3.6.3
kafka
下载与解压mkdir/data&&cd/datawgethttps://dlcdn.apache.org
从大数据到人工智能
·
2023-12-22 13:11
5分钟搞定 关系型数据库 到 Flink 数据同步
本文主要介绍如何通过CloudCanal快速构建一条高效稳定运行的MySQL->
Kafka
->Flink数据同步链路。技术点兼容多种常见消息结构CloudCanal目前支持DebeziumE
ClouGence
·
2023-12-22 13:31
CloudCanal
数据迁移
数据同步
canal
消息队列
kafka
、rabbitmq、rocketmq、activemq概述
什么是消息队列?消息队列是一种在应用程序之间传递消息的通信模式。它基于生产者-消费者模型,其中生产者将消息发送到队列,而消费者从队列中接收和处理消息。消息队列充当了生产者和消费者之间的中介,使得两者可以独立地进行通信,而不需要直接的点对点连接。为什使用消息队列?消息队列的作用主要包括以下几个方面:-异步通信:消息队列可以实现异步通信,生产者将消息发送到队列后即可继续执行,而不需要等待消费者的响应。
zgcyyh
·
2023-12-22 11:05
消息队列
kafka
rabbitmq
rocketmq
kerberos认证Flink的
kafka
connector和
kafka
client配置
一、flink-connector-kakfa1.
kafka
配置文件
kafka
jaas必须配置,如果缺少,则报一下错误。
lisacumt
·
2023-12-22 11:23
kafka
flink
Linux下查看某一进程所占用内存的方法
Linux下查看某一个进程所占用的内存,首先可以通过ps命令找到进程id,比如ps-ef|grep
kafka
可以看到
kafka
这个程序的进程id可以看到是2913,现在可以使用如下命令查看内存:top-p2913
刘sir--
·
2023-12-22 11:36
Linux
Kafka
知识库 - 索引目录 - 待做
Kafka
基础—1、
Kafka
基础概念&
Kafka
架构&
Kafka
安装与配置
Kafka
基础—2、
Kafka
生产者API
Kafka
基础—3、
Kafka
消费者API
Kafka
基础—4、
Kafka
Streams
风不归Alkaid
·
2023-12-22 10:18
Kafka
kafka
后端
Kafka
基础—1、
Kafka
基础概念 &
Kafka
架构 &
Kafka
安装与配置
Kafka
知识库-索引目录一、引言1、什么是
Kafka
?
Kafka
是由ApacheSoftwareFoundation开发的分布式流处理平台,它是一种高吞吐量、可扩展、持久化的消息中间件。
风不归Alkaid
·
2023-12-22 10:13
Kafka
kafka
架构
分布式
Springboot整合
kafka
基本使用
项目搭建同样的,需要我们搭建一个maven工程,整合非常的简单,需要用到: org.springframework.
kafka
spring-
kafka
来一起看下完整的pom.xml:
努力的小周同学
·
2023-12-22 10:37
Java后端开发学习
java
spring
boot
intellij-idea
Kafka
核心逻辑介绍 | 京东云技术团队
1,概念
Kafka
是最初由Linkedin公司开发,是一个分布式、支持分区的(partition)、多副本的(replica)分布式消息系统(
kafka
2.8.0版本之后接触了对zk的依赖,使用自己的kRaft
京东云开发者
·
2023-12-22 09:33
技术分享
云计算
kafka
京东云
linq
Linux 部署项目
文章目录一、官网下载压缩包二、配置安装JDK:maven:mysql:redis:
kafka
:elasticsearch:wkhtmltopdf:tomcat:nginx:成功心态炸裂!!!
一只小逸白
·
2023-12-22 09:57
linux
运维
服务器
kafka
与beanstalk的区别
Kafka
(Apache
Kafka
)和Beanstalk(Beanstalkd)是两个不同的消息中间件系统,它们在设计和用途上有一些显著的区别。
蹲在角落数蚂蚁
·
2023-12-22 08:13
kafka
beanstalk
docker 部署
kafka
随笔记录目录1.安装zookeeper2.安装
Kafka
2.1拉取
kafka
image2.2查询本地dockerimages2.3查看本地容器(dockercontainer)2.3.1查看本地已启动的
芝麻馅汤圆儿
·
2023-12-22 08:40
docker
kafka
容器
laravel框架引用
kafka
在Laravel中操作
Kafka
,可以使用php-rd
kafka
扩展或confluent-
kafka
-php扩展。
蹲在角落数蚂蚁
·
2023-12-22 08:09
laravel
kafka
php
kafka
offset sasl加密连接
kafka
-tool(offset)进行SCRAM连接,直接上图填写jaas的认证(账密引用包)
风噪
·
2023-12-22 08:35
数据库
kafka
分布式
Docker搭建
Kafka
教程(python使用
kafka
基础用法,生产消费)
图解
kafka
架构与工作原理-知乎(zhihu.com)https://zhuanlan.zhihu.com/p/442468709一、Docker网络创建Docker支持多种网络模式,包括bridge
迷糊小面包
·
2023-12-22 08:35
docker
kafka
容器
【Flink-
Kafka
-To-ClickHouse】使用 Flink 实现
Kafka
数据写入 ClickHouse
【Flink-
Kafka
-To-ClickHouse】使用Flink实现
Kafka
数据写入ClickHouse1)导入相关依赖2)代码实现2.1.resources2.1.1.appconfig.yml2.1.2
bmyyyyyy
·
2023-12-22 07:03
Flink
flink
kafka
clickhouse
Kafka
集群架构原理(待完善)
kafka
在zookeeper数据结构controller选举客户端同时往zookeeper写入,第一个写入成功(临时节点),成为leader,当leader挂掉,临时节点被移除,监听机制监听下线,重新竞争
kk_0910
·
2023-12-22 07:26
kafka
Rabbitmq如何保证消息不丢失
下面从rabbitmq和
kafka
分别说一下,丢失数据的场景,A:生产者弄丢了数据生产者将数据发送到rabbitmq的时候,可能在传输过程中因为
虾米咬小米
·
2023-12-22 07:58
【JVM基础】 JVM 如何加载一个类以及类加载机制
1、包含main方法的主类publicclass
Kafka
{publicstaticvoidmain
程序员不弃
·
2023-12-22 07:21
【JAVA基础】
【JAVA面试】
【JVM基础】
jvm
linq
c#
类加载机制
加载类
9
Kafka
:http://www.cnblogs.com/cyfonly/p/5954614.htmlhttp://blog.csdn.net/u013256816/article/details/71091774https
沉淀_0x0
·
2023-12-22 05:57
Kafka
如何保证高可用?
Kafka
的基本架构组成是:由多个broker组成一个集群,每个broker是一个节点;当创建一个topic时,这个topic会被划分为多个partition,每个partition可以存在于不同的broker
.L.JIN.Jie
·
2023-12-22 01:56
Kafka
kafka
分布式
电商系统订单到期关闭如何实现(订单超时未支付自动取消)
订单的到期关闭的实现有很多种方式,分别有定时任务jdk的delayqueue时间轮
kafka
rocketmq延迟消息rabbitmq死信队列rabbitmq插件r
思静语
·
2023-12-21 22:56
解决方案
java
Kerberos原理安装集成
kafka
例子
目录Kerbeos简介Kerbeos认证流程Kerberos安装步骤kerberos简单操作
Kafka
集成Kerberos例子本地环境java客户端消费测试代码错误记录Kerbeos简介Kerberos
掌心里的海-Canace
·
2023-12-21 20:54
kerberos
kafka安全
kafka+kerberos
kerberos原理
kerberos安装
Kerberos认证的
kafka
常见错误记录
前言发现网上与kerberos有关报错信息少之又少,踩过的坑放在这里,希望可以帮到后来人。报错信息总结1.principal和keytab不匹配,这种问题,只需要在jaas文件中指定正确的账号密码即可Causedby:javax.security.auth.login.LoginException:Couldnotlogin:theclientisbeingaskedforapassword,bu
iFence
·
2023-12-21 20:23
Kafka
Kerberos
Kerberos
Kafka
大数据
Clock skew too great(37)-PREAUTH_FAILED
问题:启动服务时failedtoconstuct
kafka
consumer原因:电脑时间和
kafka
时间不一致引起的。解决:一定要修改电脑时区,然后修改电脑具体日期时间。
一程序一世界
·
2023-12-21 20:53
java
kafka
kafka
消费Clock skew too great (37),CPU打爆
Novalidcredentialsprovided(Mechanismlevel:Clockskewtoogreat(37)-PROCESS_TGS)记一次生产事故,springboot消费
kafka
Amarone
·
2023-12-21 20:52
kafka
分布式
spring
boot
Flink电商实时数仓(三)
消费
Kafka
ods业务
十七✧ᐦ̤
·
2023-12-21 18:48
flink
linq
大数据
采用Flume-
kafka
-Flume将数据导入到HDFS中
首先先去官网下载flumehttp://flume.apache.org/download.html安装Flume,然后进行配置下载完成后,解压tar-zxvfapache-flume-1.9.0-bin解压完成之后,进入conf目录下面,把flume-env.sh.template文件更改为flume-env.sh,然后进入flume-env.sh配置jdk的路径。exportJAVA_HOME
坠机的舒克
·
2023-12-21 17:55
大数据
Kafka
| Flume Sink日志到
Kafka
&HDFS
记录下将服务端AC设备产生的数据采集到Flume中,然后基于FlumeSink把数据日志同时写入到
Kafka
与HDFS中,对于
Kafka
中的数据保存到指定的Topic中,然后后续基于SparkStreaming
点滴笔记
·
2023-12-21 17:53
Kafka
Flume
Flume
Kafka
HDFS
Sink
Flume多路复用模式把接收数据注入
kafka
的同时,将数据备份到HDFS目录
启动hadoop、在hdfs中创建需要访问的目录配置Hadoop的核心配置文件core-site.xml:设置Hadoop的核心配置参数,例如NameNode的地址、数据块大小、副本数量等。示例配置如下:fs.defaultFShdfs://localhost:9000hdfs-site.xml:设置HDFS(Hadoop分布式文件系统)的参数,例如数据块复制因子、NameNode的存储路径等。示
HaveAGoodDay.
·
2023-12-21 17:52
Flume
大数据应用开发赛项
Hadoop
大数据
flume
kafka
hadoop
hdfs
上一页
31
32
33
34
35
36
37
38
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他