E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
【面试专栏】Kafka
Flink电商实时数仓项目03-DWM层
1DWM层与DWS层的设计思路1.1设计思路用户行为日志:模拟日志jar->nginx->web日志服务器->
kafka
(ods_base_log)->flink(BaseLogApp
最佳第六六六人
·
2023-12-18 14:45
大数据项目实战
flink
电商数仓
Flink电商实时数仓项目04-DWS层
ODS层:--日志数据:nginx+日志采集服务器(3台)将数据采集到
Kafka
(ods_base_log)--业务数据:Maxwell监控MySQL(binlog)将数据
最佳第六六六人
·
2023-12-18 14:45
大数据项目实战
flink
电商数仓
大数据Flink电商实时数仓实战项目流程全解(五)
前提概要:之前我们已经实现了动态分流,即通过TableProcessFunction1类把维度数据和事实数据进行了分流处理,接下来就是把数据写入Hbase表和
Kafka
主题表中:hbaseDS.addSink
大数据YYDS
·
2023-12-18 14:44
大数据Flink实战
flink
Flink实时电商数仓(一)
核心架构日志服务器:采集日志文件
Kafka
集群:消息缓存HDFS存储:即hadoop集群Hive分层数仓:ODS+
十七✧ᐦ̤
·
2023-12-18 14:14
flink
大数据
Kafka
本地安装⭐️(Windows)并测试生产消息以及消费消息的可用性
2023.12.17天气晴温度较低十点半,不是不想起实在是阳光浴太nice了日常三连,喂,刷,肝刷会儿博客,看会儿设计模式冷冷冷进被窝刷视频睡觉看看
kafka
的本地部署》》实践》》成功写会儿博客,45俯卧撑
键盘不能没有CV键
·
2023-12-18 12:25
Cloud
kafka
分布式
【算法Hot100系列】盛最多水的容器
推荐:kwan的首页,持续学习,不断总结,共同进步,活到老学到老导航檀越剑指大厂系列:全面总结java核心技术点,如集合,jvm,并发编程redis,
kafka
,Spring,微服务,Netty等常用开发工具系列
檀越剑指大厂
·
2023-12-18 12:51
s6
算法与数据结构
算法
寻找内心,与己对话
“—Franz
Kafka
,Writer「上帝给我们坚果,但不会为我们敲开外壳。」–法兰兹‧卡夫卡(作家)每天都在日复一日的过着,今天的你比昨天的你成长了一些呢?
Do_yourself
·
2023-12-18 12:56
Hyperledger Fabric 1.4 特性调研之Raft共识(一)
适用场景Raft作为Fabric新支持的共识模式,可以替代以往的
Kafka
共识模式,并且配置更简单,更能体现去中心化特性。在多组织多channel
RaeSnow
·
2023-12-18 11:56
数据科学知识库
我的博客是一个技术分享平台,涵盖了机器学习、数据可视化、大数据分析、数学统计学、推荐算法、Linux命令及环境搭建,以及
Kafka
、Flask、FastAPI、Docker等组件的使用教程。
数据科学知识库
·
2023-12-18 11:02
机器学习
Linux环境
大数据
数据科学
大数据
机器学习
数据可视化
统计学
环境搭建
面试题学习
Kafka
相关知识
一、
kafka
架构
Kafka
基础知识
Kafka
是最初由Linkedin公司开发,是一个分布式、分区的、多副本的、多生产者、多订阅者,基于zookeeper协调的分布式日志系统(也可以当做MQ系统),常见可以用于
xmh-sxh-1314
·
2023-12-18 10:46
java
程序员深度学习!让阿里面试官都赞同不已的Spring解读!技术详细介绍
一、对
Kafka
的认识1.
Kafka
的基本概念2
爱看动漫的Java程序员
·
2023-12-18 10:25
程序员
java
后端
面试
牛皮了!阿里面试官终于分享出了 2022 年最新的 java 面试题及答案
:消息队列ActiveMQ、分布式缓存Redis+Memcached、Java高级必备的Netty、Java面试必备的设计模式、Java经典的List、Java经典的Main、Java多线程、消息队列
Kafka
java南木
·
2023-12-18 10:24
java
面试
开发语言
职场和发展
【算法Hot100系列】三数之和
推荐:kwan的首页,持续学习,不断总结,共同进步,活到老学到老导航檀越剑指大厂系列:全面总结java核心技术点,如集合,jvm,并发编程redis,
kafka
,Spring,微服务,Netty等常用开发工具系列
檀越剑指大厂
·
2023-12-18 09:06
s6
算法与数据结构
算法
【算法Hot100系列】正则表达式匹配
推荐:kwan的首页,持续学习,不断总结,共同进步,活到老学到老导航檀越剑指大厂系列:全面总结java核心技术点,如集合,jvm,并发编程redis,
kafka
,Spring,微服务,Netty等常用开发工具系列
檀越剑指大厂
·
2023-12-18 09:10
s6
算法与数据结构
算法
正则表达式
Kafka
offset管理
[TOC]
Kafka
中的每个partition都由一系列有序的、不可变的消息组成,这些消息被连续的追加到partition中。
tracy_668
·
2023-12-18 07:53
SpringBoot集成RabbitMQ
如今较为流行的消息中间件,例如RabbitMQ和
Kafka
,在此介绍使用SpringBoot集成RabbitMQ。
菜鸟一枚在这
·
2023-12-18 07:21
rabbitmq
java
spring
boot
ES打不开问题排查 install_elk_filebeat_
kafka
.sh
打不开解决方式1.elasticsearch排查与解决curlhttp://192.168.56.115:9200/_cat/aliases|grepkibana检查环境机器是否已安装JDKrpm-qa|grep-E'^open[jre|jdk]|j[re|dk]'查看JAVA_HOME环境变量的值指向哪里echo$JAVA_HOME确认自己处于非root用户,否则后续启动会报错su-elk进入到
穷得响叮当
·
2023-12-18 07:50
elk
Kafka
生产者
Kafka
生产者概览在这里插入图片描述流程概述:创建一个ProducerRecord对象,需要包含topic和要发送的内容,还可以指定键或分区。
橙皇cc
·
2023-12-18 05:12
SpringBoot整合
Kafka
(一)
前言本文主要讲了SpringBoot整合
Kafka
文章⛺️作者简介:大家好,我是青衿☁️博客首页:CSDN主页放风讲故事每日一句:努力一点,优秀一点目录文章目录前言**目录**一、介绍二、主要功能三、
Kafka
放风讲故事
·
2023-12-18 03:44
spring
boot
kafka
后端
使用
Kafka
和动态数据网格进行流式数据交换
点击上方“服务端思维”,选择“设为星标”回复”669“获取独家整理的精选资料集回复”加群“加入全国服务端高端社群「后端圈」作者|KaiWähner出品|http://u6.gg/kqiuj数据网格(DataMesh)是近来受到广泛重视的一种新型架构范式。每家数据和平台提供商都说明了怎样使用自己的平台来构建最好的数据网格。数据网格的故事包括像亚马逊云科技这样的云计算提供商,像Databricks和S
LiangGzone
·
2023-12-18 02:20
数据库
大数据
人工智能
java
机器学习
Kafka
生产问题总结及性能优化实践
1、消息丢失情况消息发送端:(1)acks=0:表示producer不需要等待任何broker确认收到消息的回复,就可以继续发送下一条消息。性能最高,但是最容易丢消息。大数据统计报表场景,对性能要求很高,对数据丢失不敏感的情况可以用这种。(2)acks=1:至少要等待leader已经成功将数据写入本地log,但是不需要等待所有follower是否成功写入。就可以继续发送下一条消息。这种情况下,如果
core512
·
2023-12-18 01:03
kafka
kafka
问题
总结
性能
优化
kafka
入门(四):
kafka
生产者发送消息
发后即完,只管往
kafka
中发送消息,而不关心消息是否正确到达。这种发送方式的性能最高,可靠性也最差。
乐之者v
·
2023-12-17 23:37
A1--kafka
kafka
kafka
学习笔记--Topic 数据的存储机制
如有侵权、联系速删视频教程链接:【尚硅谷】
Kafka
3.x教程(从入门到调优,深入全面)文章目录大致介绍实际查看index文件和log文件详解大致介绍Topic是逻辑上的概念,而partition是物理上的概念
向着百万年薪努力的小赵
·
2023-12-17 23:40
#
Kafka学习--入门到调优
kafka
学习
笔记
kafka
学习笔记--
Kafka
副本
如有侵权、联系速删视频教程链接:【尚硅谷】
Kafka
3.x教程(从入门到调优,深入全面)文章目录1副本基本信息2Leader选举流程3Leader和Follower故障处理细节3.1Follower故障处理细节
向着百万年薪努力的小赵
·
2023-12-17 23:40
#
Kafka学习--入门到调优
kafka
学习
笔记
【
Kafka
基本原理】
文章目录一、
Kafka
介绍1、MQ的作用2、为什么要用
Kafka
三、理解Kakfa的消息传递机制四、
Kafka
集群服务五、理解服务端的Topic、Partition和Broker六、
Kafka
集群的整体结构一
向前再向前
·
2023-12-17 22:28
kafka
【从客户端理解
Kafka
的使用方式】
重点依然是要建立自己脑海中的
Kafka
消费模型。
Kafka
的HighLevelAPI使用是非常简单的,所以梳理模型时也要尽量简单化,主线清晰,细节慢慢扩展。
向前再向前
·
2023-12-17 22:25
kafka
zookeeper集群+
kafka
集群
zookeeper集群+
kafka
集群
kafka
3.0之前依赖于zookeeperzookeeper开源,分布式的架构,提供协调服务(Apache项目)基于观察者模式涉及的分布式服务管理架构存储和管理数据
喝点维C
·
2023-12-17 22:54
zookeeper
kafka
分布式
运维
kafka
安装配置
Kafka
是一个分布式数据流平台,可以运行在单台服务器上,也可以在多台服务器上部署形成集群。
carmen_山海
·
2023-12-17 19:21
工具
kafka
分布式
Kafka
3.0.0安装使用教程
去
kafka
官网下载3.0.0版本https://
kafka
.apache.org/downloads将压缩包上传到服务器tar-zxvf
kafka
_2.12-3.0.0.tgz解压目录结构如下cdconfigllzookeeper.properties
YMY_666
·
2023-12-17 18:42
kafka
java
分布式
Kafka
kafka
如何防止消息丢失?ack=all且分区ISR数量大于等于2可以保证百分百不会丢失
kafka
怎么防止消息重复消费(幂等性)?
YMY_666
·
2023-12-17 18:39
java
kafka
把 RabbitMQ 讲的那叫一个透彻,佩服
整体阅读在40分钟左右大家好,我是阳威常见的消息队列很多,主要包括RabbitMQ、
Kafka
、RocketMQ和ActiveMQ,相关的选型可以看我之前的系列,这篇文章只讲RabbitMQ,先讲原理,
ღ᭄陽先生꧔ꦿ᭄
·
2023-12-17 18:26
rabbitmq
分布式
Kafka
-生产调优
Kafka
生产调优实践通常在生产环境中,
Kafka
都是用来应对整个项目中最高峰的流量搭建
Kafka
监控平台生产环境通常会对
Kafka
搭建监控平台。
有梦想的年轻人6174
·
2023-12-17 17:12
java
kafka
Kafka
-日志索引
Kafka
的Log日志梳理Topic下的消息是如何存储的?在搭建
Kafka
服务时,在server.properties配置文件中通过log.dir属性指定了
Kafka
的日志存储目录。
有梦想的年轻人6174
·
2023-12-17 17:09
kafka
java
SpringBoot2.x整合
kafka
消息队列中间件
docker-compose搭建
kafka
#docker-compose配置文件version:'3.2'services:zookeeper:image:wurstmeister/zookeepercontainer_name
程序员buddha
·
2023-12-17 15:54
Java
SpringBoot
springboot2.x
kafka
消息队列
消息队列中间件
在 idea 中以 yarn-client 远程提交 Spark 作业
示例代码RemoteSubmitApp主类packagecom.clouderaimportorg.apache.
kafka
.clients.consumer.ConsumerConfigimportorg.apache.
kafka
.common.serialization.StringDeserializerimportorg.apache.log4j.Loggerimportorg.apach
lei_charles
·
2023-12-17 13:41
【算法Hot100系列】最长回文子串
推荐:kwan的首页,持续学习,不断总结,共同进步,活到老学到老导航檀越剑指大厂系列:全面总结java核心技术点,如集合,jvm,并发编程redis,
kafka
,Spring,微服务,Netty等常用开发工具系列
檀越剑指大厂
·
2023-12-17 12:26
s6
算法与数据结构
工具
av1
Kafka
-
Kafka
核心参数详解
Kafka
的HighLevelAPI使用是非常简单的,所以梳理模型时也要尽量简单化,主线清晰,细节慢慢扩展。
Kafka
提供了两套客户端API,HighLevelAPI和LowLevelAPI。
长情知热爱
·
2023-12-17 11:54
linq
c#
恢复Django 项目
你可以使用以下命令来检查pip是否已安装2.2安装Packages2.2.1安装Django2.2.2安装pymysql2.2.3安装
kafka
2.2.4安装requests2.2.5安装simplepro2.2.6
芝麻馅汤圆儿
·
2023-12-17 11:51
django
数据库
sqlite
kafka
学习笔记--节点的服役与退役
如有侵权、联系速删视频教程链接:【尚硅谷】
Kafka
3.x教程(从入门到调优,深入全面)文章目录服役新节点新节点准备执行负载均衡操作退役旧节点执行负载均衡操作执行停止命令服役新节点依旧使用前面文章创建的三个
向着百万年薪努力的小赵
·
2023-12-17 10:25
#
Kafka学习--入门到调优
kafka
学习
笔记
kafka
3.0创建topic出现zookeeper is not a recognized option
在linux云服务器上搭建了一套
kafka
3.0集群,然后安装以前的创建topic指令,例如这样——.
朱季谦
·
2023-12-17 09:58
zookeeper
分布式
云原生
电商数仓项目----笔记三(用户行为数据同步)
在前面的笔记一和笔记二中,我们已经分别将用户行为数据和业务数据采集到
kafka
中了:在实时数仓中,由于Flink会从
kafka
中读取数据,也无需我们再同步数据了,因此同步数据是我们离线数仓的事。
zmx_messi
·
2023-12-17 08:43
笔记
服务总线SpringCloudBus
SpringCloudBus可选的消息代理有RabbitMQ和
Kafka
。2集成SpringClou
黄晶谛
·
2023-12-17 08:21
#
SpringCloud
spring
cloud
Kafka
Avro序列化之三:使用Schema Register实现
为什么需要SchemaRegister注册表无论是使用传统的AvroAPI自定义序列化类和反序列化类还是使用Twitter的Bijection类库实现Avro的序列化与反序列化,这两种方法都有一个缺点:在每条
Kafka
跟着大数据和AI去旅行
·
2023-12-17 06:46
大数据企业级实战
kafka
avro
schema
消息队列(MQ)
对于MQ来说,不管是RocketMQ、
Kafka
还是其他消息队列,它们的本质都是:一发一存一消费。下面我们以这个本质作为根,一起由浅入深地聊聊MQ。
荒~
·
2023-12-17 06:11
PHP
笔记
中间件
MQ
Bifrost 中间件 X-Requested-With 系统身份认证绕过漏洞复现
0x01产品简介Bifrost是一款面向生产环境的MySQL,MariaDB,
kafka
同步到Redis,MongoDB,ClickHouse等服务的异构中间件0x02漏洞概述Bifrost中间件X-Requested-With
OidBoy_G
·
2023-12-17 06:02
漏洞复现
中间件
web安全
安全
【Flink-cdc-Mysql-To-
Kafka
】使用 Flinksql 利用集成的 connector 实现 Mysql 数据写入
Kafka
【Flink-cdc-Mysql-To-
Kafka
】使用Flinksql利用集成的connector实现Mysql数据写入
Kafka
1)环境准备2)准备相关jar包3)实现场景4)准备工作4.1.Mysql4.2
bmyyyyyy
·
2023-12-17 05:04
Flink
flink
mysql
kafka
【Flink-Sql-
Kafka
-To-ClickHouse】使用 FlinkSql 将
Kafka
数据写入 ClickHouse
【Flink-Sql-
Kafka
-To-ClickHouse】使用FlinkSql将
Kafka
数据写入ClickHouse1)需求分析2)功能实现3)准备工作3.1.
Kafka
3.2.ClickHouse4
bmyyyyyy
·
2023-12-17 05:57
Flink
flink
sql
kafka
《PySpark大数据分析实战》-11.Spark on YARN模式安装Hadoop
对大数据技术栈Hadoop、Hive、Spark、
Kafka
等有深入研究,对Data
wux_labs
·
2023-12-17 05:16
PySpark大数据分析实战
数据分析
数据挖掘
大数据
数据科学
PySpark
《PySpark大数据分析实战》-12.Spark on YARN配置Spark运行在YARN上
对大数据技术栈Hadoop、Hive、Spark、
Kafka
等有深入研究,对Data
wux_labs
·
2023-12-17 05:10
PySpark大数据分析实战
数据分析
数据挖掘
大数据
数据科学
PySpark
阿里云centos8.1 Docker+
Kafka
安装使用
环境&软件包阿里云centos8.1dockerzookeeper
kafka
安装zookeeper
kafka
依赖zookeeper,通过zookeeper管理broker,需先安装zookeeper#拉取镜像
artCoding
·
2023-12-17 05:23
上一页
34
35
36
37
38
39
40
41
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他