E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
flink中文文档
数据采集与接入:Kafka、Flume、
Flink
CDC、Debezium(实时/离线数据获取方式)
在本篇文章中,我们将深入探讨四种常见的数据采集与接入技术:Kafka、Flume、
Flink
CDC、Debezium,并分析它们的适用场景。
晴天彩虹雨
·
2025-05-09 02:01
kafka
flume
flink
大数据
Flink
+ Kafka 构建实时指标体系的实战方法论
本文聚焦于如何利用
Flink
与Kafka构建一套灵活、可扩展的实时指标体系,特别适用于用户行为分析、营销漏斗转化、业务实时看板等场景。一、为什么要构建实时指标体系?
晴天彩虹雨
·
2025-05-09 02:01
Flink
+
Kafka
实时数仓实战
flink
kafka
linq
数据仓库
大数据
flink
常用算子整理
文章目录前言1.重新分配(即打散)2.合并流的算子3.算子链操作4.侧边输出(目前只有一种)5.键控进行分区6.输出算子7.其他基础操作算子8.其他常用的算子9.
Flink
窗口等情况10.窗口举例前言提示
工作中的程序员
·
2025-05-09 02:59
flink
flink
推荐系统架构设计
kafka+
flink
+数据库分析用户行为并存储2.预生成推荐内容:在用户活跃时间之前,预先生成推荐内容并存储到Redis缓存中。生成的推荐内容可以包括多个页面,以应对用户可能的分页请求。
risc123456
·
2025-05-07 18:12
推荐算法
【大数据】服务器上部署Apache Paimon
Flink
环境:Paimon是基于Apache
Flink
的存储系统,因此需要先部署
Flink
集群。
大数据追光猿
·
2025-05-07 09:43
大数据开发
大数据
服务器
apache
docker
架构
Pytorch
中文文档
下载
Pytorch
中文文档
下载【下载地址】Pytorch
中文文档
.pdfPytorch
中文文档
下载本仓库提供了一个重要的资源文件下载:**Pytorch
中文文档
.pdf**项目地址:https://gitcode.com
高飙陵
·
2025-05-07 03:43
PyTorch
中文文档
下载
PyTorch
中文文档
下载【下载地址】PyTorch
中文文档
下载PyTorch
中文文档
下载本仓库提供了一个名为`pytorch
中文文档
.pdf`的资源文件下载项目地址:https://gitcode.com
潘莹媛One
·
2025-05-07 03:43
Hadoop总结
目录大数据概述Hadoop大数据开发平台资源管理YARN分布式文件系统HDFS非关系型数据库NOSQL分布式数据库HBASE批处理和MapReduce数据仓库查询分析和Hive基于内存计算的Spark流计算和
Flink
Ajekseg
·
2025-05-06 14:52
面试
学习路线
阿里巴巴
android
前端
后端
如何创建并使用极狐GitLab 部署令牌?
极狐GitLab是GitLab在中国的发行版,关于中文参考文档和资料有:极狐GitLab
中文文档
极狐GitLab中文论坛极狐GitLab官网部署令牌(BASICALL)您可以使用部署令牌来启用部署任务的认证
极小狐
·
2025-05-06 09:15
gitlab
数据库
机器学习
人工智能
git
GitLab
bigdatareport
Velocity(速度):实时数据流处理延迟要求从秒级(Kafka)进化到亚毫秒级(
Flink
SQ
chennalC#c.h.JA Ptho
·
2025-05-05 19:50
数据结构
sqlite
oracle
json
sql
database
spark
flink
rocksdb状态说明
文章目录1.默认情况2.
flink
中的状态3.RocksDB4.对比情况5.使用6.RocksDB架构7.参考文章8.总结提示:以下主要考虑
flink
状态永久存储rocksdb情况,做一些简单说明1.默认情况当
工作中的程序员
·
2025-05-05 19:17
flink
flink
从零开始学
Flink
:开启实时计算的魔法之旅
传统的数据仓库此时还在沉睡,而基于
Flink
搭建的实时风控系统早已捕捉到这个信号,自动触发预警机制。当运维团队赶到时,系统已经完成异常交易拦截、服务节点自动切换和用户补偿方案推送。
·
2025-05-05 18:06
大数据flinkjava
Hadoop 1.x设计理念解析
Hadoop1.x虽然是二十年前的,但hadoop生态系统中的一些组件如今还在广泛使用,如hdfs和yarn,当今流行spark和
flink
都依赖这些组件通过学习它们的历史设计,首先可以让我们对它们的了解更加深刻
逆袭的小学生
·
2025-05-05 15:49
hadoop
大数据
分布式
Code::Blocks新手入门指南:C/C++基础教程
本指南专为C/C++初学者设计,包含
中文文档
和互动教程,覆盖Code::Blocks的基础操作和项目管理等核心功能。
xinwuji312
·
2025-05-05 05:15
详解
Flink
Table API 和
Flink
SQL 之函数
一、系统内置函数1.比较函数API函数表达式示例TableAPI===,>,=,18SQL=,>,=,182.逻辑函数API函数表达式示例TableAPI&&,||,!,.isFalse1>1&&2>1,true.isFalseSQLand,or,isfalse,not1>1and2>1,trueisfalse3.算术函数API函数表达式示例TableAPI+,-,*,/,n1.power(n2)
文刀小桂
·
2025-05-04 16:51
Flink
flink
sql
java
大数据
详解
Flink
Table API 和
Flink
SQL 之窗口操作
时间语义,要配合窗口操作才能发挥作用一、GroupWindow分组窗口(GroupWindows)会根据时间或行计数间隔,将行聚合到有限的组(Group)中,并对每个组的数据执行一次聚合函数。主要分为滚动窗口、滑动窗口和会话窗口publicclassTestGroupWindow{publicstaticvoidmain(String[]args)throwsException{StreamExe
文刀小桂
·
2025-05-04 16:50
Flink
flink
sql
大数据
java
详解
Flink
Table API 和
Flink
SQL 之表操作
一、表环境配置/**表环境的主要功能:1.注册Catalog和表2.执行SQL查询3.注册用户自定义函数(UDF)4.DataStream和表之间的转换*/publicclassTestTableEnvironment{publicstaticvoidmain(String[]args)throwsException{//1.配置老版本planner的流式处理表环境StreamTableEnvir
文刀小桂
·
2025-05-04 16:20
Flink
flink
sql
数据库
大数据
java
Flink
的状态机制
Apache
Flink
通过统一的状态抽象和高效的容错机制,为开发者提供了从毫秒级窗口聚合到TB级历史数据关联的全场景支持。
方二华
·
2025-05-04 16:19
大数据
flink
大数据
Flink
通过Native Kubernetes部署运行
在
Flink
onKubernetes环境中,Job部署方式分为NativeKubernetes和KubernetesOperator2种,本文以NativeKubernetesappplication模式部署运行介绍
风卷残尘
·
2025-05-04 16:19
linux
#
flink
flink
kubernetes
大数据
Flink
Table API与SQL技术详解
在大数据实时处理领域,Apache
Flink
凭借其强大的流批统一处理能力占据重要地位。
方二华
·
2025-05-04 16:18
大数据
flink
sql
大数据
python 爬虫用bs4 或者叫Beautiful Soup
它能够通过你喜欢的转换器实现惯用的文档导航,查找,修改文档的方式.BeautifulSoup会帮你节省数小时甚至数天的工作时间.BeautifulSoup4.4.0文档—BeautifulSoup4.2.0
中文文档
安装
leon_zeng0
·
2025-05-04 11:49
python
爬虫
开发语言
Kafka使用教程
流处理:与流处理框架(如Apache
Flink
、ApacheSparkStreaming)结合,进行实时数据分析。微服务通信:作为微服务架构中的消息中间件,实现服务间异步通信。物联网(IoT):
大三小小小白
·
2025-05-03 05:03
kafka
分布式
Flink
与AnyLine的整合 构建高效的数据处理架构
1.架构设计思路动态数据源管理:利用Anyline的运行时数据源注册能力,统一管理
Flink
作业所需的异构数据源(如MySQL、Kafka、Hive等),简化配置流程。
MadeInSQL
·
2025-05-03 03:13
数据库
flink
大数据
anyline
Java大厂硬核面试:
Flink
流处理容错、Pomelo JVM调优、MyBatis二级缓存穿透防护与Kubernetes服务网格实战解析
第二幕:系统架构设计面试官:设计一个处理10万+QPS的秒杀系统需要的技术方案和技术选型xbhog:采用基础架构:存储层:Redis限流+分布式锁服务层:Sentinel流量控制消息层:RocketMQ事务消息保证最终一致性关键设计:库存扣减使用Redission的MultiOperation实现原子操作通过SpringCloudGateway的自定义过滤器实现用户身份认证网关层拦截面试官:Kub
xbhog
·
2025-05-03 00:00
Java面试
Flink
Kubernetes
MyBatis
SpringCloud
WebSocket
GraalVM
WebcamJS
中文文档
文章目录WebcamJS针对Chrome47及以上版本的重要说明浏览器支持演示示例开源协议快速入门指南配置初始化拍摄照片自定义图像大小裁剪图像翻转图像(镜像模式)冻结/预览图像设置备用SWF文件位置重置(关闭)API参考自定义事件向服务器提交图像跟踪上传进度包含在现有表单中自定义用户媒体约束(高级)许可证WebcamJSWebcamJS是一个小型的(压缩并经过gzip处理后约3K大小)独立Java
jieyucx
·
2025-05-02 10:23
开发日记
js
Flink
之DataStream
Apache
Flink
的DataStreamAPI是用于处理无限(流)或有限(批)数据流的核心编程模型,适用于事件驱动、实时分析、ETL等场景。
james二次元
·
2025-05-02 02:32
大数据
实时计算
flink
实时计算
流式处理
Flink
UpsertKafka深度解析
1.设计目标与工作机制Upsert-KafkaConnector核心功能:支持以Upsert(插入/更新/删除)模式读写Kafka数据,适用于需要动态更新结果的场景(如聚合统计、CDC数据同步)。数据流类型:作为Source:消费Kafka的Changelog流,每条记录表示一个更新或删除事件。若Key不存在则为插入(INSERT),存在则为更新(UPDATE),Value为空则为删除(DELET
24k小善
·
2025-05-02 02:00
flink
云计算
java
大数据
Dockerfile 编写根据需求阶段而出现
在
Flink
的Docker部署中,是否需要编写Dockerfile取决于你的具体需求。
SunTecTec
·
2025-04-30 17:56
Docker
docker
Flink
checkpoint问题排查指南
snapshot,如果作业存在反压,或者有数据倾斜,则会导致全部的channel或者某些channel的barrier发送慢,从而整体影响Checkpoint的时间,这两个可以通过如下的页面进行检查:Apache
Flink
gegeyanxin
·
2025-04-30 17:55
flink
checkpoint失败
数据倾斜
Flink
Docker Application Mode 命令解析 - 修改命令以启用 Web UI
Flink
Docker部署是否会有WebUI(8081端口)?默认情况下,
Flink
的Standalone集群(包括Docker部署)会启动WebUI,默认端口是8081。
SunTecTec
·
2025-04-30 17:53
Docker
Flink
flink
docker
前端
大数据
Flink
Checkpoint 与实时任务高可用保障机制实战
本文围绕
Flink
Checkpoint机制,深入讲解高可用保障的最佳实践和工程实现。一、业务背景与痛点在金融风控、营销实时推荐、智能监控等场景中,实时数仓的每一条数据都至关重要。
晴天彩虹雨
·
2025-04-30 10:16
Flink
+
Kafka
实时数仓实战
flink
npm
前端
数据仓库
部署分布式存储minio集群
参考文档:多节点多硬盘部署—MinIO
中文文档
|MinIOLinux
中文文档
172.17.60.128minio1172.17.60.129minio2172.17.60.130minio3172.17.60.131minio4
草莓甜甜圈
·
2025-04-30 08:58
devops
分布式
【课程笔记】华为 HCIA-Big Data 大数据 总结
ZooKeeper分布式应用程序协调服务HBase非关系型分布式数据库Hive分布式数据仓库ClickHouse列式数据库管理系统MapReduce分布式计算框架Yarn资源管理调度器Spark分布式计算框架
Flink
淵_ken
·
2025-04-29 22:12
华为
HCIA-Big
Data
大数据
大数据
Flink
数据清洗与字段标准化最佳实践
——构建可配置、可扩展的实时标准化清洗链路本文是「
Flink
+Kafka构建实时数仓实战」专栏的第4篇,将围绕字段标准化这一核心问题,从业务痛点、技术架构、配置设计到完整代码工程,系统讲透标准化实践。
晴天彩虹雨
·
2025-04-29 11:18
Flink
+
Kafka
实时数仓实战
flink
大数据
数据仓库
Flink
+Hologres搭建实时数仓
参考资料文档文档链接阿里云实时计算
flink
文档https://help.aliyun.com/zh/
flink
/product-overview/what-is-alibaba-cloud-realtime-compute-for-apache-
flink
闭嘴!我不是SQL boy
·
2025-04-29 11:16
FLINK
flink
大数据
如何创建并使用极狐GitLab 受保护分支?
极狐GitLab是GitLab在中国的发行版,关于中文参考文档和资料有:极狐GitLab
中文文档
极狐GitLab中文论坛极狐GitLab官网受保护的分支(BASICALL)在极狐GitLab中,权限基本上是围绕对仓库和分支具有读或写权限的想法定义的
极小狐
·
2025-04-29 11:15
gitlab
elasticsearch
大数据
数据库
c#
开发语言
chrome
Windows PC上创建大数据职业技能竞赛实验环境之三--Spark、Hive、Flume、Kafka和
Flink
环境的搭建
在前述hadoop-base基础容器环境的基础上,实现Spark、Hive、Flume、kafka和
Flink
实验环境的搭建。
liu9ang
·
2025-04-29 03:19
大数据平台
hadoop
spark
kafka
flink
[大数据技术与应用省赛学习记录一]——软件准备
@JIAQI第一章大数据平台环境搭建在指定主机上完成Hadoop完全分布式、Spark、
Flink
、kafka、flume的安装配置赛前准备主办方要求使用以下相关版本软件环境,仅供参考:设备类型软件类别软件名称
Ench77
·
2025-04-29 01:07
大数据技术与应用比赛筹备
大数据
Linux 在个人家目录下添加环境变量 如
FLINK
_PROPERTIES=“jobmanager.rpc.address: jobmanager“
问题:Docker
Flink
ApplicationMode命令行形式部署前,需要在Linux执行以下:$
FLINK
_PROPERTIES="jobmanager.rpc.address:jobmanager
SunTecTec
·
2025-04-28 08:50
Docker
Flink
linux
运维
服务器
Flink
维表深度解析
一、维表的概念与作用维表(DimensionTable)是数据仓库中的核心概念,通常用于存储静态或缓慢变化的业务实体信息(如用户资料、商品信息、地理位置等)。在实时流处理场景中,维表的作用是为主数据流(事实表)提供关联查询,以丰富流数据的上下文信息。例如:订单流(事实表)需要关联用户信息表(维表),以补充用户的地理位置、VIP等级等信息。日志流需要关联设备信息表,以补充设备的型号、操作系统等元数据
24k小善
·
2025-04-28 05:34
大数据
java
云计算
flink
Flink
TaskManager详解
1.TaskManager概述Apache
Flink
的TaskManager是作业执行的核心工作节点,负责实际的数据处理任务。
24k小善
·
2025-04-28 05:34
flink
java
大数据
云计算
vue中的防抖和节流
引入npmi--savelodash网址Lodash简介|Lodash
中文文档
|Lodash中文网import{debounce}from'lodash'exportdefault{data(){return
qq_2524963996
·
2025-04-28 04:27
vue.js
javascript
前端
Flink
概念-状态一致性的三种级别
最多一次(At-Most-Once)至少一次(At-Least-Once)精确一次(Exactly-Once)1.最多一次(At-Most-Once)不开启checkpoint,相当于数据只处理一次,不会检查数据是否丢失;2.至少一次(At-Least-Once)开启checkpoint,barrier对齐的至少一次,进行barrier对齐时,barrier后面的数据也会接着处理,存入到状态中,当
别这么骄傲
·
2025-04-27 22:17
Flink
flink
大数据
Flink
UDF用户自定义函数深度剖析
Flink
作为一款强大的流批一体数据处理引擎,其灵活性和扩展性在很大程度上依赖于用户自定义函数(User-DefinedFunctions,UDF)。
24k小善
·
2025-04-27 22:46
大数据
java
云计算
spring
flink
Flink
运维与调优
转载-
flink
优化_黄瓜炖啤酒鸭的博客-CSDN博客1.1内存设置1.2并行度设置1.2.1最优并行度计算1.2.2Source端并行度的配置1.2.3Transform端并行度的配置1.2.4Sink
爱学习的菜鸟罢了
·
2025-04-27 22:45
flink
java
大数据
flink
运维
大数据
关于
flink
两阶段提交高并发下程序卡住问题
先抛出代码packagecom.dpf.
flink
;importcom.dpf.
flink
.sink.MysqlSink;importorg.apache.
flink
.api.common.serialization.SimpleStringSchema
我爱刮刮乐
·
2025-04-27 21:12
flink
linq
大数据
Nest.js
中文文档
上线啦!(最新V11版本)
这是我历时1个多月翻译的最新Nest.js
中文文档
(最新V11.x版本)。就在这天上线吧!网站访问速度还是蛮快的哦!
·
2025-04-27 14:58
前端
demo
flink
写入kafka_【开发案例】
Flink
案例:向Kafka生产并消费数据程序
Flink
案例:向Kafka生产并消费数据程序1.1场景说明适用版本FusionInsightHDV100R002C70、FusionInsightHDV100R002C80。
渺小呆子
·
2025-04-27 13:51
demo
flink写入kafka
Kafka 主题设计与数据接入机制
一、前言:万物皆流,Kafka是入口在构建实时数仓时,Kafka既是数据流动的起点,也是后续流处理系统(如
Flink
)赖以为生的数据源。
晴天彩虹雨
·
2025-04-27 13:21
Flink
+
Kafka
实时数仓实战
kafka
linq
分布式
数据仓库
Day.js -- 处理时间戳
在线文档
中文文档
一个极简的JavaScript库,可以为现代浏览器解析、验证、操作和显示日期和时间。相似工具库Moment.js在JavaScript中解析、校验、操作、显示日期和时间。
i小杨
·
2025-04-27 07:13
npm常用js库
javascript
前端
vue.js
上一页
2
3
4
5
6
7
8
9
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他