E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
Flink1.12
Flink任务日志写到kafka【最新1.12,1.13】
Flink1.12
开始默认的日志框架就是log4j2,那么配置的方式跟之前log4j的方式有了一些区别,这边也踩了一些坑才解决。
FishMAN__
·
2023-02-01 06:55
flink+sklearn——使用jpmml实现flink上的机器学习模型部署
pmml模型三步曲第一步——创建模型第二步——训练模型第三步——保存模型回归任务演示代码部署模型——jpmml-evaluatormaven依赖读取模型进行预测在Flink中使用总结个人感想其他说明前言
flink1.12
虹幺
·
2022-12-30 14:33
机器学习/深度学习
大数据
flink
机器学习
spring
boot
kafka
flume
开源项目丨 Taier 1.1 版本正式发布,新增功能一览为快
本次版本更新对Flink的支持升级到
Flink1.12
,支持多种流类型任务,新版本的使用文档已在社区中推送,大家可以随时下载查阅。
·
2022-05-10 13:58
大数据
Flink 1.12 资源管理新特性
简介:介绍
Flink1.12
资源管理的一些特性,包括内存管理、资源调度、扩展资源框架。
·
2021-07-27 19:00
Flink 1.12 资源管理新特性回顾
简介:介绍
Flink1.12
资源管理的一些特性,包括内存管理、资源调度、扩展资源框架。
·
2021-07-27 19:46
flink
Flink 修炼——
flink1.12
自定义redis sink
最近代码从11升级到了12,由于此次版本变动,废弃了很多api,导致代码不兼容。如原来的tableEnv中注册registerTablesink和registerTableSource方法image.png/***Registersanexternal{@linkTableSink}withgivenfieldnamesandtypesinthis*{@linkTableEnvironment}'
超人有点忙
·
2021-06-12 17:11
Flink 计算 PV UV
基于
Flink1.12
场景外卖员听单的信息会发到单独一个topic中,计算一个每天有多少个外卖员听单以及总共的听单次数。
学木
·
2021-04-23 13:15
实时数仓|以upsert的方式读写Kafka数据——以
Flink1.12
为例
在某些场景中,比如GROUPBY聚合之后的结果,需要去更新之前的结果值。这个时候,需要将Kafka消息记录的key当成主键处理,用来确定一条数据是应该作为插入、删除还是更新记录来处理。在Flink1.11中,可以通过flink-cdc-connectors项目提供的changelog-jsonformat来实现该功能。关于该功能的使用,见之前的分享Flink1.11中的CDCConnectors操
大数据技术与数仓
·
2021-04-15 07:32
flink 1.12 native on k8s
目录:nativeflinkonk8s部署方式:session&&applicationnatvieflinkonk8s高可用方式:k8sHA&&ZKHA一、部署下载
flink1.12
版本,添加hadoop
ZYvette
·
2021-04-13 19:56
Flink源码阅读(七)--- Calcite 语法拓展
本文内容是基于
Flink1.12
来讲解。
sj_91d7
·
2021-03-22 14:40
使用Spark sql 合并 Flink 写Hive表的小文件
虽然可以通过调整sink.shuffle-by-partition.enable和checkpoint时间间隔的方式尽可能地减少Flink产生的小文件,但是即使
Flink1.12
加入了自动合并小文件的功能
ASFJGKL
·
2021-03-11 19:40
spark
spark
Flink1.12
-- 流批一体API
1.流处理相关概念1.1数据的时效性 日常工作中,我们一般会先把数据存储在表,然后对表的数据进行加工、分析。既然先存储在表中,那就会涉及到时效性概念。 如果我们处理以年,月为单位的级别的数据处理,进行统计分析,个性化推荐,那么数据的的最新日期离当前有几个甚至上月都没有问题。但是如果我们处理的是以天为级别,或者一小时甚至更小粒度的数据处理,那么就要求数据的时效性更高了。比如:对网站的实时监控、对异常
erainm
·
2021-03-05 15:16
Flink
flink
Flink1.12
- 概述、安装部署及快速入门
1.Flink概述1.1Flink官方介绍flink官网地址1.2Flink组件栈 一个计算框架要有长远的发展,必须打造一个完整的Stack。只有上层有了具体的应用,并能很好的发挥计算框架本身的优势,那么这个计算框架才能吸引更多的资源,才会更快的进步。所以Flink也在努力构建自己的Stack。Flink分层的组件栈如下图所示:每一层所包含的组件都提供了特定的抽象,用来服务于上层组件。各层详细介绍
erainm
·
2021-03-05 14:31
Flink
flink
Flink SQL 性能优化:multiple input 详解
简介:在
Flink1.12
中,针对目前operatorchaining无法覆盖的场景,推出了multipleinputoperator与sourcechaining优化。
阿里云开发者
·
2021-03-05 13:50
SQL
消息中间件
算法
druid
大数据
数据挖掘
API
Apache
HIVE
流计算
Flink SQL 性能优化:multiple input 详解
简介:在
Flink1.12
中,针对目前operatorchaining无法覆盖的场景,推出了multipleinputoperator与sourcechaining优化。
·
2021-02-25 11:18
html前端node.js
Flink SQL 性能优化:multiple input 详解
简介:在
Flink1.12
中,针对目前operatorchaining无法覆盖的场景,推出了multipleinputoperator与sourcechaining优化。
·
2021-02-25 11:20
html前端node.js
Flink on Hive构建流批一体数仓-
flink1.12
本文将以
Flink1.12
为例,介绍Flink集成Hive的另外一个非常重要的方面——Hive维表JOIN(TemporalTableJoin)与Flink读写H
javastart
·
2021-02-23 18:34
flink
Flink1.12
集成Hive之快速入门
用Hive构建数据仓库已经成为了比较普遍的一种解决方案。目前,一些比较常见的大数据处理引擎,都无一例外兼容Hive。Flink从1.9开始支持集成Hive,不过1.9版本为beta版,不推荐在生产环境中使用。在Flink1.10版本中,标志着对Blink的整合宣告完成,对Hive的集成也达到了生产级别的要求。值得注意的是,不同版本的Flink对于Hive的集成有所差异,本文将以最新的Flink1.
王知无(import_bigdata)
·
2021-01-31 13:14
Flink
hive
big
data
flink
Flink1.12
新特性之Flink SQL中时态表(Temporal Tables)说明和总结
前言
Flink1.12
正式发布后,带来了很多新的特性,本文重点学习和总结一下Flink1.11和
Flink1.12
中时态表的使用和自己的一个小总结,文章如有问题,请大家留言交流讨论,我会及时改正。
俩只猴
·
2021-01-24 02:12
Flink
flink
Flink实战(110):flink-sql使用(十八)connector(十九)Flink 与 hive 结合使用(七) Flink Hive Connector 使用
《2021年最新版大数据面试题全面开启更新》
Flink1.12
版本1.Hive建表//1、创建Hive数据库createdatabasezhisheng;//2、查看创建的数据库showdatabases
王知无-大数据技术与架构
·
2021-01-23 15:39
Flink
Flink编译(包括最新
Flink1.12
编译)
一、源码下载1、github地址(选择对应的release版本)https://github.com/apache/flink/tree/release-1.122、关于flink分支的选择最好选用release-xxx版本,少用tag版本3、flink不同版本之间的编译区别Flink不同版本间的编译区别,我的另一篇文档二、编译1、编译命令:我的maven版本是3.25,也用了多线程编译,刚好我的
FishMAN_已存在
·
2021-01-14 15:32
Flink
flink
实时数仓|以upsert的方式读写Kafka数据——以
Flink1.12
为例
在某些场景中,比如GROUPBY聚合之后的结果,需要去更新之前的结果值。这个时候,需要将Kafka消息记录的key当成主键处理,用来确定一条数据是应该作为插入、删除还是更新记录来处理。在Flink1.11中,可以通过flink-cdc-connectors项目提供的changelog-jsonformat来实现该功能。关于该功能的使用,见之前的分享Flink1.11中的CDCConnectors操
大数据技术与数仓
·
2021-01-13 20:00
sql
kafka
flink
Flink1.12
集成Hive打造自己的批流一体数仓
但是随着
Flink1.12
版本的发布,Flink使用HiveCatalog可以通过批或者流的方式来处理Hive中的表。这就意味着Flink既可以作为Hive的一个批处理引擎,也可以通过
王知无(import_bigdata)
·
2021-01-10 19:05
大数据
数据库
java
hive
mysql
Flink on Hive构建流批一体数仓
本文将以
Flink1.12
为例,介绍Flink集成Hive的另外一个非常重要的方面——Hive维表JOIN(TemporalTableJoin)与Flink读写H
大数据技术与数仓
·
2021-01-06 02:22
flink
hive
数据仓库
Flink集成Hive之Hive Catalog与Hive Dialect--以
Flink1.12
在上一篇分享Flink集成Hive之快速入门--以
Flink1.12
为例中,介绍了Flink集成Hive的进本步骤。
大数据技术与数仓
·
2021-01-06 02:44
flink
Flink on Hive构建流批一体数仓
本文将以
Flink1.12
为例,介绍Flink集成Hive的另外一个非常重要的方面——Hive维表JOIN(TemporalTableJoin)与Flink读写H
大数据技术与数仓
·
2021-01-06 01:21
flink
hive
数据仓库
Flink集成Hive之Hive Catalog与Hive Dialect--以
Flink1.12
在上一篇分享Flink集成Hive之快速入门--以
Flink1.12
为例中,介绍了Flink集成Hive的进本步骤。
大数据技术与数仓
·
2020-12-22 11:28
flink
Flink集成Hive之Hive Catalog与Hive Dialect--以
Flink1.12
在上一篇分享Flink集成Hive之快速入门–以
Flink1.12
为例中,介绍了Flink集成Hive的进本步骤。
大数据技术与数仓
·
2020-12-22 09:25
Flink
flink
hive
Flink集成Hive之快速入门--以
Flink1.12
为例
使用Hive构建数据仓库已经成为了比较普遍的一种解决方案。目前,一些比较常见的大数据处理引擎,都无一例外兼容Hive。Flink从1.9开始支持集成Hive,不过1.9版本为beta版,不推荐在生产环境中使用。在Flink1.10版本中,标志着对Blink的整合宣告完成,对Hive的集成也达到了生产级别的要求。值得注意的是,不同版本的Flink对于Hive的集成有所差异,本文将以最新的Flink1
大数据技术与数仓
·
2020-12-21 09:21
Flink
hive
flink
Flink 1.12 Hive分区时态表批流一体
需求背景我们生产常有将实时与Hive维表join来丰富数据的需求、Hive表是分区表、上周
Flink1.12
发布了、刚好支撑了这种业务场景、我也将1.12版本部署了、做了一个线上需求并上线、分区时态表提升了很多开发效率
HideOnBushKi
·
2020-12-16 10:39
flink 1.12本地编译报错解决--flink-fs-hadoop-shaded等
flink1.12
本地编译报错解决问题描述:原因分析:解决方案:解决方案:问题描述:找不到jar包Failuretofindorg.apache.flink:flink-fs-hadoop-shaded
iwonder123
·
2020-12-15 20:45
flink
flink
maven
bug
Flink源码篇--关于Flink Window开始时间机制
FlinkWindow开始时间机制前言:测试数据测试代码遇到的坑查看源码前言:最近由于Flinkrelase了新的版本1.12,更新了upsertkafka,以及更佳完善的流批一体机制,所以迫不及待想试试
Flink1.12
张三的成长之路
·
2020-12-13 20:24
Flink
flink
Apache Flink 1.12.0 升级说明
就在刚才ApacheFlink社区宣布Flink1.12.0版本正式发布了,从这个版本开始真正的流批一体又往前迈了一大步.ReleaseNotes-Flink1.12这些发布说明讨论了在Flink1.11和
Flink1.12
JasonLee-后厂村程序员
·
2020-12-11 09:00
java
python
数据库
大数据
spark
flink1.12
在ubuntu下面的编译记录(转载+自己整理)
##############一些概念和小技巧#########################gitclonehttps://gitee.com/fastsource/flink如何判断当前版本是什么型号呢?看各种jar包的后缀名,如果是1.12就表示最新版本号是1.12了flink-streaming-java_2.11-1.12-SNAPSHOT.jar####################
Applied Sciences
·
2020-08-21 03:44
Flink
上一页
1
2
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他