Flink调优

在与面试官面试之后的某些回想

4.我感觉在面试官说完后，我还是很懵，比如人家说flink架构时，我回答的是运行架构，
劝学-大数据·2024-01-03 17:22

基于 Flink 的百亿数据去重实践

在工作中经常会遇到去重的场景，例如基于App的用户行为日志分析系统，用户的行为日志从手机客户端上报到Nginx服务端，通过Logstash、Flume或其他工具将日志从Nginx写入到Kafka中。由于用户手机客户端的网络可能出现不稳定，所以手机客户端上传日志的策略是：宁可重复上报，也不能丢日志。所以导致Kafka中必然会出现日志重复的情况，即：同一条日志出现了2条或2条以上。通常情况下，Flin
zhisheng_blog·2024-01-03 16:52

一文说清Elasticsearch的核心概念

核心概念集群（Cluster）分片（Shards）副本（Replicas）映射（Mapping）ES的基本使用安装使用集群健康状态ES机制原理写索引原理存储原理性能优化存储设备内部索引优化调整配置参数JVM调优本文小结概述本篇主要是做一个总结
wh柒八九·2024-01-03 16:51

Flink 维表关联方案

Flink维表关联方案1、FlinkDataStream关联维表1）概述1.分类实时数据库查找关联（Per-RecordReferenceDataLookup）预加载维表关联（Pre-LoadingofReferenceData
猫猫爱吃小鱼粮·2024-01-03 16:49

Flink-Paimon 案例

Flink-Paimon案例1、下载FlinkJar包并解压tar-xzfflink-*.tgz2、下载PaimonJar包放进Flink的lib中cppaimon-flink-*.jar/lib/3、
猫猫爱吃小鱼粮·2024-01-03 16:49

单机Nginx性能优化

静态文件的缓存优化了网页加载，超时机制会让Client与Server的响应不会长时间阻塞，GZIP压缩提升IO效率、减少我们发送的数据量，限流来预防DOS攻击，TCP参数调优提升传输效率。
JacksonY·2024-01-03 15:52

linux参数调优

查看文件句柄数ulimit-a临时修改文件句柄数（退出shell将重置）ulimit-n65535永久修改文件句柄数使用root账号vi/etc/security/limits.conf末尾新增以下内容*softnofile65535*hardnofile65535*softnproc65535*hardnproc65535修改用户可用最大进程数使用root账号vi/etc/security/li
芸尚非·2024-01-03 13:44

数睿通2.0功能更新：支持多版本 Flink 切换，新增数据标签模块

文章目录引言支持多版本Flink切换功能展示使用方法数据标签合并微服务Bug修复，细节优化结语引言小伙伴们，大家好，数睿通2.0数据中台迎来了12月份的更新，由于年底工作繁忙，所以本次更新内容稍微少了点
小螺旋丸·2024-01-03 10:22

数睿通2.0数据接入、数据开发、系统权限、集群监控全面升级

引言数睿通2.0数据中台迎来了11月份的更新，感谢大家的支持，本次更新主要包括以下内容：数据库支持MongoDB数据接入支持MongoDB，支持自定义SQL采集，支持停止运行中的任务数据生产支持FlinkJar
小螺旋丸·2024-01-03 10:21

新年快乐—数睿通2.0数据中台全新功能模块发布

文章目录引言数据集成数据库管理文件管理数据接入贴源数据数据开发数据生产sql作业开发FlinkSql作业开发调度中心运维中心资源中心配置中心其他模块结语引言离上次发文已经有接近三个月了，这三个月主要在开发数睿通的数据生产模块
小螺旋丸·2024-01-03 10:43

MicroPython性能调优

MicroPython开发高性能代码一般遵循以下阶段：设计时就要考虑性能优化代码及性能调试性能调优的步骤：确定代码中最慢的部分提高Python代码执行效率使用本机代码发射器使用viper代码发射器针对硬件进行优化在设计时就考虑性能问题性能问题应该一开始就应该考虑
原子星·2024-01-03 09:14

Flink-【时间语义、窗口、水位线】

1.时间语义1.1事件时间：数据产生的事件（机器时间）；1.2处理时间：数据处理的时间（系统时间）。：可乐可乐的生产日期=事件时间（可乐产生的时间）；可乐被喝的时间=处理时间（可乐被处理【喝掉=处理】的时间）。机器时间：可能不准确（例如：A可乐厂的时钟比较慢，B可乐厂的时钟比较快，但实际上B产生可乐的时间比A产生可乐的时间慢，却被先处理了）系统时间：相对准确（处理机器设置的时间，一般无误【当然分布
可乐manman·2024-01-03 09:58

Flink的检查点算法

Flink的恢复机制基于应用状态的一致检查点。在有状态的流应用中，一个一致性检查点是：在所有tasks处理了一个（相同的）输入后，当前时间点每个task的state副本。
XueminXu·2024-01-03 09:52

Flink实时电商数仓（十）

common模块回顾appBaseApp:作为其他子模块中使用Flink-StreamAPI的父类，实现了StreamAPI中的通用逻辑，在其他子模块中只需编写关于数据处理的核心逻辑。
十七✧ᐦ̤·2024-01-03 09:50

聊一下JVM调优

闲聊一下：这个JVM相信大家都了解过但是很少用这个东西但是面试一些高级架构师又是必问的一些问题之前一直不了解这个东西感觉就是面试造火箭实际拧螺丝用于筛选人才毕业这么多年也是很少接触这些就大学的时候学过简单了解过一些底层，找工作面试倒是背过一些相关的甲骨文。项目背景：先简单说一下写这个的原因，我目前做的这个项目有一个备份还原的功能，备份就是把整个数据库备份一下还原就是执行一下这个sql文件，其实这个
Owen_Number_One·2024-01-03 08:10

独一无二的「MySQL调优金字塔」相信也许你拥有了它，你就很可能拥有了全世界。

开发俏皮话【让我996不算啥，我只怕测试也996给我提bug！】技术金字塔本篇文章会按照自上而下以及自下而上的两种方向去“游览”【MySQL技术金字塔】，两个方向分别是从成本出发的（潜台词就是便宜越好，照顾公司成本哦！），本章内容，可能有点多，希望大家慢慢消化，实在不行来片“吗丁啉”，哈哈，开玩笑了！技术梗概主要技术分布为6大部分，如下图金子图所示：image研发成本角度从软件的【研发成本】的角度
洛神灬殇·2024-01-03 06:25

JVM的垃圾回收机制详解和调优

JVM的垃圾回收机制详解和调优1.JVM的gc概述gc即垃圾收集机制是指jvm用于释放那些不再使用的对象所占用的内存。java语言并不要求jvm有gc，也没有规定gc如何工作。
裘马轻狂大帅·2024-01-03 03:20

Spark源码——Shuffle过程

shuffle很重要，调优的重点、性能的杀手未优化的shuffle：(图片来源：北风网）未优化的shuffle有两个特点：spark早期版本中，shuffleMapTask将所有数据写入bucket缓存后
阿松0311·2024-01-03 02:59

Shuffle Read Time调优

先看第一张Spark任务执行时间轴的图：红色部分是任务反序列化时间，黄色部分是shuffleread时间，绿色是实际计算任务执行时间，这里我们先不讨论任务反序列化时间长，下一篇文章说任务反序列化时间长怎么解决1、首先shufflereadtime是什么？shuffle发生在宽依赖，如repartition、groupBy、reduceByKey等宽依赖算子操作中，在这些操作中会对Dataset数据
初心江湖路·2024-01-03 02:59

JVM老年代内存优化

参考：老年代持续增长，无法触发mixedgc的解决方案_java老年代一直增长-CSDN博客java老年代越来越大jvm老年代爆满_mob64ca13f63f2c的技术博客_51CTO博客【JVM调优】
jey_4·2024-01-03 00:51

如何在Flink SQL中轻松实现高效数据处理：最佳实践揭秘Protobuf自定义格式

目录FlinkSQLProtobufFormat设计要点1.引言2.为什么需要自定义Protobuf格式3.自定义Protobuf格式的
数据与后端架构提升之路·2024-01-03 00:39

Linux Page Cache调优在Kafka中的应用

本文首发于vivo互联网技术微信公众号链接：https://mp.weixin.qq.com/s/MaeXn-kmgLUah78brglFkg作者：YangYijun本文主要描述LinuxPageCache优化的背景、PageCache的基本概念、列举之前针对Kafka的IO性能瓶颈采取的一些解决方案、如何进行PageCache相关参数调整以及性能优化前后效果对比。一、优化背景当业务快速增长，每天
vivo互联网技术·2024-01-02 22:05

11-交叉验证与网格搜索对k-近邻算法调优

交叉验证目的：为了让被评估的模型更加准确可信数据分类训练集和测试集，再将训练集分为训练和验证集。eg：将数据分成5份，其中一份作为验证集。然后经过5次(组)的测试（每次换一组作为验证集，将之前的验证当作之后的一个训练集），每次都更换不同的验证集。即得到5组模型的结果，取平均值作为最终结果。又称5折交叉验证。从而，所有数据都即作为过训练集，也作为过验证集。交叉验证一般是和网格搜索一起使用的网格搜索也
jxvl假装·2024-01-02 21:33

地震去噪新探索（二）——无监督卷积神经网络调优实战

01屡败屡战的调优之旅卷积神经网络不是更能学习到特征细节，性能更好吗？为啥我做出来
科技州与数据州·2024-01-02 19:12

Docker 实践之旅：项目迁移与高效部署

迁移关键服务5.2定制化打包与快速部署6项目实践收获6.1简化了部署流程6.2节约了部署成本7克服难点和经验分享7.1版本兼容性问题7.2网络配置与通信问题7.3Dockerfile编写难题7.4资源限制和性能调优
cooldream2009·2024-01-02 19:10

【JVM】一文掌握JVM垃圾回收机制

JVM调优是一个听起来很可怕，实际上很简单的事。
Henry游戏开发·2024-01-02 18:48

JVM调优之探索CMS和G1的物理内存归还机制

前言：公司有一个资产统计系统，使用频率很低，但是要求在使用时查询速度快，因此想到做一些缓存放在内存中，在长时间没有使用，就持久化到磁盘中，并对垃圾进行回收，归还物理内存给操作系统，从而节省宝贵资源给其它业务系统。当我做好缓存时，却发现了一个棘手的问题，通过程序释放资源并通知GC回收资源后，堆内存的已用内存减少了，空闲内存增加了，可是进程占用系统内存却没有减少。查阅了很多资料，也尝试过很多次，都没有
熊峰的博客·2024-01-02 17:57

Flink学习-处理函数

简介处理函数是Flink底层的函数，工作中通常用来做一些更复杂的业务处理，处理函数分好几种，主要包括基本处理函数，keyed处理函数，window处理函数。
demon7552003·2024-01-02 17:29

【flink番外篇】9、Flink Table API 支持的操作示例（11）- Group Windows（tumbling、sliding和session）操作

Flink系列文章一、Flink专栏Flink专栏系统介绍某一知识点，并辅以具体的示例进行说明。1、Flink部署系列本部分介绍Flink的部署、配置相关基础内容。
一瓢一瓢的饮 alanchan·2024-01-02 14:22

【flink番外篇】9、Flink Table API 支持的操作示例（8）- 时态表的join（scala版本）

Flink系列文章一、Flink专栏Flink专栏系统介绍某一知识点，并辅以具体的示例进行说明。1、Flink部署系列本部分介绍Flink的部署、配置相关基础内容。
一瓢一瓢的饮 alanchan·2024-01-02 14:21

【flink番外篇】9、Flink Table API 支持的操作示例（10）- 表的OrderBy、Offset 和 Fetch、insert操作

Flink系列文章一、Flink专栏Flink专栏系统介绍某一知识点，并辅以具体的示例进行说明。1、Flink部署系列本部分介绍Flink的部署、配置相关基础内容。
一瓢一瓢的饮 alanchan·2024-01-02 14:21

【flink番外篇】9、Flink Table API 支持的操作示例（9）- 表的union、unionall、intersect、intersectall、minus、minusall和in的操作

Flink系列文章一、Flink专栏Flink专栏系统介绍某一知识点，并辅以具体的示例进行说明。1、Flink部署系列本部分介绍Flink的部署、配置相关基础内容。
一瓢一瓢的饮 alanchan·2024-01-02 14:49

每日一诗

流过乱石时水声喧腾，而流经松林时却没有声息与松林相映色调优美。水波荡漾，浮着菱角和荇菜，清澈的溪水侧映着芦苇。我的心一向闲静，就像这淡泊的溪水
迷路她·2024-01-02 13:42

跟着腾讯T4学架构：微服务+MySQL+Nginx+Redis+容器化+虚拟机

第1章走近Java第2章Java内存区域与内存溢出异常第3章垃圾收集器与内存分配策略第4章虚拟机性能监控与故障处理工具第5章调优案例分析与实战第6章类文件结构第7章虚拟机类加载机制第8章虚拟机字节码执行引擎第
写代码的珏秒秒·2024-01-02 13:33

腾讯 CSIG 社招 2023 一年工作经验 Java转GO（一、二）面

（线程池优化，批处理优化、设计模式优化、性能测试、压力测试、GC优化）线程池怎么调优的？线程池如何分配线程？如果有50000数据需要批处理，你是怎么分配线程的？
鬼客·2024-01-02 13:56

show engine innodb status解读

它输出就是一个单独的字符串，没有行和列，内容分为很多小段，每一段对应innodb存储引擎不同部分的信息，其中有一些信息对于innodb开发者来说非常有用，但是，许多信息，如果你尝试去理解，并且应用到高性能innodb调优的时候
果冉多·2024-01-02 13:11

Flink自定义MySQLSource读取MySQL数据

先查看数据库连接池实现MySQL连接池MySQL表student的实体采用caseclass定义objectDomain{caseclassAccess(time:Long,domain:String,traffic:Long)caseclassStudent(id:Int,name:String,age:Int)}实现RichSourceFunction来自定义MySQLSourcepackag
喵星人ZC·2024-01-02 10:51

大数据学习入门到实战教程，精心整理万字长文入门，老奶奶看了都说学会了

换个角度说，大数据是：1、有海量的数据2、有对海量数据进行挖掘的需求3、有对海量数据进行挖掘的软件工具（hadoop、spark、storm、flink、tez
悦悦学Python·2024-01-02 08:59

最容易出错的 Hive Sql 详解

前言在进行数仓搭建和数据分析时最常用的就是sql，其语法简洁明了，易于理解，目前大数据领域的几大主流框架全部都支持sql语法，包括hive，spark，flink等，所以sql在大数据领域有着不可替代的作用
奔跑者-辉·2024-01-02 07:30

深入浅出内存管理：空间分配及逃逸分析

1.引言内存管理，是开发者在程序编写和调优的过程中不可绕开的话题，也是走向资深程序员必须要了解的计算机知识。
xin猿意码·2024-01-02 06:46

Flink 的window机制(二) 窗口函数

WindowFunction前面指定了窗口的分配器,接着我们需要来指定如何计算,这事由windowfunction来负责.一旦窗口关闭,windowfunction去计算处理窗口中的每个元素.windowfunction可以是ReduceFunction,AggregateFunction,orProcessWindowFunction中的任意一种.ReduceFunction,Aggregate
万事万物·2024-01-02 05:34

Apache Flink连载（二十三）：Flink HA - Flink基于Yarn HA

个人主页：IT贫道_大数据OLAP体系技术栈,ApacheDoris,Clickhouse技术-CSDN博客私聊博主：加入大数据技术讨论群聊，获取更多大数据资料。博主个人B栈地址：豹哥教你大数据的个人空间-豹哥教你大数据个人主页-哔哩哔哩视频目录1.YarnHA配置2.启动测试</
IT贫道·2024-01-02 04:42

Apache Flink连载（二十二）：Flink HA - Flink基于Standalone HA

博主个人B栈地址：豹哥教你大数据的个人空间-豹哥教你大数据个人主页-哔哩哔哩视频目录Flink基于StandaloneHA1.StandaloneHA配置2.启动测试Flink基于Standalon
IT贫道·2024-01-02 04:11

flink 连接 hdfs 读取文件配置

flink连接hdfs读取文件配置hadoop版本为2.7.3window系统本地运行flink程序读取hdfs文件配置1，请导入hadoop和httpclient的包org.apache.flinkflink-hadoop-fs
eagle隼·2024-01-02 02:06

性能测试总结-Jmeter代码使用

时间计划，人力投入等3.测试数据准备，测试账号（预估并发量），设计测试脚本（参数化，表达式，断言，控制器）4.运行测试脚本，数据监听（响应时间，tps，活动线程），结果分析（判断性能瓶颈）5：基本性能瓶颈做调优
落落521520·2024-01-01 23:54

PiflowX组件-JDBCRead

计算引擎flink有界性ScanSource:BoundedLookupSource:SyncMode组件分组Jdbc端口Inport：默认端口outport：默认端口组件属性名称展示名称默认值允许值是否必填描述例子
暗影八度·2024-01-01 23:36

PiflowX组件-ReadFromUpsertKafka

计算引擎flink有界性Unbounded组件分组kafka端口Inport：默认端口outport：默认端口组件属性名称展示名称默认值允许值是否必填描述例子kafka_hostKAFKA_HOST“”
暗影八度·2024-01-01 23:06

PiflowX组件-WriteToUpsertKafka

计算引擎flink有界性StreamingUpsertMode组件分组kafka端口Inport：默认端口outport：默认端口组件属性名称展示名称默认值允许值是否必填描述例子kafka_hostKAFKA_HOST
暗影八度·2024-01-01 23:05

PiflowX组件-JDBCWrite

计算引擎flink有界性Sink:BatchSink:StreamingAppend&UpsertMode组件分组Jdbc端口Inport：默认端口outport：默认端口组件属性名称展示名称默认值允许值是否必填描述例子
暗影八度·2024-01-01 23:01

『互联网架构』软件架构-解密电商系统-秒杀消息队列异步下单（79）

原文链接地址：『互联网架构』软件架构-解密电商系统-秒杀消息队列异步下单（79）上几次主要说了高并发大流量项目所涉及到的技术点和技术方案，调优需要注意的一些参数，秒杀订单接口缓存的概念，通过redis的方式
IT人故事会·2024-01-01 22:38
上一页 32 33 34 35 36 37 38 39 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他