Flink调优

Linux服务器内核参数优化

Linux内核参数调优主要是通过修改/proc伪文件系统和/etc/sysctl.conf配置文件的参数来实现的。
Vecloud·2024-01-05 13:19

Spark调优解析-GC调优3（七）

1GC调优Spark立足内存计算，常常需要在内存中存放大量数据，因此也更依赖JVM的垃圾回收机制。
有语忆语·2024-01-05 12:54

Spark调优解析-spark数据倾斜优化2（七）

如果数据倾斜没有解决，完全没有可能进行性能调优，其他所有的调
有语忆语·2024-01-05 12:53

Spark调优解析-sparkshuffle和程序开发优化2(七)

1Shuffle调优1.1调优概述大多数Spark作业的性能主要就是消耗在了shuffle环节，因为该环节包含了大量的磁盘IO、序列化、网络数据传输等操作。
有语忆语·2024-01-05 12:49

【jvm调优】使用JConsole工具

如何使用JConsole来查看垃圾回收器的信息？JConsole是一个内置的Java性能分析器，安装Java时自带，默认位置为C:\ProgramFiles\Java\jdk1.8.0_152\bin。使用JConsole来查看垃圾回收器的信息的步骤如下：选择你本地正在运行的JVM应用。切换到VM概要标签页面，即可查看当前使用的垃圾回收器。如何使用JConsole？JConsole是Java开发工
锅巴编程·2024-01-05 12:43

【JVM】内存模型（调参调优、GC、对象池、内存泄漏）

jvm内存模型JVM内存模型是Java虚拟机规范中定义的一种内存模型，用于规范Java程序在不同线程之间的共享内存访问行为。在JVM内存模型中，将内存分为主内存和工作内存。主内存是所有线程共享的内存区域，包括Java堆、方法区等。而工作内存则是每个线程私有的内存区域，用于存储线程执行过程中的局部变量、临时变量等。在Java程序中，当一个线程执行时，它会将主内存中的共享变量拷贝一份到自己的工作内存中
锅巴编程·2024-01-05 12:12

python毕设选题 - flink大数据淘宝用户行为数据实时分析与可视化

文章目录0前言1、环境准备1.1flink下载相关jar包1.2生成kafka数据1.3开发前的三个小tip2、flink-sql客户端编写运行sql2.1创建kafka数据源表2.2指标统计：每小时成交量
DanCheng-studio·2024-01-05 12:00

【积微成著】性能测试调优实战与探索（存储模型优化+调用链路分析）| 京东物流技术团队

以上，在性能测试的场景决策，架构分析、流量分析、压测实施和剖解调优等主要环节中，引发对于系统能力底盘夯实和测试策略改进的诸多思考。
京东云技术团队·2024-01-05 11:11

Spark内核解析-内存管理7(六)

理解Spark内存管理的基本原理，有助于更好地开发Spark应用程序和进行性能调优。本文中阐述的原理基于Spark2.1版本。
有语忆语·2024-01-05 10:36

Spark调优解析-spark调优基本原则1（七）

1调优基本原则1.1基本概念和原则首先，要搞清楚Spark的几个基本概念和原则，否则系统的性能调优无从谈起：每一台host上面可以并行N个worker，每一个worker下面可以并行M个executor
有语忆语·2024-01-05 10:36

Flink实时电商数仓之旁路缓存

撤回流的处理撤回流是指流式处理过程中，两表join过程中的数据是一条一条跑过来的，即原本可以join到一起的数据在刚开始可能并没有join上。撤回流的格式：解决方案定时器：使用定时器定时10s（数据最大的时间差值），定时器触发时将状态中的数据发送过来如果重复计算这些数据，如何保持结果正确即可；通过每次度量值修改为当次度量值-上次度量值即可异步IO减少等待的时间，充分利用已有的资源使用异步IO时，必
十七✧ᐦ̤·2024-01-05 07:47

【Flink】Flink 1.13 将数据 写入 到 elasticsearch 7 案例

文章目录1.概述2.Sink:Batch3.依赖4.创建Elasticsearch表5.连接器参数6.特性6.1.Key处理6.2.动态索引6.3数据类型映射6.4FileSystem7.案例1.概述
九师兄·2024-01-05 06:32

flink写入es版本控制问题

本次讨论各种情况es写入的版本控制问题，以及flink1.6.x与es6.x的小插曲1：测试不控制版本号的create覆盖操作Requests.indexRequest().index("test").
溜溜留·2024-01-05 06:32

Flink写入Elasticsearch（es）问题汇总记录

Flink写入Elasticsearch（es）问题汇总1、报错信息:org.apache.flink.client.program.ProgramInvocationException:Themainmethodcausedanerror
qq_38558851·2024-01-05 06:32

Flink读取Kafka数据批量写入ES(elasticsearch)

Flink实时消费kafka数据，数据经过处理，富化、清洗等操作，写入ES。在流式计算中，此场景十分常见。
m0_67401228·2024-01-05 06:29

flink将数据写入到kafka

前言在之前的一篇中，我们谈到在flink中如何读取来自kafka指定topic的数据，在实际生产环境中，比较常见的场景是，kafka作为数据源，flink程序读取到kafka的数据后，进行初步的处理后，
逆风飞翔的小叔·2024-01-05 06:25

flink将数据写入redis

前言通过flink分析出来的数据，经常需要写入到外部存储系统，以供其他应用来使用这些数据，比如redis就是一个很好的存储数据库，写入到redis后，应用可以读取redis中的数据做统计、分析、计算等1
逆风飞翔的小叔·2024-01-05 06:55

flink on yarn任务启停脚本(实现一键读取ck启动，保存ck停止）

1.问题描述flink同步任务，长期任务过多，某个任务停止保存checkpoint或者savepoint后，修改代码，使用命令行读取检查点重新启动需要人工去hdfs上找寻检查点保存位置。
tuoluzhe8521·2024-01-05 06:20

flink table view datastream互转

String,f2:Inner,f3:Int)caseclassInner(f3:String,f4:Int)测试代码packagecom.yy.table.convertimportorg.apache.flink.streaming.api.scala.StreamExecutionEn
Thomas2143·2024-01-05 06:48

flink如何写入es

提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮助文档文章目录前言一、写入到Elasticsearch5二、写入到Elasticsearch7总结前言Flinksink流数据写入到es5和es7
shandongwill·2024-01-05 06:47

XGBoost参数调优完全指南（附Python代码）

1.简介如果你的预测模型表现得有些不尽如人意，那就用XGBoost吧。XGBoost算法现在已经成为很多数据工程师的重要武器。它是一种十分精致的算法，可以处理各种不规则的数据。构造一个使用XGBoost的模型十分简单。但是，提高这个模型的表现就有些困难(至少我觉得十分纠结)。这个算法使用了好几个参数。所以为了提高模型的表现，参数的调整十分必要。在解决实际问题的时候，有些问题是很难回答的——你需要调
婉妃·2024-01-05 06:16

【flink番外篇】9、Flink Table API 支持的操作示例（13）- Row-based（map、flatmap、aggregate、group window aggregate等）操作

Flink系列文章一、Flink专栏Flink专栏系统介绍某一知识点，并辅以具体的示例进行说明。1、Flink部署系列本部分介绍Flink的部署、配置相关基础内容。
一瓢一瓢的饮 alanchan·2024-01-05 05:42

【flink番外篇】9、Flink Table API 支持的操作示例（12）- Over Windows（有界和无界的over window）操作

Flink系列文章一、Flink专栏Flink专栏系统介绍某一知识点，并辅以具体的示例进行说明。1、Flink部署系列本部分介绍Flink的部署、配置相关基础内容。
一瓢一瓢的饮 alanchan·2024-01-05 05:41

【flink番外篇】9、Flink Table API 支持的操作示例（1）-完整版

Flink系列文章一、Flink专栏Flink专栏系统介绍某一知识点，并辅以具体的示例进行说明。1、Flink部署系列本部分介绍Flink的部署、配置相关基础内容。
一瓢一瓢的饮 alanchan·2024-01-05 05:40

【flink番外篇】9、Flink Table API 支持的操作示例（14）- 时态表的join（java版本）

Flink系列文章一、Flink专栏Flink专栏系统介绍某一知识点，并辅以具体的示例进行说明。1、Flink部署系列本部分介绍Flink的部署、配置相关基础内容。
一瓢一瓢的饮 alanchan·2024-01-05 05:07

计算机视觉入门与调优

大家好啊，我是董董灿。在CSDN上写文章写了有一段时间了，期间不少小伙伴私信我，咨询如何自学入门AI，或者咨询一些AI算法。90%的问题我都回复了，但有时确实因为太忙，没顾得过来。在这个过程中，我发现很多小伙伴问的问题都类似：比如如何入门计算机视觉，某某算法是做什么的，有什么作用。之前写的文章由于过于分散，不成体系，很多知识点没有串联起来。于是我做了个合集，计划系统的从传统计算机视觉，到基于深度学
董董灿是个攻城狮·2024-01-05 05:19

浅谈web性能测试

性能测试，简而言之就是模仿用户对一个系统进行大批量的操作，得出系统各项性能指标和性能瓶颈，并从中发现存在的问题，通过多方协助调优的过程。
测试界的路飞·2024-01-05 04:18

「美团面试系列」面试加分项，这样说你会JVM，面试官还能问什么

Java性能调优都是老生常谈的问题，特别当“糙快猛”的开发模式大行其道时，随着系统访问量的增加、代码的臃肿，各种性能问题便会层出不穷。
java架构师联盟·2024-01-05 03:27

Nginx(十八) 性能调优之 - 哪些层面可以进行优化

Nginx三大优势，动静分离、反向代理、负载均衡1、线程worker2、http/tcptcp_nopushtcp_nodelay3、Buffer调整请求体缓存区大小、将请求体缓存到一个缓冲区，降低CPU负载4、连接队列5、超时时间6、静态文件缓存open_file_cache7、gzip压缩gzip配合gzip_static一起使用。代理服务时，注意设置gzip_http_version版本为1
Eisen戴·2024-01-05 03:36

记录Flink 线上碰到java.lang.OutOfMemoryError: GC overhead limit exceeded如何处理？

这个问题是FlinkTM内存中我们常见的，看到这个问题我们就要想到下面这句话：程序在垃圾回收上花了很多时间，却收集一点点内存，伴随着会出现CPU的升高。是不是大家出现这个问题都会出现上面这种情况呢。
yzw_ai_sx·2024-01-05 02:40

Navicat 技术干货 | 如何查看关系型数据库（MySQL、PostgreSQL、SQL Server、 Oracle）查询的运行时间

无论你是数据库管理员、开发人员或是参与性能调优的人员，知道如何查看查询运行时间能为你的数据库操作提供有价值的参考。
Navicat中国·2024-01-05 00:32

Hbase - 自定义Rowkey规则

在Flink中我们有时候需要分析数据1点到2点的范围,可是经过Region又比较慢，这时候我们就可以定制TableInputFormat来实现我们的需求了，我们还可以采用Flink的DataSet的方式读取
kikiki2·2024-01-05 00:48

Flink源码-集群启动-ResourceMangaer启动

image.pngResourceManger负责任务Slot的申请，其中主要是内部的SlotManager管理Slot,下边分析下RM的启动过程。核心主要是启动两个心跳服务，维持和TM,JM的心跳。启动SlotManager管理Slot资源
飞_侠·2024-01-04 22:08

单测结果不稳定的终极解决方案(Maven单测参数调优)

一、前言近期，在公司平台执行单测任务时，我发现到一个显著的问题：我们的一个应用，在公司平台上执行单测时，即使是相同的代码，每次的执行结果（包括行覆盖率以及单测通过率）都存在差异。更具体地说，许多在本地环境中能够成功执行的测试用例，在公司平台上却遭遇了失败。为了解决这个问题，我进行了广泛的信息搜索，咨询了ChatGPT，并尝试了多种可能的解决方案。经过不懈的努力，我终于找到了问题的根源并成功解决了它
程序员Daddy·2024-01-04 22:23

未来智安XDR入选《CCSIP 2022中国网络安全产业全景图》

相较于《CCSIP2021中国网络安全产业全景图》（第三版），该版本对原有展示的87个细分安全领域进行调优，新增XDR、MSS、SASE、OTP等7个细分领域，最终展示94个细分安全领域，收录862家安全厂商
XDRSEC·2024-01-04 21:40

我的2023年度回顾

对arrow的改动算是非常多，涉及到batch的计算、流模型acero的算子新增与重写、单元测试的bug修复、plan性能调优、算子调优、计算调优等等。从arrow项目中剥离出了一
guangcheng0312q·2024-01-04 20:17

Flink | Checkpoint 机制详解

一、Checkpoint简介Flink的Checkpoint机制是其可靠性的基石。
坨坨的大数据·2024-01-04 20:32

Flink 的时间属性及原理解析

Flink的API大体上可以划分为三个层次：处于最底层的ProcessFunction、中间一层的DataStreamAPI和最上层的SQL/TableAPI，这三层中的每一层都非常依赖于时间属性。
程序猿进阶·2024-01-04 18:57

性能测试之Mysql数据库调优

一、前言性能调优前提：无监控不调优，对于mysql性能的监控前几天有文章提到过，有兴趣的朋友可以去看一下二、Mysql性能指标及问题分析和定位1、我们在监控图表中关注的性能指标大概有这么几个：CPU、内存
测试小贝·2024-01-04 18:09

流式湖仓增强，Hologres + Flink构建企业级实时数仓

2023年12月，由阿里云主办的实时计算闭门会在北京举行，阿里云实时数仓Hologres研发负责人姜伟华现场分享Hologres+Flink构建的企业级实时数仓，实现全链路的数据实时计算、实时写入、实时更新
阿里云大数据AI技术·2024-01-04 16:07

Flink 任务指标监控

TaskManager指标Job指标资源监控指标数据流监控指标任务监控指标网络监控指标容错监控指标数据源监控指标数据存储监控指标JobManager指标TaskManager指标Job指标当使用ApacheFlink
墨子白·2024-01-04 16:03

Flink状态容错savepoint与checkpoint

本文目录CheckpointsStateBackendsSavepointsCheckpoints与Savepoints区别Flink可以保证exactlyonce，与其容错机制checkpoint和savepoint
大数据技术派·2024-01-04 16:33

FlinkSQL处理Canal-JSON数据

Flink支持将Canal的JSON消息解析为INSERT、UPDA
实时即未来·2024-01-04 11:34

文章解读与仿真程序复现思路——电网技术EI\CSCD\北大核心《计及源荷不确定性的综合能源系统日前-日内协调优化调度》

具体已有的论文与论文源程序可翻阅本博主的专栏栏目《论文与完整程序》这个标题指的是一个综合能源系统（包括多种能源资源和负荷需求），在考虑到源（能源供给）和荷（能源需求）的不确定性的情况下，进行日前和日内的协调优化调度
电网论文源程序·2024-01-04 07:11

Flink Watermark和时间语义

Flink中的时间语义时间语义：EventTime：事件创建时间；IngestionTime：数据进入Flink的时间；ProcessingTime：执行操作算子的本地系统时间，与机器无关。
程序猿进阶·2024-01-04 06:51

docker搭建Dinky —— 筑梦之路

简介Dinky是一个开箱即用、易扩展，以ApacheFlink为基础，连接OLAP和数据湖等众多框架的一站式实时计算平台，致力于流批一体和湖仓一体的探索与实践。
筑梦之路·2024-01-04 03:40

Flink应用介绍

前言：Flink自2014年开源以来，网上对Flink的介绍不可胜数；作为一个灵活的实时计算框架，Flink到底能用来做什么？
i7杨·2024-01-04 03:37

50 个 Redis 必备知识总结

本文包括：30个Redis基础知识；10个Redis架构和运维必懂的知识；Redis调优、监控知识和10个具体应用难点。30个Redis基础知识1、Redis支持哪几种数据类型？
一棵树～·2024-01-04 00:22

增量预训练经验积累（2）

1、并行策略选择1.1并行方式验证和调优这个和集群很相关例如我目前在16台A800集群（每台机器8张80G显卡）上测的最佳3D并行策略的具体partition配置就和L40s集群不一样（和集群有关，和具体的模型也有关
GUANYX~·2024-01-03 22:24

JVM常用参数配置

jvm实际可配参数已经有1000多个了，其中GC和内存配置就多达600多个，你可以看出JVM问题排查和性能调优重点领域还是GC和内存。
程序无涯海·2024-01-03 21:08
上一页 31 32 33 34 35 36 37 38 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他