Flink调优

Java技术深度解析：解决消息队列延时、过期失效和积压问题的高效方案

1.1基于Timer的定时调度1.2使用优先级队列2.消息过期失效问题2.1定时清理过期消息2.2使用TTL机制3.大规模积压问题3.1分布式消息队列3.2动态扩容与缩容3.3负载均衡3.4ApacheFlink
喔的 喔的嘛呀·2024-01-07 05:46

MySql之查看执行计划

概述：执行计划的查看是进行数据库的sql语句调优时依据的一个重要依据，mysql的执行计划查看相对oracle简便很多，功能也相对简单很多的SQL语句都不能直接查看。
xinCode79·2024-01-07 05:42

19道ElasticSearch面试题（很全）

1.elasticsearch的一些调优手段1、设计阶段调优（1）根据业务增量需求，采取基于日期模板创建索引，通过rolloverAPI滚动索引；（2）使用别名进行索引管理；（3）每天凌晨定时对索引做force_merge
孤蓬&听雨·2024-01-07 05:10

SRE第九周作业

7.JVM垃圾回收原理，JVM调优。8.tomcat实现java应用发布。9.实现tomcatsession粘性，并验
m0_65187145·2024-01-07 04:44

碎碎念

我能做的就是能控制速度，转出协调优雅的圈圈。这一年真的是好多事，很多事都不以我的意愿
碎雨花·2024-01-07 01:30

浅谈踩坑记之一个Java线程池参数，差点引起线上事故

原文链接：https://mp.weixin.qq.com/s/ZR6Ikt9Srw55xppjchPiYg一、前言最近对重构Dubbo服务线程池调优，工作线程使用CachedThreadPool线程策略
大理架构师·2024-01-06 22:13

【Flink精讲】Flink数据延迟处理

面试题：Flink数据延迟怎么处理？
话数Science·2024-01-06 22:01

【Flink精讲】双流Join之Regular Join(即普通Join)

RegularJoin普通Join通过条件关联两条实时数据流：动态表Join动态表支持InnerJoin、LeftJoin、RightJoin、FullJoin。1.InnerJoin(Join)：只有两边数据流都关联上才输出+[L,R]2.LeftJoin(LeftOuterJoin)：只要左流有数据即输出+[L,NULL]，右流数据到达时会产生撤回流-[L,NULL]，并输出+[L,R]3.R
话数Science·2024-01-06 22:30

Flink常见核心概念

分布式缓存有时一些数据是通用的,就需要进行共享,可以放在文件、缓存、db中,可以放在文件中,先缓存到hadoop集群中,然后使用cachepublicclassCacheStream{publicstaticvoidmain(String[]args)throwsException{finalExecutionEnvironmentenv=ExecutionEnvironment.getExecu
一生逍遥一生·2024-01-06 21:56

调整几行代码，接口吞吐提升 10 倍，性能调优妙啊！

景分析过程总结背景公司的一个ToB系统，因为客户使用的也不多，没啥并发要求，就一直没有经过压测。这两天来了一个“大客户”，对并发量提出了要求：核心接口与几个重点使用场景单节点吞吐量要满足最低500/s的要求。当时一想，500/s吞吐量还不简单。Tomcat按照100个线程，那就是单线程1S内处理5个请求，200ms处理一个请求即可。这个没有问题，平时接口响应时间大部分都100ms左右，还不是分分钟
LINgZone2·2024-01-06 18:05

性能分析与调优: Linux 使用 iperf3 进行TCP网络吞吐量测试

目录一、实验1.环境2.TCP网络吞吐量的微观基准测试二、问题1.iperf参数有哪些2.iperf如何二进制安装一、实验1.环境（1）主机表1-1主机主机架构组件IP备注prometheus监测系统prometheus、node_exporter192.168.204.18grafana监测GUIgrafana192.168.204.19agent监测主机node_exporter192.168
cronaldo91·2024-01-06 18:29

性能分析与调优: Linux 性能分析60秒

目录一、实验1.环境2.Linux性能分析60秒一、实验1.环境（1）主机表1-1主机主机架构组件IP备注prometheus监测系统prometheus、node_exporter192.168.204.18grafana监测GUIgrafana192.168.204.19agent监测主机node_exporter192.168.204.20（2）性能工具检查表表1-2性能工具检查表序号工具检
cronaldo91·2024-01-06 17:57

聊聊flink的checkpoint配置

序本文主要研究下flink的checkpoint配置实例StreamExecutionEnvironmentenv=StreamExecutionEnvironment.getExecutionEnvironment
go4it·2024-01-06 17:39

ChatGPT 原来是这样工作的（下）

从人类的反馈中进行强化学习ReinforcementLearningfromHumanFeedback方法总体包括三个不同的步骤：有监督的调优预训练的语言模型在相对少量
城北楠哥·2024-01-06 15:45

flink消费kafka历史数据开窗计算数据丢失问题追踪记录

问题描述最近在开发flink程序时，需要开窗计算人次，在反复测试中发现flink的并行度会影响数据准确性，当kafka的分区数为6时，如果flink的并行度小于6，会有一定程度的数据丢失。
辛友·2024-01-06 13:21

记录flink读取kafka数据时checkpoint配置对offset提交的影响

一、问题描述flink消费kafka数据过程中，结果数据正常输出，但是kafka产生数据堆积二、原因分析flink任务运行中，checkpoint失败导致offset一直未提交，导致kafka数据堆积告警三
:）คิดถึง·2024-01-06 13:20

Flink-SQL实现kafka处理后写入kafka

基本信息kafka版本1.13.2topic原始数据topicuser_behavior输出数据topicafter_binlog读取kafka原始数据CREATETABLEuser_behavior(idBIGINT,nameSTRING,flagSTRING)WITH('connector.type'='kafka',--使用kafkaconnector'connector.version'=
贾斯汀玛尔斯·2024-01-06 13:18

flink加载kafka数据源存储至hbase

1、添加框架依赖implementation'org.apache.flink:flink-java:1.16.0'implementation'org.apache.flink:flink-streaming-java
fengchengwu2012·2024-01-06 12:13

Flink 解析kafka avro格式

Kafka|ApacheFlink详见上面docs文档flink对接kafka的avro格式
cuichunchi·2024-01-06 12:13

flink sql - group by 字段 [不等于] 主键字段导致upset-kafka 多并发 sink to pg表死锁原因分析

flinksql-groupby字段[不等于]主键字段导致写入pg表死锁原因分析1、环境描述1、flink1.13.22、3个并发度[3个taskmanager]，即任务会在三个节点[A、B、C节点]上跑
cg6·2024-01-06 12:43

记 - flink sql upset-kafka sink 数据乱序排查与解决思路【业务数据任意修改】

记-flinksqlupset-kafkasink数据乱序排查与解决思路数据乱序现状[leftjoin]数据乱序原因分析与解决乱序sql如下sql执行计划图业务操作kafka乱序数据原因分析解决验证补充多表
cg6·2024-01-06 12:43

Flink ＜--＞Kafka的使用介绍+with参数

用户可以把流数据导入到Kafka的某个Topic中，通过Flink算子进行处理后，输出到相同或不同Kafka示例的另一个Topic。
Samooyou·2024-01-06 12:12

使用flink的sql-client.sh，测试mysql--＞kafka--＞kafka--＞mysql实时流

目录1.环境介绍2.mysql建表3.flinksql建表3.1进入flinksql客户端3.2配置输出格式3.3flink建表3.4任务流配置4.测试4.1插入测试数据4.2查看结果表数据4.3新增测试数据
易逝的年华·2024-01-06 12:12

为什么我的flink upsert-kafka 没有数据输出

测试代码packagecom.yy.state.OperatorStateTTLimportorg.apache.flink.configuration.
Thomas2143·2024-01-06 12:39

这篇360°全方面性能调优（含一线大厂Android端性能优化方案），帮您分分钟解决APP卡顿

什么是性能调优？性能调优就是对计算机硬件、操作系统和应用有相当深入的了解，调节三者之间的关系，实现整个系统（包括硬件、操作系统、应用）的性能最大化，并能不断的满足现有的业务需求。
程序员小何SS·2024-01-06 10:29

RPC学习——入门体验

文章目录前言站长巨人的肩膀上RPC学习——原理图code前言看了flink-rpc之后，感觉rpc框架真的是太强大了，比如netty、akka，之前基于akka写过一个能够处理千万级实时数据量的处理系统
京河小蚁·2024-01-06 09:30

Golang高质量编程与性能调优实战

1.1简介高质量：编写的代码能否达到正确可靠、简洁清晰的目标各种边界条件是否考虑完备异常情况处理，稳定性保证易读易维护编程原则简单性消除多余的重复性，以简单清晰的逻辑编写代码不理解的代码无法修复改进可读性代码是写给人看的，并不是机器编写可维护代码的第一步是确保代码可读生产力团队整体工作效率非常重要1.2编码规范如何编写高质量的Go代码1.2.1代码格式推荐使用gofmt自动格式化代码主要有两种：g
豆沙睡不醒·2024-01-06 09:21

Tomcat调优

一、内存大小默认大小：命令jmap-heappidjmap-heappid部分值：HeapConfiguration:MinHeapFreeRatio=0MaxHeapFreeRatio=100MaxHeapSize=2063597568(1968.0MB)NewSize=42991616(41.0MB)MaxNewSize=687865856(656.0MB)OldSize=87031808(8
睡不醒的猪儿·2024-01-06 09:00

Flink详述双流 Join 3 种解决方案 + 2 种优化方案

1.前言这一期的面试题主要是介绍Flink面试中的高频面试题，Flink流Join相关内容，相信大家在面试中遇到的太多了，本节包含的主要内容如下：Join的应用场景为什么流式计算中提到Join小伙伴萌就怕呢
pekingK·2024-01-06 08:42

kafka 增量快照的使用

由于RocksDB内部存在compaction机制对sst文件进行合并，Flink的增量快照也会定期重新设立起点（rebase），因此增量链条不会一直增长，旧快照包含的文件也会逐渐过期并被自动清理。
pekingK·2024-01-06 08:12

Apache Paimon:Streaming Lakehouse is Coming

摘要：本文整理自阿里云智能开源表存储负责人，FounderofPaimon，FlinkPMC成员李劲松（花名：之信）、同程旅行大数据专家，ApacheHudi&PaimonContributor吴祥平、
Apache Flink·2024-01-06 08:15

JVM面试系列-03

旧生代空间不足旧生代空间只有在新生代对象转入及创建为大对象、大数组时才会出现不足的现象，当执行FullGC后空间仍然不足，则抛出如下错误：java.lang.OutOfMemoryError:Javaheapspace为避免以上两种状况引起的FullGC，调优时应尽量做到让对象
梦睡了·2024-01-06 08:36

【性能测试入门必看】性能测试流程简介

明确客户需求3、找出系统性能瓶颈4、稳定性验证（强度测试）二、性能测试流程（二）——了解系统结构系统架构对于测试新手来是最难的；先来了解系统所使用的技术和框架，在环境搭建阶段，你需要了解项目的部署；在性能分析与调优阶段
测试界清流·2024-01-06 07:13

阿里的通义灵码在android studio上的使用方法

平替产品，1，提供行级/函数级实时续写、2，自然语言生成代码、3，单元测试生成、4，代码注释生成、5，代码解释、6，研发智能问答、7，异常报错排查等能力，8，并针对阿里云SDK/OpenAPI的使用场景调优
王的备忘录·2024-01-06 07:11

2020-10-24Apache Flink未授权访问-远程代码命令执行-复现

ApacheFlink未授权访问-远程代码命令执行-复现一、漏洞简介ApacheFlinkDashboard默认没有用户权限认证。
thelostworldSec·2024-01-06 06:32

jvm原理与性能调优

文章目录一、JVM内存结构1.运行时数据区2.直接内存二、JVM中的对象1.对象的创建2.对象的内存布局3.对象的访问定位三、垃圾回收算法和垃圾回收器1.如何判断对象是已死2.分代回收理论3.垃圾回收算法4.垃圾收集器四、JVM执行子系统1.Class文件结构2.类加载机制3.类加载器4.双亲委派模式五、JVM性能优化1.内存溢出2.内存泄露3.JDK提供的优化工具一、JVM内存结构1.运行时数据
不才不才不不才·2024-01-06 06:04

StreamPark 在顺网科技的生产实践, 如何支撑大规模 Flink 作业

导读：本文主要介绍顺网科技在使用Flink计算引擎中遇到的一些挑战，基于StreamPark作为实时数据平台如何来解决这些问题，从而大规模支持公司的业务。
Apache StreamPark·2024-01-06 05:18

Flink学习笔记（一）：为什么选择flink

一、概述在很多数据处理场景下，要求数据以数据流的形式进行分析和存储，然鹅er…为啥选flink呢？
胖胖的战士·2024-01-06 05:48

【AI】一文读懂大模型套壳——神仙打架？软饭硬吃？

目录一、套壳的风波此起彼伏二、到底什么是大模型的壳2.1大模型的3部分，壳指的是哪里大模型的内核预训练（Pre-training）调优（Fine-tuning）2.2内核的发展历程和万流归宗2.3套壳不是借壳三
giszz·2024-01-06 04:47

JVM(Java虚拟机调优）

笔者将为Java开发人员提供JVM参数调优的指南，以帮助他们提高Java应用程序的性能和稳定性。JVM参数介绍JVM参数可以分为两类：标准参数和非标准参数。
yqj234·2024-01-05 23:48

JAVA系列之JVM内存调优

文章目录一、前提二、JVM内存结构1、栈内存2、堆内存3、永久代（元空间）三、JVM常用参数1、堆大小设置2、垃圾回收器选择2.1吞吐量优先的并行收集器2.2响应时间优先的并发收集器3、其他辅助配置四、内存溢出排查1、元空间溢出（java.lang.OutOfMemoryError:Metaspace）2、栈深度不够（java.lang.StackOverflowError）3、栈线程数不够（ja
夕阳也是醉了·2024-01-05 23:47

深入探索JAVA虚拟机（JVM ）— 内存调优

jvm问题排查和调优：jps主要⽤来输出JVM中运⾏的进程状态信息。jstat命令可以⽤于持续观察虚拟机内存中各个分区的使⽤率以及GC的统计数据jmap可以⽤来查看堆内存的使⽤详情。
努力努力再努力ss·2024-01-05 23:47

【JVM】Java虚拟机JVM堆内存调优

Java虚拟机JVM堆内存调优一、了解堆内存结构1.1JDK1.7堆内存1.2JDK1.8堆内存二、设置合理的堆内存大小（-Xms和-Xmx）三、调整新生代与老年代比例（-XX:NewRatio）四、新生代中
No8g攻城狮·2024-01-05 23:16

AIGC（生成式AI）试用 16 -- 续1，调优和提示词

FinetuningandPrompt调优和提示词1.生成式AI定义：与AI模型
Rolei_zl·2024-01-05 22:44

Flink CEP完全指南：捕获数据的灵魂，构建智慧监控与实时分析大师级工具

FlinkCEP（ComplexEventProcessing）是ApacheFlink的一个库，用于实现复杂的事件流处理和模式匹配。
数据与后端架构提升之路·2024-01-05 21:01

Flink CDC 2.0原理详解和生产实践

FlinkCDC概念CDC的全称是ChangeDataCapture，在广义的概念上，只要能捕获数据变更的技术，我们都可以称为CDC。
王知无(import_bigdata)·2024-01-05 20:24

linux设置page cache大小,Linux Page Cache调优在Kafka中的应用

本文首发于vivo互联网技术微信公众号链接：作者：YangYijun本文主要描述LinuxPageCache优化的背景、PageCache的基本概念、列举之前针对Kafka的IO性能瓶颈采取的一些解决方案、如何进行PageCache相关参数调整以及性能优化前后效果对比。一、优化背景当业务快速增长，每天需要处理万亿记录级数据量时。在读写数据方面，Kafka集群的压力将变得巨大，而磁盘IO成为了Kaf
刑律小陈·2024-01-05 17:39

Kettle性能调优汇总

根据Kettle对数据ETL的过程性能调优，主要取决于三个因素：上游渠道，工具的大小与数量，下游渠道。
GuangHui·2024-01-05 16:14

Apache Flink连载（八）：Apache Flink架构

个人主页：IT贫道_大数据OLAP体系技术栈,ApacheDoris,Clickhouse技术-CSDN博客私聊博主：加入大数据技术讨论群聊，获取更多大数据资料。博主个人B栈地址：豹哥教你大数据的个人空间-豹哥教你大数据个人主页-哔哩哔哩视频目录
IT贫道·2024-01-05 14:36

大数据毕设分享 flink大数据淘宝用户行为数据实时分析与可视化

文章目录0前言1、环境准备1.1flink下载相关jar包1.2生成kafka数据1.3开发前的三个小tip2、flink-sql客户端编写运行sql2.1创建kafka数据源表2.2指标统计：每小时成交量
caxiou·2024-01-05 13:58
上一页 30 31 32 33 34 35 36 37 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他