大数据调优

如何设计出一个高效的埋点管理系统？

作者介绍@九果入行大数据8年；某大厂数据产品经理；专注于数据产品，并持续学习中；“数据人创作者联盟”成员。01为什么要做埋点管理系统？
一个数据人的自留地·2024-02-19 20:27

好消息！茗创系列课程年度会员，众多课程可免费畅学！

茗创年度会员加入茗创年度会员以下课程可免费畅学不仅享有会员专属服务、优惠购课还有课程上新提醒哦脑影像组学培训班直播时间：2023.7.4~7.7随着大数据、人工智能的深入融合发展，一项新的研究方法开始用于临床研究
茗创科技·2024-02-19 20:23

主流开发语言和开发环境?

Java被广泛应用于企业级应用开发、移动应用（特别是Android应用）、游戏开发、大数据处理（如Hadoop生态系统）、云计算服务端开发等场景。C++简介：C+
dami_king·2024-02-19 20:50

[Flink04] Flink部署实践

但Flink是大数据计算框架，不是资源调度框架，这并不是它的强项；所以还是应该让专业的框架做专业的事，和其他资源调度框架集成更靠谱。FlinkonYarn模式，把资源管理交给Ya
YoungerChina·2024-02-19 20:49

Redis 集群(Cluster)

虽然硬件价格在不断降低，一些中大厂的服务器内存已经可以达到TB级别了，但是1TB在当前这个“大数据”时代，俨然不算什么，有的时候我们确实需要更大
ikun66666·2024-02-19 20:19

扩展学习|大数据，新的认识论和范式转变

文献来源：[1]KitchinR.BigData,NewEpistemologiesandParadigmShift[J].BigData&Society,2014,1(1):1-12.DOI:10.1177/2053951714528481.下载链接：https://pan.baidu.com/s/1RdnIo5VeL-CERk2sxyILiQ提取码：0ih2一、科学研究的范式转变正如库恩(19
封印师请假去地球钓鱼·2024-02-19 20:32

JVM-----调优指令

1、调优指令设置JVM内存的参数有四个：-XmxJavaHeap最大值，默认值为物理内存的1/4，最佳设值应该视物理内存大小及计算机内其他内存开销而定；-XmsJavaHeap初始值，Server端JVM
java_leejin·2024-02-19 20:28

JVM-JVM调优基础（理论）

申明：文章内容是本人学习极客时间课程所写，作为笔记进行记录，文字和图片基本来源于课程资料，在某些地方会插入一点自己的理解，未用于商业用途，侵删。原资料地址：课程资料JVM参数标准参数定义：稳定的参数不会随着Java版本的变化而变化。通常以短横线开头,可以通过java-help查看java-version非标准参数定义：以-X开头，是标准参数的扩展。表示在将来的JVM版本中可能会发生改变，但是这类以
developer@liyong·2024-02-19 20:53

什么时候会触发FullGC？描述一下JVM加载class文件的原理机制？

旧生代空间不足旧生代空间只有在新生代对象转入及创建为大对象、大数组时才会出现不足的现象，当执行FullGC后空间仍然不足，则抛出如下错误：java.lang.OutOfMemoryError:Javaheapspace为避免以上两种状况引起的FullGC，调优时应尽量做到让对象在
weixin_53180424·2024-02-19 20:23

相机图像质量研究(16)常见问题总结：光学结构对成像的影响--IRCUT

系列文章目录相机图像质量研究(1)Camera成像流程介绍相机图像质量研究(2)ISP专用平台调优介绍相机图像质量研究(3)图像质量测试介绍相机图像质量研究(4)常见问题总结：光学结构对成像的影响--焦距相机图像质量研究
上天肖·2024-02-19 19:50

相机图像质量研究(18)常见问题总结：CMOS期间对成像的影响--CFA

系列文章目录相机图像质量研究(1)Camera成像流程介绍相机图像质量研究(2)ISP专用平台调优介绍相机图像质量研究(3)图像质量测试介绍相机图像质量研究(4)常见问题总结：光学结构对成像的影响--焦距相机图像质量研究
上天肖·2024-02-19 19:50

GlusterFS：开源分布式文件系统的深度解析与应用场景实践

引言在当今大数据时代背景下，企业对存储系统的容量、性能和可靠性提出了前所未有的挑战。
超逮虾户·2024-02-19 19:20

相机图像质量研究(22)常见问题总结：CMOS期间对成像的影响--光学串扰

系列文章目录相机图像质量研究(1)Camera成像流程介绍相机图像质量研究(2)ISP专用平台调优介绍相机图像质量研究(3)图像质量测试介绍相机图像质量研究(4)常见问题总结：光学结构对成像的影响--焦距相机图像质量研究
上天肖·2024-02-19 19:12

相机图像质量研究(21)常见问题总结：CMOS期间对成像的影响--隔行扫描/逐行扫描

系列文章目录相机图像质量研究(1)Camera成像流程介绍相机图像质量研究(2)ISP专用平台调优介绍相机图像质量研究(3)图像质量测试介绍相机图像质量研究(4)常见问题总结：光学结构对成像的影响--焦距相机图像质量研究
上天肖·2024-02-19 19:11

【Jvm】性能调优（拓展）Jprofiler如何监控和解决死锁、内存泄露问题

文章目录Jprofiler简介1.安装及IDEA集成Jprofiler2.如何监控并解决死锁3.如何监控及解决内存泄露(重点)4.总结5.后话Jprofiler简介Jprofilers是针对Java开发的性能分析工具(免费试用10天),可以对Java程序的内存,CPU,线程,GC,锁等进行监控和分析,1.安装及IDEA集成Jprofiler本人IDEA版本是2020.2.2,选择的Jprofile
墩墩分墩·2024-02-19 19:23

Linux系统中HTTP隧道技术的未来发展趋势与挑战：穿越网络的“时光隧道”

随着云计算、大数据和人工智能等技术的迅猛发展，HTTP隧道技术也将迎来巨大的变革。想象一下，未来的HTT
华科℡云·2024-02-19 19:21

ETL数据集成工具DataX、Kettle、ETLCloud特点对比

ETL数据集成工具对于数据仓库，大数据集成类应用，通常会采用ETL工具辅助完成。
·2024-02-19 19:52

互联网加竞赛 大数据分析：基于时间序列的股票预测于分析

1简介Hi，大家好，这里是丹成学长，今天向大家介绍一个大数据项目大数据分析：基于时间序列的股票预测于分析2时间序列的由来提到时间序列分析技术，就不得不说到其中的AR/MA/ARMA/ARIMA分析模型。
Mr.D学长·2024-02-19 19:00

线程池再思考（业务学习）

3.提高线程的可管理性，使用线程池能够统一的分配、调优和监控。
Fairy要carry·2024-02-19 18:26

云计算、大数据、人工智能、物联网、虚拟现实技术、区块链技术（新一代信息技术）学习这一篇够了！

公有云(二)私有云(三)社区云(四)混合云四、云计算的特点(一)虚拟化技术(二)动态可扩展(三)按需部署(四)灵活性高(五)可靠性高(六)性价比高(七)可扩展性五、云计算的成用领城(一)金融云(二)制造云大数据一
IT小庄同学·2024-02-19 18:19

遂人心愿真难

不管什么定理，都是人的习惯造成的，利用大数据大概率去推理得出的结论。所有的顺心都是天时地利人和共同组合在一起形成的一种规律，具体到人就各有差距不一而衷。
岁月抚痕·2024-02-19 18:49

BIG DATA —— 大数据时代

大数据时代[英]维克托·迈尔—舍恩伯格肯尼斯·库克耶◎著盛杨燕周涛◎译《大数据时代》是国外大数据研究的先河之作，本书作者维克托·迈尔·舍恩伯格被誉为“大数据商业应用第一人”，他在书中前瞻性地指出，大数据带来的信息风暴正在变革我们的生活
EthanWYC601·2024-02-19 18:12

挑战杯 地铁大数据客流分析系统 设计与实现

文章目录1前言1.1实现目的2数据集2.2数据集概况2.3数据字段3实现效果3.1地铁数据整体概况3.2平均指标3.3地铁2018年9月开通运营的线路3.4客流量相关统计3.4.1线路客流量排行3.4.2站点客流量排行3.4.3入站客流排行3.4.4整体客流随时间变化趋势3.4.5不同线路客流随时间变化3.4.6不同线路的客流组成3.5收入消费指标统计3.5.1线路收入排行3.5.2各个站点对线路
laafeer·2024-02-19 16:41

中文语音标注工具FunASR（语音识别）

FunASR作用:能【准确】识别语音，并转成【文字、标出声调】他的原理，就不讲了，俺是搞大数据的，python这东西就勉强能写个爬虫和接口，机
我要用代码向我喜欢的女孩表白·2024-02-19 16:52

见世面的成本有多低？这几个技术公众号告诉你答案

大数据分析挖掘和Python机器学习商业智能BI、数据分析、数据挖掘、大数据、Python、机器学习、深度学习、算法等技术分享
傅一平·2024-02-19 16:19

Apache DolphinScheduler数仓任务管理规范

前言：大数据领域对多种任务都有调度需求，以离线数仓的任务应用最多，许多团队在调研开源产品后，选择ApacheDolphinScheduler（以下简称DS）作为调度场景的技术选型。
DolphinScheduler社区·2024-02-19 16:16

低代码配置式组态软件-BY组态

随着物联网、大数据等技术高速发展，我们逐步向数字化、可视化的人工智能（AI）时代的方向不断迈进。智能时代是工业4.0时代，我国工业领域正努力从“制造”迈向“智造”的新跨越。什么是组态软件？
·2024-02-19 16:04

Apache DolphinScheduler数仓任务管理规范

前言：大数据领域对多种任务都有调度需求，以离线数仓的任务应用最多，许多团队在调研开源产品后，选择ApacheDolphinScheduler（以下简称DS）作为调度场景的技术选型。
·2024-02-19 16:01

MySQL中常见的几种日志类型【重点】

在MySQL中，有几种不同类型的日志，用于记录数据库的活动和操作，以便于故障排查、性能调优和数据恢复等目的。
菜鸟要加油！·2024-02-19 16:38

营销系统黑名单优化：位图的应用解析 | 京东云技术团队

营销系统一般是通过大数据分析建模，在CDP（客户数据平台，以客户为核心，围绕数据融合、人群圈选、用户洞察等提供产品能力）创建营销目标客户群体，黑名单同样也是通过CDP维护。
·2024-02-19 16:59

作物模型狂奔：Apsim、Wofost、Dssat

大数据量必须要脚本去跑，目前Apsim和Wofost出了点成果，跟大家分享一下。欢迎各位道友留言、私聊、交流病情最好到B站上去留言啦，CSDN平很少登录需要指导的话，那就得让我挣点零花咯，嘿嘿。
F_Dregs·2024-02-19 15:47

Pytorch-SGD算法解析

的个人空间-肆十二-个人主页-哔哩哔哩视频(bilibili.com)SGD，即随机梯度下降（StochasticGradientDescent），是机器学习中用于优化目标函数的迭代方法，特别是在处理大数据集和在线学习场景中
肆十二·2024-02-19 14:10

JVM内存调优常用参数

视频讲解地址文章目录一、开始二、常用命令1、原生命令2、arthas命令三、Parallel四、G1相关参数五、通用参数六、JVM调优参数一、开始查看当前JDK版本所支持的垃圾回收器有哪些、以及默认使用的回收器
小道仙97·2024-02-19 14:57

奇葩说第五季之你会去见大数据为你筛选出的最合适的人吗？

欧阳Sir被淘汰，如晶战队又输了。其实这期辩题反方是理想，正方是现实。所以奇葩说的观众那么有梦想，心里存着诗和远方，一定会选择反方。我也会的，但是我会经过正方的步骤再从心里走到反方去。虽然我选择反方，但我希望正方可以赢，我希望如晶赢，她在我心里就是无冕之王。而且，非常喜欢欧Sir，就像高晓松说的，他身上有种特别好的现代的荒诞感，一见他就高兴。他走了，真得舍不得。他不是个好辩手，可能都不太适合这个舞
昆仑君的猫·2024-02-19 14:18

金九银十！阿里大牛力荐6篇实战文档：JVM+多线程+Kafka+Redis+Nginx+MySQL，临时抱佛脚管用！

虚拟机：JVM高级特性与最佳实践第一部分走近Java第1章走近Java第二部分自动内存管理机制第2章Java内存区域与内存溢出异常第3章垃圾收集器与内存分配策略第4章虚拟机性能监控与故障处理工具第5章调优案例分析与实战第三部分虚拟机执行子系统第
独孤球球·2024-02-19 14:51

redis学习笔记

Redis学习笔记文章目录Redis学习笔记一、NoSQL数据库简介1、解决问题2、NoSQL数据库二、Redis6概述和安装1、安装2、注意事项3、Redis使用4、其他介绍三、常用五大数据类型1、Redis
果然君·2024-02-19 14:19

p11 结构体：统计大数据

结构体定义（Struct）是一种用户定义的数据类型，用于组合不同数据类型的元素。它们允许将多个相关的变量组合在一起，形成一个逻辑上的单元。可以通过定义结构体来描述一个实际问题中的对象或概念，从而更好地组织和管理代码。输入一个正整数n(3voidmain(){structem{charname[10];floatjbg;floatfdg;floatzc;};structememp[100];inti
Mzylq·2024-02-19 14:16

日常节省 30%计算资源：阿里云实时计算 Flink 自动调优实践

摘要：本文整理自阿里云开发工程师，ApacheFlinkContributor钟旭阳，在FlinkForwardAsia2022生产实践的分享。本篇内容主要分为四个部分：历史背景框架简介案例介绍未来规划点击查看原文视频&演讲PPT一、历史背景批作业在算子实际处理数据时，可以提前感知到要处理的这部分数据有多大。从而可以根据数据量的大小，选择合适的资源处理数据。但流作业是一种long-running的
Apache Flink·2024-02-19 14:46

Flink 1.10 细粒度资源管理解析

相信不少读者在开发Flink应用时或多或少会遇到在内存调优方面的问题，比如在我们生产环境中遇到最多的TaskManager在容器化环境下占用超出容器限制的内存而被YARN/Mesoskill掉[1]，再比如使用
阿里云技术·2024-02-19 14:15

Flink_Flink 1.10 细粒度资源管理解析

原文地址https://blog.csdn.net/weixin_44904816/article/details/106066579相信不少读者在开发Flink应用时或多或少会遇到在内存调优方面的问题
高达一号·2024-02-19 14:14

Flink介绍

Transformation）2.3窗口（Window）2.4状态（State）3.编程模型3.1编程模型介绍3.2程序示例4.部署4.1集群架构4.2集群资源管理4.3部署模式5.运维5.1部署管理5.2监控调优
程序员白总·2024-02-19 13:41

Flink系列-1、流式计算简介

大数据系列文章目录官方网址：https://flink.apache.org/学习资料：https://flink-learning.org.cn/目录数据的时效性流式计算和批量计算流式计算流程和特性分布式计算引擎什么是
技术武器库·2024-02-19 13:10

Flink 细粒度滑动窗口性能优化

大数据技术AIFlink/Spark/Hadoop/数仓，数据分析、面试，源码解读等干货学习资料118篇原创内容公众号1、概述1.1细粒度滑动的影响当使用细粒度的滑动窗口（窗口长度远远大于滑动步长）时，
hyunbar·2024-02-19 13:39

一些Tcp调优参数

1.设置向外连接可用端口范围echo"102465535">/proc/sys/net/ipv4/ip_local_port_range2.设置time_wait连接重用echo1>/proc/sys/net/ipv4/tcp_tw_reuse3.设置快速回收time_wait连接echo1>/proc/sys/net/ipv4/tcp_tw_recycle4.设置最大time_wait连接长度e
ShootHzj·2024-02-19 13:03

【大数据面试题】009 Flink 有哪些机制实现故障恢复

一步一个脚印，一天一道面试题（重点）容错检查点（Checkpoint）：Flink使用容错检查点来定期记录应用程序的状态。检查点包含了所有正在进行中的任务的状态信息。当发生故障时，Flink可以使用最近的检查点来恢复应用程序的状态。#从检查点恢复$bin/flinkrun-s:savepointPath容错恢复策略：Flink提供了多种容错恢复策略，可以根据具体的需求进行配置。例如，可以设置重启策
Jiweilai1·2024-02-19 13:05

【大数据面试题】007 谈一谈 Flink 背压

一步一个脚印，一天一道面试题（有些难点的面试题不一定每天都能发，但每天都会写）什么是背压Backpressure在流式处理框架中，如果下游的处理速度，比上游的输入数据小，就会导致程序处理慢，不稳定，甚至出现崩溃等问题。出现背压的原因上游数据突然增大比如数据源突然数据量增大多倍，下游处理速度跟不上。就像平时的小饭店能处理的很轻松，突然到了过年人多了很多，就会需要客人排队。网络，机器异常等这个也好理解
Jiweilai1·2024-02-19 13:35

菜鸟也崩了 分析分析原因+聊聊降本增笑

2.盈利降低淘宝没参与双十二活动3.业务线的缩减或重心偏移技术创新：近年来，人工智能、大数据、物联网等技术在物流行业得到了广泛应用，有效提高了物流效率，降低了运营成本。例如，一些物流公司利用大数据进行
我才是真的封不觉·2024-02-19 13:34

【大数据面试题】006介绍一下Parquet存储格式的优势

一步一个脚印，一天一道面试题列式存储同一列的数据是同一种数据类型，所以压缩比例可以更高。同时一般查询使用时不会使用所有列，而是只用到几列，所以查询速度会更快压缩比例高因为是列式存储，所以可以对同一类型的一段做压缩，压缩比例高支持的平台和框架多在Hadoop,Spark,Presto,Python等都支持，所以Parquet文件可以在不同系统和语言通用。这是我觉得比较实在的优势
Jiweilai1·2024-02-19 13:34

【大数据面试题】008 谈一谈 Flink Slot 与 并行度

【大数据面试题】008谈一谈FlinkSlot与并行度配置并行度Parallelism概念作用Slot概念作用如何设置TaskManager任务管理器Flinksubmit脚本一步一个脚印，一天一道面试题该文章有较多引用文章
Jiweilai1·2024-02-19 13:01

云计算实训室建设方案2024

唯众公司提供云计算、大数据、人工智能等创新技术，为院校、政府、企业培养人才提供优质教学资源、师资培养、专业共建和产教融合等服务。
武汉唯众智创·2024-02-19 13:00
上一页 12 13 14 15 16 17 18 19 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他