Spark性能优化

接口性能优化的11个小技巧

这里加锁的目的是为了防止并发的情况下，创建了相同的目录，第二次会创建失败，影响业务功能。但这种直接在方法上加锁，锁的粒度有点粗。因为doSave方法中的上传文件和发消息方法，是不需要加锁的。只有创建目录方法，才需要加锁。我们都知道文件上传操作是非常耗时的，如果将整个方法加锁，那么需要等到整个方法执行完之后才能释放锁。显然，这会导致该方法的性能很差，变得得不偿失。这时，我们可以改成在代码块上加锁了，
2401_83916241·2024-09-07 14:54

Apache Flink 替换 Spark Stream的架构与实践( bilibili 案例解读)_streamsparkflink加载udf(1)

bilibili早期使用的引擎是SparkStreaming，后期扩展了Flink，在开发架构中预留了一部分引擎层的扩展。最下层是状态存储
2401_84165953·2024-09-07 12:44

Linux性能优化-网络篇

文章目录前言一、网络性能指标二、网络基准测试如何评估系统的网络性能各协议层的性能测试转发性能TCP/UPD性能HTTP性能应用负载性能三、网络指标的获取查询带宽网络吞吐和PPS网络连通总结前言如何评价一套新环境内主机和应用的网络性能，有哪些指标需要注意，如何建立网络指标基准。当系统上线后，服务运行过程中，遇到网络问题如何通过指标排查网络问题。一、网络性能指标带宽，表示链路的最大传输速率，单位通常为
锅锅来了·2024-09-07 08:49

Day21—爬虫性能优化技巧

在网络爬虫的开发过程中，性能优化是一个关键环节。一个高效的爬虫不仅能够快速完成任务，还能减轻对目标网站的压力，降低被封禁的风险。本文将讨论如何优化爬虫性能，包括请求头优化、连接池、缓存策略等技巧。
Ztop·2024-09-07 08:48

PySpark数据分析基础：PySpark基础功能及DataFrame操作基础语法详解_pyspark rdd

DataFrame.show()使用格式：df.show()df.show(1)+---+---+-------+----------+-------------------+|a|b|c|d|e|+---+---+-------+----------+-------------------+|1|2.0|string1|2000-01-01|2000-01-0112:00:00|+---+---
2401_84187537·2024-09-07 08:47

PySpark数据分析基础：PySpark基础功能及DataFrame操作基础语法详解_pyspark rdd(1)

dfDataFrame[a:bigint,b:double,c:string,d:date,e:timestamp]####通过由元组列表组成的RDD创建rdd=spark.sparkContext.parallelize
2401_84181368·2024-09-07 08:46

PySpark数据分析基础：PySpark基础功能及DataFrame操作基础语法详解_pyspark rdd(2)

轻松切换到pandasAPI和PySparkAPI上下文，无需任何开销。有一个既适用于pandas（测试，较小的数据集）又适用于Spark（分布式数据集）的代码库。
2401_84181403·2024-09-07 08:46

MySQL · 性能优化 · 提高查询效率的实用指南（下）

引言在当今数据驱动的世界中，数据库的性能对于业务运营至关重要。MySQL，作为最流行的开源关系型数据库管理系统之一，广泛应用于各种规模的应用和企业。然而，尽管MySQL本身是一个强大的工具，不当的配置或设计仍然可能导致性能瓶颈和资源浪费。为了帮助最大限度地发挥MySQL的潜力，本指南将深入探讨避免10种常见错误的策略，从而提升查询效率和系统稳定性。无论是数据库管理员、开发人员还是技术爱好者，这些实
不惑_·2024-09-07 08:15

Pyspark DataFrame常用操作函数和示例

针对类型：pyspark.sql.dataframe.DataFrame目录1.打印前几行1.1show()函数1.2take()函数2.读取文件2.1spark.read.csv3.获取某行某列的值(
还是那个同伟伟·2024-09-07 08:15

Spark概念知识笔记

最近总结了个人的各项能力，发现在大数据这方面几乎没有涉及，因此想补充这方面的知识，丰富自己的知识体系，大数据生态主要包含：Hadoop和Spark两个部分，Spark作用相当于MapReduceMapReduce
kuntoria·2024-09-07 05:21

HTTP与HTTPS的区别，HTTPS提高性能，HTTP2的新特性

目录数据传输区别安全性区别端口区别交互区别HTTPS的工作流程HTTPS的实现原理机密性完整性身份认证和不可否认HTTPS使用流程HTTPS性能优化点HTTP2的特性向下兼容HTTP/1头部压缩二进制虚拟流
无奈的码农·2024-09-06 23:52

性能优化-高通cDSP（QDSP6）架构详解

本文主要介绍高通cDSP的架构，包括SnapDragon处理器介绍、cDSP整体架构，芯片架构，cDSP软件架构以及HVX介绍、最后介绍了HexagonSDK的环境配置和签名。个人简介：一个全栈工程师的升级之路！个人专栏：高性能（HPC）开发基础教程CSDN主页发狂的小花人生秘诀：学习的本质就是极致重复!目录一、前言1处理器二、QualcommSnapdragon1QualcommSnapdrag
发狂的小花·2024-09-06 23:47

Unity3D ECS架构的优缺点详解

前言Unity3D作为一款强大的游戏开发引擎，近年来在性能优化和架构设计上不断进化，其中ECS（Entity-Component-System）架构的引入是其重要的里程碑之一。
Thomas_YXQ·2024-09-06 21:09

大数据秋招面经之spark系列

文章目录前言spark高频面试题汇总1.spark介绍2.spark分组取TopN方案总结：方案2是最佳方案。
wq17629260466·2024-09-06 19:54

Java并发编程(五)—ReetrantLock详解及应用

目录一、ReetrantLock的特性1、非阻塞获取锁2、带超时的锁获取:3、锁的公平性4、锁的可中断性5、Condition条件变量6、锁的可重入性可重入锁不可重入锁7、性能优化二、ReentrantLock
echola_mendes·2024-09-06 17:05

每天一个数据分析题（五百一十四）- 决策树算法

D.叶结点（leafnode）数据分析认证考试介绍：点击进入题目来源于CDA模拟题库点击此处获取答案数据分析专项练习题库内容涵盖Python，SQL，统计学，数据分析理论，深度学习，可视化，机器学习，Spark
跟着紫枫学姐学CDA·2024-09-06 15:20

【Spark高级应用】使用Spark进行高级数据处理与分析

Spark高级应用使用Spark进行高级数据处理与分析引言在大数据时代，快速处理和分析海量数据是每个企业面临的重大挑战。
爱技术的小伙子·2024-09-06 10:47

spark读取csv文件

测试spark读取本地和hdfs文件frompyspark.sqlimportSparkSessionspark=SparkSession.builder\.appName("ExamplePySparkScript
静听山水·2024-09-06 10:44

SparkStreaming业务逻辑处理的一些高级算子

packagecom.sparkscala.streamingimportorg.apache.log4j.{Level,Logger}impor
看见我的小熊没·2024-09-06 09:43

Android 性能优化—— 启动优化提升60%

1.应用启动速度一个应用App的启动速度能够影响用户的首次体验，启动速度较慢(感官上)的应用可能导致用户再次开启App的意图下降，或者卸载放弃该应用程序。本文将从两个方向优化应用的启动速度:视觉体验优化代码逻辑优化2.视觉优化应用程序启动有三种状态，每种状态都会影响应用程序对用户可见所需的时间：冷启动，热启动和温启动。在冷启动时，应用程序从头开始。在其他状态下，系统需要将正在运行的应用程序从后台运
小城哇哇·2024-09-06 09:11

Spark一些个人总结

文章目录前言一、Spark是什么二、Spark用来做什么三、Spark的优势是什么四、为什么用Spark五、Spark解决了什么问题总结前言随着大数据技术的发展，一些更加优秀的组件被提了出来，比如现在最常用的
易逑实战数据·2024-09-06 09:39

spark任务优化参数整理

以下参数中有sql字眼的一般只有spark-sql模块生效，例外的时候会另行说明，此外由于总结这些参数是在不同时间段，当时使用的spark版本也不一样，因此要注意是否有效，如果本博主已经试过的会直接说明
尘世壹俗人·2024-09-06 09:08

Spark与Kafka进行连接

在Java中使用Spark与Kafka进行连接，你可以使用SparkStreaming来处理实时流数据。以下是一个简单的示例，展示了如何使用SparkStreaming从Kafka读取数据并进行处理。
傲雪凌霜，松柏长青·2024-09-06 07:27

海量智库第4期｜Vastbase G100核心技术介绍之【NUMA架构性能优化技术】

导语NUMA架构优化技术是针对程序在NUMA架构CPU上运行出现资源消耗不均，程序执行效率低等问题进行优化的技术。这种优化技术在现在主流的NUMA架构多核服务器中，可以有效降低访问时延，提升高并发场景下的业务处理能力。NUMA架构优化前：延迟高，性能低NUMA架构，在未优化的情况下，NUMA的内存分配策略对于进程或线程并不公平，这会导致以下问题：Ø高并发时进程或线程频繁进行跨Node调度，上下文切
海量数据库·2024-09-06 05:48

Spark入门：KMeans聚类算法

聚类（Clustering）是机器学习中一类重要的方法。其主要思想使用样本的不同特征属性，根据某一给定的相似度度量方式（如欧式距离）找到相似的样本，并根据距离将样本划分成不同的组。聚类属于典型的无监督学习（UnsupervisedLearning）方法。与监督学习（如分类器）相比1，无监督学习的训练集没有人为标注的结果。在非监督式学习中，数据并不被特别标识，学习模型是为了推断出数据的一些内在结构。
17111_Chaochao1984a·2024-09-06 05:46

Spark MLlib模型训练—聚类算法 K-means

SparkMLlib模型训练—聚类算法K-meansK-means是一种经典的聚类算法，广泛应用于数据挖掘、图像处理、推荐系统等领域。
不二人生·2024-09-06 04:14

Spark MLlib模型训练—聚类算法 Bisecting K-means

SparkMLlib模型训练—聚类算法BisectingK-means由于传统的KMeans算法的聚类结果易受到初始聚类中心点选择的影响，因此在传统的KMeans算法的基础上进行算法改进，对初始中心点选取比较严格
不二人生·2024-09-06 04:14

DAG (directed acyclic graph) 作为大数据执行引擎的优点

TL;DR-ConceptuallyDAGmodelisastrictgeneralizationofMapReducemodel.DAG-basedsystemslikeSparkandTezthatareawareofthewholeDAGofoperationscandobetterglobaloptimizationsthansystemslikeHadoopMapReducewhicha
joeywen·2024-09-06 04:43

Spark的Web界面

http://localhost:4040/jobs/在顶部导航栏上，可以点击以下选项来查看不同类型的Spark应用信息：Jobs-此视图将列出所有已提交的作业，并提供每个作业的详细信息，如作业ID、名称
静听山水·2024-09-06 04:40

经验笔记：数据库性能优化

数据库性能优化经验笔记引言在当今数据驱动的世界里，数据库性能直接影响到应用程序的响应时间和用户体验。随着数据量的增长，数据库性能问题变得日益突出。
漆黑的莫莫·2024-09-06 02:59

Unity3D 动画系统兼容优化详解

前言Unity3D作为一款强大的游戏开发引擎，其动画系统提供了丰富的功能，但在开发大型或复杂游戏时，动画系统的性能优化变得尤为重要。
Thomas_YXQ·2024-09-05 23:40

最全金融数据_PySpark-3(2)，大数据开发学习的三个终极问题及学习路线规划

由于文件比较多，这里只是将部分目录截图出来，全套包含大厂面经、学习笔记、源码讲义、实战项目、大纲路线、讲解视频，并且后续会持续更新需要这份系统化资料的朋友，可以戳这里获取frompyspark.ml.evaluationimportBinaryClassificationEv
2401_84185145·2024-09-05 23:38

文章汇总 | 2018

12月RIA便签学习法10月财富最好的定义Spark分布式原理及碰到的三个坑在不断解决问题(矛盾)的过程进步9月《韭菜的自我修养》-股票交易是零和游戏吗?
学习之术·2024-09-05 22:27

Ingest Pipeline & Painless Script

包含3个字段，tags用逗号间隔PUTtech_blogs/_doc/1{"title":"Introducingbigdata......","tags":"hadoop,elasticsearch,spark
折纸虚桐·2024-09-05 22:03

Spark作业提交

一.作业提交1.1作业提交模式spark作业提交使用spark-submit命令，作业提交模式有cluster和client两种。
Tom无敌宇宙猫·2024-09-05 22:26

Spark基础

一.基础1.RDD机制  1.rdd分布式弹性数据集，简单的理解成⼀种数据结构，是spark框架上的通⽤货币。所有算⼦都是基于rdd来执⾏的，不同的场景会有不同的rdd实现类，但是都可以进⾏互相转换。
Tom无敌宇宙猫·2024-09-05 22:26

《Unity3D高级编程 主程手记》第二章 C#技术要点(八) 业务逻辑优化技巧

目录使用List和Dictionary时提高效率巧用structstruct对性能优化的好处使用原值类型连续空间的方式来提高CPU的缓存命中率尽可能地使用对象池字符串导致的性能问题解决方法字符串的隐藏问题程序运行原理业务逻辑的优化方向脱离
仁希'·2024-09-05 20:15

Apache Spark简介

ApacheSpark是一个快速而通用的数据处理引擎，用于大规模数据处理和分析。它是由加州大学伯克利分校研究实验室开发的开源项目。
不知名的小Q·2024-09-05 17:52

spark streaming优点和缺点

优点：sparkstreaming会被转化为spark作业执行，由于spark作业依赖DAGScheduler和RDD，所以是粗粒度方式而不是细粒度方式，可以快速处理小批量数据，获得准实时的特性；以spark
scott_alpha·2024-09-05 15:42

Spark

Spark是一个快速的、通用的集群计算系统，主要用于大规模数据处理。它最早由加州大学伯克利分校的AMPLab开发，并于2010年开源，后来由Apache软件基金会管理。
傲雪凌霜，松柏长青·2024-09-05 11:20

Windows系统下的Spark环境配置

一：Spark的介绍ApacheSpark是一个开源的分布式大数据处理引擎，它提供了一整套开发API，包括流计算和机器学习。
eeee~~·2024-09-05 11:19

Unity3D ECS架构的优缺点详解

Unity3D作为一款强大的游戏开发引擎，近年来在性能优化和架构设计上不断进化，其中ECS（Entity-Component-System）架构的引入是其重要的里程碑之一。
Clank的游戏栈·2024-09-05 11:14

kafka消费者重复消费同一个topic

场景是sparkstreaming消费kafka数据在这里sparkstream和kafka都是单节点的集群模式。同时起两个不同的groupid的应用，发现会发生后起来的应用消费不到数据。
小琳ai·2024-09-05 10:06

Hbase BulkLoad用法

要导入大量数据，Hbase的BulkLoad是必不可少的，在导入历史数据的时候，我们一般会选择使用BulkLoad方式，我们还可以借助Spark的计算能力将数据快速地导入。
kikiki2·2024-09-05 07:29

性能优化：提升MySQL数据备份策略的效率

性能优化是提升数据备份策略的关键，涉及备份速度、存储效率和资源消耗等多个方面。本文将详细介绍如何在MySQL中实现数据备份策略的性能优化，包括优化策略、工具和技术、以及具体的实施步骤。
原机小子·2024-09-05 03:25

其他面试题

uni-app面试题一、生命周期应用生命周期、页面生命周期、组件生命周期二、条件编译在工具中，打if出现的条件编译例如：    这是h5端 性能优化面试题一、加载优化1.http请求能不能减少（能不能合并
奈何我是个菜鸡·2024-09-05 01:43

EMR组件部署指南

本文将详细介绍如何部署EMR的主要组件,包括:JDK1.8ElasticsearchKafkaFlinkZookeeperHBaseHadoopPhoenixScalaSparkHive准备工作所有操作都在
ivwdcwso·2024-09-05 00:05

9.2 spark内存管理之 UnifiedMemoryManager

图片来源https://www.ibm.com/developerworks/cn/analytics/library/ba-cn-apache-spark-memory-management/index.html1
GongMeng·2024-09-04 20:46

Sublime text3+python3配置及插件安装

rayson_666(Rayson开发分享)个人专研技术方向：微服务方向：springboot,springCloud,Dubbo分布式/高并发：分布式锁，消息队列RabbitMQ大数据处理：Hadoop,spark
raysonfang·2024-09-04 19:23

大数据学习｜理解和对比 Apache Hive 和 Apache Iceberg

文章目录数据模型与存储事务支持性能优化使用场景总结数据模型与存储Hive:Hive使用的是传统的关系型数据模型，数据存储在Hadoop分布式文件系统(HDFS)中，通常是以文本格式（如CSV或TSV）或者二进制格式
进击的小白菜·2024-09-04 16:50
上一页 1 2 3 4 5 6 7 8 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他