spark调优

2024.1.4 Spark Core ,RDD ,算子

的五大特点四.算子五.分区算子,重分区算子,聚合算子,关联算子分区算子:重分区算子聚合算子关联算子:一.RDD(弹性分布式数据集)Resilent弹性Distrbuted分布式Dataset数据集1.rdd是Spark
白白的wj·2024-01-05 10:01

SparkCore基础解析（二）

1、RDD概述1.1什么是RDDRDD（ResilientDistributedDataset）叫做分布式数据集，是Spark中最基本的数据抽象。
有语忆语·2024-01-05 10:58

Spark内核解析-节点启动4（六）

Master作为Endpoint的具体实例，下面我们介绍一下Master启动以及OnStart指令后的相关工作1.1脚本概览下面是一个举例：/opt/jdk1.7.0_79/bin/java-cp/opt/spark
有语忆语·2024-01-05 10:12

【Spark精讲】RDD共享变量：广播变量与累加器

在Spark中，提供了两种类型的共享变量：广播变量(broadcastvariable)与累加器(accumulator)广播变量：主要用于在节点间高效分发大对象。
话数Science·2024-01-05 10:42

【Spark精讲】Spark on Hive性能优化

yarn.nodemanager.resource.memory-mbyarn.nodemanager.resource.cpu-vcoresyarn.scheduler.maximum-allocation-mbyarn.scheduler.minimum-allocation-mb第三章Spark
话数Science·2024-01-05 10:10

【大数据】Spark学习笔记

初识SparkSpark和HadoopHadoopSpark起源时间20052009起源地MapReduceUniversityofCaliforniaBerkeley数据处理引擎BatchBatch编程模型
pass night·2024-01-05 09:16

Spark内核解析-通信架构3(六)

3、Spark通信架构Spark作为分布式计算框架，多个节点的设计与相互通信模式是其重要的组成部分。Spark一开始使用Akka作为内部通信部件。
有语忆语·2024-01-05 08:42

大数据学习方向

一、大数据运维之Linux基础打好Linux基础，以便更好地学习Hadoop，hbase,NoSQL，Spark，Storm，docker,openstack等。
乐姐·2024-01-05 08:18

【Spark精讲】性能优化：并行度

Reduce端并行度RDD：参数：spark.default.parallelism手动：groupByKey(10)，10即为并行度SparkSQL：参数：spark.sql.shuffle.partitionsHiveonSpark
话数Science·2024-01-05 07:58

Unity UGUI开发，0GC更新视图

【USparkle专栏】如果你深怀绝技，爱“搞点研究”，乐于分享也博采众长，我们期待你的加入，让智慧的火花碰撞交织，让知识的传递生生不息！
UWA·2024-01-05 06:43

字节跳动 Spark 支持万卡模型推理实践

摘要：本文整理自字节跳动基础架构工程师刘畅和字节跳动机器学习系统工程师张永强在本次CommunityOverCodeAsia2023中的《字节跳动Spark支持万卡模型推理实践》主题演讲。
字节跳动云原生计算·2024-01-05 06:09

XGBoost参数调优完全指南（附Python代码）

1.简介如果你的预测模型表现得有些不尽如人意，那就用XGBoost吧。XGBoost算法现在已经成为很多数据工程师的重要武器。它是一种十分精致的算法，可以处理各种不规则的数据。构造一个使用XGBoost的模型十分简单。但是，提高这个模型的表现就有些困难(至少我觉得十分纠结)。这个算法使用了好几个参数。所以为了提高模型的表现，参数的调整十分必要。在解决实际问题的时候，有些问题是很难回答的——你需要调
婉妃·2024-01-05 06:16

计算机视觉入门与调优

大家好啊，我是董董灿。在CSDN上写文章写了有一段时间了，期间不少小伙伴私信我，咨询如何自学入门AI，或者咨询一些AI算法。90%的问题我都回复了，但有时确实因为太忙，没顾得过来。在这个过程中，我发现很多小伙伴问的问题都类似：比如如何入门计算机视觉，某某算法是做什么的，有什么作用。之前写的文章由于过于分散，不成体系，很多知识点没有串联起来。于是我做了个合集，计划系统的从传统计算机视觉，到基于深度学
董董灿是个攻城狮·2024-01-05 05:19

Python_PySpark实战

1.PySpark库的安装清华大学源：pipinstall-ihttps://pypi.tuna.tsinghua.edu.cn/simplepyspark2.构建PySpark执行环境入口对象"""演示获取
Hooray11·2024-01-05 05:48

linux增加用户

#linux创建账户并自动生成主目录和主目录下的文件useradd-d/home/spark-mspark#带有加入root组的创建方式useradd-d/home/spark-groot-mspark
心在梦梦藏心·2024-01-05 05:47

浅谈web性能测试

性能测试，简而言之就是模仿用户对一个系统进行大批量的操作，得出系统各项性能指标和性能瓶颈，并从中发现存在的问题，通过多方协助调优的过程。
测试界的路飞·2024-01-05 04:18

「美团面试系列」面试加分项，这样说你会JVM，面试官还能问什么

Java性能调优都是老生常谈的问题，特别当“糙快猛”的开发模式大行其道时，随着系统访问量的增加、代码的臃肿，各种性能问题便会层出不穷。
java架构师联盟·2024-01-05 03:27

Nginx(十八) 性能调优之 - 哪些层面可以进行优化

Nginx三大优势，动静分离、反向代理、负载均衡1、线程worker2、http/tcptcp_nopushtcp_nodelay3、Buffer调整请求体缓存区大小、将请求体缓存到一个缓冲区，降低CPU负载4、连接队列5、超时时间6、静态文件缓存open_file_cache7、gzip压缩gzip配合gzip_static一起使用。代理服务时，注意设置gzip_http_version版本为1
Eisen戴·2024-01-05 03:36

Navicat 技术干货 | 如何查看关系型数据库（MySQL、PostgreSQL、SQL Server、 Oracle）查询的运行时间

无论你是数据库管理员、开发人员或是参与性能调优的人员，知道如何查看查询运行时间能为你的数据库操作提供有价值的参考。
Navicat中国·2024-01-05 00:32

Hbase - 自定义Rowkey规则

中我们有时候需要分析数据1点到2点的范围,可是经过Region又比较慢，这时候我们就可以定制TableInputFormat来实现我们的需求了，我们还可以采用Flink的DataSet的方式读取,另外下面还有Spark
kikiki2·2024-01-05 00:48

SparkSQL、RDD和DataFrame基本操作

1三者比较易操作程度SparkSQL>DataFrame>RDD2创建RDD、DataFrame和SparkSQL2.1创建RDDrawUserData=sc.textFile("file:/home/
路人乙yh·2024-01-04 23:39

金色麦芒的2023

通过学习Hadoop、Spark等框架，我掌握了大数据的存储、处理和分析技术，能够更高效地处理大规模数据集。同时，我也深入学习
溜达的大象·2024-01-04 22:44

单测结果不稳定的终极解决方案(Maven单测参数调优)

一、前言近期，在公司平台执行单测任务时，我发现到一个显著的问题：我们的一个应用，在公司平台上执行单测时，即使是相同的代码，每次的执行结果（包括行覆盖率以及单测通过率）都存在差异。更具体地说，许多在本地环境中能够成功执行的测试用例，在公司平台上却遭遇了失败。为了解决这个问题，我进行了广泛的信息搜索，咨询了ChatGPT，并尝试了多种可能的解决方案。经过不懈的努力，我终于找到了问题的根源并成功解决了它
程序员Daddy·2024-01-04 22:23

未来智安XDR入选《CCSIP 2022中国网络安全产业全景图》

相较于《CCSIP2021中国网络安全产业全景图》（第三版），该版本对原有展示的87个细分安全领域进行调优，新增XDR、MSS、SASE、OTP等7个细分领域，最终展示94个细分安全领域，收录862家安全厂商
XDRSEC·2024-01-04 21:40

spark 资源动态释放

通过spark-submit会固定占用一占的资源，有什么办法，在任务不运作的时候将资源释放，让其它任务使用呢，yarn新版本默认已经支持了，我们使用的是HDP。
kikiki2·2024-01-04 21:46

我的2023年度回顾

对arrow的改动算是非常多，涉及到batch的计算、流模型acero的算子新增与重写、单元测试的bug修复、plan性能调优、算子调优、计算调优等等。从arrow项目中剥离出了一
guangcheng0312q·2024-01-04 20:17

RDD持久化

RDD（ResilientDistributedDataset）叫做弹性分布式数据集，的其中一个特性就是弹性存储的弹性:spark计算过程中中间结果会保存
万事万物·2024-01-04 19:33

性能测试之Mysql数据库调优

一、前言性能调优前提：无监控不调优，对于mysql性能的监控前几天有文章提到过，有兴趣的朋友可以去看一下二、Mysql性能指标及问题分析和定位1、我们在监控图表中关注的性能指标大概有这么几个：CPU、内存
测试小贝·2024-01-04 18:09

aaaaaa

然后，在SimpleApp.scala代码文件中输入以下代码：/*SimpleApp.scala*/importorg.apache.spark.SparkContextimportorg.apache.spark.SparkContext
SunsPlanter·2024-01-04 15:24

Spark---RDD算子(单值类型Value)

文章目录1.RDD算子介绍2.转换算子2.1Value类型2.1.1map2.1.2mapPartitions2.1.3mapPartitionsWithIndex2.1.4flatMap2.1.5glom2.1.6groupBy2.1.7filter2.1.8sample2.1.9distinct2.1.10coalesce2.1.11repartition2.1.12sortBy1.RDD算子
肥大毛·2024-01-04 11:16

实时数据处理概述与Spark Streaming简介

SparkStreaming是ApacheSpark生态系统中的一个模块，专门用于实时数据处理。本文将深入探讨实时数据处理的概念，并介绍如何使用SparkStreaming来处理实时数据流。
晓之以理的喵~~·2024-01-04 11:16

2024.1.3 Spark on Yarn部署方式与工作原理

目录Spark集群类型有以下几种：Spark的部署方式有以下几种：SparkonYARN的部署方式有两种：client模式和cluster模式。
白白的wj·2024-01-04 11:44

Spark Streaming的DStream与窗口操作

实时数据处理已经成为当今大数据时代的一个重要领域，而SparkStreaming是ApacheSpark生态系统中的一个关键模块，用于处理实时数据流。
晓之以理的喵~~·2024-01-04 11:42

Java技术栈 —— Hadoop入门（一）

解析3.1Hadoop生态介绍3.1.1MapReduce-核心组件3.1.2HDFS-核心组件3.1.3YARN-核心组件3.1.4其它组件3.1.4.1HBase3.1.4.2Hive3.1.4.3Spark
键盘国治理专家·2024-01-04 08:02

Spark二、Spark技术栈之Spark Core

SparkCorespark核心：包括RDD、RDD算子、RDD的持久化/缓存、累加器和广播变量学习链接：https://mp.weixin.qq.com/s/caCk3mM5iXy0FaXCLkDwYQ
eight_Jessen·2024-01-04 08:51

2024.1.3 Spark架构角色和提交任务流程

目录一.Yarn的角色回顾二、Spark提交任务流程1、SparkOnStandalone2.SparkonYarn三.Spark比MapReduce执行效率高的原因四.Spark的排序算子一.Yarn
白白的wj·2024-01-04 08:46

mllib可扩展学习库java api使用

mllib可扩展学习库javaapi是使用ApacheSpark构建的机器学习库，包括分类，聚类，特征提取和预处理等功能。本文将从以下几个方面详细介绍如何使用mllib可扩展学习库javaapi。
卖兔子的胡萝卜zz·2024-01-04 08:43

Spark - SQL查询文件数据

那么我们可以利用spark-sql直接操作文件的特性处理这类的需求，姐姐再也不用担心我不会spark了，因为我就只会sql。使用方法csvspark.sql("select*fromcsv.
大猪大猪·2024-01-04 07:02

spark 资源动态释放

通过spark-submit会固定占用一占的资源，有什么办法，在任务不运作的时候将资源释放，让其它任务使用呢，yarn新版本默认已经支持了，我们使用的是HDP。
kikiki2·2024-01-04 07:35

文章解读与仿真程序复现思路——电网技术EI\CSCD\北大核心《计及源荷不确定性的综合能源系统日前-日内协调优化调度》

具体已有的论文与论文源程序可翻阅本博主的专栏栏目《论文与完整程序》这个标题指的是一个综合能源系统（包括多种能源资源和负荷需求），在考虑到源（能源供给）和荷（能源需求）的不确定性的情况下，进行日前和日内的协调优化调度
电网论文源程序·2024-01-04 07:11

【深度学习】02--框架

文章导读：•机器学习框架：•Scikit-Learn•SparkMLlib•深度学习框架•Theano蒙特利尔理工学院•TensorFlow谷歌•PytorchFacebook•Deeplearning4j
创造new_world·2024-01-04 06:55

Antlr4 - 自定义SparkSQL解析

Antlr4是一个强大的解析器的生成器，可以用来读取、处理、执行或翻译结构化文本，ANTLR可以从语法上来生成一个可以构建和遍历解析树的解析器，最出名的Spark计算引擎2.x就是用它来解析SQL的，是一个牛到没朋友的家伙
大猪大猪·2024-01-04 04:40

50 个 Redis 必备知识总结

本文包括：30个Redis基础知识；10个Redis架构和运维必懂的知识；Redis调优、监控知识和10个具体应用难点。30个Redis基础知识1、Redis支持哪几种数据类型？
一棵树～·2024-01-04 00:22

Spark RDD及其常用算子介绍

一、RDD介绍1.1什么是RDDRDD（ResilientDistributedDataSet），称作弹性分布式数据集，是Spark中最基本的数据抽象，表示一个不可变的，分区的，其中元素可以被并行计算的数据集合
文景大大·2024-01-03 23:40

Spark---RDD介绍

文章目录1.Spark核心编程2.RDD介绍2.1.RDD基本原理2.2RDD特点1.弹性2.分布式：数据存储在大数据集群的不同节点上3.数据集：RDD封装了计算逻辑，并不保存数据4.数据抽象：RDD是一个抽象类
肥大毛·2024-01-03 23:34

增量预训练经验积累（2）

1、并行策略选择1.1并行方式验证和调优这个和集群很相关例如我目前在16台A800集群（每台机器8张80G显卡）上测的最佳3D并行策略的具体partition配置就和L40s集群不一样（和集群有关，和具体的模型也有关
GUANYX~·2024-01-03 22:24

Spark相关知识点（期末复习集锦）

嗨喽，最近小伙伴们快要期末考试了吧，下面是我对《Spark零基础实战》的总结，希望能帮助到你们。
夜をむかえる·2024-01-03 22:49

from pyspark.mllib.recommendation import Rating出错

进入pyspark输入frompyspark.mllib.recommendationimportRating报错nomodulenamednumpy我的环境：centos6.5，python2.6显然是我的虚拟机系统里自带的
路人乙yh·2024-01-03 22:47

Spark优化的小细节，堆和栈

堆和栈的使用。堆是内存存储对象，有较大的内存空间。栈是内存存储方法，内存空间分配较少。当程序多次调用一个方法时，可以将方法当做一个对象放入堆中，来减少栈内存的使用。降低CPU的占用，使更多内存分配到计算处理。
坐在你的树下·2024-01-03 22:38

Spark向Hbase中写数据报异常:org.apache.hadoop.hbase.client.RetriesExhaustedWithDetailsException: Failed 5

解决:将第二行代码中的表名写全,并指定在哪个名称空间valtable:Table=con.getTable(TableName.valueOf("info:tb_order"))
夺命大翻斗·2024-01-03 22:12
上一页 35 36 37 38 39 40 41 42 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他