spark调优第35页

Java大数据学习~Hadoop初识三Yarn模式

Hbase做自己的，Spark也是做自己的,等等。这样的话就会造成资源的浪费，不能充分的把资源给利用

胖琪的升级之路·2024-01-10 05:55

MySQL优化系列1- 硬件优化概述

备注:测试数据库版本为MySQL8.0一.硬件优化概述MySQL的硬件有:CPU内存硬盘网络资源对于硬件的选择与调优，在系统上线前就需要考虑起来。

只是甲·2024-01-10 04:56

记CMS FGC 的一次调优

介绍有一个系统，有如下特征，偶尔会触发FGC（1小时几次，每次持续4~5分钟）：机器规格48C96G，规格已经很大了，不宜再扩大内存分配：Young20GB(1:1:8),Old70GB,堆外4GB,预留2GB给OS使用ParNewGC+CMSGC启动后需要加载大量元数据、缓存，大概占据30GB~40GB内存，这些元数据、缓存常驻内存业务繁忙，堆内存分配速度很快，低峰期1GB/s+，高峰期5GB/

xzchaoo·2024-01-10 04:51

Flink任务实战优化

一、Flink任务优化分析1.1参考Spark的优化方式对于任何的技术发展，后来的的技术架构都可以参考之前优秀竞品的设计思想或缺陷，然后

i7杨·2024-01-10 01:06

大数据OLAP引擎发展原因及特性分析

在大数据高速发展时期，多个技术团队基于OLAP的应用需求，开发出多种OLAP技术，如Hive、SparkSql、FlinkSql、Impala、Kylin、ClickHouse、Doris等，或者在实现其他应用需求的时候

i7杨·2024-01-10 01:31

笔记：分布式大数据技术原理（三）Spark

ApacheSpark是一个围绕速度、易用性和复杂分析构建的大数据处理框架，最初在2009年由加州大学伯克利分校的AMPLab开发，并于2010年成为Apache的开源项目之一，与Hadoop和Storm

WeeeicheN·2024-01-09 22:17

大数据技术学习笔记之Hadoop框架基础1-Hadoop介绍及伪分布式部署

数据计算-》数据可视化-》学习阶段-》了解功能简单使用-》java、java变量-》安装部署配置环境-》开发-》熟练的使用，了解基本原理-》java集合、线程、javaweb-》深入了解架构、设计思想、性能调优

黄剑锋1996·2024-01-09 22:16

Java性能调优的11个简单技巧

相信大多数的小伙伴都会觉着性能优化是一件很复杂的事，那么是不是呢？优化应用程序获得最佳性能并不是一件容易的事。它需要一定的经验和知识。那么，我们现阶段还不具备这样的经验和知识，是不是就做不到了呢？也不是，以下就整理了11个实用技能，小伙伴们快来get吧~在你知道必要之前不要优化这可能是最重要的性能调整技巧之一。你应该遵循常见的最佳实践做法并尝试高效地实现用例。但是，这并不意味着在你证明必要之前，你

谦希教育·2024-01-09 22:44

Spark 源码分析（二）: Driver 注册及启动

一，org.apache.spark.deploy.master.Master这个Master就是前面Client发送的对象，是一个ThreadSafeRpcEndpoint。内部的recei

stone_zhu·2024-01-09 21:30

黑猴子的家：Spark SQL RDD vs DataFrames vs DataSet

在SparkSQL中Spark为我们提供了两个新的抽象，分别是DataFrame和DataSet。他们和RDD有什么区别呢？

黑猴子的家·2024-01-09 18:28

机器学习分布式架构

2.流计算（Storm，Spark，Flink）使用滑动窗口，在滑动窗口内的数据全部完成后再滑动到下一个时间窗口进行新一轮的数据处理，以分钟级别居多

小幸运Q·2024-01-09 17:27

lgily-1225·2024-01-09 16:42

Spark---RDD(Key-Value类型转换算子)

文章目录1.RDDKey-Value类型1.1partitionBy1.2reduceByKey1.3groupByKeyreduceByKey和groupByKey的区别分区间和分区内1.4aggregateByKey获取相同key的value的平均值1.5foldByKey1.6combineByKey1.7sortByKey1.8join1.9leftOuterJoin1.10cogroup

肥大毛·2024-01-09 15:23

java 全栈高级工程师，架构师学习资源交流

redis集群zookeeper集群搭建与调优dubbo/dubbox分布式服务jvm调优，内存分析java并发dockerlinuxjmeter性能测试netty/minamycathadoop管理级别技能

昵称不能为null·2024-01-09 15:03

使用开源通义千问模型（Qwen）搭建自己的大模型服务

目标1、使用开源的大模型服务搭建属于自己的模型服务；2、调优自己的大模型；选型采用通义千问模型，https://github.com/QwenLM/Qwen步骤1、下载模型文件开源模型库：https:/

昵称不能为null·2024-01-09 15:02

xgb模型json转pmml

一背景：在实际项目中往往会有不同种类的模型，如xgb的训练完保存为json格式、pkl格式以及原始booster的.model格式，预测需要用到pmml可以在spark中借助大数据的能力的跑因此需要对模型的格式进行转换

zcc_0015·2024-01-09 15:31

基于spark的Hive2Pg数据同步组件

一、背景Hive中的数据需要同步到pg供在线使用，通常sqoop具有数据同步的功能，但是sqoop具有一定的问题，比如对数据的切分碰到数据字段存在异常的情况下，数据字段的空值率高、数据字段重复太多，影响sqoop的分区策略，特别是hash分区，调用hash函数容易使得cpu高产生报警。同时sqoop的mapreduce任务对数据表的分割以及数据文件也会有一定的不均衡性。为了弥补这些问题，开发了基于

zcc_0015·2024-01-09 15:53

常见技术选型

MQRocketMQ,RabbitMQ,Kafka,ActiveMQNoSQLRedis,Memcache分布式计算Blink,Storm,SparkDB关系型TiDB,MySQL,MongoDB,CassandraKVLevelDB

独处人·2024-01-09 14:46

【2019-07-10】Hbase性能调优

1.修改regionserver参数的参数：hbase.regionserver.hfile.durable.syncfalsehbase.regionserver.wal.durable.syncfalsehbase.regionserver.handler.count600hbase.regionserver.metahandler.count3002.内存参数GC_OPTS，将regions

学师大术·2024-01-09 14:00

Java接入Apache Spark（入门环境搭建、常见问题）

Java接入ApacheSpark（环境搭建、常见问题）背景介绍ApacheSpark是一个快速的，通用的集群计算系统。

许忆·2024-01-09 13:12

Hive基础知识

2）其本质是将SQL语句转换为MapReduce/Spark程序进行运算，底层数据由HDFS分布式文件系统进行存储。3）可以理解Hive就是MapReduce/SparkSql的客户端。

巷子里的猫X·2024-01-09 13:52

《JVM由浅入深学习【五】 2024-01-08》JVM由简入深学习提升分享

1.堆内存溢出的定义2.内存泄漏的原因3.堆内存溢出的常见场景4.JVM参数调优5.实际案例分析JVM如何判断对象可以回收1.可达性分析的基本思路2.实际案例3.可以被回收的对象4.拓展，谈谈Java中不同的引用类型

码农阿豪·2024-01-09 12:50

Spark与Hive的集成与互操作

ApacheSpark和ApacheHive是大数据领域中两个非常流行的工具，用于数据处理和分析。Spark提供了强大的分布式计算能力，而Hive是一个用于查询和管理大规模数据的数据仓库工具。

晓之以理的喵~~·2024-01-09 11:30

Spark回归分析与特征工程

在大数据领域，ApacheSpark为回归分析提供了强大的工具和库，以处理大规模数据集。本文将深入探讨如何使用Spark进行回归分析以及如何进行特征工程，以提高模型性能。

晓之以理的喵~~·2024-01-09 11:00

Spark中的二分类与多分类问题的解决

机器学习中的分类问题是数据科学中的一个重要领域，而在大数据环境中使用ApacheSpark来解决二分类和多分类问题可以更好地处理大规模数据。

晓之以理的喵~~·2024-01-09 11:00

Spark与HBase的集成与数据访问

ApacheSpark和ApacheHBase分别是大数据处理和分布式NoSQL数据库领域的两个重要工具。

晓之以理的喵~~·2024-01-09 11:24

初步了解JVM第一篇

大家都知道，Java中JVM的重要性，学习了JVM你对Java的运行机制、编译过程和如何对Java程序进行调优相信都会有一个很好的认知。废话不多说，直接带大家来初步认识一下JVM。什么是JVM？

java星星·2024-01-09 10:55

Spark - SQL查询文件数据

那么我们可以利用spark-sql直接操作文件的特性处理这类的需求，姐姐再也不用担心我不会spark了，因为我就只会sql。##使用方法csv```spark.sql("select*fromcsv.

kikiki4·2024-01-09 09:18

大数据之PySpark的RDD介绍

文章目录前言一、RDD简介二、RDD的特性三、RDD的特点总结前言之前的文章主要介绍Spark基础知识，例如集群角色、Spark集群运行流程等，接下来会进一步讨论Spark相对核心的知识，让我们拭目以待

敲键盘的杰克·2024-01-09 07:11

pyspark mysql rdd_PySpark之RDD操作

一、什么是RDDAResilientDistributedDataset(RDD),thebasicabstractioninSpark.Representsanimmutable,partitionedcollectionofelementsthatcanbeoperatedoninparallel

辉月有话说·2024-01-09 07:40

PySpark之Spark RDD的持久化

、cache()二、persist三、缓存级别四、释放缓存五、什么时候缓存数据当某个RDD被使用多次的时候，建议缓存此RDD数据当某个RDD来之不易，并且使用不止一次，建议缓存此RDD数据frompysparkimportSparkContext

飞Link·2024-01-09 07:07

PySpark-Spark SQL基本介绍

目录SparkSQL基本介绍SparkSQL特点SparkSQL与Hive的异同SparkSQL的数据结构SparkSQL的入门创建SparkSession对象DataFrame详解DataFrame基本介绍

Sisi525693·2024-01-09 07:37

2024.1.8 Day04_SparkCore_homeWork

目录1.简述Spark持久化中缓存和checkpoint检查点的区别2.如何使用缓存和检查点?

白白的wj·2024-01-09 07:37

Sisi525693·2024-01-09 07:06

spark-sql字段血缘实现

spark-sql字段血缘实现背景ApacheSpark是一个开源的大数据处理框架，它提供了一种高效、易于使用的方式来处理大规模数据集。

王糍粑的小夕·2024-01-09 07:32

Spark---RDD(双值类型转换算子)

1.1intersection对源RDD和参数RDD求交集后返回一个新的RDD函数定义：defintersection(other:RDD[T]):RDD[T]//建立与Spark框架的连接va

肥大毛·2024-01-09 07:32

PySpark的RDD持久化

February13·2024-01-09 07:32

Spark Core------算子介绍

RDD基本介绍什么是RDDRDD:英文全称ResilientDistributedDataset，叫做弹性分布式数据集，是Spark中最基本的数据抽象，代表一个不可变、可分区、里面的元素可并行计算的集合

小希 fighting·2024-01-09 07:01

Spark 中 BroadCast 导致的内存溢出(SparkFatalException)

背景本文基于Spark3.1.1open-jdk-1.8.0.352目前在排查Spark任务的时候，遇到了一个很奇怪的问题，在此记录一下。

鸿乃江边鸟·2024-01-09 07:31

PySpark之RDD的持久化

主要作用:提升Spark程序的计算效率注意事项:RDD的缓存可以存储在内存或者是磁盘上，甚至可以存储在Executor进程的堆外内存中。主要是放在内存中，因此缓存的数据是不太稳定可靠。

Sisi525693·2024-01-09 07:30

Hive基本操作

Hive是类SQL语法的数据查询、计算、分析工具，执行引擎默认的是MapReduce，可以设置为Spark、Tez。Hive分内部表和外部表，外部表在建表的同时指定一个

X晓·2024-01-09 06:45

某大厂大数据开发-外包面试

4.spark用过吗，用到的开发工具5.数据量多少，服务器台数6.数仓每层做了什么事，为什么这样做？

劝学-大数据·2024-01-09 06:42

大数据开发-某外包公司

1.用过那些组件2.说下HDFS读写流程3.说下varchar和char区别4.说下数据库的事务5.spark的部署模式有哪些6.数据库和数据仓库的区别7.内部表和外部表的区别8.说下数据中台、数据仓库和数据湖的区别

劝学-大数据·2024-01-09 06:10

spark读sqlserver出现的异常

前言Spark通过JDBC读取数据之前很早写过一篇博客，本以为所有通过jdbc读取的方式都一样，谁知道这次读sqlserver的时候竟然出现的很多异常，这里把异常的问题进行记录。

SunnyRivers·2024-01-09 06:39

PySpark & Dask 分布式集群环境搭建（Linux）

Spark分布式环境搭建_Linux版9.0具体思路：先进行单机配置，然后复制Linux虚拟机、分发配置好的框架。

蒲魔树的种子·2024-01-09 06:04

pyspark 引入虚拟环境依赖包以及向yarn集群提交任务攻略

以虚拟环境引入project_demo项目包，并向sparkyarn提交spark任务为例：将project_demo安装到虚拟环境中1）virtualenvlocal_venv#创建虚拟环境2）sourcelocal_venv

阿君聊风控·2024-01-09 06:33

anaconda创建虚拟环境

最近在做项目时需要提交pyspark任务到公司的Spark集群上，由于没有集群节点的相关权限，打算采用anaconda创建pyspark的虚拟环境来进行。

追梦菜鸟·2024-01-09 06:33

python虚拟环境可以运行pyspark_pyspark 与 python 环境配置

主要是解决包依赖问题，通过virtualenv来解决，需要打包环境和spark是slave端运行环境一致，通过anaconda来解决，则完全不需要保持与线上spark机环境一致，只需要是linux系统即可

weixin_39663729·2024-01-09 06:33

pyspark打包依赖包&使用python虚拟环境

一、anaconda创建python环境anaconda创建python环境在这篇博客中，已经很清楚地描述了如何通过anaconda来创建你需要的python环境：即合适的python版本和包含你需要的依赖包。二、打包python环境假设我们的python环境名称为py_env，那么在anaconda的安装目录下，会有这么一个目录：envs/py_env在Windows下，直接将使用压缩软件，将其

我就算饿死也不做程序员·2024-01-09 06:33

推荐频道

spark调优

最新ChatGPT源码，AI绘画Midjourney绘画系统，GPT-4V识图理解+GPT语音对话+ChatFile文档对话总结+DALL-E3文生图+自定义知识库一站式解决方案