spark调优

大数据开发之Spark（RDD弹性分布式数据集）

第1章：rdd概述1.1什么是rddrdd（resilientdistributeddataset）叫做弹性分布式数据集，是spark中最基本的数据抽象。
Key-Key·2024-01-24 07:17

深入理解Spark编程中的map方法

在Spark的上下文
{BOOLEAN}·2024-01-24 07:47

Spark运行架构以及容错机制

Spark运行架构以及容错机制1.Spark的角色区分1.1Driver1.2Excuter2.Spark-Cluster模式的任务提交流程2.1SparkOnYarn的任务提交流程2.1.1yarn相关概念
李姓门徒·2024-01-24 07:41

spark-flink设计思想之吸星大法-1

Spark和Flink都是大数据处理框架，它们的设计思想有一些不同之处。以下是对它们设计思想的简要对比：数据模型和计算模型：Spark：Spark使用弹性分布式数据集（RDD）作为其核心数据结构。
{BOOLEAN}·2024-01-24 07:47

利用 Mountpoint for Amazon S3 在 Kubernetes 上加速 LLM 的训练

本文通过在EC2g5.2xl实例上完成LLaMA2的调优训练，读者可以利用较少的GPU资源学习复现本
亚马逊云开发者·2024-01-24 06:25

reduceByKey应用举例

PhotobyStefanStefancikfromPexels在进行Spark开发算法时，最有用的一个函数就是reduceByKey。
学习之术·2024-01-24 05:16

Spark - 动态注册UDF

>昨天有位大哥问小弟一个Spark问题，他们想在不停Spark程序的情况下动态更新UDF的逻辑，他一问我这个问题的时候，本猪心里一惊，Spark**还能这么玩?
kikiki4·2024-01-24 03:22

Go每日精选（2019-06-14）- 进阶部分

5.redigo的redis.Pool配置参数调优
凯文不上班·2024-01-24 00:39

Spark 编程模型 RDD

Spark编程模型有两个主要的抽象，第一个是弹性数据集RDD（ResilientDistributedDataset），第二个是共享变量：广播变量和累加器。首先了解以下RDD。
Alex90·2024-01-23 23:44

mysql5.7性能调优

一千个DBA就有一千种配置方式!大家一定记得不要轻易去看网上，要看只看官网！网上很多博客都是错的，连参数都列错了，5.7很多参数和5.6是完全不一样的。可能你从未看到过这样的一篇集中火力式的把mysql参数列了这么全的文章，很有兴曾参与过超3万并发的18～19年的数轮520、618、双11、双12保卫战。因此这一篇是汇集了最精华和实战的内容把mysql所有的参数列在这边供大家参考。并且以（64cc
周识儒ice·2024-01-23 19:05

Java相关的性能调优方案

本文介绍了在性能测试过程中Java进程消耗CPU过高的问题排查方法、线程死锁问题排查方法和内存泄露的排查方法Java进程消耗CPU过高的问题排查方法CPU利用率过高，查看JVM中线程占用cpu大小的方法ps–Lfppidtop–ppid-H查看高占用的线程并转化为十六进制的方法printf"%x\n"其中x为线程号然后jstack-l16进制的线程号线程死锁问题排查方法死锁定义线程死锁是指由于两个
测试开发Kevin·2024-01-23 19:13

Grafana panel之Singlestat

它还可以将单个数字转换为文本值，并显示该时间序列的sparkline摘要。在Grafana7.0中已将Stat面板代替Singlestat。但由于我用的还是老版的grafana所以还是决定
jeongee0328·2024-01-23 19:15

Spark - 动态注册UDF

>昨天有位大哥问小弟一个Spark问题，他们想在不停Spark程序的情况下动态更新UDF的逻辑，他一问我这个问题的时候，本猪心里一惊，Spark**还能这么玩?
kikiki5·2024-01-23 16:08

Spark Core源码精读计划#22：BlockInfoManager与其实现的块锁机制

目录前言BlockInfoManager的成员属性及构造方法BlockInfoManager提供的锁方法获取读锁获取写锁释放锁锁降级删除BlockInfo总结前言在上一篇文章中，我们对与块相关的BlockId、BlockData和BlockInfo有了比较全面的理解。前面已经提到过，块在读写时有锁机制，并且委托给BlockInfoManager来管理。虽然BlockInfoManager的字面意思
LittleMagic·2024-01-23 15:23

Spark RDD分区数和分区器

一、分区数如何决定1、数据源RDD数据源RDD的分区数由数据源的读取器决定,比如sc.textFile产生的rdd,分区数由TextInputFormat.getInputSplits()方法决定,具体源码追踪及解析如下:valrdd1=sc.textFile("data/tbPerson.txt")①Ctrl+B进入textFiletextFile底层其实就是通过hadoopFile去读文件②C
maplea2012·2024-01-23 15:40

AI绘画Midjourney绘画提示词Prompt入门到精通【宝藏级收藏】

一、AI绘画工具SparkAi创作系统是基于ChatGPT进行开发的Ai智能问答系统和Midjourney绘画系统，支持OpenAI-GPT全模型+国内AI全模型。
白云如幻·2024-01-23 15:35

2024最新AI系统ChatGPT网站源码+搭建部署教程文档，Midjourney绘画，GPT语音对话+ChatFile文档对话总结+DALL-E3文生图+GPT-4识图理解/自定义知识库

一、前言SparkAi创作系统是基于ChatGPT进行开发的Ai智能问答系统和Midjourney绘画系统，支持OpenAI-GPT全模型+国内AI全模型。
白云如幻·2024-01-23 15:05

2024最新AI创作系统ChatGPT源码，支持Midjourney绘画，GPT语音对话+ChatFile文档对话总结+DALL-E3文生图+GPT-4识图理解

一、前言SparkAi创作系统是基于ChatGPT进行开发的Ai智能问答系统和Midjourney绘画系统，支持OpenAI-GPT全模型+国内AI全模型。
白云如幻·2024-01-23 15:04

最新ChatGPT商业运营版源码，AI绘画，Midjourney绘画，GPT-4V多模态模型识图理解+GPT语音对话+ChatFile文档对话总结+DALL-E3文生图

一、前言SparkAi创作系统是基于ChatGPT进行开发的Ai智能问答系统和Midjourney绘画系统，支持OpenAI-GPT全模型+国内AI全模型。
只恨天高·2024-01-23 15:03

最新AI系统ChatGPT网站系统源码,支持AI绘画,GPT语音对话,ChatFile文档对话总结,DALL-E3文生图,MJ绘画局部编辑重绘

一、前言SparkAi创作系统是基于ChatGPT进行开发的Ai智能问答系统和Midjourney绘画系统，支持OpenAI-GPT全模型+国内AI全模型。
白云如幻·2024-01-23 15:32

最新| ClickHouse入门、调优、实战一条龙全解秘籍

Clickhouse是一个高性能且开源的数据库管理系统，主要用于在线分析处理(OLAP)业务。它采用列式存储结构，可使用SQL语句实时生成数据分析报告，另外它还支持索引，分布式查询以及近似计算等特性，凭借其优异的表现，ClickHouse在各大互联网公司均有广泛地应用。WhyClickHouse首先我们来看一下OLAP场景下的关键特征。1.大多数数据库访问都是读请求。2.数据总是以批量形式写入数据
小晨说数据·2024-01-23 15:37

JVM调优

何时进行JVM调优Heap内存（老年代）持续上涨达到设置的最大内存值；FullGC次数频繁；GC停顿时间过长（超过1秒）；应用出现OutOfMemory等内存异常；应用中有使用本地缓存且占用大量内存空间
请不要问我是谁·2024-01-23 14:16

DataFrame的基本使用--学习笔记

方法其中包括的方法有：select(),selectExpr(),groupby()/groupBy()where,orderBy(),sort(),limit(),withColumn(),frompyspark.sqlimportSparkSession
祈愿lucky·2024-01-23 14:59

NVIDIA与 Sparkfun 的合作伙伴在 Hackster.io 上发起了人工智能创新挑战赛，喊你来参加！

NVIDIA与Sparkfun的合作伙伴在Hackster.io上发起了人工智能创新挑战赛，喊你来参加！
扫地的小何尚·2024-01-23 14:28

Stuuctured Streaming基础--学习笔记

Structuredstreaming介绍spark进行实时数据流计算时有两个工具：SparkStreaming：编写rdd代码处理数据流,可以解决非结构化的流式数据StructuredStreaming
祈愿lucky·2024-01-23 14:58

五分钟了解常见的黑客设备

2.Digispark：Attiny85Digispark开发板可以模拟成日常使用的USB键盘进行模拟输入。利用Win系统，按下WIN+R打开并锁定到CMD的
网安攻城狮-小李·2024-01-23 13:50

Pyspark

文章目录一、SparkCore1.SparkContext:2.SparkSession3.RDD4.Broadcast、Accumulator:5.Sparkconf6.SparkFiles7.StorageLevel
李明朔·2024-01-23 12:24

Java设计模式-适配器模式（8）

馆长准备了很多学习资料，其中包含java方面，jvm调优，spring/springboot/springcloud，微服务，分布式，前端，js书籍资料，视频资料，以及各类常用软件工具，破解工具等资源。
艾利克斯冰·2024-01-23 12:22

Java设计模式-代理模式（7）

馆长准备了很多学习资料，其中包含java方面，jvm调优，spring/springboot/springcloud，微服务，分布式，前端，js书籍资料，视频资料，以及各类常用软件工具，破解工具等资源。
艾利克斯冰·2024-01-23 12:52

Spark(三十四)troubleshooting之解决yarn-cluster模式的JVM内存溢出无法执行问题

一、背景实践经验，碰到的yarn-cluster的问题：1、有的时候，运行一些包含了sparksql的spark作业，可能会碰到yarn-client模式下，可以正常提交运行；yarn-cluster模式下
文子轩·2024-01-23 12:06

鸿蒙开发-OpenHarmony轻量系统之获取当地时间

环境OpenHarmony3.1润和hispark_pegasusHi3861开发板DevEcoDeviceTool串口调试助手SNTP
移动开发技术栈·2024-01-23 11:21

JVM实战篇：GC调优

目录一.GC调优的核心指标1.1吞吐量（Throughput）1.2延迟（Latency）1.3内存使用量二.GC调优的方法2.1监控工具Jstat工具VisualVm插件Prometheus+Grafana2.2
汤姆&Tom·2024-01-23 09:46

大数据开发之Spark（入门）

第1章：Spark概述1.1什么是spark回顾：hadoop主要解决，海量数据的存储和海量数据的分析计算。spark是一种基于内存的快速、通用、可扩展的大数据分析计算引擎。
Key-Key·2024-01-23 09:45

Spark解析JSON文件，写入hdfs

一、用Sparkcontext读入文件，map逐行用Gson解析，输出转成一个caseclass类，填充各字段，输出。解析JSON这里没有什么问题。
gegeyanxin·2024-01-23 09:42

Spark UI中 Shuffle Exchange 和 BroadcastExchange 中的 dataSize 值为什么不一样

背景Spark3.5最近在看SparkUI上的一些指标看到一个很有意思的东西,相邻的ShuffleExechange和BroadcastExechange中的datasize居然不一样，前者为765KB
鸿乃江边鸟·2024-01-23 09:07

kafka的基本使用--学习笔记

catalyst引擎作用：将SparkSql转换成sparkrdd任务提交进行计算解析器将sparksql代码解析成语法树(未解析的逻辑查询计划)分析器将语法树解析成解析后的逻辑查询计划对逻辑查询计划进行属性和关系关联检验优化器将解析后的逻辑查询计划进行优化
祈愿lucky·2024-01-23 08:32

你还在 Select * 吗？

有人会说性能调优是数据库管理员（DBA）的事，然而性能调优跟程序员们也有莫大的关系。程序中嵌入的一行行的SQL语句，如果使用了一些优化小技巧，定能达到事半功倍的效果。
良月柒·2024-01-23 07:45

map与flatmap区别

Spark中map函数会对每一条输入进行指定的操作，然后为每一条输入返回一个对象；-而flatMap函数则是两个操作的集合——正是“先映射后扁平化”：操作1：同map函数一样：对每一条输入进行指定的
不加班程序员·2024-01-23 06:25

用graphx实现Bronkerbosch计算极大团

 请结合Bronkerbosch算法描述查看，该方法是在朴素的Bronkerbosch算法上进行改进，属于 带轴的Bron_Kerbosch算法importorg.apache.spark.graphx
不加班程序员·2024-01-23 06:25

Spark中字符串和json、map格式相互转化

Spark中字符串和json格式相互转化字符串转为mapimportorg.json4s.DefaultFormatsimportorg.json4s.jackson.JsonMethods.parsevalad
不加班程序员·2024-01-23 06:54

zeppelin部署文档

后台支持接入多种数据处理引擎，如spark，hive等。
不加班程序员·2024-01-23 06:54

通过Spark向Kafka写入数据

1、·将KafkaProducer利用lazyval的方式进行包装packagecn.com.m.utilimportjava.util.concurrent.Futureimportorg.apache.kafka.clients.producer.{KafkaProducer,ProducerRecord,RecordMetadata}classKafkaSink[K,V](createPro
不加班程序员·2024-01-23 06:24

头疼！卷积神经网络是什么？CNN结构、训练与优化一文全解

深入分析了背景和重要性、定义与层次介绍、训练与优化，详细分析了其卷积层、激活函数、池化层、归一化层，最后列出其训练与优化的多项关键技术：训练集准备与增强、损失函数、优化器、学习率调整、正则化技巧与模型评估调优
AI小白龙*·2024-01-23 04:48

二刷Java多线程：线程池详解

一、使用线程池的好处降低资源消耗：通过重复利用已创建的线程降低线程创建和销毁造成的消耗提高响应速度：当任务到达时，任务可以不需要等到线程创建就能立即执行提高线程的可管理性：使用线程池可以统一分配、调优和监控二
邋遢的流浪剑客·2024-01-23 02:18

Spark运行流程

参考博文：https://blog.csdn.net/qq_17677907/article/details/88685705ApacheSpark是专为大规模数据处理而设计的快速通用的计算引擎。
Cool_Pepsi·2024-01-23 02:12

数据操作——无类型的转换算子

无类型的转换算子以下算子有@Test的前置条件//1.创建SparkSessionvalspark=SparkSession.builder().appName("trans_test").master
我像影子一样·2024-01-23 02:36

数据操作——Column 对象

对每条数据都生成一个值2.Column对象如何创建’单引号’在Scala中是一个特殊的符号,通过’会生成一个Symbol对象,Symbol对象可以理解为是一个字符串的变种,但是比字符串的效率高很多,在Spark
我像影子一样·2024-01-23 02:34

别让你的云端“瘫痪”——教你如何优化云平台性能测试

目录引言目的测试指标系统性能指标资源指标中间件指标数据库指标稳定性指标批量处理指标可扩展性指标可靠性指标性能测试的过程测试计划性能测试项目检测与控制测试分析测试设计测试执行测试完成性能分析性能分析的前提性能分析的流程可能瓶颈点方法调优引言你有没有遇到过这样的情况
锦都不二·2024-01-22 23:59

评《避风港》

今天要说的这本小说名字叫《避风港》，作者是尼古拉斯•斯帕克思（NicholasSparks）尼古拉斯•斯帕克思（NicholasSparks），美国超级畅销小说作家，美国纯爱小说天王，被称为“全世界最擅长说故事的人
是斑大人呀·2024-01-22 21:01

(转)Spark Streaming遇到问题分析

parkStreaming遇到问题分析1、Spark2.0之后搞了个StructuredStreaming还没仔细了解,可参考：https://github.com/lw-lin/Coo...2、Spark
达微·2024-01-22 20:06
上一页 20 21 22 23 24 25 26 27 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他