spark调优

大数据技术——RDD编程初级实践

RDD编程初级实践1、需求描述2、环境介绍3、数据来源描述4、数据上传及上传结果查看5、数据处理过程描述1.pyspark交互式编程2.编写独立应用程序实现数据去重3.编写独立应用程序实现求平均值问题6
@璿·2024-08-25 03:04

Kafka快速入门：Kafka驱动JavaApi的使用

相比之下，使用JavaAPI可以充分利用编程语言的灵活性，对生产者和消费者进行更精细的性能调优。对于大多数中间件，熟悉服务器的命令行操作可能足以帮助学习其API的使用。然而，Kafka则不同，要全面掌
不止会JS·2024-08-25 00:46

手动修改zk类型的kafka offset

.*.87.125:2181查找并修改ae_spark这个topic的消费者组的offset值对于每个分区（0、1、2），需要分别查看和修改offset值查看和修改分区0的offset值查看当前offset
Keep hunger·2024-08-24 23:45

每天一个数据分析题（四百八十七）- 非监督学习

C.Minkowski距离D.笛卡尔距离数据分析认证考试介绍：点击进入题目来源于CDA模拟题库点击此处获取答案数据分析专项练习题库内容涵盖Python，SQL，统计学，数据分析理论，深度学习，可视化，机器学习，Spark
跟着紫枫学姐学CDA·2024-08-24 23:13

每天一个数据分析题（四百八十八）- 非监督学习

C.Minkowski距离D.笛卡尔距离数据分析认证考试介绍：点击进入题目来源于CDA模拟题库点击此处获取答案数据分析专项练习题库内容涵盖Python，SQL，统计学，数据分析理论，深度学习，可视化，机器学习，Spark
跟着紫枫学姐学CDA·2024-08-24 23:13

Java虚拟机(JVM)性能调优指南

JVM性能调优对于确保应用程序性能至关重要。在本文中，我们将探讨如何对JVM进行有效的调优，以优化内存使用和提高应用程序性能。
NAMELZX·2024-08-24 23:10

Go 1.21在性能方面有哪些提升？

2.垃圾回收优化通过调优垃圾回收器，某些应用程序的尾部延迟可减少高达40%[3]。3.其他性能改进在
Toormi·2024-08-24 22:39

黑猴子的家：Spark RDD 行动算子 Action

1、reduce（1）原理通过f函数聚集RDD中的所有元素，这个功能必须是可交换且可并联的（2）源码defreduce(f:(T,T)=>T):T=withScope{valcleanF=sc.clean(f)valreducePartition:Iterator[T]=>Option[T]=iter=>{if(iter.hasNext){Some(iter.reduceLeft(cleanF))
黑猴子的家·2024-08-24 22:03

【Pyspark-驯化】一文搞懂Pyspark修改hive表描述以及增加列使用技巧

【Pyspark-驯化】一文搞懂Pyspark修改hive表描述以及增加列使用技巧本次修炼方法请往下查看欢迎莅临我的个人主页这里是我工作、学习、实践IT领域、真诚分享踩坑集合，智慧小天地！
算法驯化师·2024-08-24 13:43

【Pyspark-驯化】一文搞懂Pyspark写入hive表的使用技巧

【Pyspark-驯化】一文搞懂Pyspark写入hive表的使用技巧本次修炼方法请往下查看欢迎莅临我的个人主页这里是我工作、学习、实践IT领域、真诚分享踩坑集合，智慧小天地！
算法驯化师·2024-08-24 13:43

【Pyspark-驯化】一文搞懂Pyspark中对json数据处理使用技巧：get_json_object

【Pyspark-驯化】一文搞懂Pyspark中对json数据处理使用技巧：get_json_object本次修炼方法请往下查看欢迎莅临我的个人主页这里是我工作、学习、实践IT领域、真诚分享踩坑集合，智慧小天地
算法驯化师·2024-08-24 13:43

【Pyspark-驯化】一文搞懂Pyspark中dropDuplicates和sort的使用技巧

【Pyspark-驯化】一文搞懂Pyspark中dropDuplicates和sort的使用技巧本次修炼方法请往下查看欢迎莅临我的个人主页这里是我工作、学习、实践IT领域、真诚分享踩坑集合，智慧小天地！
算法驯化师·2024-08-24 13:13

【Pyspark-驯化】一文搞懂Pyspark中的withColumnRenamed函数的使用技巧

【Pyspark-驯化】一文搞懂Pyspark中的withColumnRenamed函数的使用技巧本次修炼方法请往下查看欢迎莅临我的个人主页这里是我工作、学习、实践IT领域、真诚分享踩坑集合，智慧小天地
算法驯化师·2024-08-24 13:13

从零到一建设数据中台 - 关键技术汇总

一、数据中台关键技术汇总语言框架：Java、Maven、SpringBoot数据分布式采集：Flume、Sqoop、kettle数据分布式存储：HadoopHDFS离线批处理计算：MapReduce、Spark
我码玄黄·2024-08-24 12:09

向量数据库 Milvus：智能检索新时代

文章目录Milvus核心技术Milvus基本特点索引策略相似度计算图像检索演示Milvus基础维护环境搭建建立向量索引数据导入数据更新数据删除用户权限管理Milvus评估与调优性能评估调优技巧Milvus
三余知行·2024-08-24 11:31

Hbase BulkLoad用法

要导入大量数据，Hbase的BulkLoad是必不可少的，在导入历史数据的时候，我们一般会选择使用BulkLoad方式，我们还可以借助Spark的计算能力将数据快速地导入。
kikiki2·2024-08-24 09:57

Linux系统性能调优技巧

1.概述1.1.简介Linux系统性能调优是一个复杂的过程，涉及到多个方面，包括硬件、软件、系统调用、编译器选项、Profiling工具等。
丁爸·2024-08-24 07:01

Rocksdb Tuning

Rocksdb配置选项尤其繁多，想要获得真正的高性能，需要进行详细的调优，这是项复杂的工作，需要在实践中积累经验：https://www.jianshu.com/p/8e0018b6a8b6https:
MOONICK·2024-08-24 06:25

阿里云服务器内存型r7、r8a、r8y实例区别及最新活动价格参考

，属于内存型实例规格的云服务器有内存型r7、内存型r8a、内存型r8y这几个实例规格，相比于活动内的经济型e和通用算力型u1等实例规格来说，这些实例规格等性能更强，适用于数据分析与挖掘，Hadoop、Spark
阿里云最新优惠和活动汇总·2024-08-23 22:23

2018年3月15日

上午摸鱼为主，顺便把同事拉进群里让他去沟通spark权限的事。截至中午似乎大概是解决了？
真昼之月·2024-08-23 18:58

计算机毕业设计hadoop+spark知识图谱美食推荐系统 美食价格预测 美团推荐系统 美团爬虫 大众点评爬虫 美食数据分析 美食可视化大屏 大数据毕设

四种推荐算法(协同过滤基于用户、物品、SVD混合神经网络、MLP深度学习模型)6.线性回归算法预测房价7.Python爬虫采集大众点评美食数据8.AI短信识别9.百度地图API10.lstm情感分析11.spark
计算机毕业设计大全·2024-08-23 13:22

Linux系统性能调优技巧详解

Linux系统性能调优技巧详解Linux系统凭借其稳定性、灵活性和开源社区的支持，在服务器、云计算、嵌入式系统等领域得到了广泛应用。
一个代码猎人·2024-08-23 13:08

计算机毕业设计hadoop+spark知识图谱高考分数预测系统 高考志愿推荐系统 高考可视化大屏 高考大数据 高考数据分析 高考爬虫 大数据毕业设计

开发技术hadoopsparkspringbootvue.jsPython爬虫、机器学习、深度学习mybatis-plusneo4j知识图谱图数据库mysql协同过滤算法(基于物品、基于用户模式)MLP
计算机毕业设计大全·2024-08-23 11:05

2024.08.07校招 实习 内推 面经

2025秋季校园招聘正式启动（内推）校招|旷视科技2025秋季校园招聘正式启动（内推）2、校招|华为智能座舱产品部2025校园招聘校招|华为智能座舱产品部2025校园招聘3、校招|蔚来2025届SuperSparks
内推君SIR·2024-08-23 01:26

spark学习资料

AdvancedApacheSpark-SameerFarooqui(Databricks)”(https://www.youtube.com/watch?
Liam_ml·2024-08-22 16:24

Java面试题———web篇

9、Tomcat如何进行内存调优？11、过滤器和拦截器的区别？12、Linux基本命令1、TCP和UDP区别？传输控制协议TCP（T
啵啵薯条·2024-08-22 13:47

Spark MLlib模型训练—分类算法Multilayer Perceptron Classifier

SparkMLlib模型训练—分类算法MultilayerPerceptronClassifierMultilayerPerceptronClassifier（多层感知器分类器，简称MLP）是SparkMLlib
猫猫姐·2024-08-22 12:39

每天一个数据分析题（四百九十三）- 主成分分析与因子分析

主成分载荷矩阵D.解释方差比例数据分析认证考试介绍：点击进入题目来源于CDA模拟题库点击此处获取答案数据分析专项练习题库内容涵盖Python，SQL，统计学，数据分析理论，深度学习，可视化，机器学习，Spark
跟着紫枫学姐学CDA·2024-08-22 11:34

每天一个数据分析题（四百九十一）- 主成分分析与因子分析

最小方差正交旋转D.最大方差正交旋转数据分析认证考试介绍：点击进入题目来源于CDA模拟题库点击此处获取答案数据分析专项练习题库内容涵盖Python，SQL，统计学，数据分析理论，深度学习，可视化，机器学习，Spark
跟着紫枫学姐学CDA·2024-08-22 11:33

Amazon EFS：云端弹性文件系统的多元化应用场景

应用：Hadoop、Spark等大数据框架优势：高
ivwdcwso·2024-08-22 04:51

Apache Paimon：实时湖仓架构构建工具

实时湖仓架构构建工具paimonApachePaimonisalakeformatthatenablesbuildingaRealtimeLakehouseArchitecturewithFlinkandSparkforbothstreamingandbatchoperations
乔如黎·2024-08-22 03:15

探索实时湖仓架构的新星：Apache Paimon

ApachePaimonpaimonApachePaimonisalakeformatthatenablesbuildingaRealtimeLakehouseArchitecturewithFlinkandSparkforbothstreamingandbatchoperations
幸愉旎Jasper·2024-08-22 03:39

Linux性能调优指南(1)：聚焦CPU性能与缓存优化策略

文章目录一,CPU性能调优1.选择适合的CPU1.1性能评估工具1.2CPU信息查看命令1.3基准测试工具2.CPU缓存优化2.1.了解缓存结构2.2.缓存预热2.3.数据布局和访问模式优化2.4.使用性能分析工具
星鬼123·2024-08-22 02:38

Linux性能调优指南(1.2)：涵盖频率调整、进程优先级及多核策略

文章目录3,CPU频率调整4,进程优先级调整5,多核优化3,CPU频率调整在Linux系统中，可以使用cpufreq等工具动态调整CPU频率，以平衡功耗和性能。根据系统的负载情况，适时地提高或降低CPU频率，可以在保证系统性能的同时，降低能耗和发热量。这对于移动设备和需要长时间运行的服务器尤为重要首先，安装cpufreq工具：sudoapt-getinstallcpufrequtils查看可用的C
星鬼123·2024-08-22 02:38

Linux性能调优指南

摘要在很久以前，就对性能调优有非常浓厚的兴趣。虽然之前也在做过一些性能调优的工作，但是主要集中在代码层面，以及业务层面。对如何从Linux操作系统方面进行调优，一直都没有一个清晰的认识。
Yonself·2024-08-22 02:33

MAP REDUCE

ApacheSpark：可以整合进Hadoop，取代MapReduce的框架
Xiao_die888·2024-08-22 01:58

Linux系统性能调优指南-应用程序优化

目录应用程序优化性能分析示例步骤1:使用perf分析性能步骤2:使用gprof分析性能步骤3:使用valgrind检测内存泄漏步骤4:代码优化示例代码优化后的代码应用程序优化应用程序优化是提高Linux系统性能的关键部分之一。这通常涉及使用各种工具来分析性能瓶颈，并对代码进行重构以提高效率。下面详细介绍一些常用的性能分析工具和代码优化技巧。性能分析性能分析工具可以帮助开发者找到应用程序中的瓶颈所在
何遇mirror·2024-08-21 21:32

Linux系统性能调优指南-文件系统选择与配置

目录文件系统选择与配置文件系统类型挂载选项示例步骤1:选择文件系统步骤2:配置挂载选项步骤3:创建分区和格式化步骤4:挂载分区步骤5:验证挂载注意事项文件系统选择与配置在Linux系统中，文件系统的选择和配置对于性能有着重要影响。根据不同的应用场景，选择合适的文件系统类型，并合理配置挂载选项，可以显著提高系统的I/O性能。下面分别介绍文件系统的选择和配置方法。文件系统类型Linux提供了多种文件系
何遇mirror·2024-08-21 21:01

Azkaban各种类型的Job编写

command：Linuxshell命令行任务gobblin：通用数据采集工具hadoopJava：运行hadoopMR任务java：原生java任务hive：支持执行hiveSQLpig：pig脚本任务spark
__元昊__·2024-03-28 21:00

Linux通过Tuned实现动态调优系统性能

Linux通过Tuned实现动态调优系统性能Tuned简介对于普通用户来说，优化Linux应用环境可能是相当具有挑战性的。
星河_赵梓宇·2024-03-28 12:14

关于HDP的20道高级运维面试题

HDP（HortonworksDataPlatform）的主要组件包括Hadoop框架、HDFS、MapReduce、YARN以及Hadoop生态系统中的其他关键工具，如Spark、Flink、Hive
编织幻境的妖·2024-03-26 15:34

【Hadoop】使用Scala与Spark连接ClickHouse进行数据处理

风不懂不懂得叶的梦月不听不听闻窗里琴声意难穷水不见不曾见绿消红霜不知不知晓将别人怎道珍重落叶有风才敢做一个会飞的梦孤窗有月才敢登高在夜里从容桃花有水才怕身是客身是客此景不能久TieYann(铁阳)、薄彩生《不知晓》在大数据分析和处理领域，ApacheSpark
音乐学家方大刚·2024-03-26 09:56

java后端工程师八股文合集

1、SQL调优的基本步骤如下：确认性能瓶颈：首先要确定数据库中哪些查询是慢的，哪些查询最需要优化。可以通过监控数据库的CPU、磁盘I/O、网络I/O、缓存等指标来确定性能瓶颈。
吹林·2024-03-25 02:46

Spark面试整理-Spark是什么？

ApacheSpark是一个开源的分布式计算系统，它提供了一个用于大规模数据处理的快速、通用、易于使用的平台。它最初是在加州大学伯克利分校的AMPLab开发的，并于2010年开源。
不务正业的猿·2024-03-24 13:02

【RH134问答题】第十章 控制启动过程

系列文章第一章提高命令行生产效率第二章计划将来的任务第三章调优系统性能第四章使用ACL控制对文件的访问第五章管理SELinux安全性第六章管理基本存储第七章管理逻辑卷第八章实施高级存储功能第九章访问网络附加存储目录系列文章请简要说明
不怕娜·2024-03-20 07:17

大数据开发（Hive面试真题-卷二）

5、Hive如果不用参数调优，在map和reduce端应该做什么？6、Hive的三种自定义函数是什么？实现步骤与流程？它们之间的区别？作用是什么？7、Hive分区和分桶的区别？8、Hive的执行流程？
Key-Key·2024-03-20 05:14

Linux——系统优化

https://blog.csdn.net/li_wen01/article/details/82699167系统调优概述系统的运行状况：CPU->MEM->DISK*->NETWORK->应用程序调优系统性能优化的
@小官人^·2024-03-19 14:25

tomcat调优

一、tomcat线程数可以参照https://blog.csdn.net/luoyang_java/article/details/85790435Tomcat配置文件server.xml中：Connector的主要功能，是接收连接请求，创建Request和Response对象用于和请求端交换数据；然后分配线程让Engine（也就是Servlet容器）来处理这个请求，并把产生的Request和Re
Liu.Yongqian·2024-03-19 02:39

Spark Q&A

A:从Spark2.1开始，你可以通过启用spark.sql.files.ignoreCorruptFiles选项来忽略损毁的文件。
耐心的农夫2020·2024-03-19 00:12

JVM，GC算法，垃圾回收器，类加载器，进行线上JVM性能调优。

JVM（JavaVirtualMachine，Java虚拟机）是Java程序的运行环境，它在操作系统上提供了一个抽象层，使得Java程序可以独立于硬件平台运行。JVM有自己的指令集和内存管理机制，它负责将Java字节码转换为机器码并执行。垃圾回收（GarbageCollection，GC）是JVM的一个重要特性，它负责自动回收不再使用的内存。GC的目标是尽可能地回收垃圾对象，以释放内存空间，并确保
刘小董·2024-03-18 04:10
上一页 1 2 3 4 5 6 7 8 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他