Spark调优

最新AI绘画Midjourney绘画提示词Prompt教程

一、Midjourney绘画工具SparkAi创作系统是基于ChatGPT进行开发的Ai智能问答系统和Midjourney绘画系统，支持OpenAI-GPT全模型+国内AI全模型。
白云如幻·2023-12-30 15:31

PTS 3.0：可观测加持的下一代性能测试服务

提到性能测试大家并不陌生，性能测试已成为评估系统能力、识别系统弱点、进行系统调优，验证系统稳定性等的重要手段。
阿里云云原生·2023-12-30 13:20

Spark在不同集群中的运行架构

Spark注重建立良好的生态系统，它不仅支持多种外部文件存储系统，提供了多种多样的集群运行模式。
姚兴泉·2023-12-30 13:54

数据分析流程

数据分析的流程可以分为以下几个步骤：问题定义--数据挖掘--数据准备--模型化--数据认证--实施跟踪模型部分：探索--建立--评估--调优--应用理解业务问题：首先明确数据分析的目标和业务问题，确定需要解决的具体问题
Oo_Amy_oO·2023-12-30 09:12

Flink DataStream 编程模型

本文是我的第一篇付费文章，这是个开篇纵览，后面会深入讲解Flink理论与开发，不限于Flink这一个组件，后面也会有Spark、Clickhouse等等，代码也会配套同步到Gitee上面（Gitee地址见文末
大数据技术派·2023-12-30 09:54

Flink Shuffle、Spark Shuffle、Mr Shuffle 对比

总结：1、FlinkShufflePipelinedShuffle：上游Subtask所在TaskManager直接通过网络推给下游Subtask的TaskManager；BlockingShuffle：HashShuffle-将数据按照下游每个消费者一个文件的形式组织；Sort-MergeShuffle-将上游所有的结果写入同一个文件，文件内部再按照下游消费者的ID进行排序并维护索引，下游读取数
猫猫爱吃小鱼粮·2023-12-30 09:53

Hadoop之Yarn 详细教程

1、yarn的基本介绍和产生背景YARN是Hadoop2引入的通用的资源管理和任务调度的平台，可以在YARN上运行MapReduce、Tez、Spark等多种计算框架，只要计算框架实现了YARN所定义的接口
白鸽呀·2023-12-30 08:57

想要学会JVM调优，先掌握JVM内存模型和JVM运行原理

1、前言今天将和你一起探讨Java虚拟机（JVM）的性能调优。JVM算是面试中的高频问题了，通常情况下总会有人问到：请你讲解下JVM的内存模型，JVM的性能调优做过？
cxzm_1024·2023-12-30 08:56

【Azure 架构师学习笔记】- Azure Databricks (2) -集群

ADB集群首先了解一下ADB的集群，ADB的集群本质上就是一堆AzureVM，在创建之时已经按照特定模板，配置有Spark和可以并行操作Spark
發糞塗牆·2023-12-30 07:11

Spark - SQL查询文件数据

那么我们可以利用spark-sql直接操作文件的特性处理这类的需求，姐姐再也不用担心我不会spark了，因为我就只会sql。使用方法csvspark.sql("select*fromcsv.
kikiki2·2023-12-30 07:34

大数据学习(29)-Spark Shuffle

&&大数据学习&&系列专栏：哲学语录:承认自己的无知，乃是开启智慧的大门如果觉得博主的文章还不错的话，请点赞+收藏⭐️+留言支持一下博主哦SparkShuffleMap和Reduce在Shuffle过程中
viperrrrrrr·2023-12-30 06:25

elasticsearch 索引数据多了怎么办，如何调优，部署

当Elasticsearch索引的数据量增加时，可能会遇到性能瓶颈，需要进行调优。
爱编程的小白L·2023-12-30 06:52

【Spark精讲】一文讲透SparkSQL物理执行计划

SparkSQL整体计划生成流程大体分三步：(1)由SparkSqlParser中的AstBuilder执行节点访问，将语法树的各种Context节点转换成对应的LogicalPlan节点，从而成为一棵未解析的逻辑算子树
话数Science·2023-12-30 06:59

【Spark精讲】一文讲透SparkSQL执行过程

SparkSQL执行过程逻辑计划逻辑计划阶段会将用户所写的SQL语句转换成树型数据结构(逻辑算子树)，SQL语句中蕴含的逻辑映射到逻辑算子树的不同节点。
话数Science·2023-12-30 06:55

[spark] 将dataframe中的数据插入到mysql

文章目录分区写入`foreachPartition`直接写入`write.jdbc()`有没有插入成功在插入时记录行数`累加器`分区写入foreachPartition在Spark中，你可以使用foreachPartition
言之。·2023-12-30 06:55

Spark Streaming

目录一、流计算概述（一）静态数据和流数据（二）批量计算和实时计算（三）流计算概念（四）流计算框架（五）流计算处理流程二、SparkStreaming（一）SparkStreaming设计（二）SparkStreaming
Francek Chen·2023-12-30 06:54

动物日记｜白沙的鸡

就先做个介绍吧：白沙公园又叫PasirRisPark，是一个位于新加坡的东北部的海滩公园，于1989年启用，是
小哥阿民·2023-12-30 06:37

JVM+GC解析（前提知识串联）

前提准备JVMGC垃圾回收JVM虚拟机监控调优和故障处理Tomcat和微服务优化1、前提复习1.1、JVM内存结构1.1.1、JVM体系结构概览图中灰色部分为线程私有，几乎不存在垃圾回收橙色部分线程共有
张轶渤·2023-12-30 03:41

性能测试之Mysql数据库调优

一、前言性能调优前提：无监控不调优，对于mysql性能的监控前几天有文章提到过，有兴趣的朋友可以去看一下二、Mysql性能指标及问题分析和定位1、我们在监控图表中关注的性能指标大概有这么几个：CPU、内存
测试老哥·2023-12-30 03:01

PiflowX大数据流水线系统

支持分布式计算引擎flink和spark。以所见即所得的方式，实现大数据采集、处理、存储与分析流程化配置、运行与智能监控。
暗影八度·2023-12-29 23:43

大数据框架介绍

大数据学习必备三个框架Hadoop，Spark，Storm大数据的主要特点为数据量大(Volume)，数据类别复杂(Variety)，数据处理速度快(Velocity)和数据真实性高(Veracity)
mikecg·2023-12-29 23:06

大数据HelloWorld-Flink实现WordCount

MR，Spark，Flink以来开篇第一个程序都是WordCount。那么今天Flink开始目标就是在本地调试出WordCount。[图片上传失败...
指尖数虫·2023-12-29 22:38

性能测试之Mysql数据库调优

一、前言性能调优前提：无监控不调优，对于mysql性能的监控前几天有文章提到过，有兴趣的朋友可以去看一下二、Mysql性能指标及问题分析和定位1、我们在监控图表中关注的性能指标大概有这么几个：CPU、内存
软件测试果冻·2023-12-29 21:29

SparkStreaming常见transformation算子

1.4SparkStreaming常见transformation算子1.4.1常见的算子操作对cogroup做一简单的说明：cogroup就是groupByKey的另外一种变体，groupByKey是操作一个
Guff_hys·2023-12-29 20:59

SparkStreaming_window_sparksql_reids

SparkStreaming提供了滑动窗口操作的支持，从而让我们可以对一个滑动窗口内的数据执行计算操作。
Guff_hys·2023-12-29 20:59

AI训练师常用的ChatGPT通用提示词模板

模型调优：如何优化模型的性能？模型部署：如何将训练好的模型部署到实际应用中？模型监控与维护：如何监控和维护模型的性能和稳定性？模型更新与升级：如何
BTCKing·2023-12-29 18:26

350道java面试题收集整理，包含了上百家企业近年的人才计划！

目录展示一、性能优化面试专栏1、tomcat性能优化整理1.1、你怎样给tomcat调优？1.2、如何加大comc
Java阿七·2023-12-29 18:41

Kafka 初识

是一个分布式、支持分区的、多副本的，基于zookeeper协调的分布式消息系统，它的最大特点就是可以实时的处理大量数据以满足各种需求场景：比如基于Hadoop的批处理系统、低延迟的实时系统、storm/spark
Advancer-lbh·2023-12-29 14:56

9.Spark Core-Spark经典案例之非结构数据处理

需求：根据tomcat日志计算url访问了情况，具体的url如下，要求：区别统计GET和POSTURL访问量结果为：访问方式、URL、访问量测试数据集：在CODE上查看代码片派生到我的代码片196.168.2.1--[03/Jul/2014:23:36:38+0800]“GET/course/detail/3.htmHTTP/1.0”200384350.038182.131.89.195--[03
__元昊__·2023-12-29 14:25

Spark集群- 连接hadoop、hive集群

目的使spark代码提交到集群运行时，能够操作hdfs、hive等保证所有spark机器都能解析hadoop集群的机器名称如果spark和hadoop部署在同样的集群，则可以省略这一步如果spark和hadoop
heichong·2023-12-29 13:59

最新AI系统ChatGPT网站系统源码，Midjourney绘画，GPT语音对话+ChatFile文档对话总结+DALL-E3文生图+思维导图一站式解决方案

一、前言SparkAi创作系统是基于ChatGPT进行开发的Ai智能问答系统和Midjourney绘画系统，支持OpenAI-GPT全模型+国内AI全模型。
白云如幻·2023-12-29 10:05

Spark相关

1、Spark运行模式1、local：运行在一台机器上。测试用。2、Standalone：是Spark自身的一个调度系统。对集群性能要求非常高时用。国内很少使用。
大数据点滴·2023-12-29 09:29

seatunnel同步oracle到clickhouse问题

拷贝oracle的包ojdbc6-11.2.0.4.jar到/opt/spark-2.3.3/jar目录下##HowtosolvetheError`Exceptioninthread"main"java.lang.NoSuchFieldError
lin502·2023-12-29 09:58

spark数据分析（sogou500w数据集）

1.实验环境1.1操作系统macOSMojave10.14.11.2虚拟化软件VMwareFusion1.3虚拟机操作系统ubuntu18.0464位1.4数据sogou500w数据2.实验步骤和方法流程2.1安装jdk前往官网下载jdk1.8，安装位置为/home/kyle/env。2.1.2配置环境变量vsudovim/etc/profileexportJAVA_HOME=/home/kyle
pacmoc·2023-12-29 08:45

spark 并行度

并行度的解释：并行度：是一个spark应用中，每个stage之中的task的数目。什么是task:一个spark应用任务执行的最基本单位。
流砂月歌·2023-12-29 07:44

【Spark精讲】一文讲透Spark RDD

MapReduce的缺陷MR虽然在编程接口的种类和丰富程度上已经比较完善了，但这些系统普遍都缺乏操作分布式内存的接口抽象，导致很多应用在性能上非常低效。这些应用的共同特点是需要在多个并行操作之间重用工作数据集，典型的场景就是机器学习和图应用中常用的迭代算法(每一步对数据执行相似的函数)。RDDRDD是只读的。RDD五大属性：①分区、②依赖、③计算函数、④分区器、⑤首选运行位置。RDD则是直接在编程
话数Science·2023-12-29 07:36

【Spark精讲】一文讲透Spark宽窄依赖的区别

宽依赖窄依赖的区别窄依赖：RDD之间分区是一一对应的宽依赖：发生shuffle，多对多的关系宽依赖是子RDD的一个分区依赖了父RDD的多个分区父RDD的一个分区的数据，分别流入到子RDD的不同分区特例：cartesian算子对应的CartesianRDD，是通过创建了两个NarrowDependency完成了笛卡尔乘积操作，属于窄依赖。窄依赖搜索源码，RangeDependency只有UnionR
话数Science·2023-12-29 07:06

[spark] dataframe的数据导入Mysql5.6

在Spark项目中使用Scala连接MySQL5.6并将DataFrame中的数据保存到MySQL中的步骤如下：添加MySQL连接驱动依赖：在Spark项目中，你需要在项目的构建工具中添加MySQL连接驱动的依赖
言之。·2023-12-29 07:02

SparkStreaming与Kafka整合

1.3SparkStreaming与Kafka整合1.3.1整合简述kafka是做消息的缓存，数据和业务隔离操作的消息队列，而sparkstreaming是一款准实时流式计算框架，所以二者的整合，是大势所趋
Guff_hys·2023-12-29 06:55

【数据采集与预处理】数据接入工具Kafka

（一）Kafka核心组成（二）写入流程（三）Zookeeper存储结构（四）Kafka消费过程四、Kafka准备工作（一）Kafka安装配置（二）启动Kafka（三）测试Kafka是否正常工作五、编写SparkStreaming
Francek Chen·2023-12-29 06:55

字节跳动 MapReduce - Spark 平滑迁移实践

摘要：本文整理自字节跳动基础架构工程师魏中佳在本次CommunityOverCodeAsia2023中的《字节跳动MapReduce-Spark平滑迁移实践》主题演讲。
字节跳动云原生计算·2023-12-29 06:20

Spark权威指南(中文版)--第23章 生产环境中的结构化流

SparkTheDefinitiveGuide(Spark权威指南)中文版。本书详细介绍了Spark2.x版本的各个模块，目前市面上最好的Spark2.x学习书籍！！！
登峰大数据·2023-12-29 06:00

自动分区推断

SparkSQL中的Parquet数据源，支持自动根据目录名推断出分区信息。例如，如果将人口数据存储在分区表中，并且使用性别和国家作为分区列。
一个人一匹马·2023-12-29 05:04

机器学习库Scikit-learn

3.2Scikit-learn概述3.3Scikit-learn主要用法3.3.1基本建模流程3.3.2数据预处理3.3.3监督学习算法3.3.4无监督学习算法3.3.5评价指标3.3.6交叉验证及超参数调优
风度78·2023-12-29 04:48

2022-02-24-Spark-44(性能调优通用调优)

1.应用开发的原则原则一：坐享其成我们应该尽可能地充分利用Spark为我们提供的“性能红利”，如钨丝计划、AQE、SQLfunctions等等。
冰菓_lam·2023-12-29 03:14

Hive安装笔记——备赛笔记——2024全国职业院校技能大赛“大数据应用开发”赛项——任务2：离线数据处理

将下发的ds_db01.sql数据库文件放置mysql中12、编写Scala代码，使用Spark将MySQL的ds_db01库中表user_info的全量数据抽取到Hive的ods库中表user_info
Stitch .·2023-12-29 02:29

Hbase - 自定义Rowkey规则

中我们有时候需要分析数据1点到2点的范围,可是经过Region又比较慢，这时候我们就可以定制`TableInputFormat`来实现我们的需求了，我们还可以采用Flink的`DataSet`的方式读取,另外下面还有`Spark
kikiki5·2023-12-29 01:49

Spark 集群搭建

文章目录搭建前准备安装搭建解压并重命名环境变量配置配置文件yarn-site.xmlspark-env.sh官网求π(PI)案例启动spark-shell通过浏览器查看显示查看Spark的网页信息展示搭建前准备下载地址
撕得失败的标签·2023-12-29 00:42

Java基础-JVM调优-参数调优

Java工程师知识树/Java基础JVM参数配置如JAVA_OPTS="JAVA_OPTS-Xmx512m-Xms512m-Xmn170m-Xss128k-XX:NewRatio=4-XX:SurvivorRatio=4"例子讲解：1）-Xmx512m：设置Java虚拟机的堆最大可用内存大小，单位：兆；整个堆大小=年轻代+年老代+持久代。持久代一般固定65m。2）-Xms512m：设置Java虚拟
HughJin·2023-12-29 00:23

Hive和Spark生产集群搭建（spark on doris）

bigdata-001bigdata-002bigdata-003bigdata-004bigdata-005MySQL-8.0.31mysqlDataxDataxDataxDataxDataxDataxSpark
tuoluzhe8521·2023-12-28 23:56
上一页 39 40 41 42 43 44 45 46 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他