E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
spark从入门到放弃
最新AI创作系统ChatGPT源码,Midjourney绘画系统,GPT语音对话+ChatFile文档对话总结+DALL-E3文生图+思维导图+GPT-4识图理解+自定义知识库一站式解决方案
一、前言
Spark
Ai创作系统是基于ChatGPT进行开发的Ai智能问答系统和Midjourney绘画系统,支持OpenAI-GPT全模型+国内AI全模型。
白云如幻
·
2024-01-06 20:14
人工智能
软件源码
AIGC
人工智能
chatgpt
语音识别
midjourney
开源软件
Spark
(三十九)数据倾斜解决方案之使用随机key实现双重聚合
一、方案使用随机key实现双重聚合1、原理2、使用场景(1)groupByKey(2)reduceByKey比较适合使用这种方式;join,咱们通常不会这样来做,后面会讲三种,针对不同的join造成的数据倾斜的问题的解决方案。1、第一轮聚合的时候,对key进行打散,将原先一样的key,变成不一样的key,相当于是将每个key分为多组;2、先针对多个组,进行key的局部聚合;接着,再去除掉每个key
文子轩
·
2024-01-06 17:41
高可用分布式部署
Spark
、完整详细部署教程
前言
Spark
是UCBerkeleyAMPLab开源的通用分布式并行计算框架。
一座野山
·
2024-01-06 16:15
spark
bigdata
hadoop
分布式
spark
大数据
linux
Spark
Streaming与数据源连接:Kinesis、Flume等
Apache
Spark
Streaming是一个强大的工具,可用于处理实时数据流。
晓之以理的喵~~
·
2024-01-06 16:13
Spark
spark
flume
大数据
Spark
Streaming的容错性与高可用性
Apache
Spark
Streaming是一个强大的工具,用于实时数据处理和分析,具备卓越的容错性和高可用性。
晓之以理的喵~~
·
2024-01-06 16:13
Spark
spark
大数据
分布式
使用Kafka与
Spark
Streaming进行流数据集成
为了实现实时数据集成和分析,组合使用ApacheKafka和Apache
Spark
Streaming是一种常见的做法。
晓之以理的喵~~
·
2024-01-06 16:43
Spark
kafka
spark
分布式
Spark
MLlib简介与机器学习流程
Apache
Spark
MLlib是一个强大的机器学习库,可以在分布式大数据处理环境中进行机器学习任务。本文将深入介绍
Spark
MLlib的基本概念、机器学习流程以及提供详细的示例代码。
晓之以理的喵~~
·
2024-01-06 16:34
Spark
spark-ml
机器学习
人工智能
Spark
大数据分析与实战笔记(第二章
Spark
基础-04)
文章目录每日一句正能量引言章节概要2.4体验第一个
Spark
程序2.4.1运行
Spark
官方示例
Spark
Pi总结每日一句正能量“春风十里,不如你。”
想你依然心痛
·
2024-01-06 15:22
#
Spark大数据分析与实战
spark
笔记
大数据
Spark
大数据分析与实战笔记(第二章
Spark
基础-03)
文章目录每日一句正能量章节概要2.3
Spark
运行架构与原理2.3.1基本概念2.3.2
Spark
集群运行架构2.3.3
Spark
运行基本流程总结每日一句正能量又回到了原点,就从现在开始我的新生活吧。
想你依然心痛
·
2024-01-06 15:52
#
Spark大数据分析与实战
spark
架构
原理
【数据采集与预处理】流数据采集工具Flume
解压安装包(三)配置环境变量(四)查看Flume版本信息四、Flume的运行(一)Telnet准备工作(二)使用Avro数据源测试Flume(三)使用netcat数据源测试Flume五、Flume作为
Spark
Streaming
Francek Chen
·
2024-01-06 14:07
Spark编程基础
大数据技术基础
flume
大数据
spark
分布式
Spark
入门案例
Spark
shell简介启动
Spark
shell进入
Spark
安装目录后执行
spark
-shell--mastermaster就可以提交
Spark
任务
Spark
shell的原理是把每一·行Scala代码编译成类
我像影子一样
·
2024-01-06 10:13
spark
大数据
Spark
集群搭建
Spark
集群结构图名词解释Driver该进程调用
Spark
程序的main方法,并且启动
Spark
ContextClusterManager该进程负责和外部集群工具打交道,申请或释放集群资源Worker
我像影子一样
·
2024-01-06 09:43
Spark
大数据
spark
大数据
Spark
概述
Spark
概述
Spark
是什么Apache
Spark
是一个快速的,多用途的集群计算系统,相对于HadoopMapReduce将中间结果保存在磁盘中,
Spark
使用了内存保存中间结果,能在数据尚未写入硬盘时在内存中进行运算
我像影子一样
·
2024-01-06 09:38
Spark
大数据
spark
大数据
Spark
SQL示例1 创建
Spark
实例
添加依赖4.0.0org.baozi
spark
-learning1.02008MyLicensehttp://....repo2.11.82.1.0org.scala-langscala-library
歌哥居士
·
2024-01-06 09:08
OpenHarmony
从入门到放弃
(四)
设计一款使用Harmony开发的App接下来我会通过设计并开发一款资讯类的App来入门OpenHarmony;以下是我对App的设计想法;一、模块划分内容模块:App的核心模块,负责管理和展示资讯内容,具体包括内容获取与处理(负责从各种来源(如新闻网站、社交媒体等)获取和解析资讯内容)、内容分类与标签(对获取的资讯进行分类和标签化,方便用户浏览和搜索)、内容推荐系统(利用机器学习算法,根据用户的阅
Kevin写代码
·
2024-01-06 05:23
HarmonyOS
ios
android
flutter
鸿蒙
鸿蒙系统
harmonyos
OpenHarmony
从入门到放弃
(三)
OpenHarmony
从入门到放弃
(四)OpenHarmony最新的已经使用Ets进行开发了,但是我在使用过程中需要兼容更低的版本,而且大部分的第三方库还是不能使用,所以接下来我还是使用Java进行开发
Kevin写代码
·
2024-01-06 05:53
HarmonyOS
flutter
ios
android
studio
鸿蒙
鸿蒙系统
harmonyos
Flink学习笔记(一):为什么选择flink
流处理的框架不是很多么Q:流处理框架有很多中,比如前面提到的
spark
,storm等,为什么选flink?
胖胖的战士
·
2024-01-06 05:48
Flink
flink
大数据处理
StreamPark + PiflowX 打造新一代大数据计算处理平台
什么是PiflowXPiFlow是一个基于分布式计算框架
Spark
开发的大数据流水线系统。该系统将数据的采集、清洗、计算、存储等各个环节封装成组件,以所见即所得方式进行流水线配置。简单易用,功能强大。
暗影八度
·
2024-01-06 05:47
大数据
spark
hadoop
flink
minor scratch, fortunately
ThetrafficwassobadthismorningandsoIwasrunninglateforwork.WhenIwa
spark
ingmycar,Ihitthewallwithsomeminorscratch.accidentsdohappen.Fortunately
是团儿呀
·
2024-01-06 03:25
【MLOps】使用Ray缩放AI
Ray正在人工智能工程领域崭露头角,对扩展LLM和RL至关重要
Spark
在数据工程中几乎是必不可少的。Ray正在人工智能工程领域崭露头角。雷是伦敦大学学院
Spark
的继任者。
架构师研究会
·
2024-01-06 01:59
MLOps
人工智能
IT运维
人工智能
Ray
MLops
1.大数据概述
安装结束概述先了解几个常用的网站apache官网hadoop官网hadoopgithubhttps://github.com/apache/xxx[https://github.com/apache/
spark
流月up
·
2024-01-05 23:00
大数据
hadoop
大数据
发行版
模块
搭建Py
Spark
大数据分析环境
担心自己遗忘,便做此纪录。普通的数据分析其实仅仅在PyCharm环境即可做相应的分析。但是如果数据较大,还是要在集群环境里跑会快一些,一下又两种方案:针对数据量不大(不是几十上百个G或者百万条级数据)的情况,为了方便可采用方案一:下图为需要使用到的文件:第一步,安装JDK(如果不确定自己的电脑之前是否装过jdk,可以前往设置——应用——应用和功能——搜索java即可查看是否有jdk,后面的查看自己
TraStar
·
2024-01-05 23:25
python
hadoop
ambari
大数据
spark
大数据全套虚拟机(直接拿来用)
故事背景因为有python的基础,我就跳着学,也就是直接来到了
spark
阶段这个时候被虚拟机难住了,卖家只有视频,给我发了几个虚拟机都不对,没有办法.。我自己去配,在有相关文档的情况下去配置。
中长跑路上crush
·
2024-01-05 23:02
大数据
hadoop
hive
分布式
Spark
学习之
Spark
Core
什么是
Spark
?(官网:http://
spark
.apache.org)https://www.cnblogs.com/lq0310/p/9841647.html
John Stones
·
2024-01-05 22:51
spark
big
data
scala
Hotspot 垃圾回收之ConcurrentMarkSweepGeneration(二) 源码解析
目录一、ModUnionClosure/ModUnionClosurePar二、CMSIsAliveClosure/CM
SParK
eepAliveClosure三、CFLS_LAB1、构造方法和modify_initialization2
孙大圣666
·
2024-01-05 19:07
Hotspot和Linux内核
ModUnionClosure
CFLS_LAB
CMSCollector
spark
的任务提交方式及流程
本地模式local测试用,不多赘述分布式模式standalonestandalone集群是
spark
自带的一个资源调度集群,分为两个角色,master/worker,master负责接收任务请求、资源调度
qzWsong
·
2024-01-05 19:29
spark
spark
大数据
yarn
Apache Doris (六十一):
Spark
Doris Connector - (1)-源码编译
博主个人B栈地址:豹哥教你学编程的个人空间-豹哥教你学编程个人主页-哔哩哔哩视频目录1.
Spark
DorisConnector2.
Spark
与Doris版本兼容
IT贫道
·
2024-01-05 14:40
大数据OLAP体系技术栈
apache
spark
大数据
doris
Iceberg: 列式读取Parquet数据
通过
Spark
读取Parquet文件的基本流程SQL==>
Spark
解析SQL生成逻辑计划树LogicalPlan==>
Spark
创建扫描表/读取数据的逻辑计划结点DataSourceV2ScanRelation
Dreammmming Time
·
2024-01-05 14:55
ICEBERG
spark
Vectorized
Parquet
《Py
Spark
大数据分析实战》-24.数据可视化图表介绍
对大数据技术栈Hadoop、Hive、
Spark
、Kafka等有深入研究,对Data
wux_labs
·
2024-01-05 13:02
PySpark大数据分析实战
数据分析
数据挖掘
大数据
数据科学
PySpark
大数据开发个人简历范本(2024最新版-附模板)
Hadoop大数据运维工程师背景,熟悉相关技术和工具具备良好的团队合作能力,善于沟通和协作具有快速学习新知识和解决问题的能力对于数据科学和分析充满热情,喜欢研究和探索新技术专业技能大数据熟悉Hadoop、
Spark
itLeeyw
·
2024-01-05 13:53
简历怎么写
大数据
简历
简历工具
个人简历
简历模板
Spark
OFF_HEAP
OFF_HEAP
Spark
中RDD提供了几种存储级别,不同的存储级别可以带来不同的容错性能,例如MEMORY_ONLY,MEMORY_ONLY_SER_2...其中,有一种特别的是OFF_HEAPoff_heap
尼小摩
·
2024-01-05 13:18
Spark
调优解析-GC调优3(七)
1GC调优
Spark
立足内存计算,常常需要在内存中存放大量数据,因此也更依赖JVM的垃圾回收机制。
有语忆语
·
2024-01-05 12:54
大数据之Spark
spark
大数据
分布式
Spark
调优解析-
spark
数据倾斜优化2(七)
1数据倾斜优化1.1为何要处理数据倾斜(DataSkew)什么是数据倾斜对
Spark
/Hadoop这样的大数据系统来讲,数据量大并不可怕,可怕的是数据倾斜。何谓数据倾斜?
有语忆语
·
2024-01-05 12:53
大数据之Spark
spark
大数据
分布式
Spark
调优解析-
spark
shuffle和程序开发优化2(七)
1Shuffle调优1.1调优概述大多数
Spark
作业的性能主要就是消耗在了shuffle环节,因为该环节包含了大量的磁盘IO、序列化、网络数据传输等操作。
有语忆语
·
2024-01-05 12:49
大数据之Spark
spark
大数据
分布式
python 并发、并行处理、分布式处理
定义协程阻塞代码->非阻塞ThreadPoolExecutor3.响应式编程被观察者运算符4.并行编程线程进程使用多个进程接口Executor,ProcessPoolExecutor5.锁6.分布式处理daskpy
spark
mpi4py
cjz0422
·
2024-01-05 12:18
分布式
【蓝桥杯学习笔记】7. 哈曼夫树
质数判断【蓝桥杯学习笔记】5.矩阵乘法【蓝桥杯学习笔记】6.一图看懂差分数组+《小明的彩灯》文章目录系列文章目录前言一、曼哈夫树简介二、代码实现list实现queue库实现总结前言蓝桥本笔记-----
从入门到放弃
本片文章使用
Master_L u
·
2024-01-05 11:16
蓝桥杯
python
蓝桥杯
Spark
SQL(六):JDBC数据源
Spark
SQL支持使用JDBC从关系型数据库(比如MySQL)中读取数据。读取的数据,依然由DataFrame表示,可以很方便地使用
Spark
Core提供的各种算子进行处理。
雪飘千里
·
2024-01-05 11:12
Spark
内核解析-部署模式解析8(六)
1、部署模式解析1.1部署模式概述
Spark
支持的主要的三种分布式部署方式分别是standalone、
spark
onmesos和
spark
onYARN。
有语忆语
·
2024-01-05 10:06
大数据之Spark
spark
大数据
分布式
Spark
内核解析-内存管理7(六)
1、
Spark
内存管理
Spark
作为一个基于内存的分布式计算引擎,其内存管理模块在整个系统中扮演着非常重要的角色。理解
Spark
内存管理的基本原理,有助于更好地开发
Spark
应用程序和进行性能调优。
有语忆语
·
2024-01-05 10:36
大数据之Spark
spark
ajax
javascript
Spark
调优解析-
spark
调优基本原则1(七)
1调优基本原则1.1基本概念和原则首先,要搞清楚
Spark
的几个基本概念和原则,否则系统的性能调优无从谈起:每一台host上面可以并行N个worker,每一个worker下面可以并行M个executor
有语忆语
·
2024-01-05 10:36
大数据之Spark
spark
javascript
java
Spark
内核解析-整体概述1(六)
1、
Spark
整体概述1.1整体概念Apache
Spark
是一个开源的通用集群计算系统,它提供了High-level编程API,支持Scala、Java和Python三种编程语言。
有语忆语
·
2024-01-05 10:35
大数据之Spark
spark
大数据
分布式
Spark
内核解析-
Spark
shuffle6(六)
1、
Spark
Shuffle过程1.1MapReduce的Shuffle过程介绍Shuffle的本义是洗牌、混洗,把一组有一定规则的数据尽量转换成一组无规则的数据,越随机越好。
有语忆语
·
2024-01-05 10:35
大数据之Spark
spark
java
大数据
Spark
Streaming基础解析(四)
1、
Spark
Streaming概述1.1
Spark
Streaming是什么
Spark
Streaming用于流式数据的处理。
有语忆语
·
2024-01-05 10:05
大数据之Spark
SparkStreaming
Spark
内核解析-脚本解析2(六)
2、脚本解析在看源码之前,我们一般会看相关脚本了解其初始化信息以及Bootstrap类,
Spark
也不例外,而
Spark
中相关的脚本如下:%
SPARK
_HOME%/sbin/start-master.sh
有语忆语
·
2024-01-05 10:05
大数据之Spark
spark
ajax
大数据
Spark
内核解析-数据存储5(六)
1、
Spark
的数据存储
Spark
计算速度远胜于Hadoop的原因之一就在于中间结果是缓存在内存而不是直接写入到disk,本文尝试分析
Spark
中存储子系统的构成,并以数据写入和数据读取为例,讲述清楚存储子系统中各部件的交互关系
有语忆语
·
2024-01-05 10:05
大数据之Spark
spark
microsoft
大数据
Spark
基础解析(一)
1、
Spark
概述1.1什么是
Spark
1.2
Spark
内置模块
Spark
Core:实现了
Spark
的基本功能,包含任务调度、内存管理、错误恢复、与存储系统交互等模块。
有语忆语
·
2024-01-05 10:04
大数据之Spark
spark
大数据
分布式
2024.1.4
Spark
Core ,RDD ,算子
的五大特点四.算子五.分区算子,重分区算子,聚合算子,关联算子分区算子:重分区算子聚合算子关联算子:一.RDD(弹性分布式数据集)Resilent弹性Distrbuted分布式Dataset数据集1.rdd是
Spark
白白的wj
·
2024-01-05 10:01
spark
大数据
分布式
python
Spark
Core基础解析(二)
1、RDD概述1.1什么是RDDRDD(ResilientDistributedDataset)叫做分布式数据集,是
Spark
中最基本的数据抽象。
有语忆语
·
2024-01-05 10:58
大数据之Spark
spark
Sparkcore
RDD
Spark
内核解析-节点启动4(六)
Master作为Endpoint的具体实例,下面我们介绍一下Master启动以及OnStart指令后的相关工作1.1脚本概览下面是一个举例:/opt/jdk1.7.0_79/bin/java-cp/opt/
spark
有语忆语
·
2024-01-05 10:12
大数据之Spark
spark
java
ajax
【
Spark
精讲】RDD共享变量:广播变量与累加器
在
Spark
中,提供了两种类型的共享变量:广播变量(broadcastvariable)与累加器(accumulator)广播变量:主要用于在节点间高效分发大对象。
话数Science
·
2024-01-05 10:42
大数据
Spark精讲
Spark
spark
大数据
上一页
20
21
22
23
24
25
26
27
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他