E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
spar
Zeppelin 安装配置的一些问题(zeppelin-0.6.0与spark-1.6.x匹配)
dequn.github.io/2016/11/20/zeppelin-installation-and-settings/#1-版本问题)1.版本问题Zeppelin从0.6.1版本开始,默认是基于
Spar
风恋绝尘
·
2019-12-15 03:22
大数据学习day22------spark05------1. 学科最受欢迎老师解法补充 2. 自定义排序 3. spark任务执行过程 4. SparkTask的分类 5. Task的序列化 6. Task的多线程问题
{Partitioner,SparkConf,SparkContext}importorg.apache.
spar
一y样
·
2019-12-09 23:00
SPARK优化
在生产环境中,提交spark作业时,用的spark-submitshell脚本,里面调整对应的参数:/usr/local/spark/bin/spark-submit\--classcn.
spar
miss幸运
·
2019-12-01 22:55
Spark shuffle
所以
spar
0_9f3a
·
2019-11-29 05:57
22Spark任务处理流程
一些重要术语`client,用户编写的spark任务提交程序master,
spar
葡萄喃喃呓语
·
2019-11-06 22:29
探索你不知道的矛盾(上)
这个问题由芝诺提出的,这就是世界上非常出名的芝诺悖论(Zeno'
sPar
点融黑帮
·
2019-11-04 20:08
pycharm 配置spark 2.2.0
1.打开pycharm,新建一个工程2.点击run--EditConfiguration..3.配置3.1新建Python,起个名3.2配置script,指向你要引用
spar
TimiPai
·
2019-11-03 01:19
Hadoop Day01~大数据课程介绍
HadoopMapreduce数据的处理流程:收集数据—>web服务器,打日志–flume,sqoop–>hadoop(hdfs)----->数据的清理----->数据统计----->mapreduce(
spar
buzhidaoyaa
·
2019-08-29 17:33
7.推荐系统之SparkSQL
底层很多东西还是依赖于Hive,修改了内存管理、物理计划、执行三个模块2014年6月1日的时候,Spark宣布了不再开发Shark,全面转向
Spar
Sssssss_A
·
2019-08-26 20:59
推荐系统
Spark-01 spark简介
这里用
spar
WU大雄
·
2019-08-16 22:00
Spark Streaming中读取数据的两种方式:基于Receiver的方法,基于Direct方法
与所有接收器一样,从Kafka通过Receiver接收的数据存储在Spark执行器中,然后由
Spar
无名一小卒
·
2019-08-11 20:15
Spark
4. Spark SQL数据源
修改配置项
spar
铖歌
·
2019-07-26 09:00
数据结构——稀疏数组
链式存储结构的线性表称为链表,链表中元素不一定连续,元素节点中存放数据元素以及相邻节点的地址信息(4)常见的线性结构:数组、队列、链表和栈非线性结构:包括二维数组、多维数组、广义表、树结构、图结构2.稀疏数组
spar
LiLiLiLaLa
·
2019-07-16 23:30
数据结构和算法
基于隐语义模型(LFM)的协同过滤推荐算法(ALS)
确实写的少是门优秀的机器学习语言,但是spark是大环境所趋,scala开发后放进MongoDB里也是很合时宜的选择,贴一下scala的代码,后面发现更好用的函数也会优化代码importorg.apache.
spar
Jacquelin_1
·
2019-06-15 10:14
spark-mllib
记录解决spark任务提交集群jar冲突
包冲突解决方法:ES集成search-guard安全认证使用到netty包,和spark的netty-all-4.0.29.Final.jar冲突,试过把spark集群的jar包删掉,换我项目的netty包,但是
spar
快乐风男丶
·
2019-06-11 10:57
基于Hadoop集群的Spark集群搭建
(5)使环境变量生效并进入scala命令行测试;(6)解压scala压缩包并放置指定目录;(7)添加环境变量(8)生效环境变量并测试spark(source.bash_profile)(9)单机版网页
spar
慕容泰
·
2019-05-31 08:28
Linux
【4.分布式计算】spark
本文介绍
spar
梦想家
·
2019-04-28 00:00
spark
Spark sql理论简介
所有
Spar
lds_include
·
2019-04-14 17:13
大数据
Spark
Spark入门篇------Spark环境的配置(macOS)
请戳这里2.Ecilpse配置(Scala插件安装)首先你得有一个eclipse然后Help>>EclipseMarketplace搜索scala插件安装ScalaIDE4.7.x3.下载Spark下载
spar
life_stranded
·
2019-04-10 20:57
机器学习
spark
windows10+pycharm+Spark
ImportError:Nomodulenamedresource,spark2.3无此报错1、下载并安装好jdk1.8、python和pycharm(此处安装过程省略)2、Spark环境变量配置①下载
Spar
chen1306541
·
2019-04-08 09:38
提交第一个spark程序,以及中间遇到的坑
/sbin/start-master.sh运行语句bin/spark-submit--masterspark://hdp01:7077--classorg.apache.
spar
呼和浩特-大数据-白胖子
·
2019-04-01 22:26
spark
算法小白的第一次尝试---多元线性回归
{DataFrame,Row,
Spar
小糖宝
·
2019-03-20 23:55
机器学习
算法
Spark
小白的算法之路
Spark、Hadoop实际操作使用
但是我说了我的想法之后被老大果断丢弃掉了(这批数据量很大,而且还的在线上查询,这样对数据库影响很大),于是告诉了我了解一下:hadoop、
spar
IT__LiangChen
·
2019-03-08 18:53
框架开发
linux系统管理
spark学习 - Spark体系结构和源代码解析
RDD.scala解析RDDExample宽依赖和窄依赖宽依赖和窄依赖StageStage执行优化Spark执行流程Spark执行流程Yarn资源调度过程SparkonYarnSpark内存模型Yarn资源调度过程
Spar
-无妄-
·
2019-02-28 16:13
Spark学习笔记
Spark 之 Datasets 创建方式
_;valdf=
spar
颓废的大饼
·
2019-02-13 17:03
Spark
Spark
Spark shuffle调优之 合并map端输出 基于HashShuffle
Spar
chixushuchu
·
2018-12-18 15:17
实战
Spark 内存管理 以及oom处理
Spar
chixushuchu
·
2018-12-17 17:41
实战
Spark Core 学习笔记
2、
Spar
猪联璧何
·
2018-12-15 11:16
Spark Core 学习笔记
2、
Spar
猪联璧何
·
2018-12-15 11:16
Spark SQL,如何将 DataFrame 转为 json 格式
importorg.apache.spark.sql.SparkSessionvalspark=
Spar
zzzzMing
·
2018-12-06 20:23
scala
大数据计算
大数据
Spark SQL,如何将 DataFrame 转为 json 格式
importorg.apache.spark.sql.SparkSessionvalspark=
Spar
zzzzMing
·
2018-12-06 20:00
Container killed by YARN for exceeding memory limits. 10.4 GB of 10.4 GB physical memory used
首先可以肯定的一点是增加
spar
lmb633
·
2018-12-05 17:29
spark
Spark SQL从MySQL中加载数据以及将数据写入到mysql中 Spark Shell方式 Spark SQL程序
1.1.从MySQL中加载数据(
Spar
这个脑子不好使的
·
2018-11-07 23:34
Webank(微众银行)实习总结
从6月20号至8月31日,我所做的工作以及技术栈整理如下:1、kylin+Mondrian+saiku/kylin+tableau性能对比Kylin介绍:Kylin是为减少在Hadoop/
Spar
程序员xiao_明
·
2018-09-20 03:45
java
数据库
python
网络
Spark的调度系统
其次,就是每个SparkApplication都会有若干Jobs(SparkActions),然后这些job是以何种机制,在Executor上执行的,也是需要一个调度管理的机制,该层面调度也可以理解为
Spar
有梦想的人不睡觉121
·
2018-08-23 09:59
spark
精通Apache Flink必读系列文章
从生态上来说,二者都有SQL、机器学习、图计算等基本的组件,但是
Spar
列国周游
·
2018-08-17 00:00
大数据
ApacheBeam
Flink
Spark架构原理-Spark运行架构剖析
2、Driver(驱动程序):Spark中的Driver即运行Application的main方法,并且创建
Spar
Anbang713
·
2018-08-12 09:58
大数据/Spark/Spark
Core
Spark的RDD操作和描述_2
packagecom.lyl.it;importjava.util.Arrays;importjava.util.List;importorg.apache.spark.SparkConf;importorg.apache.
spar
IT影风
·
2018-08-02 15:23
GeoJson格式与转换(shapefile)Geotools
有些人认为随着Spark的兴起和应用,Hadoop的MapReduce计算框架已经过时(而事实也是如此),
Spar
diancheng4428
·
2018-07-11 09:00
大数据项目实战必备技能之Spark
它基于Rdd(弹性分布式数据集),立足于内存计算,因为是基于内存计算,所以提高了在大数据环境下数据处理的实时性,同时保证了高容错和高可伸缩性,允许用户将spark部署在大量廉价的硬件之上,形成集群,由于
spar
琳达老师
·
2018-06-22 16:35
大数据
Spark
AIOpen-开源人工智能汇集项目
项目按照以下目录对开源人工智能项目进行分类展示:data:数据:数据集、数据区块链、Hadoop、
Spar
jamess010
·
2018-06-13 18:22
AI
Open
AIOpen
替代品不少,大家坚持用Hadoop的原因是什么?
Spar
coqonmdrr954803650
·
2018-05-07 15:59
Spark集成Kafka实时流计算Java案例
*;importorg.apache.
spar
gmHappy
·
2018-05-03 16:15
大数据
分布式框架
Kafka
Spark
【DataMagic】如何在万亿级别规模的数据量上使用Spark
文章内容为介绍Spark在DataMagic平台扮演的角色、如何快速掌握
Spar
腾讯云加社区
·
2018-04-18 00:00
spark
01.聚类分析-Kmeans的简单实现
{KMeans,KMeansModel}importorg.apache.spark.mllib.linalg.Vectorsimportorg.apache.
spar
天蓝-fly
·
2018-02-27 10:02
机器学习
Spark 介绍以及相关概念
HadoopMapReduce的通用并行框架,Spark,拥有HadoopMapReduce所具有的优点;但不同于MapReduce的是Job中间输出结果可以保存在内存中,从而不再需要读写HDFS,因此
Spar
很吵请安青争
·
2018-02-09 10:07
Spark
mac上PyCharm集成pyspark、redis、geohash
PYTHONPATH为spark安装路径中的python目录SPARK_HOME为
spar
Hope_wing
·
2018-01-31 19:53
Spark的StandAlone运行模式环境搭建
spark/conf2.将slaves.template修改为slaves:mvslaves.templateslaves3.修改slaves文件,添加spark集群各个节点的hostname:4.将
spar
小小Tiny
·
2018-01-25 14:57
大数据
spark基础-001
利用内存数据存储和接近实时的处理能力,
Spar
云星数据-大数据团队
·
2018-01-19 16:11
Young
平台搭建---Spark Submit提交应用程序
spar
diggerTT
·
2018-01-19 09:03
系统平台搭建
上一页
3
4
5
6
7
8
9
10
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他