hadoop2.6.5 scala2.11.12 spark2.3.0安装配置及出现的问题(单机版伪分布式)

hadoop2.6.5 scala2.11.12 spark2.3.0安装配置及出现的问题(单机版伪分布式)
操作系统是deepin linux

1.安装配置Hadoop 、JDK、SSH服务可参考以下链接
超详细单机版搭建hadoop环境图文解析 四叶草Grass
2.scala安装配置可参考以下链接
Spark伪分布安装(依赖Hadoop) Marho11
3.spark安装配置也是参考2中的链接配置即可
Spark伪分布安装(依赖Hadoop) Marho11
*好了,正常来说,按照上面链接中,一步一步的安装,基本上是不会有问题的,但是,需要做一些改变,否则也会不行的
比如我自己…

*
安装配置spark中出现的问题:文件权限问题,导致无法在/usr/local/spark 文件夹中创建日志文件夹logs,由此导致后面无法创建work文件夹,自然就无法运行spark
1.在按照上面链接的指导安装配置好spark后,在/usr/local/spark/sbin 中启动了start-all.sh后,出现以下提示:
mkdir: 无法创建目录"/usr/local/spark/logs": 权限不够
chown: 无法访问’/usr/local/spark/logs’: 没有那个文件或目录
hadoop2.6.5 scala2.11.12 spark2.3.0安装配置及出现的问题(单机版伪分布式)_第1张图片
一开始的解决办法是自己在/usr/local/spark 文件夹中mkdir一个logs文件夹,然后发现可以继续运行了,但还是没有jps 出worker,master
2.接着出现的问题如下图所示:
hadoop2.6.5 scala2.11.12 spark2.3.0安装配置及出现的问题(单机版伪分布式)_第2张图片
所有提示都表明,这是文件权限问题,不是只创建一个logs文件就能解决的问题,那么是哪出问题了呢
hadoop2.6.5 scala2.11.12 spark2.3.0安装配置及出现的问题(单机版伪分布式)_第3张图片
是整个spark文件的权限问题,spark没有给权限给用户,也就是users@xxx_PC 中的users 解决办法如下
1.cd /usr/local
2.sudo chown -R users spark
3.问题解决,进入/usr/local/spark中运行./sbin/start-all,sh
然后
hadoop2.6.5 scala2.11.12 spark2.3.0安装配置及出现的问题(单机版伪分布式)_第4张图片

你可能感兴趣的:(大数据环境配置)