E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
HADOOP_HOME
Hive
语言来操作Hadoop,底层会将SQL转化为MapReduce来执行,所以效率会比较低Hive适应于离线处理要求安装Hive的节点要先安装Hadoop,解压完成之后,在启动Hive的时候自动去找环境变量中的
HADOOP_HOME
宰祖宣
·
2020-08-17 19:53
Linux下安装hadoop
tar.gz-C/root/hadoop/2、设置环境变量:vi~/.bash_profileHADOOP_HOME=/root/hadoop/hadoop-2.4.1exportHADOOP_HOMEPATH=$
HADOOP_HOME
yx726843014
·
2020-08-17 17:30
hadoop
hadoop单点运行方式
Hadoop的单节点集群运行的启动步骤1.安装教程请查看博客《hadoop安装》;2.格式化HDFS:$
HADOOP_HOME
/bin/hdfsnamenode-format3.启
zh_ITRoad
·
2020-08-17 04:13
hadoop
Hadoop学习笔记2:eclipse运行Mapreduce程序问题总结
nullchmod0700解决办法:在https://github.com/SweetInk/hadoop-common-2.7.1-bin中下载winutils.exe,libwinutils.lib拷贝到%
HADOOP_HOME
pigcoffee
·
2020-08-16 19:57
hadoop
hadoop
mapreduce
eclipse
hadoop入门:hadoop使用shell命令总结
第一部分:HadoopBin后面根据项目的实际需要HadoopBin包括:Hadoophadoop的Shellhadoop-config.sh它的作用是对一些变量进行赋值
HADOOP_HOME
(hadoop
JIAOSHOUJIE
·
2020-08-16 18:50
hadoop面试题整理(一)
etc/profile)2)关闭防火墙3)配置hosts文件,方便hadoop通过主机名访问(/etc/hosts)4)设置ssh免密码登录5)解压缩hadoop安装包,并配置环境变量6)修改配置文件($
HADOOP_HOME
zdp072
·
2020-08-16 17:17
面试题精选
hadoop streaming 命令
1Streaming命令使用下面的命令运行StreamingMapReduce程序:$
HADOOP_HOME
/bin/hadoopstreamingargs其中args是streaming参数,下面是参数列表
alexingcool
·
2020-08-16 12:49
Hadoop
Eclipse上搭建hadoop环境【含编译hadoop2x-eclipse-plugin插件】
http://hadoop.apache.org/releases.html注意:hadoop版本必须与搭建hadoop集群的版本一致我这里用的是hadoop2.6.1环境变量的配置在系统环境变量中添加
HADOOP_HOME
子不语mio
·
2020-08-16 08:21
Windows ,PySpark 访问远程 Hive 环境搭建
配置环境变量`JAVA_HOME`,因为Hadoop需要依赖Java环境Hadoop环境配置可以去ApacheHadoop官网下载需要的Hadoop版本,[Apache.Hadoop下载地址][1]解压,配置
HADOOP_HOME
灰灰鲁伊
·
2020-08-16 07:07
大数据
如何修改Hadoop和Hbase的日志级别
Hadoop使用的是log4j记录日志,所以去修改${
HADOOP_HOME
}/etc/hadoop/log4j.properties,但是改完重启,你会发现然并卵!
天少弋
·
2020-08-16 02:54
大数据
centos安装hadoop2.6.4之一台服务器变成多台服务器配置步骤
1.检查各虚拟机的环境变量(每台服务器都要检查)/etc/profile并运行source/etc/profile配置
HADOOP_HOME
和PATH配置上hadoop下的sbin和bin目录2.检查防火墙是否关闭
q35445762
·
2020-08-16 00:04
Hadoop 添加节点和删除节点
namenode的slaves文件增加该节点3.在该节点对ssh,hosts,jdk进行配置,并修改所有节点的/etc/hosts增加该节点映射4.在该节点启动Datanode和Nodemanager$
HADOOP_HOME
AI_skynet
·
2020-08-14 22:55
hadoop
hadoop
添加
删除
节点
datanode
Hive的元数据库从derby迁移到MySQL
Hive的元数据库从derby到MySQL1.安装hive(1)解压tar包(2)修改hive-env.sh修改
HADOOP_HOME
和HIVE_CONF_DIR2.替换默認derby数据库为mysql
稳哥的哥
·
2020-08-14 19:52
Hive
hadoop初始化和测试
的环境变量配置一下gedit/etc/profile在最后面添加exportHADOOP_HOME=/master/hadoop-2.5.2exportPATH=$PATH:$JAVA_HOME/bin:$
HADOOP_HOME
jose_yubin
·
2020-08-14 18:11
Hadoop
Spark-Yarn两种提交方式(client、cluster)
修改conf/spark-env.sh,添加:exportHADOOP_CONF_DIR=$
HADOOP_HOME
/etc/hadoop#hadoop配置文件如果需要连接hive,需先启动hive服务(
oJueQiang123456
·
2020-08-14 18:27
Spark
2-1_Linux下hadoop安装及配置
Linux下hadoop安装及配置解压tarzxvfhadoop-2.10.0.tar.gz-C~/softwares设置软连接ln-shadoop-2.10.0/hadoop配置环境变量
HADOOP_HOME
小Y_SC
·
2020-08-14 05:42
Hadoop
hadoop和linux命令大全
Linux的命令source/etc/profile文件生效命令-->jsp(java)的检测bin/hadoopchecknative//查看hadoop的支持状态echo$
HADOOP_HOME
//
不由不该-
·
2020-08-12 13:26
学会安装配置Windows hadoop3.1.3
2.配置环境:首先新建一个
HADOOP_HOME
环境变量:然后在path环境变量中添加:hadoop的配置:在hadoop目录下的etc/hadoop下找
itlanmao
·
2020-08-12 00:49
博客
单机伪分布式Hadoop 启动流程(mac10.10.3 ,hadoop-2.5.2)
$
HADOOP_HOME
/bin/hadoopnamenode-format$
HADOOP_HOME
/sbin/start-all.sh$
HADOOP_HOME
/bin/hadoopfs-mkdir-pinput
決心
·
2020-08-11 23:04
软件安装
HADOOP编译WordCount.java文件报错
[root@node4hadoop]#javac-classpath${
HADOOP_HOME
}/hadoop-${HADOOP_VERSION}-core.jar-dwordcount_classesWordCount.javaWordCount.java
hanwenshan123
·
2020-08-11 21:25
踩过的坑
Hadoop伪分布式配置
设置环境变量(把Hadoop的Home目录添加到系统环境变量里面去)vim~/.bash_profile在该文件中把Hadoop的home、bin、sbin目录加到path中去,文件末尾添加如下内容:
HADOOP_HOME
幼稚猿
·
2020-08-11 11:19
Python
Hadoop伪分布式配置
centos服务器
Hadoop:安装配置hadoop
安装配置hadoop安装直接执行hadoop任务配置伪分布式模式:修改$
HADOOP_HOME
/etc/hadoop/core-site.xml修改$
HADOOP_HOME
/etc/hadoop/hdfs-site.xml
xuejianbest
·
2020-08-11 05:04
大数据/Hadoop
Hadoop-Eclipse
Windows下解压hadoop的部署包和源码包要找一个没有空格和中文字符的路径(包括JDK的安装目录)将hadoop-2.6.5.dll复制到C:\Windows\System32目录下配置环境变量新建:
HADOOP_HOME
差不多de先生
·
2020-08-11 05:11
Study
本地eclipse运行hadoop程序,操作远程服务器(供理解和入门)
遇到问题1java.io.IOException:Couldnotlocateexecutablenull\bin\winutils.exeintheHadoopbinaries.这是没有配置环境变量
HADOOP_HOME
lvqfly
·
2020-08-11 03:24
随心记
Hadoop多个文件单词计数
2.7.3.tar.gz-C/usr/local/然后更改hadoop-2.7.3的属主sudochown-Rjessin/usr/local/hadoop-2.7.3在/etc/profile下添加
HADOOP_HOME
ac_dao_di
·
2020-08-11 02:41
云计算
Windows版本Pycharm连接Linux hive
就怕后续遇到同样的问题无从下手,先记录再记忆1,我用的是hadoop2.7,spark-2.4.5-hadoop2.7,Anaconda3.6,Pycharm2,下载跟你的Hadoop版本相同的winutil.exe放到%
HADOOP_HOME
Joseph25
·
2020-08-11 02:48
python
windows本地运行hadoop的MapReduce程序
hadoop/core/hadoop-2.6.0/hadoop-2.6.0.tar.gz2.解压之后进行设置环境变量新建HADOOP_HOMED:\software\hadoop-2.6.0Path中增加%
HADOOP_HOME
Java小宝
·
2020-08-11 01:27
如何在Windows中运行MapReduce程序
Windows上配置环境变量解压Hadoop,然后把Hadoop的根目录配置到
HADOOP_HOME
环境变量里面然后把
HADOOP_HOME
/lib和
HADOOP_HOME
/bin配置到path里面。
墨染百城
·
2020-08-10 18:19
Hadoop
大数据框架
mapreduce
windows
hadoop
Windows环境中MR任务的三种运行方式
本地运行解压hadoop安装tar包hadoop-2.5.0-cdh5.3.6.tar.gz,下载地址:http://archive.cloudera.com/cdh5/cdh/5/设置环境变量
HADOOP_HOME
H_Hao
·
2020-08-10 16:07
笔记
大数据学习
在Windows单机环境下运行Hadoop Mapreduce
Windows单机运行具体步骤:1.首先需要在Windows上编写好MapReduce代码.2.在Windows机器上解压安装Hadoop(和Linux系统上使用的是同一个压缩包)3.在Windows上配置
HADOOP_HOME
TTLGain
·
2020-08-10 15:18
Hadoop
Spark记录-spark报错Unable to load native-hadoop library for your platform
解决方案一:#cp$
HADOOP_HOME
/lib/native/libhadoop.so$JAVA_HOME/jre/lib/amd64#源码编译snappy---.
weixin_30832351
·
2020-08-10 11:57
大数据
shell
idea中直接运行spark程序
首先下载hadoop-common-2.6.0-bin-master.rar压缩包(需要和服务器上的Hadoop版本对应),解压到任意目录,然后在环境变量中添加
HADOOP_HOME
,变量值为解压的位置
第一片心意
·
2020-08-09 13:51
IDEA
Hadoop通过C的API访问HDFS
HADOOP_HOM下通过antcompile-c++-libhdfs-Dislibhdfs=true(ant是类似于make的工具,主要应该与java,利用build.xml问价),产生libhdfs.so或者在
HADOOP_HOME
bladelyer
·
2020-08-08 14:15
hadoop
profile.d/hadoop_config.sh##HADOOP_HOMEexportHADOOP_HOME=/opt/module/hadoop-2.10.0exportPATH=$PATH:$
HADOOP_HOME
Michael_lcf
·
2020-08-08 13:03
hadoop
Hadoop2.7.7 API: hadoop-env.sh 解析
home/hadoop/software/jdk1.8.0_171设置JAVAHOMEexportHADOOP_HOME_WARN_SUPPRESS=1压制警告1exportHADOOP_HOME=${
HADOOP_HOME
张伯毅
·
2020-08-06 13:36
Hadoop官方API
工具
API
速查
bash:haoop:command not found
今天配置完Hadoop运行Hadoop命令hadoopfs-ls时出现:bash:haoop:commandnotfound后来经过检查,原来是配置文件中
HADOOP_HOME
变量引用前少了个$,修改完毕后可以正常运行了
炫街舞
·
2020-08-06 13:47
Hadoop/大数据
【Hadoop学起来】Linux配置$
HADOOP_HOME
/etc/hadoop/hadoop-env.sh时找不到JAVA_HOME?
正文之前今天很气愤!!想要学点东西,但是老是被环境所限制。Hadoop这个见鬼的环境,我只是运行单机模式,结果就是都不成功。好不容易磕磕盼盼的终于把啥缺的东西都找出来了结果最后还是失败了。暂时我真的不想去看失败记录,因为快要睡了明天再说吧。另外我这里有《Hadoop权威指南》第三版的翻译版本(华东师范大学翻译)。我今天吃完晚饭去书店逛的时候又看到了第四版的盗版书。所以见猎心喜之下买了回来。如果有哪
weixin_34254823
·
2020-08-06 13:52
hive搭配mysql和hadoop
tar-C~/app2.修改hive配置文件cd~/app/hive-1.1.0-cdh5.7.0/confcphive-env.sh.templatehive-env.shvimhive-env.sh找到#
HADOOP_HOME
高级大数据工程师
·
2020-08-04 06:59
spark搭建和使用,处理massive文件
hadoop1.4.1下载hadoop1.4.2配置环境变量1.4.3添加winutils.exe补丁1.5安装pyspark1.6使用1.6.1创建sparkContext,注意pycharm使用配置
HADOOP_HOME
萤火虫之暮
·
2020-08-04 06:14
分布式
python
Hadoop在启动时的坑——start-all.sh报错
1、若你用的Linux系统是CentOS的话,这是一个坑:它会提示你JAVA_HOME找不到,现在去修改文件:.修改hadoop配置文件,手动指定JAVA_HOME环境变量[${
hadoop_home
}
weixin_34417814
·
2020-08-04 05:52
hadoop伪分布式模式安装
前提条件已安装jdk,以配置jdk环境变量伪分布式模式安装/etc/profile配置环境变量exportHADOOP_HOME=/home/wsx/opt/hadoop-2.8.5exportPATH=${
HADOOP_HOME
wsx_iot
·
2020-08-03 21:36
big
data
启用hive时报以下错误:Cannot find hadoop installation: $
HADOOP_HOME
or $HADOOP_PREFIX must be set or hadoop m
启用hive时报以下错误:Cannotfindhadoopinstallation:$HADOOP_HOMEor$HADOOP_PREFIXmustbesetorhadoopmustbeinthepath解决方法:[admin1@hadoop1~]$cd~/hive/conf/[admin1@hadoop1~]$cphive-env.sh.templatehive-env.sh在hive-env.
DraGon_HooRay
·
2020-08-03 12:29
Hive安装问题
报错
使用python跑spark:windowns使用PySpark环境配置和基本操作
hadoop清华源下载spark清华源下载
HADOOP_HOME
=>/path/hadoopSPARK_HOME=>/path/spark安装pyspark。pipinstallpyspar
Nick_Spider
·
2020-08-03 11:48
python
大数据
pyspark
复习:用Eclipse上传文件到hdfs集群的常见问题
,eclipse;第一步:首先把压缩包解压;第二步:配置环境变量添加一个
HADOOP_HOME
=E:\hadoop2.6.4(填你自己的路径);把%
HADOOP_HOME
%\bin添加到Path中二、程序代码我就不解释了
一溪云~
·
2020-08-03 03:53
Hadoop
SpringBoot --集成HBASE/基于SpringDataHadoop
3.4.9hbase-client中guava版本与SpringDataHadoop(2.4.0.RELEASE)版本中的guava版本问题Springboot的其他章节,需要了解Hostname绑定hadoophome问题,配置
HADOOP_HOME
hxpjava1
·
2020-08-03 00:20
spring
boot
hbase
Hadoop中的MapReduce
一、课程概述依赖jar包$
HADOOP_HOME
/share/hadoop/common$
HADOOP_HOME
/share/hadoop/common/lib$
HADOOP_HOME
/share/hadoop
小鹏求知
·
2020-08-02 21:35
大数据Hadoop
Hadoop Streaming如何传文件夹到集群
Hadoop官方例子如下(最好自己看文档,血的教训):$
HADOOP_HOME
/bin/hadoopjar$
HADOOP_HOME
/hadoop-streaming.jar\-archives'hdfs
sophistcxf
·
2020-08-02 13:14
Hadoop
hadoop上传到hdfs的文件保存在主机的什么位置?
首先找到hdfs-site.xml(cd$
HADOOP_HOME
/etc/hadoop)这个配置文件找到dfs.datanode.data.dir的value值dfs.datanode.data.dirfile
hongxiao2016
·
2020-08-02 13:45
Hadoop Windows环境下安装
链接:https://pan.baidu.com/s/1Mct3sLTyXFuO3G8slafrKA密码:4sf1配置到环境变:环境变量
HADOOP_HOME
中是安装的路径,在PATH里加上%
HADOOP_HOME
成长就是不断进步
·
2020-08-01 14:22
Hadoop
Hive 0.8.1 with MapReduce 0.23.1 单机测试安装
2)修改配置,加入环境变量$
hadoop_home
/etc/hadoop/yarn-env.sh在最前面加入配置:exportJAVA_HOME=/opt/J
cxhzqhzq
·
2020-08-01 11:05
上一页
2
3
4
5
6
7
8
9
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他