E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
hdfs-site.xml
spark2.2.0源码学习过程记录:Day4
1、读《apachespark源码剖析》第四章第1节作业提交我也使用简单的WordCount例子sc.textFile("/
hdfs-site.xml
").flatMap(line=>line.split
猫耳山大王
·
2017-09-02 16:21
spark2.2.0源码学习
spark2.2.0源码学习过程记录:Day4
1、读《apachespark源码剖析》第四章第1节作业提交我也使用简单的WordCount例子sc.textFile("/
hdfs-site.xml
").flatMap(line=>line.split
猫耳山大王
·
2017-09-02 16:21
spark2.2.0源码学习
HA搭建 zkfc启动不起来原因及解决办法
发现是
hdfs-site.xml
配置文件错误。如下:dfs.ha.fencing.methodssshfenceshell(/bin/true)3.修改如下:dfs.ha
ChenS27
·
2017-08-25 14:17
HA搭建 zkfc启动不起来原因及解决办法
发现是
hdfs-site.xml
配置文件错误。如下:dfs.ha.fencing.methodssshfenceshell(/bin/true)3.修改如下:dfs.ha
ChenS27
·
2017-08-25 14:17
hadoop配置文件加载顺序
配置文件加载顺序用了一段时间的hadoop,现在回来看看源码发现别有一番味道,温故而知新,还真是这样的在使用hadoop之前我们需要配置一些文件,hadoop-env.sh,core-site.xml,
hdfs-site.xml
haozhugogo
·
2017-08-16 22:45
大数据
hadoop搭建四个配置文件(core-site.xml
hdfs-site.xml
mapred-site.xml yarn-site.xml )的简单介绍
一、core-site.xmlfs.defaultFShdfs://master:9000hadoop.tmp.dirfile:///usr/hadoop/hadoop-2.6.0/tmpfs.checkpoint.period3600二、hdfs-site.xmldfs.replication2dfs.namenode.name.dirfile:/usr/hadoop/hadoop-2.6.0/
Howie Lee
·
2017-08-10 14:52
Hadoop
Hadoop之旅(1)—单机与伪集群安装、简单经典案例
etc:Hadoop配置文件所在的目录,包括core-site.xml、
hdfs-site.xml
、mapred-site.xml等从Hadoop
陈郑游
·
2017-06-14 18:25
@技术提升
————[
Hadoop
]
Hadoop之旅
spark-local 模式 提示 /tmp/hive hdfs 权限不够的问题
spark版本为2.0在spark在local模式下启动,有时会报/tmp/hivehdfs权限不够的问题,但是我们并没有将
hdfs-site.xml
配置文件放到我们的项目中,spark的文件应该会存在本地电脑上
去买大白兔
·
2017-05-21 11:03
spark
大数据
hadoop
HDFS完全分布式安装
【步骤】•下载•解压•检查java环境和ssh的免密码登陆•修改core-site.xml•修改
hdfs-site.xml
•修改masters文件和slaves文件•复制hadoop配置文件到其他主机上
Wiki-9527
·
2017-05-02 23:46
Hadoop
分布式sparkSQL引擎应用:从远程通过thriftServer连接spark集群处理hive中的数据
步骤:分发三个配置文件
hdfs-site.xml
、core-site.xml、hive-site.xml到所有worker节点==>在有关的库下
Tony_仔
·
2017-05-02 14:10
JAVA
大数据
scala
&
spark
Hbase集群部署计划---安装系列四
安装包tar-zxvfhbase-0.96.2-hadoop2-bin.tar.gz-C/itcast/2.解压3.配置hbase集群,要修改3个文件(首先zk集群已经安装好了)注意:要把hadoop的
hdfs-site.xml
李孟lm
·
2017-04-30 16:46
大数据
hbase
Hadoop2.8.0 HDFS伪分布式布置
设置配置文件etc/hadoop/core-site.xml:fs.defaultFShdfs://localhost:9000etc/hadoop/
hdfs-site.xml
:dfs.replication1dfs.namenode.name.dir
dreamcs
·
2017-04-28 17:04
hadoop
hadoop nfs网关
core-site.xml,加入hadoop.proxyuser.root.groups*允许所有用户组用户代理hadoop.proxyuser.root.hostslocalhost允许挂载的主机域名2.在hadoop下的
hdfs-site.xml
memiracle
·
2017-04-26 20:26
hadoop
Hadoop集群启动顺序和部分命令整理
hbase->hadoop->zookeepeerHadoop主备节点状态查看与手动切换$HADOOP_HOME/bin/hdfshaadmin-getServiceStatenn1注意:此处的nn1为在
hdfs-site.xml
chichuduxing
·
2017-04-09 21:25
Hadoop
高可用Hdfs&HBase配置实践
当写操作完成之后,缓存中的block不会立即被写入磁盘,如果要同步将缓存的block写入磁盘,用户需要将“
hdfs-site.xml
”中的dfs.datano
bryceforphy
·
2017-03-28 22:46
hbase
hadoop
大数据--hbase集群搭建
1.上传hbase安装包2.解压tar-zxvfhbase.gz3.配置hbase集群,要修改3个文件(首先zk集群已经安装好了)注意:要把hadoop的
hdfs-site.xml
和core-site.xml
kang5789
·
2017-03-16 13:14
大数据
Hadoop配置文件及各配置变量的含义
在安装Hadoop时,需要对conf目录下的三个文件进行配置,分别为core-site.xml、
hdfs-site.xml
和mapred-site.xml。
ddxshf
·
2017-03-04 15:45
Hadoop
CDH开启kerberos后,HDFS连接的Java——API参数配置
2.开启后,下载krb5.conf、
hdfs-site.xml
(hdfs的配置文件)和认证用户的.keytab文件3.下面贴出来测试使用的代码impo
gabele
·
2017-01-07 18:21
hadoop
工作日记:Hadoop客户端配置需与集群节点保持一致
于是将所有datanode节点的
hdfs-site.xml
配置文件都作了调整。
alexanda2000
·
2017-01-07 14:20
Hadoop
Hadoop
hbase 安装
阅读更多1.上传hbase安装包2.解压3.配置hbase集群,要修改3个文件(首先zk集群已经安装好了)注意:要把hadoop的
hdfs-site.xml
和core-site.xml放到hbase/conf
baoliangquan
·
2016-12-12 21:00
hbase
hbase 安装
阅读更多1.上传hbase安装包2.解压3.配置hbase集群,要修改3个文件(首先zk集群已经安装好了)注意:要把hadoop的
hdfs-site.xml
和core-site.xml放到hbase/conf
baoliangquan
·
2016-12-12 21:00
hbase
window下eclipse提交hadoop作业遇到的坑
1用户权限问题,由于是windows用户,可能与远程集群用户不一致解决方案:首先集群端/usr/local/Cellar/hadoop/2.7.3/libexec/etc/hadoop/
hdfs-site.xml
嵇康
·
2016-11-28 13:15
大数据
hbase集群搭建
1.上传hbase安装包2.解压3.配置hbase集群,要修改3个文件(首先zk集群已经安装好了)注意:要把hadoop的
hdfs-site.xml
和core-site.xml放到hbase/conf下
琳琳庚主LoveU
·
2016-11-25 14:37
hbase
[完]Hadoop中DataNode在格式化Namenode后无法启动。
打开$HADOOP_HOME/etc/hadoop/
hdfs-site.xml
里配置的datanode和namenode对应的目录,分别打开current文件夹里的VERSION,可以
namelessml
·
2016-11-18 16:46
大数据
hadoop hdfs dfsadmin 介绍
一、hdfsdfsadmin-safemode安全模式NameNode在启动的时候首先进入安全模式,如果datanode丢失的block达到一定的比例(由
hdfs-site.xml
文件中dfs.safemode.threshold.pct
moviebat
·
2016-11-14 14:42
hadoop
dfsadmin
hadoop hdfs dfsadmin 介绍
一、hdfsdfsadmin-safemode安全模式NameNode在启动的时候首先进入安全模式,如果datanode丢失的block达到一定的比例(由
hdfs-site.xml
文件中dfs.safemode.threshold.pct
moviebat
·
2016-09-22 08:11
hadoop
dfsadmin
Hadoop的配置文件
core-site.xml是全局配置;
hdfs-site.xml
和mapred-site.xml分别是hdfs和mapred的局部配置;HDFS端口参数描述默认配置文件例子值fs.default.namenamenodeRPC
593653868
·
2016-09-19 14:36
配置
文件
Hadoop
HDFS一些概念的理解
2.数据拓扑结构(即数据备份):默认存放3份,可以通过修改配置文件
hdfs-site.xml
修改备份数量,如果本机在集群中,第一份就会存放到本节点即本机上,如果不在集群中,就通过负载均衡存放到一个相应的随机节点上
yoghurt2016
·
2016-09-11 15:01
hadoop
HDFS
【总结】Hadoop配置文件
hdfs-site.xml
dfs.ha.automatic-failover.enabledtrue配置是否启动故障恢复,配置此项为true的时候,core-site.xml需要配置ha.zookeeper.quorumdfs.nameservicesns1提供服务的NS逻辑名称,与core-site.xml里的对应;Comma-separatedlistofnameservicesdfs.ha.namenodes.ns1
巧克力黒
·
2016-09-01 21:15
xml
site
hdfs
Hadoop
hadoop的伪分布模式配置
主要配置5个配置文件:core-site.xml、
hdfs-site.xml
、mapred-site.xml、yarn-site.xml、slaves。
liufunan
·
2016-08-14 18:20
Linux
Hadoop2.7.0学习——移除节点
Hadoop2.7.0学习——移除节点添加黑名单文件在主节点的Hadoop安装目录/etc/hadoop目录下添加文件excludes和slaves类似每个节点名一行添加上要移除的节点名hadoop-node2修改
hdfs-site.xml
-贫寒豌豆
·
2016-08-09 16:17
hadoop
hadoop三个配置文件的参数含义说明
http://blog.csdn.net/yangjl38/article/details/75954651获取默认配置配置hadoop,主要是配置core-site.xml,
hdfs-site.xml
chengyougao
·
2016-07-29 15:39
hadoop
分布式
Hadoop-2.7.1单机版安装
阅读更多一、修改配置(core-site.xml、
hdfs-site.xml
、mapred-site.xml、yarn-site.xml)hadoop-2.7.1/etc/hadoop/core-site.xmlfs.default.namehdfs
宋建勇
·
2016-07-15 20:00
hadoop
安装
HADOOP的HA搭建
进入到执行:/soft/hadoop-2.7.1/etc/hadoop_cluster$gedithdfs-site.xml[配置部分][
hdfs-site.xml
]1.配置名称服务:dfs.nameservices
厦小岗
·
2016-07-09 08:22
HADOOP的HA搭建
hadoop零散笔记
安装ssh后要生成一个文件即执行:ssh-keygen-trsa-P""-f~/.ssh/id_rsa最后在soft/haoop/etc/hadoop目录下的三个文件中执行core-site.xml、
hdfs-site.xml
厦小岗
·
2016-07-07 08:35
笔记
hadoop
零散
Hadoop伪分布式集群的搭建
直接加压就能使用,这里也不做解释)3,主要说下需要配置那些文件修改etc/hadoop/core-site.xml:fs.defaultFShdfs://localhost:90002,配置etc/hadoop/
hdfs-site.xml
小牛学堂2019
·
2016-07-02 04:59
大数据
Hadoop伪分布式集群的搭建
直接加压就能使用,这里也不做解释)3,主要说下需要配置那些文件修改etc/hadoop/core-site.xml:fs.defaultFShdfs://localhost:90002,配置etc/hadoop/
hdfs-site.xml
小牛学堂2019
·
2016-07-02 04:59
Hadoop伪分布式
大数据
Hadoop部署心得
04-20超简易心得,以免自己忘记1.安装JVM2.打开sshps-ef|grepsshd查看是否启用ssh3.解压hadoop4.配置以下文件:hadoop-env.sh,core-site.xml,
hdfs-site.xml
aeolus1983
·
2016-06-28 11:00
hadoop
HDFS用户权限管理
不考虑安全就把
hdfs-site.xml
中的dfs.permissions.enabled改为false解决办法:[hadoop@DEV21cron]$hdfsdfs-chownhadoop:hadoop
光于前裕于后
·
2016-06-27 14:55
Hadoop
大数据动物园
Hadoop中WordCount代码-直接加载hadoop的配置文件
Hadoop中WordCount代码-直接加载hadoop的配置文件在Myeclipse中,直接编写WordCount代码,代码中直接调用core-site.xml,
hdfs-site.xml
,mapred-site.xml
iqdutao
·
2016-06-23 20:22
Word
Count
Hadoop
Hadoop
Hadoop的
hdfs-site.xml
配置描述
hdfs-site.xml
的配置项 name valueDescription dfs.default.chunk.view.size32768namenode的http访问页面中针对每个文件的内容显示大小
nengyu
·
2016-06-03 13:00
Hadoop HDFS本地存储目录结构解析
本文基于Hadoop2.6版本介绍HDFSNamenode本地目录的存储结构和Datanode数据块存储目录结构,也就是
hdfs-site.xml
中配置的dfs.namenode.name.dir和dfs.namenode.data.dir
opensure
·
2016-05-19 11:21
hadoop
hdfs
metadata
hadoop
Hadoop 2.x伪分布式环境搭建详细步骤
mapred-env.sh方法:使用notepad++(beifeng用户)打开这三个文件添加代码:exportJAVA_HOME=/opt/modules/jdk1.7.0_672、修改core-site.xml、
hdfs-site.xml
dafei10086
·
2016-05-08 23:59
Hadoop之——随笔(基于Hadoop-2.4.1)
先在客户端所连接的datanode上存放一个副本2、再在另一个机架上选择一个datanode存放第二个副本3、最后在本机架上根据负载情况随机挑选一个datanode存放第三个副本****副本数量的配置优先级1、服务端
hdfs-site.xml
l1028386804
·
2016-05-04 17:00
hadoop
异常
安全
存储
NameNode
ubuntu上运行eclipse出现 Call From master to localhost:9000 failed on connection exception
打开conf/
hdfs-site.xml
,找到dfs.permissions属性修改为false(默认为true)OK了。(1.2.1版本只有这个方法可行),
u014470581
·
2016-05-04 14:00
hadoop
ubuntu
ermission denied: user=root, access=WRITE, inode="hadoop":hadoop:supergroup:rwxr-xr-x
Permissiondenied:user=root, access=WRITE,inode="hadoop":hadoop:supergroup:rwxr-xr-x 提示往HDFS写文件是不容许的在conf/
hdfs-site.xml
u012965373
·
2016-05-04 14:00
spark提交任务:java.net.UnknownHostException: cluster1
首先参考:[解决]Spark运行中java.net.UnknownHostException:nameservice1的异常1.复制
hdfs-site.xml
到spark的配置目录,没效果2.复制
hdfs-site.xml
cjun1990
·
2016-05-03 10:00
Hadoop--HDFS
Hadoop:分布式系统基础架构HDFS(分布式文件系统)配置的位置:/letv/data/hadoop-2.6.0/etc/Hadoop配置
hdfs-site.xml
:hadoop2.0官方提供了两种
JackLi31742
·
2016-04-28 15:00
hadoop
hdfs
yarn
hadoop namenode启动不了解决方案
原因分析:由于在core-site.xml,
hdfs-site.xml
文件中,我没有设置如下内容。
qq_23617681
·
2016-04-26 10:57
hadoop
hadoop namenode启动不了解决方案
原因分析:由于在core-site.xml,
hdfs-site.xml
文件中,我没有设置如下内容。
qq_23617681
·
2016-04-26 10:00
hadoop
上一页
7
8
9
10
11
12
13
14
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他