大数据基础学习五:Hadoop实验——熟悉常用的HDFS操作

大数据基础学习五:Hadoop实验——熟悉常用的HDFS操作

在这里插入图片描述

一、实验目的

1、理解HDFS在Hadoop体系结构中的角色;
2、熟练使用HDFS操作常用的Shell命令;
3、熟悉HDFS操作常用的Java API。

二、实验平台

操作系统:Linux
Hadoop版本:Hadoop-3.2.1
JDK版本:java-8-openjdk-amd64
Java IDE:Eclipse

三、实验内容和要求

目录操作:

1、Hadoop系统安装好之后,第一次使用HDFS时,在初始化并启动之后,首先需要在HDFS中创建用户目录。本次实验全部采用bailu用户登录Linux系统,故在HDFS中为bailu用户创建用户目录。命令如下:

cd /usr/local/hadoop/hadoop-3.2.1
./bin/hdfs dfs -mkdir -p /user/bailu

截图如下:在这里插入图片描述
该命令表示在HDFS中创建一个/user/bailu的目录,-mkdir是创建目录的操作,-p表示如果是多级目录,则父目录和子目录一起创建,这里/user/bailu就是一个多级目录,因此必须使用参数-p,否则会出错。

/user/bailu目录就成为bailu用户对应的用户目录,可以使用如下命令显示HDFS中与当前bailu对应的用户目录下的内容:

./bin/hdfs dfs -ls .

在该命令中,-ls表示列出HDFS某个目录下的所有内容,.表示HDFS中当前用户目录,也就是/user/bailu目录,因此,等价于:

./bin/hdfs dfs -ls /user/bailu

如果要列出HDFS上的所有目录,可以使用如下命令:

./bin/hdfs dfs -ls

2、在bailu用户下创建一个input目录,命令如下:

./bin/hdfs dfs -mkdir input

截图如下:
在这里插入图片描述
在创建input目录时,采用了相对路径形式,实际上input目录创建成功后,它在HDFS中的完整路径是/user/bailu/input。如果要在HDFS的根目录下创建一个名为input的目录,则需要以下命令:

./bin/hdfs dfs -mkdir /input

可以使用rm命令删除刚才在HDFS中创建的/input目录(不是/user/bailu/input目录):

./bin/hdfs dfs -rm -r /input

-r参数表示如果删除/input目录及其子目录下的所有内容,如果要删除的目录包含了子目录,则必须使用-r参数,否则会执行失败。

文件操作:首先使用gedit编辑器,在本地Linux文件系统的/home/bailu/目录下创建一个文件myLocalFile.txt,里面随意输入一些单词,如下:
大数据基础学习五:Hadoop实验——熟悉常用的HDFS操作_第1张图片

第1部分:利用Hadoop提供的Shell命令完成相同任务:

1、向HDFS中上传任意文本文件,如果指定的文件在HDFS中已经存在,由用户指定是追加到原有文件末尾还是覆盖原有的文件,命令如下:

./bin/hdfs dfs -put /home/bailu/myLocalFile.txt input

截图如下:
大数据基础学习五:Hadoop实验——熟悉常用的HDFS操作_第2张图片
2、从HDFS中下载指定文件,如果本地文件与要下载的文件名称相同,则自动对下载的文件重命名,命令如下:

./bin/hdfs dfs -get input/myLocalFile.txt /home/bailu/下载

截图如下:
大数据基础学习五:Hadoop实验——熟悉常用的HDFS操作_第3张图片
3、将HDFS中指定文件的内容输出到终端中,命令如下:

./bin/hdfs dfs -cat input/myLocalFile.txt

截图如下:
大数据基础学习五:Hadoop实验——熟悉常用的HDFS操作_第4张图片
4、显示HDFS中指定的文件的读写权限、大小、创建时间、路径等信息,命令如下:

./bin/hdfs dfs -ls input/myLocalFile.txt

截图如下:
在这里插入图片描述
5、给定HDFS中某一个目录,输出该目录下的所有文件的读写权限、大小、创建时间、路径等信息,如果该文件是目录,则递归输出该目录下所有文件相关信息,命令如下:

./bin/hdfs dfs -ls input

截图如下:
在这里插入图片描述
6、提供一个HDFS内的文件的路径,对该文件进行创建和删除操作。如果文件所在目录不存在,则自动创建目录(以操作empty.txt文件为例),命令如下:

./bin/hdfs dfs -touchz empty.txt

截图如下:
在这里插入图片描述

./bin/hdfs dfs -rm empty.txt

截图如下:
在这里插入图片描述
7、提供一个HDFS的目录的路径,对该目录进行创建和删除操作。创建目录时,如果目录文件所在目录不存在则自动创建相应目录;删除目录时,由用户指定当该目录不为空时是否还删除该目录(以操作empty文件夹为例),命令如下:

./bin/hdfs dfs -mkdir empty

截图如下:
在这里插入图片描述

./bin/hdfs dfs -rm -r empty

截图如下:
大数据基础学习五:Hadoop实验——熟悉常用的HDFS操作_第5张图片
8、向HDFS中指定的文件追加内容,由用户指定内容追加到原有文件的开头或结尾
先在本地/home/bailu下创建test.txt文件,并添加内容如下:
大数据基础学习五:Hadoop实验——熟悉常用的HDFS操作_第6张图片
将test.txt文件上传至HDFS文件系统/user/bailu/input目录下:
大数据基础学习五:Hadoop实验——熟悉常用的HDFS操作_第7张图片
追加test.txt文件至myLocalFile.txt文件后命令如下:

./bin/hdfs dfs -appendToFile test.txt input/myLocalFile.txt

截图如下:
大数据基础学习五:Hadoop实验——熟悉常用的HDFS操作_第8张图片
9、删除HDFS中指定的文件,命令如下:

./bin/hdfs dfs -rm input/test.txt

截图如下:
大数据基础学习五:Hadoop实验——熟悉常用的HDFS操作_第9张图片
10、删除HDFS中指定的目录,由用户指定目录中如果存在文件时是否删除目录(以操作empty目录为例),命令如下:

./bin/hdfs dfs -mkdir empty

在这里插入图片描述

./bin/hdfs dfs -rm -r empty

截图如下:
大数据基础学习五:Hadoop实验——熟悉常用的HDFS操作_第10张图片
11、在HDFS中,将文件从源路径移动到目的路径(以把input下的myLocalFile.txt文件移动到empty文件夹为例),命令如下:

./bin/hdfs dfs -mv input/myLocalFile.txt empty

截图如下:
大数据基础学习五:Hadoop实验——熟悉常用的HDFS操作_第11张图片
大数据基础学习五:Hadoop实验——熟悉常用的HDFS操作_第12张图片

大家如果还有什么问题、建议或者补充可以留言,看到了我会及时回复!一手资讯请关注本人公众号:WDeerCode代码圈哦!
大数据基础学习五:Hadoop实验——熟悉常用的HDFS操作_第13张图片

你可能感兴趣的:(#,Apache,Hadoop,大数据(big,data),#,操作系统,Linux,系统,大数据基础学习五,hadoop,hdfs,Hadoop实验,熟悉常用的HDFS操作)