hdfs-over-ftp是一个开源,简单易用的实现了对HDFS系统的下载和上传功能的小工具。可以作为管理工具来使用,快捷方便。
1.安装jdk(1.6以上版本)并配置环境变量
分别执行java –version和javac –version,若显示版本真确,则说明安装和配置成功。
2.安装hadoop,并将服务启动并配置环境变量。
执行hadoop version,若显正确版本号,说明安装和配置成功。
3.安装maven(3.0.4)并配置环境变量(下载地址 http://maven.apache.org/download.cgi)
下载:
安装:
tar –zxvf apache-maven-3.0.5-bin.tar.gz
配置环境变量:
# vi /etc/profile
export MAVEN_HOME=/usr/local/apache-maven-3.0.5/
export PATH=$PATH:$MAVEN_HOME/bin
4.下载安装hdfs-over-ftp(下载地址:https://github.com/iponweb/hdfs-over-ftp)
说明:因为没有tar.gz 文件 下载下来是zip的。
安装hdfs-over-ftp:
解压:vsftp hdfs-over-ftp-master.zip
配置:vi hdfs-over-ftp-master/src/main/resources/users.properties
将红色字体的值设置成你想要设置的密码的MD5加密值,下面的密码为123123的MD5加密值。
ftpserver.user.firstuser.userpassword=4297f44b13955235245b2497399d7a93
ftpserver.user.firstuser.homedirectory=/
ftpserver.user.firstuser.enableflag=true
ftpserver.user.firstuser.writepermission=true
ftpserver.user.firstuser.maxloginnumber=0
ftpserver.user.firstuser.maxloginperip=0
ftpserver.user.firstuser.idletime=0
ftpserver.user.firstuser.uploadrate=0
ftpserver.user.firstuser.downloadrate=0
ftpserver.user.firstuser.groups=firstuser,users
#md5\u503C\u4E3A333
ftpserver.user.agladyshev.userpassword=4297f44b13955235245b2497399d7a93
ftpserver.user.agladyshev.homedirectory=/
ftpserver.user.agladyshev.enableflag=true
ftpserver.user.agladyshev.writepermission=true
ftpserver.user.agladyshev.maxloginnumber=0
ftpserver.user.agladyshev.maxloginperip=0
ftpserver.user.agladyshev.idletime=0
ftpserver.user.agladyshev.uploadrate=0
ftpserver.user.agladyshev.downloadrate=0
ftpserver.user.agladyshev.groups=agladyshev,users
ftpserver.user.root.userpassword=4297f44b13955235245b2497399d7a93
ftpserver.user.root.homedirectory=/
ftpserver.user.root.enableflag=true
ftpserver.user.root.writepermission=true
ftpserver.user.root.maxloginnumber=0
ftpserver.user.root.maxloginperip=0
ftpserver.user.root.idletime=0
ftpserver.user.root.uploadrate=0
ftpserver.user.root.downloadrate=0
ftpserver.user.root.groups=root,users
5.修改文件hdfs-over-ftp-master/src/main/resources/hdfs-over-ftp.properties的配置,
红色为修改后的。
#uncomment this to run ftp server
port = 2222
data-ports = 2223
#uncomment this to run ssl ftp server
#ssl-port = 2226
#ssl-data-ports = 2227
# hdfs uri
hdfs-uri = hdfs://Host1:9000/
# max number of login
max-logins = 1000
# max number of anonymous login
max-anon-logins = 1000
# have to be a user which runs HDFS
# this allows you to start ftp server as a root to use 21 port
# and use hdfs as a superuser
superuser = agladyshev
6.修文件hdfs-over-master/pom.xml的配置,红色字体为修改部分,如果不修改的话可能在服务器运行时无法找到不分包
<dependency>
<groupId>org.apache.mina</groupId>
<artifactId>mina-core</artifactId>
<verion>2.0.0-M2</>
</dependency>
7.执行sh hdfs-over-ftp-master/hdfs-over-ftp.sh,下载所有的包后服务器将启动(注意:安装ftp服务的汲取必须能链接外网)
8.如果显示服务器已启动,就可以任何ftp客户端或命令登陆
window:ftp://Host1:2222
liunx:ftp Host1 2222