FastDFS的介绍与入门Demo

一、介绍

FastDFS 是用 c 语言编写的一款开源的分布式文件系统，由阿里巴巴公司开发。FastDFS 为互联网量身定制，充分考虑了冗余备份、负载均衡、线性扩容等机制，并注重高可用、高性能等指标，使用 FastDFS很容易搭建一套高性能的文件服务器集群提供文件上传、下载等服务。

二、FastDFS的架构

FastDFS 架构包括 Tracker server 和 Storage server。客户端请求 Tracker server 进行文件上传、下载，通过 Tracker server 调度最终由 Storage server 完成文件上传和下载。

• Tracker server：负责负载均衡和调度，通过 Tracker server 在文件上传时可以根据一些策略找到 Storage server 提供文件上传服务。可以将 tracker 称为追踪服务器或调度服务器。

• Storage server：负责文件存储，客户端上传的文件最终存储在 Storage 服务器上，Storageserver 没有实现自己的文件系统而是利用操作系统 的文件系统来管理文件。可以将storage称为存储服务器。

架构图如下所示

• Client：这里指的是Tomcat之类的后端服务器，负责请求Tracker服务器得到Storage服务器的地址后再把文件上传给Storeage服务器
• Tracker：Tracker 可以实现集群，防止单点故障。每个 tracker 节点地位平等。收集 Storage 集群的状态。
• Storage：实际保存文件的服务器，Storage 分为多个组，每个组之间保存的文件是不同的，可以理解为磁盘不同的盘符。每个组内部可以有多个成员，组成员内部保存的内容是一样的，组成员的地位是一致的，没有主从的概念。

三、文件上传下载流程

上传流程

客户端上传文件后存储服务器将文件 ID 返回给客户端，此文件 ID 用于以后访问该文件的索引信息。文件索引信息包括：组名，虚拟磁盘路径，数据两级目录，文件名。

• 组名：文件上传后所在的 storage 组名称，在文件上传成功后有 storage 服务器返回，需要客户端自行保存。
• 虚拟磁盘路径：storage 配置的虚拟路径，与磁盘选项 store_path*对应。如果配置了store_path0 则是 M00，如果配置了 store_path1 则是 M01，以此类推。
• 数据两级目录： storage 服务器在每个虚拟磁盘路径下创建的两级目录，用于存储数据文件。
• 文件名：与文件上传时不同。是由存储服务器根据特定信息生成，文件名包含：源存储服务器 IP 地址、文件创建时间戳、文件大小、随机数和文件拓展名等信息。

下载流程

四、FastDFS的入门小Demo

第一步：确保安装好了FastDFS（安装教程这里不做介绍），并开启服务

第二步：创建一个Maven工程，在pom中引入jar，由于FastDFS客户端jar包并没有在中央仓库中，所以需要使用下列命令手动安装jar包到Maven本地仓库：mvn install:install-file -DgroupId=org.csource.fastdfs -DartifactId=fastdfs -Dversion=1.2 -Dpackaging=jar -Dfile=d:\setup\fastdfs_client_v1.20.jar　下载链接

<dependency>
	    <groupId>org.csource.fastdfs</groupId>
	    <artifactId>fastdfs</artifactId>
	    <version>1.2</version>
</dependency>

第三步：添加FastDfs配置文件fdfs_client.conf到classPath下(注意要设置好自己的tracker-server的ip地址)

# connect timeout in seconds
# default value is 30s
connect_timeout=30

# network timeout in seconds
# default value is 30s
network_timeout=60

# the base path to store log files
base_path=/home/fastdfs

# tracker_server can ocur more than once, and tracker_server format is
#  "host:port", host can be hostname or ip address
tracker_server=192.168.25.133:22122

#standard log level as syslog, case insensitive, value list:
### emerg for emergency
### alert
### crit for critical
### error
### warn for warning
### notice
### info
### debug
log_level=info

# if use connection pool
# default value is false
# since V4.05
use_connection_pool = false

# connections whose the idle time exceeds this time will be closed
# unit: second
# default value is 3600
# since V4.05
connection_pool_max_idle_time = 3600

# if load FastDFS parameters from tracker server
# since V4.05
# default value is false
load_fdfs_parameters_from_tracker=false

# if use storage ID instead of IP address
# same as tracker.conf
# valid only when load_fdfs_parameters_from_tracker is false
# default value is false
# since V4.05
use_storage_id = false

# specify storage ids filename, can use relative or absolute path
# same as tracker.conf
# valid only when load_fdfs_parameters_from_tracker is false
# since V4.05
storage_ids_filename = storage_ids.conf


#HTTP settings
http.tracker_server_port=80

#use "#include" directive to include HTTP other settiongs
##include http.conf

第四步：使用FastDFS-API上传文件

/**
 * @author [email protected]
 * @date 18-12-10 下午9:31
 */
public class FastDFSDemo {
    public static void main(String[] args) throws Exception {
        //第一步初始化配置文件，写配置文件的绝对路径
        ClientGlobal.init("/home/ming/Project/JavaBase/src/main/resources/fdfs_client.conf");
        //第二步: 创建TrackerClient
        TrackerClient trackerClient = new TrackerClient();
        //第三步: 获取TrackerServer
        TrackerServer trackerServer = trackerClient.getConnection();
        //第四步: 创建StorageClient
        StorageServer storageServer = null;
        StorageClient storageClient = new StorageClient(trackerServer, storageServer);
        //第五步上传文件 第一个参数为原文件名全路径，第二个为扩展名，第三个为描述信息
        String[] file = storageClient.upload_file("/home/ming/Pictures/Wallpapers/367dae718b3fb0429f808c8678b8e556.png", "png", null);
        for (String string : file) {
            System.out.println(string);
        }
    }
}

运行结果：

最后在浏览器上访问：