(1)FastDFS是什么
FastDFS 是用 c 语言编写的一款开源的分布式文件系统。FastDFS 为互联网量身定制,充分考虑了冗余备份、负载均衡、线性扩容等机制,并注重高可用、高性能等指标,使用 FastDFS很容易搭建一套高性能的文件服务器集群提供文件上传、下载等服务。
(2)FastDFS结构
FastDFS 架构包括 Tracker server 和 Storage server。客户端请求 Tracker server 进行文件上传、下载,通过 Tracker server 调度最终由 Storage server 完成文件上传和下载。
Tracker server 作用是负载均衡和调度,通过 Tracker server 在文件上传时可以根据一些策略找到 Storage server 提供文件上传服务。可以将 tracker 称为追踪服务器或调度服务器。
Storage server 作用是文件存储,客户端上传的文件最终存储在 Storage 服务器上,Storageserver 没有实现自己的文件系统而是利用操作系统 的文件系统来管理文件。可以将storage称为存储服务器。
如上图:服务端两个角色
Tracker:管理集群,tracker 也可以实现集群。每个 tracker 节点地位平等。收集 Storage 集群的状态。
Storage:实际保存文件 Storage 分为多个组(group),每个组之间保存的文件是不同的。每个组内部可以有多个成员,组成员内部保存的内容是一样的,组成员的地位是一致的,没有主从的概念。
(3)图片的上传下载
图片的上传:
需要得到服务器端的ip和端口,使用客户端进行上传,得到服务器返回的一个文件标识,并持久化到数据库。
客户端上传文件后,存储服务器将文件ID返回给客户端,此文件ID用于以后访问该文件的索引信息,文件索引信息包括:组名,虚拟磁盘路径,数据两级目录,文件名。
组名:文件上传后所在的 storage 组名称,在文件上传成功后有 storage 服务器返回,需要客户端自行保存。
虚拟磁盘路径:storage 配置的虚拟路径,与磁盘选项 store_path*对应。如果配置了store_path0 则是 M00,如果配置了
store_path1 则是 M01,以此类推。
数据两级目录:storage 服务器在每个虚拟磁盘路径下创建的两级目录,用于存储数据文件。
文件名:与文件上传时不同。是由存储服务器根据特定信息生成,文件名包含:源存储服务器 IP 地址、文件创建时间戳,
文件大小、随机数和文件拓展名等信息。
(4)实战
先导入fastdfs-client-java的包,因为这个包在maven中是错误的,不能使用,所以可以去github上下载源码,安装到本地仓库
org.csource
fastdfs-client-java
1.27-SNAPSHOT
commons-io
commons-io
2.4
配置文件和工具类:FastDfsApiOpr
package cn.itsource.aigou.common.util;
import org.csource.common.NameValuePair;
import org.csource.fastdfs.ClientGlobal;
import org.csource.fastdfs.StorageClient;
import org.csource.fastdfs.StorageServer;
import org.csource.fastdfs.TrackerClient;
import org.csource.fastdfs.TrackerServer;
public class FastDfsApiOpr {
public static String CONF_FILENAME = FastDfsApiOpr.class.getResource("/fdfs_client.conf").getFile();
/**
* 上传文件
* @param file 上传的文件
* @param extName 后缀名
* @return
*/
public static String upload(byte[] file,String extName) {
try {
ClientGlobal.init(CONF_FILENAME);
TrackerClient tracker = new TrackerClient();
TrackerServer trackerServer = tracker.getConnection();
StorageServer storageServer = null;
StorageClient storageClient = new StorageClient(trackerServer, storageServer);
NameValuePair nvp [] = new NameValuePair[]{
new NameValuePair("age", "18"),
new NameValuePair("sex", "male")
};
String fileIds[] = storageClient.upload_file(file,extName,nvp);
System.out.println(fileIds.length);
System.out.println("组名:" + fileIds[0]);
System.out.println("路径: " + fileIds[1]);
return "/"+fileIds[0]+"/"+fileIds[1];
} catch (Exception e) {
e.printStackTrace();
return null;
}
}
/**
* 下载文件
* @param groupName
* @param fileName
* @return
*/
public static byte[] download(String groupName,String fileName) {
try {
ClientGlobal.init(CONF_FILENAME);
TrackerClient tracker = new TrackerClient();
TrackerServer trackerServer = tracker.getConnection();
StorageServer storageServer = null;
StorageClient storageClient = new StorageClient(trackerServer, storageServer);
byte[] b = storageClient.download_file(groupName, fileName);
return b;
} catch (Exception e) {
e.printStackTrace();
return null;
}
}
// @Test
// public void testGetFileInfo(){
// try {
// ClientGlobal.init(conf_filename);
//
// TrackerClient tracker = new TrackerClient();
// TrackerServer trackerServer = tracker.getConnection();
// StorageServer storageServer = null;
//
// StorageClient storageClient = new StorageClient(trackerServer, storageServer);
// FileInfo fi = storageClient.get_file_info("group1", "M00/00/00/wKgRcFV_08OAK_KCAAAA5fm_sy874.conf");
// System.out.println(fi.getSourceIpAddr());
// System.out.println(fi.getFileSize());
// System.out.println(fi.getCreateTimestamp());
// System.out.println(fi.getCrc32());
// } catch (Exception e) {
// e.printStackTrace();
// }
// }
// @Test
// public void testGetFileMate(){
// try {
// ClientGlobal.init(conf_filename);
//
// TrackerClient tracker = new TrackerClient();
// TrackerServer trackerServer = tracker.getConnection();
// StorageServer storageServer = null;
//
// StorageClient storageClient = new StorageClient(trackerServer,
// storageServer);
// NameValuePair nvps [] = storageClient.get_metadata("group1", "M00/00/00/wKgRcFV_08OAK_KCAAAA5fm_sy874.conf");
// for(NameValuePair nvp : nvps){
// System.out.println(nvp.getName() + ":" + nvp.getValue());
// }
// } catch (Exception e) {
// e.printStackTrace();
// }
// }
/**
* 删除文件
* @param groupName
* @param fileName
*/
public static int delete(String groupName,String fileName){
try {
ClientGlobal.init(CONF_FILENAME);
TrackerClient tracker = new TrackerClient();
TrackerServer trackerServer = tracker.getConnection();
StorageServer storageServer = null;
StorageClient storageClient = new StorageClient(trackerServer,
storageServer);
int i = storageClient.delete_file(groupName,fileName);
System.out.println( i==0 ? "删除成功" : "删除失败:"+i);
return i;
} catch (Exception e) {
e.printStackTrace();
throw new RuntimeException("删除异常,"+e.getMessage());
}
}
}
配置文件:fdfs_client.conf(这个是由自己的配置决定的)
tracker_server=192.168.1.117:22122
配置Controller:
package cn.itsource.aigou.common.web.controller;
/*文件上传下载的服务*/
import cn.itsource.aigou.common.util.AjaxResult;
import cn.itsource.aigou.common.util.FastDfsApiOpr;
import org.apache.commons.io.FilenameUtils;
import org.apache.commons.io.IOUtils;
import org.springframework.web.bind.annotation.*;
import org.springframework.web.multipart.MultipartFile;
import javax.servlet.http.HttpServletResponse;
import java.io.ByteArrayInputStream;
import java.io.IOException;
import java.io.InputStream;
import java.io.OutputStream;
@RestController
@RequestMapping("/common")
public class FastdfsController {
//文件上传:得到文件的后缀名,调用FastDfsApiOpr工具类中的上传的API方法,
@RequestMapping(value = "/upload", method = RequestMethod.POST)
private AjaxResult upload(@RequestBody MultipartFile file){ //当发送的是POST请求的时候,参数用注解RequestBody
//获取上传文件的文件名字(这个额名字里包含了文件的后缀名)
String filename = file.getOriginalFilename();
//获取截取这个文件中的后缀名
String extension = FilenameUtils.getExtension(filename);
//然后调用工具类中的API进行文件的上传
try {
String uploadResult = FastDfsApiOpr.upload(file.getBytes(), extension);
return AjaxResult.getMe().setMsg("文件上传成功").setSuccess(true).setObject(uploadResult);
} catch (IOException e) {
e.printStackTrace();
return AjaxResult.getMe().setMsg("文件上传失败").setSuccess(false);
}
}
//文件删除:前台页面发来一个删除请求,传来一个字符串:组名+文件名(/group1/M00/00/01/wKgBdVyj9RmAYvjRAAJDa6we0-c117.jpg)
// 删除调用工具类中的删除方法,这个删除方法 需要传入两个参数:组名 和 文件名,所以需要将传过来的请求进行拆分
@RequestMapping(value = "/delete", method = RequestMethod.DELETE)
public AjaxResult delete(@RequestParam String filePathName){
String s = filePathName.substring(1);//因为它计算的是从第0位开始的,需要从下标为1的地方开始截取到最后的所有 即group1/M00/00/01/wKgBdVyj9RmAYvjRAAJDa6we0-c117.jpg
String group = s.substring(0,s.indexOf("/"));//表示从下标0开始 即最开头开始,到下标找到第一个“/”的时候结束 取得的值为:group1
String fileName = s.substring(s.indexOf("/") + 1);//表示从第一个下标为“/”开始的后面一位开始截取,直到最后 即:M00/00/01/wKgBdVyj9RmAYvjRAAJDa6we0-c117.jpg
int deleteResult = FastDfsApiOpr.delete(group, fileName);
if(deleteResult==0){//表示删除成功
return AjaxResult.getMe().setSuccess(true).setMsg("删除成功");
}else {
return AjaxResult.getMe().setSuccess(false).setMsg("删除失败");
}
}
//文件下载
// /group1/M00/00/01/rBAQnVyjc5WAOlbQAABgCMP6H50899.jpg===》 group1 M00/00/01/rBAQnVyjc5WAOlbQAABgCMP6H50899.jpg
@RequestMapping(value = "/fastdfs", method = RequestMethod.GET)
public void download(@RequestParam String filePathName, HttpServletResponse response) {
// 从第一个开始截取到最后:group1/M00/00/01/rBAQnVyjc5WAOlbQAABgCMP6H50899.jpg
String substring = filePathName.substring(1);
System.out.println(substring);
// group1
String groupName = substring.substring(0, substring.indexOf("/"));
System.out.println(groupName);
// M00/00/01/rBAQnVyjc5WAOlbQAABgCMP6H50899.jpg
String fileName = substring.substring(substring.indexOf("/") + 1);
byte[] download = FastDfsApiOpr.download(groupName, fileName);
InputStream input = null;
OutputStream output=null;
try {
input= new ByteArrayInputStream(download);
output = response.getOutputStream();
IOUtils.copy(input,output);
} catch (IOException e) {
e.printStackTrace();
}finally {
if (output != null) {
try {
output.close();
} catch (IOException e) {
e.printStackTrace();
}
}
if (input != null) {
try {
input.close();
} catch (IOException e) {
e.printStackTrace();
}
}
}
}
}