Sumit Singh, 软件工程师, IBM
2006 年 4 月 10 日
使用用户空间的文件系统(FUSE),您无需理解文件系统的内幕,也不用学习内核模块编程的知识,就可以开发用户空间的文件系统框架。本文是一篇简单的逐步介绍的指南,内容包括安装、定制和启用 FUSE 和 AFS,这样您就可以在 Linux® 的用户空间中创建自己的功能完备的文件系统了。
文件系统是一种用来存储和组织计算机文件、目录及其包含的数据的方法,它使文件、目录以及数据的查找和访问得到简化。如果您正在使用一台计算机,很可能使用了多个文件系统。文件系统能提供丰富的扩展能力。它可以编写成底层文件系统的一个封装程序,从而对其中的数据进行管理,并提供一个增强的、具有丰富特性的文件系统(例如 cvsfs-fuse,它为 CVS 提供了一个文件系统的接口;或 Wayback 文件系统,它提供了一种用于保留原始数据文件的文件备份机制)。
在用户空间的文件系统出现之前,文件系统的开发曾是内核开发人员的工作。创建文件系统需要了解内核编程和内核技术(例如 vfs)方面的知识。调试则需要 C 和 C++ 方面的专业技能。但是其他开发人员需要熟练地操作文件系统以添加个性化特性(例如添加历史记录或转发缓存)及对其改进。
FUSE 简介
使用 FUSE 您可以开发功能完备的文件系统:其具有简单的 API 库,可以被非特权用户访问,并可以安全的实施。更重要的是,FUSE 以往的表现充分证明了其稳定性。
使用 FUSE,您可以像可执行二进制文件一样来开发文件系统,它们需要链接到 FUSE 库上 —— 换言之,这个文件系统框架并不需要您了解文件系统的内幕和内核模块编程的知识。
就文件系统来说,用户空间的文件系统就不再是新奇的设计了。用户空间文件系统的商业实现与学术实现的实例包括:
与这些商业实现和学术实现不同,FUSE 将这种文件系统的设计能力带到了 Linux 中来。由于 FUSE 使用的是可执行程序(而不像 LUFS 一样使用的是共享对象),因此可以简化程序的调试和开发。FUSE 可以在 2.4.x 和 2.6.x 的内核上使用,现在可以支持 Java™ 绑定,因此您可以不必限定于使用 C 和 C++ 来编写文件系统了。(有关更多使用 FUSE 的用户层的文件系统的内容,请参阅 参考资料。)
要在 FUSE 中创建一个文件系统,您需要安装一个 FUSE 内核模块,然后使用 FUSE 库和 API 来创建自己的文件系统。
|
展开 FUSE
要开发一个文件系统,首先请下载 FUSE 的源代码(请参阅 参考资料)并展开这个包:tar -zxvf fuse-2.2.tar.gz
。这会创建一个 FUSE 目录,其中保存的是源代码。fuse-2.2 目录的内容如下:
|
编译并安装 FUSE
./configure
。这会创建所需要的 makefile 等内容。./make
来编译库、二进制文件和内核模块。查看 kernel 目录中的文件 ./kernel/fuse.ko —— 这是内核模块文件。还要查看 lib 目录中的 fuse.o、mount.o 和 helper.o。./make install
完成 FUSE 的安装。 insmod
自己将这个模块安装到内核中,就可以跳过这个步骤。例如:/usr/local/sbin/insmod ./kernel/fuse.ko
或 /sbin/insmod ./kernel/fuse.ko
。记住要使用 root 特权才能安装所需要的模块。 如果希望,只在一个步骤中就可以完成上面的步骤。在 fuse-2.2 目录中,运行 ./configure; make; make install;
。
重要提示:在编译 FUSE 时,系统中需要有内核头文件或源代码。为了简单起见,请确保将内核源代码放到 /usr/src/ 目录中。
|
定制文件系统
现在让我们来创建一个文件系统,这样就可以使用一个较旧的 Linux 内核来访问一个具有最新内核的 Linux 系统上的 AFS 空间了。您需要两个进程:一个是在较旧的 Linux 内核上运行的服务器进程,另外一个是在具有最新内核的 Linux 系统上运行的一个 FUSE 客户机进程。不论何时请求到达您的 FUSE 客户机进程上时,它都会与远程服务器进程进行联系。为了进行通信,这个文件系统使用了 RX RPC 代码,这是 AFS 的一部分,因此您需要编译 OpenAFS。(图 1 给出了对这个 AFS 文件系统的概述。)
编译 OpenAFS
在展开源代码的目录中,运行 ./make ./configure --enable-transarc-paths
。如果 ./configure
无法理解编译使用的 sysname,就请使用 --with-afs-sysname
选项提供正确的 sysname。
要在 Linux 2.4 内核上编译,请使用下面的命令:./configure --enable-transarc-paths --with-afs-sysname=i386_linux24
。
./make
,然后运行 ./make dest
。检查在编译过程中出现的错误。 如果编译过程一切顺利,那么 AFS 源代码树就可以使用了。现在,您需要准备一个开发目录 afsfuse。在这个目录中,创建另外两个目录:
首先从 OpenAFS 目录中拷贝 AFS 的头文件,方法是将 dest/i386_linux24/include 中的目录和文件全部拷贝到 include 目录中。然后将 fuse-2.2 目录中的 FUSE 的 include 目录拷贝到这个目录中。对库文件也重复相同的步骤,将它们全部拷贝到 lib 目录中。
对于这两组进程,您需要使用两组文件。使用命名规则 afsfuse_client.* 来命名客户机进程的文件;使用命名规则 afsfuse_server.* 来命名服务器进程的文件。
这样您就有了一个 afsfuse_client.c 文件,其中包含了 FUSE 进程的代码;一个 afsfuse_server.c 文件,其中包含了在远程机器上运行的进程使用的服务器代码;一个 makefile;一个 rxgen 文件,用来创建 RPC 头文件(例如 afsfuse.xg)。
afsfuse_client.c 文件可以创建 afsfuse_client 进程代码, FUSE 文件系统调用它来创建文件系统(使用 fuse-2.2/example/fusexmp.c 来创建这个文件)。
定义需要的函数
要使用 FUSE 来创建一个文件系统,您需要声明一个 fuse_operations
类型的结构变量,并将其传递给 fuse_main
函数。fuse_operations
结构中有一个指针,指向在执行适当操作时需要调用的函数。清单 1 给出了 fuse_operations
结构。
|
这些操作并非都是必需的,但是一个文件系统要想正常工作,就需要其中的很多函数。您可以实现一个具有特殊目的的 .flush
、.release
或 .fsync
方法的功能完备的文件系统。(本文不会介绍任何 xattr
函数。)清单 1 中给出的函数如下所示:
getattr: int (*getattr) (const char *, struct stat *);
stat()
类似。st_dev
和 st_blksize
域都可以忽略。st_ino
域也会被忽略,除非在执行 mount 时指定了 use_ino
选项。 readlink: int (*readlink) (const char *, char *, size_t);
getdir: int (*getdir) (const char *, fuse_dirh_t, fuse_dirfil_t);
opendir()
、readdir()
、...、closedir()
序列。对于每个目录项来说,都应该调用 filldir()
函数。 mknod: int (*mknod) (const char *, mode_t, dev_t);
create()
操作;mknod()
会在创建非目录、非符号链接的节点时调用。 mkdir: int (*mkdir) (const char *, mode_t);
rmdir: int (*rmdir) (const char *);
unlink: int (*unlink) (const char *);
rename: int (*rename) (const char *, const char *);
symlink: int (*symlink) (const char *, const char *);
link: int (*link) (const char *, const char *);
chmod: int (*chmod) (const char *, mode_t);
chown: int (*chown) (const char *, uid_t, gid_t);
truncate: int (*truncate) (const char *, off_t);
utime: int (*utime) (const char *, struct utimbuf *);
open: int (*open) (const char *, struct fuse_file_info *);
open()
函数不能传递创建或截断标记(O_CREAT
、O_EXCL
、O_TRUNC
)。这个函数应该检查是否允许执行给定的标记的操作。另外,open()
也可能在 fuse_file_info
结构中返回任意的文件句柄,这会传递给所有的文件操作。 read: int (*read) (const char *, char *, size_t, off_t, struct fuse_file_info *);
read()
应该返回所请求的字节数的数据;否则,其余数据都会被替换成 0。一个例外是在执行 mount 命令时指定了 direct_io
选项,在这种情况中 read()
系统调用的返回值会影响这个操作的返回值。 write: int (*write) (const char *, const char *, size_t, off_t, struct fuse_file_info *);
write()
应该返回所请求的字节数的数据。一个例外是在执行 mount 命令时指定了 direct_io
选项(这于 read()
操作的情况类似)。 statfs: int (*statfs) (const char *, struct statfs *);
f_type
和 f_fsid
域都会被忽略。 flush: int (*flush) (const char *, struct fuse_file_info *);
fsync()
函数 —— 也不是请求同步脏数据。每次对一个文件描述符执行 close()
函数时,都会调用 flush()
;因此如果文件系统希望在 close()
中返回写错误,并且这个文件已经缓存了脏数据,那么此处就是回写数据并返回错误的好地方。由于很多应用程序都会忽略 close()
错误,因此这通常用处不大。 注意:我们也可以对一个 open()
多次调用 flush()
方法。如果由于调用了 dup()
、dup2()
或 fork()
而产生多个文件描述符指向一个打开文件的情况,就可能会需要这种用法。我们无法确定哪个 flush 操作是最后一次操作,因此每个 flush 都应该同等地对待。多个写刷新序列相当罕见,因此这并不是什么问题。
release: int (*release) (const char *, struct fuse_file_info *);
release()
是在对一个打开文件没有其他引用时调用的 —— 此时所有的文件描述符都会被关闭,所有的内存映射都会被取消。对于每个 open()
调用来说,都必须有一个使用完全相同标记和文件描述符的 release()
调用。对一个文件打开多次是可能的,在这种情况中只会考虑最后一次 release,然后就不能再对这个文件执行更多的读/写操作了。release 的返回值会被忽略。 fsync: int (*fsync) (const char *, int, struct fuse_file_info *);
datasync
参数为非 0,那么就只会刷新用户数据,而不会刷新元数据。 setxattr: int (*setxattr) (const char *, const char *, const char *, size_t, int);
getxattr: int (*getxattr) (const char *, const char *, char *, size_t);
listxattr: int (*listxattr) (const char *, char *, size_t);
removexattr: int (*removexattr) (const char *, const char *);
获得的文件系统
您的文件系统将如下所示:
|
afsfuse_client 会将传递给它的文件系统调用转发给另外一台机器上的 afsfuse_server。afsfuse_server 会对客户机传递给它的所有请求进行处理,并将结果返回给客户机。它会执行所有必需的工作。RPC 使用的机制是 RX。数据或原数据都不会涉及缓存的问题。
|
定义 RX RPC 层
在继续之前,您需要先定义 RX RPC 层。要实现这种功能,请为 rxgen 创建一个 .xg 文件,用来描述代理和与 afsfuse_client.c 和 afsfuse_server.c 进行链接的桩代码。清单 2 显示了如何创建一个具有如下内容的 afsfuse.xg 文件:
|
在定义 RX RPC 层时,注意以下几点:
statfs
、stat
和 fuse_file_info
基础上定义了 mystatfs
、mystat
和 my_file_info
的封装程序。它们都会使用所生成的 XDR 代码进行转换。(XDR(External Data Representation,外部数据表示)允许采用一种与体系结构无关的方式进行封装,这样就可以在异构计算机系统之间传输数据了。) fuse_operations
结构的每个成员都定义一个函数,它们几乎具有相同的参数,因为 afsfuse_client 的工作就是负责接管 FUSE 文件系统中的调用,并将这些调用传递给 afsfuse_server。 MYMAXPATH
,这应该从系统中获得 —— 硬编码是为了简单性起见而这样做的。
|
创建客户机和存根文件
接下来使用 rxgen 编译 afsfuse.xg 文件,从而创建客户机和存根文件。从包含 afsfuse_server 和 afsfuse_client 的源代码的目录中,运行命令 openafs-1.2.13/i386_linux24/dest/bin/rxgen afsfuse.xg
。这会创建以下文件:
现在为 afsfuse_client.c 和 afsfuse_server.c 添加一些执行实际工作的代码。大部分调用都如下所示:
Our_call_in_afs_fuse_client()
。分析参数并准备执行 RPC。对 RX [RPC] 调用 afsfuse_server。组合参数。将这些值拷贝到传递给这个函数的行参数中。 Our_call_in_afs_fuse_server()
。组合参数。调用本地文件系统或 AFS 特有的函数。分析参数准备执行 RPC。生成 RX RPC 调用。 afsfuse_client.c 调用如下所示:
|
afsfuse_server.c 调用如下所示:
|
简单地,您可以在其他函数中添加代码来对文件系统进行增强。
您需要创建一个 makefile 来编译代码。记住在编译 afsfuse_client 的代码时包括以下选项:-D_FILE_OFFSET_BITS=64
和 -DFUSE_USE_VERSION=22
。
|
记住,您仍然需要使用 librx.a 和 liblwp.a 链接到 RX 和 RX 使用的 LWP 代码上。fuse/fuse.o、fuse/helper.o 和 fuse/mount.o 都是代码需要链接的 FUSE 库。
|
结束语
在本文中,您已经学习了如何安装 FUSE 和 OpenAFS,以及如何使用它们来创建并定制自己的用户空间文件系统,它可以成为 Linux 中一个功能完备、稳定可靠的文件系统,这不需要对现有内核打任何补丁或重新编译 —— 您甚至都不需要成为内核模块程序员。您已经详细了解了启用 FUSE 文件系统的两个关键概念:如何安装和配置 FUSE 内核模块,以及如何充分利用 FUSE 库和 API 的功能。
|
下载
描述 | 名字 | 大小 | 下载方法 |
---|---|---|---|
AFSFuse filesystem sample code | l-fuse.zip | 9KB | HTTP |
关于下载方法的信息 | Get Adobe® Reader® |
|
参考资料
学习