最近公司的业务量有些上升的趋势,以前是lvs负载均衡后面每台web服务器都在自己上面存放程序文件,但是随着后端realserver的增加,每次发布程序就变得越加繁琐,所以我需要配置一个共享存储nfs来满足需求。
一、NFS服务简介
NFS 是Network File System的缩写,即网络文件系统。一种使用于分散式文件系统的协定,由Sun公司开发,于1984年向外公布。功能是通过网络让不同的机器、不同的操作系统能够彼此分享个别的数据,让应用程序在客户端通过网络访问位于服务器磁盘中的数据,是在类Unix系统间实现磁盘文件共享的一种方法。
NFS 的基本原则是“容许不同的客户端及服务端通过一组RPC分享相同的文件系统”,它是独立于操作系统,容许不同硬件及操作系统的系统共同进行文件的分享。
NFS在文件传送或信息传送过程中依赖于RPC协议。RPC,远程过程调用 (Remote Procedure Call) 是能使客户端执行其他系统中程序的一种机制。NFS本身是没有提供信息传输的协议和功能的,但NFS却能让我们通过网络进行资料的分享,这是因为NFS使用了一些其它的传输协议。而这些传输协议用到这个RPC功能的。可以说NFS本身就是使用RPC的一个程序。或者说NFS也是一个RPC SERVER。所以只要用到NFS的地方都要启动RPC服务,不论是NFS SERVER或者NFS CLIENT。这样SERVER和CLIENT才能通过RPC来实现PROGRAM PORT的对应。可以这么理解RPC和NFS的关系:NFS是一个文件系统,而RPC是负责负责信息的传输。
二、安装nfs服务
1、环境准备
在安装nfs之前,我们先把防火墙和SELinux关闭,以免影响nfs的使用
service iptables stop setenforce 0
2、软件安装
其他的软件包大家不用管理,他会解决一些软件包的依赖关系
yum install nfs-utils
三、NFS系统守护进程
● nfsd:它是基本的NFS守护进程,主要功能是管理客户端是否能够登录服务器;
● mountd:它是RPC安装守护进程,主要功能是管理NFS的文件系统。当客户端顺利通过nfsd登录NFS服务器后,在使用NFS服务所提供的文件前,还必须通过文件使用权限的验证。它会读取NFS的配置文件/etc/exports来对比客户端权限。
● portmap:主要功能是进行端口映射工作。当客户端尝试连接并使用RPC服务器提供的服务(如NFS服务)时,portmap会将所管理的与服务对应的端口提供给客户端,从而使客户可以通过该端口向服务器请求服务。
四、NFS服务器的配置
NFS服务器的配置相对比较简单,只需要在相应的配置文件中进行设置,然后启动NFS服务器即可。
1、NFS的常用目录
/etc/exports NFS服务的主要配置文件
/usr/sbin/exportfs NFS服务的管理命令
/usr/sbin/showmount 客户端的查看命令
/var/lib/nfs/etab 记录NFS分享出来的目录的完整权限设定值
/var/lib/nfs/xtab 记录曾经登录过的客户端信息
NFS服务的配置文件为 /etc/exports,这个文件是NFS的主要配置文件,不过系统并没有默认值,所以这个文件不一定会存在,可能要使用vim手动建立,然后在文件里面写入配置内容。
2、/etc/exports文件内容格式:
<输出目录> [客户端1 选项(访问权限,用户映射,其他)] [客户端2 选项(访问权限,用户映射,其他)]
a. 输出目录:
输出目录是指NFS系统中需要共享给客户机使用的目录;
b. 客户端:
客户端是指网络中可以访问这个NFS输出目录的计算机
客户端常用的指定方式
● 指定ip地址的主机:192.168.0.200
● 指定子网中的所有主机:192.168.0.0/24 192.168.0.0/255.255.255.0
● 指定域名的主机:david.bsmart.cn
● 指定域中的所有主机:*.bsmart.cn
● 所有主机:*
c. 选项:
选项用来设置输出目录的访问权限、用户映射等。
NFS主要有3类选项:
访问权限选项
● 设置输出目录只读:ro
● 设置输出目录读写:rw
用户映射选项
● all_squash:将远程访问的所有普通用户及所属组都映射为匿名用户或用户组(nfsnobody);
● no_all_squash:与all_squash取反(默认设置);
● root_squash:将root用户及所属组都映射为匿名用户或用户组nfsnobody(默认设置);
● no_root_squash:与rootsquash取反;
● anonuid=xxx:将远程访问的所有用户都映射为匿名用户,并指定该用户为本地用户(UID=xxx);
● anongid=xxx:将远程访问的所有用户组都映射为匿名用户组账户,并指定该匿名用户组账户为本地用户组账户(GID=xxx);
其它选项
● secure:限制客户端只能从小于1024的tcp/ip端口连接nfs服务器(默认设置);
● insecure:允许客户端从大于1024的tcp/ip端口连接服务器;
● sync:将数据同步写入内存缓冲区与磁盘中,效率低,但可以保证数据的一致性;
● async:将数据先保存在内存缓冲区中,必要时才写入磁盘;
● wdelay:检查是否有相关的写操作,如果有则将这些写操作一起执行,这样可以提高效率(默认设置);
● no_wdelay:若有写操作则立即执行,应与sync配合使用;
● subtree:若输出目录是一个子目录,则nfs服务器将检查其父目录的权限(默认设置);
● no_subtree:即使输出目录是一个子目录,nfs服务器也不检查其父目录的权限,这样可以提高效率;
五、NFS服务器的启动
1、启动NFS服务器
为了使NFS服务器能正常工作,需要启动rpcbind和nfs两个服务,并且rpcbind一定要先于nfs启动。
service rpcbind start service nfs start
六、实例
1、把/home/webapps共享给192.168.0.0/24网段,权限读写
# cat /etc/exports
/home/webapps 192.168.0.0/24(rw)
重新启动nfs服务
2、服务器端使用showmount命令查询NFS的共享状态
# showmount -e //默认查看自己共享的服务,前提是要DNS能解析自己,不然容易报错
# showmount -a //显示已经与客户端连接上的目录信息
3、客户端使用showmount命令查询NFS的共享状态
# showmount -e NFS服务器IP
4、客户端挂载NFS服务器中的共享目录
命令格式
# mount NFS服务器IP:共享目录 本地挂载点目录
# mount 192.168.0.10:/home/webapps /mnt
可以看到挂载成功。
5、NFS的共享权限和访问控制
我们在客户端可以尝试在/mnt目录下面创建一个文件
这里出现Permission denied,是因为NFS 服务器端共享的目录本身的写权限没有开放给其他用户,在服务器端查看并打开该权限。
再次在客户端/mnt 里面建立一个文件
我用root 用户建立的文件,变成了nfsnobody 用户。
NFS有很多默认的参数,在服务端打开/var/lib/nfs/etab 查看分享出来的/home/david/ 完整权限设定值。
# cat /var/lib/nfs/etab
默认就有sync,wdelay,hide 等等,no_root_squash 是让root保持权限,root_squash 是把root映射成nobody,no_all_squash 不让所有用户保持在挂载目录中的权限。所以,root建立的文件所有者是nfsnobody。
下面我们使用普通用户挂载、写入文件测试。
可以看到我用普通用户创建的文件的变成了nobody用户,nfs的用户识别是通过uid进行识别的,如果在服务端没有500这个uid的用户,那就显示nobody,如果在服务器uid为500的用户是david,那这里就会显示david用户。
如果我们想让root创建的文件还是root权限的话就在访问权限那里加上no_root_squash。
6、设定开机自动挂载
_netdev:nfs服务器在出问题的情况下系统也可以顺利启动。
7、关于权限的分析
1)、客户端连接时候,对普通用户的检查
a. 如果明确设定了普通用户被压缩的身份,那么此时客户端用户的身份转换为指定用户;
b. 如果NFS server上面有同名用户,那么此时客户端登录账户的身份转换为NFS server上面的同名用户;
c. 如果没有明确指定,也没有同名用户,那么此时 用户身份被压缩成nfsnobody;
2)、客户端连接的时候,对root的检查
a. 如果设置no_root_squash,那么此时root用户的身份被压缩为NFS server上面的root;
b. 如果设置了all_squash、anonuid、anongid,此时root 身份被压缩为指定用户;
c. 如果没有明确指定,此时root用户被压缩为nfsnobody;
d. 如果同时指定no_root_squash与all_squash 用户将被压缩为 nfsnobody,如果设置了anonuid、anongid将被压缩到所指定的用户与组;
附录、相关命令
如果我们在启动了NFS之后又修改了/etc/exports,是不是还要重新启动nfs呢?这个时候我们就可以用exportfs 命令来使改动立刻生效,该命令格式如下:
# exportfs [-aruv]
-a 全部挂载或卸载 /etc/exports中的内容
-r 重新读取/etc/exports 中的信息 ,并同步更新/etc/exports、/var/lib/nfs/xtab
-u 卸载单一目录(和-a一起使用为卸载所有/etc/exports文件中的目录)
-v 在export的时候,将详细的信息输出到屏幕上。
具体例子:
# exportfs -au 卸载所有共享目录
# exportfs -rv 重新共享所有目录并输出详细信息