信息安全系统设计基础第八周学习总结
第十章 系统级I/O
学习目标：
1.掌握系统编程和系统调用的概念
2.掌握系统编程错误处理的方式
3.掌握Unix/Linux系统级I/O:open close read write seek stat
4.掌握RIO
5.掌握I/O重定向的方法
一、知识点梳理
（一）系统级I/O概述
1.输入输出I/O
输入输出I/O是在主存和外部设备（如磁盘，网络和终端）之间拷贝数据的过程。
- 输入就是从I/O设备拷贝数据到贮存
- 输出就是从主存拷贝数据到I/O设备2.使用原因
- 帮助理解其它系统概念。I/O视操作系统中不可或缺的一部分，我们会经常遇到I/O和其它系统概念之间的循环依赖。
- 别无选择。例如：标准I/O库没有提供读取文件元数据的方式，如文件大小和文件创建时间。
（二）Unix I/O
一个Unix文件就是一个m个字节的序列：B0，B1，...，Bk，...，B(m-1)- 所有的I/O设备，如网络、磁盘、和终端，都被模型化为文件，而所有的输入和输出都被当做想对应的文件的读写来执行。这种将设备优雅的映射为文件的方式，允许Unix内核引出一个简单、低级的应用接口，称为UnixI/O，这使得所有的输入和输出都能以一种统一且一致的方式来执行。
1.打开文件
一个应用程序通过要求内核来打开文件，内核返回一个小的非负整数（描述符），内核记录有关这个文件的所有的信息，应用程序只需要记住这个描述符。
Unix外壳创建的每个进程开始时都有三个打开的文件： - 标准输入（描述符为0） - 标准输出（描述符为1） - 标准错误（描述符为2）头文件
定义常量STDIN_FILENO、STDOUT_FILENO、STDERR_FILENO 可以用来代替显式的描述符
2.改变当前的文件位置。
- 对于每个打开的文件，内核保持着一个文件位置k，初始为0。这个位置是从文件开头起始的字节偏移量。
- 应用程序可以通过seek操作显式的设置文件的当前位置为k。
3.读写文件
读操作就是从文件拷贝n>0个字节到存储器，从当前文件位置k开始，然后将k增加到k+n。
给定一个大小为m字节的文件，k >= m 时执行读操作会触发一个称为end-of-file（EOF）的条件，应用程序能检测到这个条件，但是文件结尾处并没有明确的“EOF符号”。写操作就是从存储器拷贝n>0个字节到一个文件，从当前文件位置k开始，然后更新k。
4.关闭文件
- 应用通知内核关闭这个文件。作为响应，内核释放文件打开时创建的数据结构，并将这个描述符恢复到可用的描述符池当中。
- 无论进程因为何种原因终止时，内核都会关闭所有打开的文件并释放他们的存储器资源。
（三）打开和关闭文件
1.打开文件：
#include <sys/types.h>
#include <sys/stat.h>
#include <fcntl.h>
#include <unistd.h>
int open(char *filename,int fliags,mod_it mode)；
- 若成功，返回值为新文件描述符
- 若出错，返回值为-1open函数将filename转换成一个文件描述符，并且返回描述符数字。返回的描述符总是在进程中当前没有打开的最小描述符。
fd = Open("文件名",flag参数，mode参数)- fd是返回的文件描述符（数字），总是返回在进程中当前没有打开的最小描述符。
flag参数
表示访问方式额外提示 - O_RDONLY:只读。 - O_WRONLY:只写。 - O_RDWR：可读可写。 一位或者多位掩码的或 - O_CREAT,表示如果文件不存在，就创建它的一个截断的文件。 - O_TRUNC:如果文件已经存在，就截断它。 - O_APPEND：在每次写操作前，设置文件位置到文件的结尾处。mode参数：指定新文件的访问权限位。作为上下文的一部分，每个进程都有一个umask，通过调用umask函数设置。当进程通过带某个带mode参数的open函数用来创建一个新文件的时候，文件的访问权限位被设置为mode & ~umask。
给定mode和umask的默认值： #define DEF_MODE S_IRUSR|S_IWUSR|S_IRGRP|S_IWGRP|S_IROTH|S_IWOTH #define DEF_UMASK S_IWGRP|S_IWOTH出错的时候返回-1。
2.关闭文件：
#include<unistd.h>
int close(int fd);- 若成功则返回0，不成功则为-1。
- 关闭一个已经关闭的描述符程序会出错。
3.访问权限位在sys/stat.h中定义
（四）读和写文件
1.读函数
#include<unistd.h>
ssize_t read(int fd,void *buf,size_t n);
- 若成功，返回读字节数，即实际传送的字节数量
- 若EOF，返回0
- 若出错，返回-1- read函数从描述符为fd的当前文件位置拷贝最多n个字节到存储器位置buf。
注：何为EOF
即给定了m字节大小的文件，在从k字节位置开始读或者写的时候，发现k>=m。2.写函数
#include<unistd.h>
ssize_t write(int fd,const void *buf,size_t n);
- 若成功，返回写的字节数
- 若出错，返回-1- write函数从存储器位置buf拷贝至多n个字节到描述符fd的当前文件位置。
注：ssziet,sizet的区别
- ssziet被定义为int，有符号
- sizet被定义成unsigned int，无符号- 通过调用lseek函数，应用程序能够显示地修改当前文件的位置。
3.不足值
在某些情况下，read和write传送的字节比应用程序要求的要少，这些不表示有错误。
- 读时遇到EOF。假设准备读一个文件，该文件从当前文件位置开始只含有20个字节，若以50个字节的片进行读取，下一个read返回的不足值为20，此后的read将通过返回不足值0来发出EOF信号。 - 从终端读文本行。若打开文件与终端相关联（如键盘和显示器），那么每个read函数将以此传送一个文本行，返回的不足值等于文本行大小。 - 读和写网络套接字。若打开的文件对应于网络套接字，内部缓冲约束和较长的网络延迟会引起read和write返回不足值。（进程间的通信机制：对Unix管道调用read和write时，也有可能出现不足值）- 实际上除了EOF，在读写磁盘文件时，不会遇到不足值。
如果想创建健壮的诸如web服务器这样的网络应用，就必须通过反复调用read和write处理不足值，直到所有需要的字节都传送完毕。
（五）用RIO包健壮地读写
RIO包会自动处理不足值。RIO提供了两类不同的函数：
- 无缓冲的输入输出函数。这些函数直接在存储器和文件之间传送数据，没有应用级缓冲，对将二进制数据读写到网络和从网络读写二进制数据尤其有用。
- 带缓冲的输入函数。这些函数允许高效地从文件中读取文本行和二进制数据（函数从内部缓冲区中拷贝一个文本行，当缓冲区变空的时候，会自动地调用read重新填满缓冲区），这些文件的内容缓存在应用级缓冲区内，类似于像printf这样的标准I/O函数提供的缓冲区。带缓冲的RIO输入函数是线程安全的，它在同一个描述符上可以被交错地调用。1.RIO的无缓冲的输入输出函数
通过调用rio_readn和rio_writen函数，应用程序可以在存储器和文件之间直接传送数据。
#include "csapp.h" //返回值：若成功为传送的字节数，若EOF则为0，出错为-1 ssize_t rio_readn(int fd,void *usrbuf,size_t n); ssize_t rio_writen(int fd,void *usrbuf,size_t n);- rio_readn函数从描述符fd的当前文件位置最多传送n和字节到存储器位置usrbuf，遇到EOF时只能返回一个不足值。
- rio_writen函数从位置usrbuf传送n个字节到描述符fd，绝不会返回不足值。
对于同一个描述符，可以任意交错地调用rio_readn和rio_writen。
2.RIO的带缓冲的输入函数
一个文本行就是一个由换行符结尾的ASCII码字符序列。在Unix系统中，换行符（‘\n'）与ASCII码换行符（LF）相同，数字值为0x0a。
- 实现计算文本文件中文本行的数量
- *方法一：用一个程序来计算文本文件中文本行的数量：用read函数来一次一个字节地从文件传送到用户存储器，检查每个字节来查找换行符。这个方法的缺点是效率低，每读取文件中的一个字节都要求陷入内核。
*方法二：是调用一个包装函数（rio_readlineb），它从一个内部读缓冲区拷贝一个文本行，当缓冲区变空时，会自动地调用read重新填满缓冲区。
对于既包含文本行也包含二进制数据的文件，书上提供了一个rio_readn带缓冲区的版本：rio_readnb，它从和rio_readlineb一样的读缓冲区中传送原始字节。
rioreadinitb(riot *rp,int fd);
- 每打开一个描述符都会调用一次该函数，它将描述符fd和地址rp处的类型为rio_t的缓冲区联系起来。
rioreadnb(riot *rp,void *usrbuf,size_t n) ;
- 从文件rp中最多读n个字节到存储器位置usrbuf。对同一描述符，rioreadnb和rioreadlineb的调用可以交叉进行。
ssizet readlineb(riot *rp,void *usrbuf,size_t maxlen);
- 从文件rp中读取一个文本行（包括结尾的换行符），将它拷贝到存储器位置usrbuf，并用空字符来结束这个文本行。3.RIO读程序的核心——rio_read函数
static ssize_t rio_read(rio_t *rp,char *usrbuf,size_t n)
{
int cnt;
while(rp->rio_cnt<=0)//如果缓冲区为空，先调用函数填满缓冲区再读数据
{
rp->rio_cnt=read(rp->rio_fd,rp->rio_buf,sizeof(rp->rio_buf));//调用read函数填满缓冲区
if(rp->rio_cnt<0)//排除文件读不出数据的情况
{
if（error != EINTR）
{
return -1;
}
}
else if(rp->rio_cnt=0)
return 0;
else
rp->rio_bufptr = rp->rio_buf;//更新现在读到的位置
}
cnt=n;
if(rp->rio_cnt<n)
cnt=rp->rio_cnt;//以上三步，将n与rp->rio_cnt中较小的值赋给cnt
memcpy(usrbuf,rp->rio_bufptr,cnt);把读缓冲区的内容拷贝到用户缓冲区
rp->rio_bufptr+=cnt;
rp->rio_cnt-=cnt;
return cnt;
}（六）读取文件元数据
1.元数据
应用程序能够通过调用stat和fstat函数，检索到关于文件的信息（元数据）。
#include <unistd.h> #include <sys/stat.h> int stat(cost char *filename,struc sta *buf); int fstat(int fd,struct stat *buf); - stat函数以文件名作为输入 - fstat函数以文件描述符作为输入
2.stat数据结构
- st_size成员包含了文件的字节数大小
- st_mode成员编码了文件访问许可位和文件类型Unix提供的宏指令根据st_mode成员来确定文件的类型
宏指令：S_ISREG() 普通文件？二进制或文本数据 宏指令：S_ISDIR() 目录文件？包含其他文件的信息 宏指令：S_ISSOCK() 网络套接字？通过网络和其他进程通信的文件
（七）共享文件
1.内核表示打开文件的三个相关的数据结构
- 描述符表：每个打开的描述符表项指向文件表中的一个表项
- 文件表：所有进程共享这张表，每个表项包括文件位置，引用计数，以及一个指向v-node表对应表项的指针
- v-node表：所有进程共享这张表，包含stat结构中的大多数信息（1）典型的打开文件的内核数据结构
- 描述符各自引用不同的文件，没有共享文件。
- 描述符1~4通过不同的打开文件表表项来引用两个不同的文件。（2）文件共享
- 多个描述符通过不同的文件表表项引用同一个文件。
、
- 两个描述符通过打开两个打开文件表表项共享同一个磁盘文件。
- 关键思想：每个描述符都有自己的文件位置，对不同描述符的读操作可以从文件的不同位置获取数据（3）父子进程共享文件
- 子进程继承父进程打开文件。
- 调用fork后，子进程有一个父进程描述符表的副本。
- 父子进程共享相同的打开文件表集合，因此共享相同的文件位置。
- 在内核删除相应文件表表项之前，父子进程必须都关闭了他们的描述符（八）I/0重定向
- Unix外壳提供了I/O重定向操作符，允许用户将磁盘文件和标准输入输出联系起来
重定向工作方式：使用dup2函数
#include<unistd.h> int dup2(int oldfd,int newfd);
- dup2函数拷贝描述符表表项oldfd到描述符表表项newfd，覆盖描述表表项newfd以前的内容。
- 若newfd已经打开，dup2会在拷贝oldfd之前关闭newfd。
（九）标准I/O和I/O函数
ANSI C定义了一组高级输入输出函数，称为标准I/O库。提供了打开和关闭文件的函数（fopen和fclose），读和写字节的函数（fread和fwrite），读和写字符串的函数（fgets和fputs），格式化I/O函数（scanf和printf）
标准I/O库将一个打开的文件模型化为一个流。一个流就是一个指向FILE类型的结构的指针。每个ANSI C程序开始时都有三个打开的流：
#include<stdio.h> extern FILE *stdin; //标准输入，描述符0 extern FILE *stdout; //标准输出，描述符1 extern FILE *stderr; //标准错误，描述符2
- 类型为FILE的流是对文件描述符和流缓存区的抽象。流缓冲区的目的和RIO读缓冲区的一样，就是使开销较高的UnixI/O系统调用的数量尽可能的少。
- 各类I/O关系
- Unix I/O是在操作系统内核中实现的。
- 较高级别的RIO和标准I/O函数都是基于Unix函数来实现的。
- RIO函数是专为本书开发的read和write的健壮的包装函数。他们自动处理不足值，并且为读文本行提供一种高效的带缓冲的方法
- 标准I/O函数提供了Unix函数的一个更加完整的带缓冲的替代品，包括格式化的I/O例程。
- 标准I/O流，从某种意义上是全双工的，但对流的限制和对套接字的限制有时会相互冲突。
- 限制一：跟在输出函数之后的输入函数
- 限制二：分在输入函数的输出函数
- 由此，建议在网络套接字上不要使用标准 I/O函数来进行输入和输出，而要使用健壮的RIO函数。
二、实践作业（这一部分还需要多研究...只有who命令我自己尝试编写了，感觉自己写一遍和直接研究老师的代码区别还是挺大的，思路会更清晰）
1.who
正版who应该是：
- 我们可以看到，who命令是查询当前登录的每个用户，输出包括用户名、终端类型、登录日期及远程主机。
- man一下who，可以看到，who命令是读取/var/run/utmp文件来得到以上信息的。
- man一下utmp，知道utmp这个文件，是二进制文件，里面保存的是结构体数组，这些数组是struct utmp结构体的。
自己尝试编写
伪代码
- 打开记录所在文件：utmp
- 将文件中的记录逐条读取
- 每一条读取的记录都要在屏幕上打印
- 关闭文件问题1：
- 刚开始的时候觉得是警告就没有在意，因为之前运行代码的时候也有警告，但是最后可以运行出来。
- 但是：
问题1解决：
- 在record.ut_time输出时我使用的类型是字符数组%s，但是实际上:
- 它在utmp中定义的是ut_tv.tv_sec,而ut_sec是int32_t型的。所以我换用了%ld输出。
成功版1
问题2：
- 这个与正版的who运行看起来差别还是挺大的
- 第一，没有对齐
- 第二，时间显示看不懂
- 第三，记录比正版who多
问题2解决
解决对齐问题：
- 对齐的问题很好解决。我使用的是\t制表符来排的，但是由于user的长度不一，导致错位，可以换成固定长度，不足补0的方法显示。
解决时间显示问题：
- 使用man查找与time格式化相关（这一部分改了好久，最后还是去网上搜索的编写who的相关内容、time的相关内容才得以解决）
- 判断应该是strftime，进入查看用法，继续修改try_who代码
- 这个警告应该是64位机的问题，运行之后和第一次的问题一样显示核心已转储，但是我到现在都不知道怎么在原句上解决。
- 百度了一下想仔细看一下这个localtime的问题，找到一篇特别详细的文章：c++ 时间类型详解(time_t和tm)，我决定分开每一步的变量试一试，直接在定义的时候就限制住每一个变量，至少能知道到底是哪一个错了，结果没有警告，编译运行成功：
解决显示记录多的问题：
- 问题原因：utmp中保存的用户，不仅仅是已经登陆的用户，还有系统的其他服务所需要的，所以在显出所有登陆用户的时候，应该过滤掉其他用户，只保留登陆用户。在utmp结构中的ut_type可以区别，登陆用户的ut_type是USER_PROCESS，加一个判断就可以了：
- 终于和正版who至少看起来一样了！！！
改进
- 在打开和关闭文件的时候加上失败情况处理。
我的代码
#include <stdio.h>
#include <stdlib.h>
#include <unistd.h> //read
#include <sys/types.h> //open
#include <sys/stat.h>
#include <fcntl.h>
#include <utmp.h> //utmp
#include <time.h> //strftime
int main()
{
struct utmp record;
int fd;
int len = sizeof(record);
struct tm *p;
time_t t;
char fortime[40];
if ( (fd = open(UTMP_FILE, O_RDONLY)) == -1 )
{
perror( UTMP_FILE );
exit(1);
}
while(read(fd,&record,len))
{
if(record.ut_type == USER_PROCESS)
{
printf("%-10.10s",record.ut_user);
printf("%-10.10s",record.ut_line);
t = record.ut_time;
p = localtime(&t);
strftime(fortime,40,"%F %R",p);
printf("%12s",fortime);
if(record.ut_host[0]!='\0');
printf("\t(%s)",record.ut_host);
printf("\n");
}
}
if (close(fd) == -1)
{
perror( UTMP_FILE );
exit(1);
}
return 0;
}2.ls
3.filesize
- 用st_size计算文件的字节数大小。
4.fileinfo
- 这个功能用来实现显示文件信息
mode：st_mode 文件的类型和存取的权限
links：st_nlink 连到该文件的硬链接数目，刚建立的文件值为1
user：st_uid 用户ID
group：st_gid 组ID
size：st_size 文件字节数
modtime：st_mtime 最后一次修改时间
name： 输入的文件名5.setecho与echostate
setecho用来改变输入指令是否可见。
输入y（或是以y开头的一串字符），命令可见 否则（即输入不以y开头的字符），命令不可见echostate显示输入命令是否可见。
echo is on：命令可见 echo is off：命令不可见
6.spwd
- 列出当前目录
7.testioctl
- 获得终端设备的窗口大小
- 下图一个是我的终端全屏的，一个是还原之后的。
三、遇到的问题
运行书上代码的也遇到问题，解决过程如下：
1.老师在开学的时候上传的code中有“csapp.h”、“csapp.c”，刚开始的时候我把文件放与书上10.1代码相同的文件夹中，但是生成.o文件后出现问题：
2.我觉得出现这种情况的原因，应该之前书上说的是C编译为.o文件的时候并不需要函数的具体实现，只要有函数的原型即可，但是在链接为可执行文件的时候就必须要具体的实现。
查看.h和.c文件，发现.c文件中才是定义的那些函数的具体实现，结合第一次静态库的实践，这个.c文件就相当于那些add.c、sub.c...10-1的代码相当于那个main函数，所以可以将其做成一个静态库来使用，但是又出现新的问题：
3.结合深入理解计算机中的csapp.h和csapp.c的分析，因为csapp.c中有关于线程的头文件，所以需要加上-lpthread，之后就可以运行教材上的代码了。
这个问题貌似很多人都在问，有的直接把教材上的Open、Close改成了open、close，我觉得这样改就失去了书上给这些Unix I/O函数改进的意义了。
四、其它
- 这次实践中只有一个who命令是完全自己编写的，虽然花费了不少时间，但是一直纠结的几个问题能通过自己的研究解决非常有成就感，收获也很大。对man的使用更加熟练，对who命令的执行过程也相当了解。
- 老师给的who1和who2没有差别？像那个ls2就比ls1多了几个文件的详细信息。不知道who2是不是给错了？
- 对老师给的其它代码的研究只是运行了一下，知道每一步干的什么，但是显然不像who一样理解的这么深刻，需要继续研究。
五、参考资料
参考资料1：深入理解计算机系统（第二版）
参考资料2：博客园：深入理解计算机中的csapp.h和csapp.c
参考资料3：编写who命令--从Linux中学习Linux
参考资料4：c++ 时间类型详解(time_t和tm)