在网络编程中,如果我们想要提供文件传输的功能,最简单的方法就是用read将数据从磁盘上的文件中读取出来,再将其用write写入到socket中,通过网络协议发送给客户端。
ssize_t read(int fd, void *buf, size_t count);
ssize_t write(int fd, const void *buf, size_t count);
但是就是这两个简单的操作,却带来了大量的性能丢失
例如我们的服务器需要为客户端提供一个下载操作,此时的操作如下
从上图可以看出,虽然仅仅只有这两行代码,但是却在发生了四次用户态和内核态的上下文切换,以及四次数据拷贝,也就是在这个地方产生了大量不必要的损耗。
那么为什么会发生这些操作呢?
上下文切换
由于read和recv是系统调用,所以每次调用该函数我们都需要从用户态切换至内核态,等待内核完成任务后再从内核态切换回用户态。
数据拷贝
上面也说了,由于数据的读取与写入都是由系统进行的,那么我们就得将数据从用户的缓冲区中拷贝到内核,
所以要想优化传输性能,就要从减少数据拷贝和用户态内核态的上下文切换下手,这也就是零拷贝技术的由来。
零拷贝的主要任务就是避免CPU将数据从一块存储中拷贝到另一块存储,主要就是利用各种技术,避免让CPU做大量的数据拷贝任务,以此减少不必要的拷贝。或者借助其他的一些组件来完成简单的数据传输任务,让CPU解脱出来专注别的任务,使得系统资源的利用更加有效
Linux中实现零拷贝的方法主要有以下几种,下面一一对其进行介绍
相关视频推荐
手写用户态协议栈以及零拷贝的实现
10道面试题搞清tcp/ip网络协议栈的秘密
【C++后端】2023年最新技术图谱,c++后端的8个技术维度,助力你快速成为大牛
免费学习地址:c/c++ linux服务器开发/后台架构师
需要C/C++ Linux服务器架构师学习资料加qun812855908获取(资料包括C/C++,Linux,golang技术,Nginx,ZeroMQ,MySQL,Redis,fastdfs,MongoDB,ZK,流媒体,CDN,P2P,K8S,Docker,TCP/IP,协程,DPDK,ffmpeg等),免费分享
sendfile函数的作用是直接在两个文件描述符之间传递数据。由于整个操作完全在内核中(直接从内核缓冲区拷贝到socket缓冲区),从而避免了内核缓冲区和用户缓冲区之间的数据拷贝。
需要注意的是,in_fd必须是一个支持类似mmap函数的文件描述符,不能是socket或者管道,而out_fd必须是一个socket,由此可见sendfile是专门为了在网络上传输文件而实现的函数。
#include
ssize_t sendfile(int out_fd, int in_fd, off_t *offset, size_t count);
参数: out_fd : 待写入内容的文件描述符 in_fd : 待读出内容的文件描述符 offset : 文件的偏移量 count : 需要传输的字节数 返回值: 成功:返回传输的字节数 失败:返回-1并设置errno
mmap用于申请一段内存空间,也就是我们在进程间通信中提到过的共享内存,通过将内核缓冲区的数据映射到用户空间中,两者通过共享缓冲区直接访问统一资源,此时内核与用户空间就不需要再进行任何的数据拷贝操作了
其中mmap用于申请空间,额munmap用于释放这段空间。
#include
void *mmap(void *addr, size_t length, int prot, int flags,
int fd, off_t offset);
int munmap(void *addr, size_t length);
参数:
addr : 内存的起始地址,如果设置为空则系统会自动分配
length : 指定内存段的长度
prot : 内存段的访问权限,通过按位与或可以取以下几种值
flag : 选项
fd : 被映射文件对应的文件描述符
offset : 文件的偏移量
返回值:
成功:成功时返回指向内存区域的指针
失败:返回MAP_FAILED并设置errno
splice函数用于在两个文件描述符之间移动数据,而不需要数据在内核空间和用户空间中来回拷贝
需要注意的是,使用splice函数时fd_in和fd_out至少有一个是管道文件描述符,即
#include
ssize_t splice(int fd_in, loff_t *off_in, int fd_out,
loff_t *off_out, size_t len, unsigned int flags);
参数:
out_fd : 待写入内容的文件描述符
off_out : 待写入文件描述符的偏移量,如果文件描述符为管道则必须为空
in_fd : 待读出内容的文件描述符
off_in : 待读出文件描述符的偏移量,如果文件描述符为管道则必须为空
len : 需要复制的字节数
flags : 选项
返回值:
成功:返回在两个文件描述符之间复制的字节数
没有数据:返回0
失败:返回-1并设置errno
可能产生的errno
tee函数用于在两个管道文件描述符之间复制数据,并且它是直接复制,不会将数据读出,所以源文件上的数据仍可以用于后面的读操作
#include
ssize_t tee(int fd_in, int fd_out, size_t len, unsigned int flags);
参数:
out_fd : 待写入内容的文件描述符
in_fd : 待读出内容的文件描述符
len : 需要复制的字节数
flags : 选项
返回值:
成功:返回在两个文件描述符之间复制的字节数
没有数据:返回0