java实现顺序写入磁盘_底层存储知识点之磁盘读写也可以很快

原标题:底层存储知识点之磁盘读写也可以很快

从安全、效率、稳定性考量,一般消息中间件的消息都存储在本地文件中。而磁盘的自身写入和读取的速度并不快,这也是通过磁盘作为存储介质实现高吞吐的痛点。但RocketMQ 和 Kafka 消息都是存在磁盘中的,那为什么消息存磁盘读写还可以这么快?那就来一探究竟吧。

java实现顺序写入磁盘_底层存储知识点之磁盘读写也可以很快_第1张图片

顺序读写

通过磁盘作为存储介质实现高吞吐的答案就是顺序读写。解释顺序读写前,我们先了解一下“页缓存”——这是操作系统用来作为磁盘的一种缓存,减少磁盘的I/O操作。

操作流程如下:

在写入磁盘的时候其实是写入页缓存中,使得对磁盘的写入变成对内存的写入。写入的页变成脏页,然后操作系统会在合适的时候将脏页写入磁盘中。

在读取的时候如果页缓存命中则直接返回,如果页缓存 miss 则产生缺页中断,从磁盘加载数据至页缓存中,然后返回数据。

并且在读的时候会预读,根据局部性原理当读取的时候会把相邻的磁盘块读入页缓存中。在写入的时候会后写,写入的也是页缓存,这样存着可以将一些小的写入操作合并成大的写入,然后再刷盘。

而且根据磁盘的构造,顺序 I/O 的时候,磁头几乎不用换道,或者换道的时间很短。那么说回顺序读写,不少测试都表明,顺序写盘的速度比随机写内存要快。当然这样的写入存在数据丢失的风险,例如机器突然断电,那些还未刷盘的脏页就丢失

你可能感兴趣的:(java实现顺序写入磁盘)