Elasticsearch7.8.0版本进阶——持久化变更

目录

  • 一、持久化变更的概述
  • 二、事务日志(translog)
  • 三、持久化变更完整流程
  • 四、事务日志(translog)的作用
  • 五、事务日志(translog)的目的
  • 没有用 fsync 把数据从文件系统缓存刷(flush)到硬盘,我们不能保证数据在断电甚至是程序正常退出之后依然存在。
  • 为了保证 Elasticsearch 的可靠性,需要确保数据变化被持久化到磁盘。
  • 动态更新索引(即:一次完整的提交会将段刷到磁盘,并写入一个包含所有段列表的提交点)
  • Elasticsearch 在启动或重新打开一个索引的过程中使用这个提交点(即:一个列出了所有已知段的文件)来判断哪些段隶属于当前分片。

二、事务日志(translog)

  • 即使通过每秒刷新(refresh)实现了近实时搜索,我们仍然需要经常进行完整提交来确保能从失败中恢复。
  • 在两次提交之间发生变化的文档怎么办?我们也不希望丢失掉这些数据。Elasticsearch 增加了一个 translog(即:事务日志),在每一次对 Elasticsearch 进行操作时均进行了日志记录。

三、持久化变更完整流程

  • 一个文档被索引之后,就会被添加到内存缓冲区,并且追加到了 translog。
    Elasticsearch7.8.0版本进阶——持久化变更_第1张图片

  • 使分片每秒被刷新(refresh)一次。

    (1)、这些在内存缓冲区的文档被写入到一个新的段中,且没有进行 fsync 操作。
    (2)、这个段被打开,使其可被搜索。
    (3)、内存缓冲区被清空。

    Elasticsearch7.8.0版本进阶——持久化变更_第2张图片

  • 当前进程继续工作,更多的文档被添加到内存缓冲区和追加到事务日志。
    Elasticsearch7.8.0版本进阶——持久化变更_第3张图片

  • 每隔一段时间(例如 translog 变得越来越大)索引被刷新(flush);一个新的 translog
    被创建,并且一个全量提交被执行。

    所有在内存缓冲区的文档都被写入一个新的段。
    缓冲区被清空。
    一个提交点被写入硬盘。
    文件系统缓存通过 fsync 被刷新(flush)。
    老的 translog 被删除。

    Elasticsearch7.8.0版本进阶——持久化变更_第4张图片

四、事务日志(translog)的作用

  • 事务日志(translog)提供所有还没有被刷到磁盘的操作的一个持久化纪录。当 Elasticsearch 启动的时候, 它会从磁盘中使用最后一个提交点去恢复已知的段,并且会重放 translog 中所有在最后一次提交后发生的变更操作。
  • 事务日志(translog)也被用来提供实时 CRUD 。当你试着通过 ID 查询、更新、删除一个文档,它会在尝试从相应的段中检索之前, 首先检查 translog 任何最近的变更。这意味着它总是能够实时地获取到文档的最新版本。

五、事务日志(translog)的目的

  • 保证操作不会丢失(即:在文件被 fsync 到磁盘前,被写入的文件在重启之后就会丢失)。
  • 默认 translog 是每 5 秒被 fsync 刷新到硬盘, 或者在每次写请求完成之后执行(e.g. index, delete, update, bulk)。这个过程在主分片和复制分片都会发生。这意味着在整个请求被 fsync 到主分片和复制分片的 translog 之前,你的客户端不会得到一个 状态码为200的OK 响应。

你可能感兴趣的:(elasticsearch,jenkins,运维)