elasticsearch pipeline 总结

pipeline 可以理解为elasticsearch 对接收到的数据的入库前再处理过程,这个过程可以非常复杂,包括修改数据归属index。

  • pipeline 运行在ingest node上
  • 一个pipeline 由多个process组成,一个nodes支持哪些process ,可以通过GET /_nodes/ingest查看,每种processor用途可以参看https://www.elastic.co/guide/en/elasticsearch/reference/current/ingest-processors.html
  • 如果要同时修改多个field,建议考虑script process
  • 每个index 可以设置
    • 默认pipeline, index.default_pipeline
    • final pipeline:index.final_pipeline
  • 一个pipeline 主要由三部分组织
    • description
    • on_failure,下面有多个processor
    • processors, 下面有多个processor,每个process还可以有on_failure
  • 注意drop processor 如果满足条件,会返回如下信息:

你可能感兴趣的:(elasticsearch,代码分析及扩展,pipeline,elasticsearch,ingest,index)