envoy概览

名词解释

Downstream：通常意义的客户端，连接envoy，发送请求接收响应
Upstream：通常意义的服务端，接收请求，返回响应
Listener：监听器，可被客户端连接
Cluster：一组Upstream，通常意义上的服务，通过服务发现机制确定cluster的服务实例

TCP Listener

• 每个listener上面配置多个fitler chain，每个filter chain可配置自己的命中规则
• 每个filter chain上面有1个/多个network filter，也可以配置可选的listener filters，listener filter会在network filter之前执行，一般用于修改连接上的metadata信息，会影响后续network fileter的处理逻辑
• listener可以由listener discovery service动态生成

listener filter

新建的连接（accept后插入点）会依次执行listener filter的OnAccept方法，当前有5种listener filter的实现，配置详见config-listener-filters

network filter

是envoy核心的连接处理器，有3种不同的filter

• Read: 从downstream中读取数据时会触发（接收请求）
• Write: 从downstream中写入数据时会触发（回复响应）
• Read/Write: 读取和写入时都会触发
  API也比较简单，大部分都是对原始数据的操作接口，有少量的connection events

HTTP connection manager

HTTP connection mananger就是一种network filter，它的主要作用是将raw data转化为HTTP的消息和事件（如接收http header，接收body，trailer等），并处理HTTP层的常见功能，如路由，header的修改等。
envoy的HTTP connection mananger支持HTTP1.1，websocket，HTTP/2等。由于envoy被设计为首要支持HTTP2的多路复用，内部的实现也使用HTTP/2的一些概念，如一次http请求和响应被定义为一条stream，内部也会使用编解码器（codec api）将不同协议转换为协议无关的stream/request/response等结构。

HTTP filters

HTTP connection manager上面可以配置HTTP filters，用于操作http的消息。有3种类型：

• Decoder：解码request stream时触发（headers/body/trailers）
• Encoder：编码response stream时触发
• Decoder/Encoder：解码request stream/编码response stream时触发
  http_filters的配置顺序非常重要：
  http_filters:
  • A
  • B
    # The last configured filter has to be a terminal filter, as determined by the
    # NamedHttpFilterConfigFactory::isTerminalFilter() function. This is most likely the router filter.
  • C
    HTTP connection manager解码时将采用A/B/C的顺序，而在编码时会采用C/B/A的顺序

Route table

HTTP connection manager上配置route table，主要是给http router filter使用，但其他的http filter也可以使用

Routing

HTTP router filter
就是一种HTTP filter，会选择upstream cluster，并为每个host维护一个连接池，将请求转发过去。当前支持：

• host匹配，path前缀/精确匹配
• path/host重定向
• host/path rewrite
• traffic shifting/splitting

TCP Proxy

envoy的基础框架实现为L3/L4的server，因此很容易实现L3/L4的数据转发。TCP Proxy filter就是用来实现网络层的流量转发

Cluster manager

cluster manager用于管理upstream clusters，filters使用cluster manager暴露的API获取对upstream cluster的L3/L4的连接或HTTP的连接池（屏蔽使用的HTTP1/HTTP2协议）。filter只是决定是否需要L3/L4的连接或是http stream，cluster manager用来管理host及健康检查，load balacing, upstream protocol等细节。
cluster manager使用服务发现获取cluster的服务地址。其中一种方式为Endpoint discovery service

connection pool

envoy抽象出连接池，filter无需关心连接池使用的协议是否真正支持多路复用机制。有2种连接池：

• HTTP1.1
  连接被绑定到可用的连接上面，或者是由于这个连接已经处理完上个请求或者是新建的连接处理首个请求。不支持pipeline
• HTTP2
  只建立必要的连接，如果没有限制，每个host将会只建立一个连接

Load Reporting Service

envoy可以向管理服务发送load report