varnish 4.0 官方文档翻译17-Misbehaving servers

Misbehaving servers

varnish有个关键特性，为misbehaving（行为不端，诡异的）web服务器或者应用服务器提供保护的能力。

Grace mode

当几个客户端请求同一个页面的时候，varnish只发送一个请求到后端服务器，然后让其他几个请求挂起并等待返回结果；获得结果后，其它请求再复制后端的结果发送给客户端。有些产品中需要调用其他来将请求合并，而varnish自动做这些。

但如果同时有数以千计的请求，那么这个等待队列将变得庞大，这将导致2类潜在问题：

• 惊群问题(thundering herd problem)，即突然释放大量的线程去复制后端返回的结果，将导致负载急速上升；

• 没有用户喜欢等待；

为了解决这类问题，可以配置varnish在缓存对象因超时失效后再保留一段时间，以给那些等待的请求返回过期的内容(stale content)。

为了提供给用户过期的内容，我们必须先有这些内容。因此我们在VCL中配置如下，使得varnish能在内容过期过后依然保持2分钟：

sub vcl_backend_response {
    set beresp.grace = 2m;
}

现在Varnish允许在对象过期后2分钟内提供给客户端。同时varnish也将刷新这个对象。刷新动作是异步发生的，发生在新的对象将替换老对象的同时。

我们可以在vcl_hit中增加代码来影响这个逻辑的工作。默认VCL是这样：

sub vcl_hit {
    if (obj.ttl >= 0s) {
        // A pure unadultered hit, deliver it
        return (deliver);
    }
    if (obj.ttl + obj.grace > 0s) {
        // Object is in grace, deliver it
        // Automatically triggers a background fetch
        return (deliver);
    }
    // fetch & deliver once we get the result
    return (fetch);
}

如果你开启了健康检测，要是后端有问题只能提供给客户端过期的对象时，你就能检测到。用如下的if语句替换掉上面的第二个if语句块：

if (!std.healthy(req.backend_hint) && (obj.ttl + obj.grace > 0s)) {
    return (deliver);
} else {
    return (fetch);
}

总之，优雅模式解决下面2个问题：

• 提供过期内容给客户端以避免请求堆积。

• 如果你允许varnish可以提供过期的内容。

Using inline C to extend Varnish

你可以使用inline C来扩展Varnish。注意，这种方式您可能严重损毁varnish。C代码运行在Varnish缓存进程中，如果你的C代码有错误，缓存进程将crash。

一个使用inline C的功能是记录日志到syslog：

# The include statements must be outside the subroutines.
C{
        #include <syslog.h>
}C

sub vcl_something {
        C{
                syslog(LOG_INFO, "Something happened at VCL line XX.");
        }C
}

要使用inline C你需要通过vcc_allow_inline_c参数开启此功能。