微服务预热那些事

背景

随着流量增长,服务的节点越来越多,对服务性能要求也越来越大,在服务启动时经常会发现存在抖动,针对这些服务抖动,就需要采取一些预热措施,下面就简单介绍下系统相关的服务预热、中间件预热、数据库预热等

预热场景

服务预热

在《springcloud线上发布超时》系列文章中已经描述了一些微服务需要预热的服务资源,

  • 连接池
  • 线程池
  • 限流池
  • grpc连接
  • jit

池资源相关预热我这里就不描述了,参考我的发布预热系列文章:springcloud线上发布超时

这里说一下jit,网上有两种方案,

方案一 定制化jdk

将jit过程信息保存到文件中,下次发布时自动加载,成熟方案是阿里的jwarmup,已经集成到阿里的jdk中,有兴趣的可以了解下

方案二 跑测试用例预热

一般都是采用测试用例预热,如果仅仅是jdk预热,可以直接跑几个测试用例循环n次就行,但是如果涉及到中间件预热,这里就可能不满足需求了。
我现在就是采用流量录制以及回放预热,如下图:
微服务预热那些事_第1张图片

方案三 定制路由策略,通过tag配置来路由

这里的方案就是需要定制化路由策略,刚启动的服务注册时带上一些配置信息,网关或者服务调用段获取到配置后来根据配置来路由,先路由少量流量,慢慢增加直到路由100%,这样可以达到针对jit的预热效果

中间件预热

redis预热

先在很多服务为了提高吞吐量而使用redis,这就会导致服务启动后或者redis数据丢失后,会导致请求都打到db中去,从而导致db压力倍增,这就是常见的redis雪崩。

CDN预热

CDN经常是也承担了入口缓存,那么这里也会需要预热,可以录制生产流量回放来达到预热效果。

mysql预热

mysql重启后十几分钟的性能是非常差的,原因是因为InnoDB有innodb buffer pool,详细可以参考该链接:https://blog.csdn.net/u014236541/article/details/79870670

你可能感兴趣的:(微服务,springcloud技术分享,微服务预热,jit)