负载均衡计算公式

1.设计网站初期

   假设网站有6w个动态内容处于频繁访问的状态,通过Cache-Control将它的反向代理服务器上的缓存有效期都设置成60秒,这样后端服务器必须承受最多每秒处理1000个动态内容的工作量,如果这些动态内容都进行完整的计算(例如访问数据库)，那么后端压力很大，我们可以设置缓存有效期延长到300秒(5分钟)这样后端每秒只处理200个动态内容。

   计算公式  每秒总共访问的动态内容数/缓存有效期 = 后端每秒处理的动态内容数

 

2. 缓存命中率和后端吞吐率的理想计算模型

先假设三个条件

1.缓冲区的空间足够大,那么缓存永远不会因为空间已满而被淘汰，除非到达缓存有效期后主动离开。

2.站点拥有一定数目的活跃内容，而这么内容都可以被反向代理缓存，同时我们假设一个平均缓存有效期

3.以上活跃内容在每个缓存有效周期内至少被访问一次

 

涉及到的几个变量

1.活跃内容数

2.实际吞吐率

3.平均缓存有效期

 

缓存有效周期内的实际请求次数为

 

一个缓存有效周期内的实际请求次数 = 实际吞吐率 X 平均缓存有效期

 

缓存丢失率

缓存丢失率 = (活跃内容数 / (实际吞吐率 X 平均缓存有效期)) X 100%

 

缓存命中率

缓存命中率 = 1 - (活跃内容数 / (实际吞吐率 X 平均缓存有效期)) X 100%

 

例子:

假设站点有1个活跃内容,即是index.htm，实际吞吐率为10reqs/s,我们把反向代理缓存有效期设置为10秒，那么缓存命中率为

 

缓存命中率 = 1 - (1/(10X10)) X 100% = 99%

 

后端吞吐率为

后端吞吐率 = 活跃内容数 / 平均缓存有效期

 

例如后端吞吐率 = 1/10 = 0.1reqs/s

 

缓存命中率 = 1 - (后端吞吐率 / 实际吞吐率)) X 100%

后端吞吐率 = (1 - 缓存命中率) X 实际吞吐率

 

结论：

1.活跃内容数和平均缓存有效期一定的情况下，缓存命中率和实际吞吐率成正比

2.实际吞吐率和平均缓存有效期一定的情况下，缓存命中率和活跃内容数成反比

3.活跃内容数和实际吞吐率一定的情况下，缓存命中率和平均缓存有效期成正比

4.活跃内容数一定的情况下，后端吞吐率与平均缓存有效期成反比

5.平均缓存有效期一定的情况下，后端吞吐率和活跃内容数成正比

6.缓存命中率的变化不一定会影响后端吞吐率

7.后端吞吐率的变化不一定会影响缓存命中率