【并行计算】Strong scaling和weak Scaling

可以从这个角度来区分:Strong Scaling在扩展时是壮壮的,即使增加负载,也不需要调整机器。Weak Scaling在扩展时是弱弱的,如果要增加负载,也要同步增加机器。

Strong的目的是为了知道当前的机器所能够提供的最大并行能力。
Weak的目的是为了保证当前的负载均衡性一致的情况下比较不同数量机器的并行效果。

你可能感兴趣的:(pytorch,并行计算)