Horovod-分布式训练框架

1.Horovod-分布式训练框架

• github:
• 官网：https://eng.uber.com/horovod/

Horovod是Uber开源的又一个深度学习工具，支持TensorFlow、Keras、PyTorch和Apache MXNet的分布式训练框架。可为用户实现分布式训练提供帮助，让分布式深度学习更快更易用。

1.1

参考：

• https://www.cnblogs.com/yangwenhuan/p/11165168.html
• https://zhuanlan.zhihu.com/p/75318339