深度学习 训练吃显卡_有了Titan RTX 后，深度学习工作站显卡怎么选择？

在这篇文章中，Lambda Labs对Titan RTX的深度学习性能与其他常见GPU进行了基准测试。我们测量了Titan RTX在ResNet50，ResNet152，Inception3，Inception4，VGG16，AlexNet和SSD上的单GPU培训性能。不包括多GPU培训速度。
TLDR;
硬件设置
Lambda Dual - 深度学习工作站，带有2个Titan RTX GPU
Titan RTX的FP32性能是......

• 比RTX 2080 Ti 快约 8％
• 比GTX 1080 Ti 快约47％
• 比Titan Xp 快约31％
• 比Titan V 快4％
• 比特斯拉V100（32 GB）慢约14％

比较训练时每秒处理的＃个图像。

Titan RTX的FP16性能是......

• 比RTX 2080 Ti 快21％
• 比GTX 1080 Ti 快110％
• 比Titan Xp 快92％
• 比Titan V 慢2％
• 请继续关注与V100（32 GB）的比较

比较训练时每秒处理的＃个图像。

价钱

• Titan RTX： 约￥2w（来源：某东）
• RTX 2080 Ti：约￥1w左右（来源：某东）

结论

• RTX 2080 Ti是机器学习/深度学习的最佳GPU，如果... 11 GB的GPU内存足以满足您的培训需求（对于许多人来说，它是）。2080 Ti在Titan RTX，Tesla V100，Titan V，GTX 1080 Ti和Titan Xp中提供最佳性价比。
• Titan RTX是机器学习/深度学习的最佳GPU，如果...... 11 GB的内存不足以满足您的培训需求。但是，在结束之前，尝试以半精度（16位）进行训练。这有效地使您的GPU内存翻倍，但代价是培训准确性。如果你已经在FP16和11 GB上成功训练仍然不够，那么选择Titan RTX - 否则，请选择RTX 2080 Ti。在半精度时，Titan RTX可有效提供48 GB的GPU内存。
• 特斯拉V100是机器学习/深度学习的最佳GPU，如果......价格不重要，您需要每一块GPU内存，或者产品的上市时间至关重要。

方法

• 所有模型都在合成数据集上进行培训，以将GPU性能与CPU预处理性能隔离开来，并减少虚假的I / O瓶颈。
• 对于每个GPU /模型对，进行10次训练实验，然后进行平均。
• GPU的“归一化训练性能”通过将其在特定模型上的图像/秒性能除以相同模型上的1080Ti的图像/秒性能来计算。
• Titan RTX，2080 Ti，Titan V和V100基准测试使用了Tensor Core。

Batch Size

运行环境：

• Ubuntu 18.04
• TensorFlow：v1.11.0
• CUDA：10.0.130
• cuDNN：7.4.1
• NVIDIA驱动程序：415.25

原始结果

下表分别显示了FP32模式（单精度）和FP16模式（半精度）训练时每个GPU的原始性能。请注意，测量的单位是每秒处理的图像数，我们将结果舍入到最接近的整数。

FP32 - 每秒处理的图像数

FP16 - 每秒处理的图像数

重现基准测试

第一步：获取Git仓库

git clone https://github.com/lambdal/lambda-tensorflow-benchmark.git --recursive

第二步：运行基准测试

输入正确的gpu_index（默认值为0）和num_iterations（默认值为10）

cd lambda-tensorflow-benchmark ./benchmark.sh gpu_index num_iterations

第三步：报告结果

• 检查repo目录中的文件夹 - .logs（由benchmark.sh生成）
• 在基准测试和报告中使用相同的num_iterations。

./report.sh -.logs num_iterations

文章搬运自：

Titan RTX Deep Learning Benchmarks​lambdalabs.com