NVIDIA P4 参数

Paste_Image.png

需要关注的内容

1. 功耗
2. int8 性能

---

功耗

~75瓦的功耗，这个功耗非常的低，比起训练用的 GPU 250W的功耗，这个功耗约四分之一，机器上部署8块 P4 来专门作为推断的机器，那么功耗也不过600W。不用再增加一个电源。

int8 性能

关注 int8 的性能，是因为现在已经有充分的证据来说明，int8 对于推断来说足够了，关于这个内容，我打算好好的来写一下。以前也专门做过相关的实验。