寒武纪和NVIDIA Tesla GPU系列P4、T4、P40以及V100参数性能对比

关注、点赞、收藏是对我最大的支持，谢谢^v^

训练：寒武纪思元370、V100、P40、A100、A800

推理：T4、P4

A800就是A100的换壳版，性能基本没变，主要是带宽增加了，听说是规避老美实体清单。

NVIDIA Tesla系列GPU适用于高性能计算（HPC）、深度学习等超大规模数据计算，Tesla系列GPU能够处理解析PB级的数据，速度比使用传统CPU快几个数量级，NVIDIA Tesla GPU系列P4、T4、P40以及V100是Tesla GPU系列的明星产品，云服务器吧分享NVIDIA Tesla GPU系列P4、T4、P40以及V100参数性能对比：

NVIDIA Tesla GPU系列P4、T4、P40以及V100、A100、A800

NVIDIA Tesla系列GPUP4、T4、P40以及V100性能规格参数对比表。
腾讯云提供基于NVIDIA Tesla GPU的计算型GPU云服务器，GPU实例规格包括GN6/GN6S/GN7/GN8/GN10X，参考：GPU云服务器详解 - 腾讯云

云服务器	寒武纪 思元370	T4	V100	A100	P4	P40
单精度性能 (FP32)		8.1 TFLOPS	14 TFLOPS (PCIe) 15.7 teraflops (SXM2)		5.5 TFLOPS	12 TFLOPS
半精度性能 (FP16)		65 TFLOPS	112 TFLOPS (PCIe) 125 TFLOPS (SXM2)	312 TFLOPS	—	—
整数运算能力 (INT8)	256 TOPS	130 TOPS	—	624 TFLOPS	22 TOPS*	47 TOPS*
整数运算能力 (INT4)		260 TOPS	—		—	—
GPU 显存		16GB	32/16GB HBM2		8GB	24GB
显存带宽		320GB/秒	900GB/秒		192GB/秒	346GB/秒
系统接口/外形规格		PCI Express 半高外形	PCI Express 双插槽全高外形 SXM2/NVLink		PCI Express 半高外形	PCI Express 双插槽全高外形
功率		70 W	250 W (PCIe) 300 W (SXM2)		50 W/75 W	250 W
硬件加速视频引擎		1 个解码引擎，2 个编码引擎	—		1 个解码引擎，2 个编码引擎	1 个解码引擎，2 个编码引擎

关于NVIDIA TESLA系列GPU详细介绍如下：

NVIDIA TESLA V100

NVIDIA Tesla V100采用NVIDIA Volta架构，非常适合为要求极为苛刻的双精度计算工作流程提供加速，并且还是从P100升级的理想路径。该GPU的渲染性能比Tesla P100提升了高达80%，借此可缩短设计周期和上市时间。

Tesla V100的每个GPU均可提供125 teraflops的推理性能，配有8块Tesla V100的单个服务器可实现1 petaflop的计算性能。

NVIDIA TESLA P40

The Tesla P40能够提供高达2倍的专业图形性能。Tesla P40能够对组织中每个vGPU虚拟化加速图形和计算（NVIDIA CUDA® 和 OpenCL）工作负载。支持多种行业标准的2U服务器。

Tesla P40可提供出色的推理性能、INT8精度和24GB板载内存。

NVIDIA TESLA T4

NVIDIA Tesla T4的帧缓存高达P4的2倍，性能高达M60的2倍，对于利用NVIDIA Quadro vDWS软件开启高端3D设计和工程工作流程的用户而言，不失为一种理想的解决方案。凭借单插槽、半高外形特性以及低至70瓦的功耗，Tesla T4堪称为每个服务器节点实现最大GPU密度的绝佳之选。

NVIDIA TESLA P4

Tesla P4可加快任何外扩型服务器的运行速度，能效高达CPU的60倍。

关注、点赞、收藏是对我最大的支持，谢谢！