混合精度解析

一、概念

混合精度 : fp16 和 fp32

fp16 : 16位浮点数(float16)

fp32 : 32位浮点数 (float32)

二、为什么使用混合精度

fp16 :提高性能( 速度快、内存占用小)

fp32 :  数值稳定性

三、如何使用

1、使用手册(官方文档)

https://www.tensorflow.org/guide/mixed_precision?hl=zh-cn

你可能感兴趣的:(python,深度学习)