pytorch矩阵相乘效率提升之路

用einsum实现的multihead相比于torch官方版本效果相差数倍,定位发现是einsum相比matmul的效率差的较多。

从手写三层循环到标准实现,矩阵相乘运行效率提高三万六千倍之路-php黑洞网http://www.phpheidong.com/blog/article/30189/0719df4036473fd68d22/

你可能感兴趣的:(torch与tf使用笔记,pytorch,矩阵,人工智能)