pytorch学习

1.nn.LayerNorm()

nn.LayerNorm的实现及原理_harry_tea的博客-CSDN博客

pytorch LayerNorm参数详解，计算过程_拿铁大侠的博客-CSDN博客_torch.nn.layernorm

nn.LayerNorm的参数_饿了就干饭的博客-CSDN博客

出现了一个错误RuntimeError: “LayerNormKernelImpl“ not implemented for ‘Long‘。

解决方式：

RuntimeError: “LayerNormKernelImpl“ not implemented for ‘Long‘_沐辰光的博客-CSDN博客

2.einops.repeat（）操作

einops.repeat, rearrange, reduce优雅地处理张量维度_TEn%的博客-CSDN博客

3.chunk()

 4.nn.GELU()

一种激活函数，表达式和好处如下：

更适合NLP任务的激活函数——GELU( ) - 知乎

torch.nn.GELU_tianyunlinger的博客-CSDN博客

5.pycharm的No tests were found错误解决方法

pycharm的No tests were found错误解决方法_rsnowy的博客-CSDN博客

6.torch.nn.utils.weight_norm的原理与使用

Weight Normalization原理与使用 - 知乎

结合一层网络理解

 7.python contiguous()

python——Contiguous用法_一只叫不二的龙猫的博客-CSDN博客_contiguous python