[FNet]论文实现:FNet:Mixing Tokens with Fourier Transform
文章目录1.介绍2.架构3.结果4.总结论文:FNet:MixingTokenswithFourierTransforms作者:JamesLee-Thorp,JoshuaAinslie,IlyaEckstein,SantiagoOntanon时间:20221.介绍transformerencode架构可以通过很多种方式进行加速,毫无例外的都是对attentionmechanism进行处理,通过把平