【小白做科研（三）】数据处理

读了很多论文，咱们自己心里也对整体的进展有了一些了解和脉络，那么下一步就可以试着复现啦~

而要复现人家的代码，那肯定得找人家的数据集，数据到手后就可以开始处理了~ 这篇主要粘一些看到的比较好的博客

平台

我自己就是觉得pytorch比tensorflow帅hhhh，而且很多师兄大佬也说pytorch比较好，那就可以先从官网教程开始了解~

• 需要指明一点，大家安装pytorch后其实不需要装cuda也可以用gpu（因为torch里附带了一些cuda的驱动），但是好像是功能受限，如果想要完整版应该还是得老老实实cuda+cudnn

数据处理

要训练模型的话，最好是喂一批（batch）一批的数据进去，所以我们需要把数据读取自己需要的部分，然后让数据成批呈现，这里pytorch提供了很方便的工具Dataset和DataLoader，定义好了就可以直接用；

我想着重说一下torchtext啊，主要是在文本处理这块用，其中有很丰富方便的功能，其实pytorch官网中一些text的教程中都用到了这个工具，但是没有给出一个系统化的用法，所以我google了一下发现这篇讲的很清楚，还有一篇但是这个界面太丑了，我没细看。

另外

我参（zhào）考（chāo）微软开源推荐系统 提供的代码，将数据处理的部分迁移（其实就是照搬。。。改动了一点部分，加了一些注释，删除了一些小项目不必要的抽象）到pytorch平台下，详情参考 我的仓库。

我自己也还在探索中，会一直更新，希望广泛交流。