Pytorch与keras的差别

20220825 -

在前期，一直是使用keras进行深度学习相关的编程，但后来由于学习各种其他源码的缘故，也学习了pytorch的相关方式。使用之后发现，有时候如果对各种损失函数进行深层次的编写的时候，采用pytorch会更方便。因此便查阅了两者的区别和优势，具体见文章[1]。

但是在介绍别人文章的时候，先简单说一下自己的感受。

在学习keras的时候，看别人的代码，进行模型编程的时候，普遍采用序列式或者函数式的形式，这两种也是我平时采用比较多的，模型比较简单简单不需要多输入多输出，那么采用序列式的形式，而如果模型中包含了多输出，那么就需要采用函数式的编程形式。而在学习pytorch的时候，见到的更多的方式，就是定义一个类，这个类实现了你神经网络的结构，在网上看到的好多源码都是这种形式。当然keras也是支持这种类编程形式的，而且torch也支持序列式的编程，平时我这里使用比较少。关于keras的三种编程方式，可以见文章[2]，该文章同时对比了三种形式的不同，见下面的图片。

那么在平时的时候，两种编程框架除了这种模型构造的过程的不同，另外一个对我来说比较关键的部分，在模型训练过程，最早的时候也接触过tensorflow的形式，pytorch的训练方式和tensoflow很像，在训练过程中，需要自己来按次，并控制损失函数进行训练。这是平时频繁使用的方式中，对我来说两者最大的不同了。

当然，keras自身也支持这种形式，自己来控制训练的过程，但平时都是直接划分好数据集之后，一行.fit完事。在学习初期，由于keras的封装比较好，比如前面说的训练过程，那么比较简单的模型，不需要我在自己撰写训练过程的内容，直接利用他定义好的损失函数，几行代码就可以了。这也是我最早的时候进行的方式，比较复杂一点的，就自定义一个函数来设计自己的损失函数。

那么对我来说第二个不同，损失函数的定义过程，pytorch编程过程中，会对每次训练的数据都有接触，那么可以针对这部分具体进行计算，计算好之后返回即可。这里也是有所不同。

不过，从本质上来讲，keras也能实现这种过程，只不过可能使用起来不够灵活。以上属于我平时不同的使用习惯下，对两种框架的不同见解，具体两者不同，可以见文章[1]，下面列举出来他提供的一个对比表格。

参考

[1]Keras vs PyTorch: Which ML Framework Should You Learn?
[2]3 Ways to Build Neural Networks in TensorFlow with the Keras API