Logistic 回归与 Softmax 回归在解决二分类问题的区别

Logistic 回归与 Softmax 回归在解决二分类问题的区别

在学习邱锡鹏老师的《神经网络与深度学习》的Softmax回归时，他在最后提出了此问题。

久经思考后，没想出来有什么区别。后来在看到以下这篇文章时，才理解了这个问题。

https://blog.csdn.net/huangfei711/article/details/79801968

此处不在赘述Logistic 回归与 Softmax 回归的相关知识点，别人写的比我好。
总的来说，关于Logistic 回归与 Softmax 回归在解决二分类问题的区别，其实是二者在解决实际问题上不同应用场景所具备的条件而导致的区别，上面那篇文章中举了个例子，非常形象生动，就是以下的例子：

使用 SoftMax 回归或者是多个 Logistic 回归二分类解决多分类问题，取决于类别之间是否互斥，例如，如果有四个类别的音乐，分别为：古典音乐、乡村音乐、摇滚乐和爵士乐，那么可以假设每个训练样本只会被打上一个标签（即：一首歌只能属于这四种音乐类型的其中一种），此时你应该使用类别数 k = 4 的 SoftMax 回归。（如果在你的数据集中，有的歌曲不属于以上四类的其中任何一类，那么你可以添加一个“其他类”，并将类别数 k 设为5）。如果四个类别如下：人声音乐、舞曲、影视原声、流行歌曲，那么这些类别之间并不是互斥的。例如：一首歌曲可以来源于影视原声，同时也包含人声 。这种情况下，使用 4 个二分类的 Logistic 回归分类器更为合适。这样，对于每个新的音乐作品 ，我们的算法可以分别判断它是否属于各个类别。
————————————————
版权声明：本文为CSDN博主「打工人小飞」的原创文章，遵循CC 4.0 BY-SA版权协议，转载请附上原文出处链接及本声明。
原文链接：https://blog.csdn.net/huangfei711/article/details/79801968

他写的很清楚，主要区别就是使用 SoftMax 回归或者是多个 Logistic 回归二分类解决多分类问题，取决于类别之间是否互斥。
邱老师问道的是解决二分类问题，思想是一样的。

总而言之，如果分类的类别是互斥的，使用Softmax 回归；若不是互斥的，是相互混杂的，则使用Logistic回归。