softmax and overfitting

softmax and overfitting_第1张图片
softmax and overfitting_第2张图片
softmax and overfitting_第3张图片
softmax这个结果就可以描述为每个类的概率

softmax这个结果可以描述为每个类的概率

softmax and overfitting_第4张图片
softmax and overfitting_第5张图片
softmax and overfitting_第6张图片

故,不会造成学习慢!是根据信息熵的概念进行求解。

Overfitting

softmax and overfitting_第7张图片

例如我们利用1000个数据作为训练,表现出的情况:

softmax and overfitting_第8张图片

Cost表现看起来还不错,Test的变化如下:

softmax and overfitting_第9张图片
softmax and overfitting_第10张图片
softmax and overfitting_第11张图片
softmax and overfitting_第12张图片
softmax and overfitting_第13张图片

当然了还有其他的方式来客服Overfitting

softmax and overfitting_第14张图片
softmax and overfitting_第15张图片
softmax and overfitting_第16张图片

实验证明一下:

softmax and overfitting_第17张图片
softmax and overfitting_第18张图片
softmax and overfitting_第19张图片
softmax and overfitting_第20张图片


softmax and overfitting_第21张图片
softmax and overfitting_第22张图片
softmax and overfitting_第23张图片

你可能感兴趣的:(softmax and overfitting)