跟我学算法-图像识别之图像分类(上)(基础神经网络, 卷积神经网络(CNN), AlexNet,NIN, VGG)...
1.基础神经网络:输入向量x,权重向量w,偏置标量b,激活函数sigmoid(增加非线性度)优化手段:梯度下降优化,BP向后传播(链式规则)梯度下降优化:1.使用得目标函数是交叉熵c=1/nΣΣ[yj*lnaj^2+(1-yj)*ln(1-aj^2)]yj表示得是样本标签,aj表示的是输出值2.批量梯度下降:每次迭代一部分样本,进行参数跟新。3.随机梯度下降:每次迭代只选择单个样本4.梯度更新的方