《机器学习》 周志华学习笔记第五章 神经网络(课后习题) python实现

1.神经元模型

2.感知机与多层网络

3.误差逆传播算法

(A)BP算法:最小化训练集D上的累积误差

标准BP算法:更新规则基于单个Ek推导而得

两种策略防止过拟合:(1)早停(通过验证集来判断,训练集误差降低,验证集误差升高)(2) 正则化:在误差目标函数中引入描述网络复杂度的部分

4.全局最小与局部最小

跳出局部最小的方法:(1)不多参数初始化多个神经网络。去误差最小的解做为最终参数(2)模拟退火(3)遗传算法

5.其他神经网络

Boltzmann机 RBM受限玻尔兹曼机

自己学习时写了一些代码,有的还有一些问题,可以留言讨论,习题以后补上

https://github.com/makang101/machinelearning/tree/master/chapter5neuralNetwork

你可能感兴趣的:(机器学习,机器学习,西瓜书)