机器学习中的问题

1、怎样评测神经网络

2、特征标准化

3、挑选好的特征

4、避免无意义的信息

5、激励函数





1、怎样评测神经网络

机器学习中的问题_第1张图片

分类问题,使用  error,accuracy,R2 score   

回归问题中使用 R2 score

不均衡问题使用F1 score

避免产生过拟合问题 


机器学习中的问题_第2张图片

过拟合问题解决方案 ,,

L1/L2 regularization

Dropout


2、特征标准化 



机器学习中的问题_第3张图片
机器学习中的问题_第4张图片
机器学习中的问题_第5张图片

3、挑选好的特征 

机器学习中的问题_第6张图片


机器学习中的问题_第7张图片
机器学习中的问题_第8张图片


机器学习中的问题_第9张图片

避免无意义的信息



机器学习中的问题_第10张图片

避免重复性的信息

机器学习中的问题_第11张图片

避免复杂的信息

机器学习中的问题_第12张图片


机器学习中的问题_第13张图片


4、激励函数 

机器学习中的问题_第14张图片


机器学习中的问题_第15张图片


机器学习中的问题_第16张图片


机器学习中的问题_第17张图片


机器学习中的问题_第18张图片

可以自己写自己的激励函数,只要能够微分就行,能够让系统反向传递回去。


机器学习中的问题_第19张图片


多层神经网络中 不能随意使用激励函数,,需要小心点。。会设计到梯度爆炸和梯度消失的问题 。。

机器学习中的问题_第20张图片


少量hidden layer 激励函数可以 多种选择。。。

你可能感兴趣的:(机器学习中的问题)