动手学深度学习Pytorch版打卡记录-1

第一单元 线性回归

线性回归是最简单的机器学习算法,课后题,三个错了两个。第一个没啥可说的,简单的矩阵运算。第三个错的有点冤枉,没弄清楚题目就算了。

 

第二个错的原因是没有弄清楚矩阵相乘的维度。知道维度需要一致才能运算,但是,没有在代码运行环境中观察实际的真实维度,从而做错。 线性回归中,损失函数是均方差损失。

 

 

第二单元: softmax 回归

softmax是多分类函数,本质上是对sigmoid的扩展。它的意义是可以将输出 的数据在概率空间上放大,增强数据的显著性,实现强者愈强,弱者俞弱。

 

 

 

第三单元:过拟合

过拟合问题主要是因为训练样本数量太少导致的,训练 样本太少,导致生成的模型参数对训练集有非常好的拟合性,但是泛化能力不足,从而导致过拟合。

解决过拟合问题,可以用加上正则项对模型参数进行惩罚,让它能泛化得更好。

 

 

你可能感兴趣的:(动手学深度学习Pytorch版打卡记录-1)