datawhale李宏毅机器学习——task07总结

在任务01中，对机器学习的定义、结构和功能有了大致了解。
机器学习是为了让机器能够像人一样拥有智慧而设计的一种算法，这种算法最大的特点在于从一堆数据中根据设定的神经网络学习数据中隐含的知识。机器学习的执行步骤，首先，明确要解决的问题类型，是回归还是分类；然后，根据问题类型选择函数集，有线性的非线性的，非线性的就是指深度学习、SVM、KNN这些；最后，根据数据有无标签的特点，选择训练方法。
在任务02中，学习了回归。回归就是找一种函数集，这种函数能够输出想要的值，有预测和判断功能。回归的步骤：选择函数集；选择损失函数使得这种函数能够表征模型的好坏；通过随机梯度下降法优化函数的参数。
在任务03中，详细介绍了误差和梯度下降。误差主要由偏差和方差组成，偏差大说明欠拟合，方差大说明过拟合。梯度下降就是根据参数的偏导数决定参数的更新值。
在任务04中，介绍了深度学习和反向传播。深度学习就是机器学习的一种函数模型，使用过程也分三个步骤：首先选择神经网络的模型；然后确定评估函数；最后根据反向传播算法优化网络参数。
在任务05中，学习了神经网络的设计技巧。设计神经网络的目的是为了得到性能最好的网络。首先看神经网络在训练集上有没有好的效果，如果没有，那有可能是激活函数和学习率的问题；如果在训练集上效果不错，但在测试集上效果不好，这说明过拟合，可以通过正则化和dropout的方式来改善。
在任务06中，学习了卷积神经网络。CNN相比于传统的前馈神经网络，最大的特点在于通过共享权重以及删除一部分连接从而减少网络参数量，在图像识别上应用广泛。