学习笔记-李沐动手学深度学习(三)(10-11,隐藏层、多层感知机、激活函数、模型超参数选择、欠过拟合)
总结多体会(宏观、哲学)【深度学习的核心】首先是要模型足够大,在此基础上通过各种手段来控制模型容量,使得最终得到较小的泛化误差【一般深度学习特指神经网络这一块】【学习的核心是要学习本质上不变的那些核心思想,如欠过拟合、数据集怎么弄、训练误差泛化误差等等,因为很可能过几年有新的语言、新的技术出现。整个工科本质上都差不多,从某个方向深入学习到精髓,很容易向其他工科迁移】世界上有三种东西:艺术:我做了一