【科研小小白的神经网络Day3】什么是超参数？阅读优化函数时遇到的疑问

超参数

一.模型参数和超参数的区别

• 模型参数（Parameter）：模型内部的配置变量，模型可以根据数据可以自动学习出的变量，自行根据数据进行驱动调整。
  比如，深度学习的权重，偏差等。

• 超参数：也是机器学习算法中的调优参数（tuning
  parameters）或框架参数，模型外部的配置，不需要数据来驱动，而是在训练前或者训练中人为进行设定和调整，一般需要为它根据已有或现有的经验指定“正确”的值。超参数不同，模型是不同的

**机器学习中一直说的“调参”，实际上不是调“参数”，而是调“超参数”**。（超重要，老忽略这一点）

未完待续
今日想法：
发现看机器学习代码会涉及到非常多的数学理论，在不清楚张量、梯度计算等理论基础时，会不了解其中理论，会导致原理读不通，不知道为什么要进行这些操作，所以还是得慢慢掌握一些相关的数学理论，不能单纯的套别人的模板、公式，既然都学机器学习了就得掌握深层的知识而非像开发一样学会用工具就好，但实际学习也要多留意网络模型的使用，之后多半也是在前人的基础上做实际应用。
————————————————
版权声明：本文为CSDN博主「Kevin404ar」的原创文章，遵循CC 4.0 BY-SA版权协议，转载请附上原文出处链接及本声明。
原文链接：https://blog.csdn.net/abc31431415926/article/details/127962898