个人总结一下batch和epoch

首先得说梯度下降算法。

个人总结一下batch和epoch_第1张图片

https://blog.csdn.net/lhhopencv/article/details/78912256 

个人总结一下batch和epoch_第2张图片

那也就可以理解了为什么说梯度下降的几种方式的根本区别就在于上面公式中的batch不同

当batch size是整个训练集时,就是纯正的梯度下降法

当batch size为1时,就是纯正的随机梯度下降法。

当batch size介于1和整个训练集时,就是实际程序里用到的,那么我就此推测,batch越大应该才越接近于真正的梯度下降算法,结果应该会更好些。

 

一个batch size地样本走一遍后,每个样本都会算出一个损失函数值,把这些损失函数值相加再处以batch size值可以得出这一个batch地平均损失函数值,最后是拿这个平均损失函数值去梯度下降更新参数值。

个人总结一下batch和epoch_第3张图片

个人总结一下batch和epoch_第4张图片

也可以参考这篇写的

https://blog.csdn.net/weixin_42137700/article/details/84302045

 

 

 

epoch是什么呢,epoch是要设定的一个参数,可以设定为从1到无穷大,一个epoch意味着训练集中每一个样本都参与训练了一次。

比如训练集有50000个样本,而我设定的batch size是50,也就是说每50个样本才更新一次参数,那么也就意味着一个epoch里会提取1000次bach,这样才会把每个样本都提取了一遍,更新了1000此参数。这是一个epoch里做的,一次类推,我要设定2000个epoch意味着把这个过程重复2000次。也就是训练集里的每个样本都被提取了2000次。

具体可以参看这两篇:
https://blog.csdn.net/lhhopencv/article/details/78912256

个人总结一下batch和epoch_第5张图片

https://blog.csdn.net/weixin_42137700/article/details/84302045

 个人总结一下batch和epoch_第6张图片

 

 

 

所以你可以看看,原来不会学习看书的你,连这些最基本的概念都没搞懂,现在才开始真正搞懂弄明白,不得不感慨。原来你那真的不叫学习,根本没有学到东西。还大谈特谈机器学习深度学习。原来的你其实就只会copy一下别人的程序,然后稍微改改。很多东西都不懂,更不会自己写了,虽然你很久之前就意识到了这一点。

唉,还是好好学习吧。真正让自己充实起来,而不是感觉很空虚。

 

当然你考研期间就意识到要看书把书看烂,但结果是什么呢,你去看机器学习的书,感觉极其吃力,看tensorflow的书,也不算轻松,

你想弄个egit,看官方文档,又是极其吃力的,

 

其实经历了一场考研,你的学习能力是够了的,你也知道该怎么看书,知道去理解了。也是可以把一本书看透的,想想专业课,想想政治。数学也是的,只是数学从你理解到会做题还有一定距离。数学的一些章节你也是看得很透了的,只是题做得不够。

 

 

所以啊,经历了一场考研,你的学习能力,是有的,只是现在,学习方式上需要做一点改变,像你看专业课没什么压力,但是你看机器学习,那就有压力,你直接去啃书,是吧,又没人指导,感觉很吃力,很正常,别怀疑自己是不是什么基础不够什么什么的,不是的,通过看视频教程的方式,能够更加便于我们理解学习。再回看书也轻松许多。直接去看这个机器学习,直接去看tensorflow还有python的书,确实有点怀疑自己,真按照传统的看书方式,从头到尾都理解看下来,这个工程量有点大,进度估计也是缓慢,要是去找工作,那黄花菜都凉了,肯定耗不起。

 

 

这方面学习的话我还有个建议,那就是去找到这方面会的人可以请教,就像考研就要去考研的人一起,再图书馆,不然你死都不知道怎么死的。你学一个东西的话,也可以找这方面学的人一起,找不到学的人一起,那也可以找会的人一起啊,是不是,不然小心又是死都不知道怎么死的,你自己一个人磨磨蹭蹭地学。而别人都在战场上干,你却全然不知,还每天悠哉游哉的,那就完了。最怕的是死都不知道怎么死的。别人培训班的,一个星期都是一个项目,你还在这研究怎么学习?

必须要有竞争啊。

 

你之前不是不会学习么,那就去跟会学习的人一起啊,你这个人偏偏高傲,只想独来独往。现在觉得脱离群体是很危险的,因为大部分人的选择才是最安全保险的选择,你以为别人傻其实是你自己傻,你自己非特立独行结果吃亏的只能是自己了。

 

一方面是怎么学习的问题,一方面是怎么高效学习的问题。机器学习你确实可以去慢慢把书磨透,但是确实。。。也可以看视频,也可以去找人请教啊是不是!!!最终都是一个目的,把它弄懂。只是这个学习的方式方法上值得研究改进,不要再只是一个人看书,要打开自己,开放自己,看视频,培训班,问人都是可以的。

不光是在学习上我认为在很多事情上我都需要开放自己而不是自己一个人闷着做,找工作,等等,能去请教别人的为什么不去请教别人呢。自己慢慢地试很多时候耗费大量精力。

你可能感兴趣的:(tensorflow)