每周总结第2期:3.25 - 3.31

本周目标 ~

  1. 看完零基础入门深度学习【还差一章半】
  2. 看完总结上面的【还是没有总结,呵呵,下周一定总!】
  3. 看BN算法、实现BN:把BN加在mnist写的,参考网站戳此 【7、8成了解了,但是实现还是得再看看】
  4. 门控相关:【看了一点点就转去看BN了】
    The Graph Neural Network Model 1
    The Graph Neural Network Model 2
    LSTM与GRU1
    LSTM与GRU结构
    深度学习之GRU网络
    一步一步,看图理解长短期记忆网络与门控循环网络
  5. 模型科普 【下周看】
  6. 做完上面两点开始看论文(有GGSNN的翻译博客) (基于门控图网络的图到序列学习就算了吧,写在GGSNN之后的)【看了一点点就卡住了,发现还是得看之前的技术:LSTM、GRU等】
  7. 网课(我ballball你啦)【取消】
  8. 补漏:损失函数 【OK】
  9. 安装TensorFlow 【在装】

一周回顾

  1. 继续看零基础入门深度学习,但LSTM还没看,RecursiveNN 还差一部分。而且全部的实现也没有看,当初为了效率跳过了,感觉以后还得补回这些实现。
  2. BN算法算是大大概概了解了,梯度的公式也推完了,但是算法具体怎么实现我还是有点乱,虽然之前还是照书本写了个,但现在还是忘记了一些,然后也不能完全讲清楚怎么做,还是要多写写啊。
  3. 发现代码还得多写写,千万不能觉得光知道原理就行了,其实觉得自己知道了很可能写的时候无从下手
  4. 本来打算把门控(gated)啥的也看了的,结果还是因为在搞BN,和装TensorFlow没咋看
  5. 去看了些编程班级,结果兜兜转转之后还是觉得自己学比较实在,不过也可能因为自己有事情做吧,没有事情做就报这些班比较充实。

下周目标:

  1. 慢慢装TensorFlow
  2. 看残差网络
  3. 我在B站看斯坦福cs231n
  4. loss函数就是损失函数吗??【我觉得是吧】
  5. 有机会再看:
    Gated Graph Sequence Neural Networks(GGNN)的PyTorch实现
    GGNN结合代码的论文阅读笔记
  6. 实现BN:把BN加在mnist写的,参考网站戳此

周一
满课,觉得计组、计网、软工课要听了。计组:上课节奏有点慢,看书看得懂。计网:好多东西,各种协议、英文缩写看不太入脑,感觉就水过鸭背,找不到要思考什么,不过老师讲课也不是全讲,跟着老师节奏走吧。软工:感觉软工好难,难就难在没有正确答案,好像怎样都可以(就自己写的不可以),感觉是要花时间泡一下,培养出自己的软工素养吧(笑)。

晚上去听恋爱心理学,遇到darkrun就一直聊深度学习的事情了,得到了一些资料,同时也交换了下考研的信息。。没想到他也很忙,各种各样的事情,也是激励了我8。

看朋友圈有个学姐在出售考研的书,她成功上岸了,华中科技大,也是可喜可贺,她告诉我说 研越来越难考了,不过我想,正是因为考研难考,才更值得去考吧 。又讲了一些成功/失败的案例,也不是不够努力,就是运气问题,她说“考研6分运气4分实力”,不管老天赏不赏脸读书,至少自己不后悔吧。

周二
只有一节课,概率论。概率论也是要听的,加上老师讲的不错。前面觉得听懂了就玩了下手机,然后不知道老师讲了啥,最后还是乖乖听课。下午看书。晚上看直播看不懂,感觉难的东西还是自己学比较好,看视频节奏老不对。晚上发现要交作业了,但直播又得看,只好边写边听。不过发现听不懂,后来就关了。

做作业的时候学姐过来聊天,拜托她去打听一下,得到的回复是“现在这个状态就挺好”。还是不死心,不过考虑的最近事情很多,箍煲要花好多时间和心思,我还是先把手头东西做好吧,没这么多时间搞这个。

周三
早起了,下午满课,晚上宿友说想去图书馆,我感觉在宿舍我的效率也差不多,但还是去试试了。感觉图书馆还不错,图书馆比较光亮,宿舍比较暗,开了小灯的话,长时间还是感觉眼睛不舒服。继续看零基础入门深度学习。

之后要去跑步就九点多走了,跑完又去了南亭。一路上又聊考研、方向的事情。之前也聊过,那个时候我还不大了解深度学习、神经网络之类的,现在也能跟她讲讲这些是啥了,还是挺有成就感的。她对于考研和方向的想法也改变了。就像我的想法从想考研->不考了->还是考吧,以后自己的想法还真是料不准。

周四
因为团日活动和计组实验,上下午四个时间段全被占了。晚上回来又跟宿友去图书馆了。她路上说本来不想去的,因为她今晚运动了还要洗头啥的,但是见我拉她去,她想想也去了(毕竟她在图书馆里头效率高不少)。我是在宿舍也差不多,想着今晚就不去了,但因为昨晚走的时候她说今晚来吧,我想想来也划算,毕竟图书馆的效率还是高一些的。真的是无意间互相激励、进步哈哈哈。晚上回去洗头我就在课室接着看,回去搞一会就睡觉感觉这样安排还是不错的,专心时间确实提高了不少。

那篇零基础入门深度学习也看了四天多了,里面的一些方法论也渐渐熟悉,感觉也有一定套路,不过循环神经网络(RNN)真的有些难,主要是矩阵的操作不是很熟悉。又跟班长交流了一下,他说想学个TensorFlow,边学边练感觉更好。问了下darkrun他也赞同。。然后clf说他darkrun可是人称TFBoys,哎呀呀之前都不知道,感觉有问题又可以找他问了。先完成今天的任务,明天看TensorFlow。

周五
早上起来护肤。。。下午也去图书馆了,看的循环神经网络,看完开始看递归神经网络,发现好像也没什么关系。。。然后开始装TensorFlow。是真的难装,也有也在想这么难装是不是也是在筛选人啊。。。晚上看的后天,【获得:时长+2】。回来后看买了的课程,突然想起明天suck杰要讲BN了,急急忙忙去看。

距离上次看BN的论文、博客啥的,又过了一周,感觉慢慢入门了,虽然算法还是那个算法,不过感觉接受程度是高了不少,可能是因为熟悉了和增加自信了吧。看着看着突然发现这个是概率论上学的标准正态分布,然后面对啥μ啊sigema啊,突然开窍,知道他们在干嘛了。

周六
睡到九点出头醒了,赖在床上搞到快十点,师兄说要开始直播了,才急急忙忙滚下床。这周继续讲BN,加上昨晚看了,还是很好接收的。不过好像就我没看论文hh。。讨论的时候就给了5分钟我看了,大概了解怎么做吧。不过结束的时候师兄说要写一个出来,卧槽。。。,当然也不是硬性规定,然后也给了参考资料,不过要是有机会我还是想写出来给他们看看

晚上高中闺蜜团把生日聚会又推迟了(变成聚会了),推到五一放假,问了下原因原来都非常忙,除了yl哈哈哈,不过还是希望她赶紧找点有意义的事情吧,如果她为此焦虑的话。cy说“我四月,一个比赛申报,搞个大活动,党校,部门工作,两篇正式论文”,“已经两个星期每天睡4.5个小时”,我听了第一反应是很宽慰。。。太激励了居然有比我忙的(好吧好吧我知道有很多人比我事情多得多,但是身边的人的话就会感到激励),不过还是身体要紧。

打算以后早上去图书馆,中午回来吃饭,然后睡一下,然后下午再去,然后傍晚早点回来吃饭,然后去跑步,跑完回来洗澡,然后再出去,回来直接就可以睡觉了。

周日
不要只学不练,多和圈内容交流,今天要总结了。emmm上午看了csdn人工智能课程,感觉不咋地,退了。
发现链式求导法则很重要,一些求梯度或者偏导的公式中间可能要经过链式求导法则。
要做一个DL的归纳。
推荐天弓取色器,护眼神器!!我真尼玛吹爆!!
(次日:哈哈我还是没总结。。。)

你可能感兴趣的:(每周总结)