pytorch模型的坑:双分支网络的输出结果一模一样

Motivition: 双分支网络训练结束,分析可视化输出结果的时候突然发现,两个分支的输出结果一模一样!!!做差之后输出结果,果不其然,equal to zero! 小鬼上身,浑身纳闷。
Debug Progress:

  1. 可视化网络结构&check训练模型中的参数值:模型中的双分支学习到的参数值不会是一样的吧?
  2. 周末616,碰到了遇到了黑暗的一天!划水搭了个个人网站,逃避课程复习,逃避烦人的小鬼,逃避糟糕的记忆。。。最后自己给自己开了一枪,伤口上又撒了一把盐,心凉。夜幕降临,迎来另一个自己,写了日记,心暖。
  3. 周一,彻夜未眠的后遗症隔山打牛,混沌。还好灵感突现,解决了这个BUG,得以为今天画上圆满的句号。

从每层参数的输出结果可以看出,其顺序按照模型定义中的 init(self)函数,而非forward(self, input)函数。
于是,我怀疑所学模型的结果也有同样的诟病,于是check了一下所load进的模型,果不其然,和每层参数的输出有同样的顺序,怀疑近乎是正确的。
最后,改换模型代码,并输出训练结果,right unequal to zero!
Thinking: init(self)中所定义即forward(self, input)所使用(包装init(self)中的定义,贪图代码复用会招徕小麻烦)。
Last but not least:

  1. 晚上回来有些晚了,叔叔在门外哈欠连天等我出门,真的很抱歉!其实我很心疼,上了年纪的人,每天晚睡早起,的确很不容易。(多年来,我一直很在意这些细节,比如在外吃饭,如果可以的话,会在21点前撤身,因为餐馆的工作人员也有家人,希望他们可以早点归家,一路平安。)
  2. 很感谢以前519的舍友!!谢谢你们三年以来对我无私的包容和支持,我以前冏怪的作息应该不是常人可以忍受的了的。谢谢你们在我无数个通宵的日子里,在我半夜洗衣服的日子里,在我5-11的日子里,给与我最大的包容,谢谢你们沉默的爱!以及温暖的陪伴!包容着我的傻气和奇异。如果不是昨天的经历,我应该还未料到你们的珍贵,真心祝愿你们一切都好!嫁给爱情的拥抱浪漫,嫁给钻石的拥有幸福!
  3. 回来的时候,舍友在院子里给我道歉了,依旧很谢谢你!感谢你的勇气和真挚!我已抹掉所有不开心的记忆。
  4. 谢谢MLMR的师兄师姐们!谢谢我在BIT最好的朋友们!谢谢昨天的那一场及时雨!谢谢你们陪我走过最不开心的日子,给我最温暖的依靠,给我勇气,让我相信美好的结局,它一定会到来。
    我就说过,像我这样脑残,善良,而又温暖的人,怎么会有人故意伤害我?所有的伤害,都会幻化成另一种成长。就算老天让我有一些弯路,也只是特意的偏爱,因为想让我遇见别人看不到的风景。

你可能感兴趣的:(Debug)