记我的第一篇CCF-A会议论文｜在经历六次被拒之后，我的论文终于中啦，耶！

在经历了IJCAI，MM，AAAI，CVPR，SIGIR的多次被拒以后（真的太惨了，不过也是我自己工作做的不够扎实，可能被拒也不能算是坏事，有利于之后的成长吧），我终于迎来了我研究生期间的第一篇CCF A类会议论文，实属不易呀！这篇论文中的是今年的MM，一个多媒体类的CCF A，初分是两个borderline accept，一个weak accept，rebuttal后是三个poster，最后中了poster。最为一个渣硕，能中一篇A会真的非常开心，真的非常感谢实验室同学，师兄，导师和实习期间mentor的指导和帮助！研究生入学也快两年了，趁这个机会，我也好好总结一下入坑深度学习和研究生这两年的学习生活吧！

第一阶段：外行阶段（研究生入学之前）

在保研之前，我真的可以说是完全没接触过深度学习相关的知识，甚至平时连python用的都不多。本科期间主要也和同学一起参加软件开发之类比赛，对深度学习的比赛和论文可以说是一无所知。所以，在本科前几年，我基本上可以说是一个深度学习领域的外行人。第一次接触深度学习，应该算是在保研的时候，当时实验室的考核需要阅读论文。那应该是我第一次阅读英文的深度学习论文，论文好像是和SLAM和深度估计相关，当时也是非常艰难的把论文读完了，由于基础知识的缺乏，理解论文还是非常有难度的，更不用说用批判的思维去看论文了。所以认识到这一点之后，我就开始买了深度学习的经典教材——西瓜书和花书来看，也看了cs231n和吴恩达的视频，这才对深度学习有了一点了解。之后毕设选择了一个目标检测相关的课题，在做毕设的时候，也对这个领域有了进一步了解。在毕业前夕，当时做毕业设计的时候，我觉得我自己的代码能力不太行，我就想去公司实习，提升我的代码能力。但是，就我这样一个刚开始入坑的人，哪有公司会要我呀？现在想去公司实习，不都要有实习经历或者科研经历的吗？无奈之下，我也只能抱着试一试的心态，投了几家小公司。最后，我惊喜的被一家科技教育小公司录用，然后我就在这家公司里实习了三个月。由于mentor动手能力太强，工程上的事情他基本上都完成了，上班的时候我还可以学一学一些基础的知识，美哉！下班经常听mentor讲他以前的创业故事，他对计算机视觉未来的憧憬以及他传奇干爹的故事。实习期间可能收获最大的并不是技术上的进步，而且跟mentor交流过后思维和眼界上的提升。在实习过后我也将进入研究生的生活。

第二阶段：小白阶段（研一上）

经过之前的实习和自学，我对深度学习有了一定的了解，但是相比于研究生的其他同学，感觉自己的基础还是很差，那段时间感觉自己确实也很急躁。之后，师兄让我放慢脚步，先从基础的pytorch官方教程学起，每天除了论文阅读的输入，还要进行pytorch的coding的练习，就这样进行了差不多一两个月吧，我对师兄给的任务和pytorch的基础有了进一步的理解。在这段学习之后，师兄和我交流了他对这个领域的一些思考，也给了我一个idea让我尝试去做做看。前期做的比较艰难，基本上每周都会和师兄过三次以上的进度，后面这个idea work之后，也开始和师兄讨论论文的写作，准备冲一冲IJCAI。这算是我人生中第一次写专业的论文，因此写作上确实遇到了很大的困难。在这一点上，我的导师和博士师兄真的给了很大的帮助，摘要和introduction的每个单词基本上都和他们过了一遍，真的非常感谢他们的细心指导，让我从一个小白，慢慢踏入了科研之路。当时这篇文章的分数也就在borderline水平——一个“5 - Marginally below threshold
”，两个“6 - Marginally above threshold”，经过rebuttal之后，这篇论文也已悲剧告终。当时出结果的时候，其实还挺难受的，毕竟准备了那么久的工作，就没有得到回报。但后来慢慢反思文章的不足之处和审稿人中肯的建议，我也还是和师兄一起将这篇文章大改，增强文章的novelty，补充必要的实验，最终投到了期刊上。

第三阶段：探索阶段（研一寒假——研一结束）

在完成了IJCAI的投稿之后，我就在想我的下一篇工作应该怎么做，那时，记得博士师兄不经意间跟我说，Attention还是挺好用的（原话忘记怎么说了，大概就是这个意思）。然后，我就开始学习研究CV中Attention的发展，于是乎我又开始大量的阅读论文和代码，从最基础的SE，CBAM，non-local到后面挂在arXiv上一些最新论文，我也确实感叹到attention真是一个简单又好用的方向呀！但是看完这些论文和代码之后，我发现这些论文的核心思想非常简单，核心代码可能也就几十行行甚至几行。但是打开作者release的源码时，却发现提出的模块嵌入到分类、检测、分割等任务框架中，导致代码比较冗余，对于特定任务框架不熟悉的我，很难找到核心代码，导致在论文和网络思想的理解上会有一定困难。因此，我就想将这些文章的核心代码给提取出来，对一些未开源的代码，我也进行了核心代码的复现，帮助更多想我这样刚入坑的小伙伴进行理解文章的核心思想。然后，我就这些代码整理成了一个代码库，放到了github上（https://github.com/xmu-xiaoma...），希望能够和更多的小伙伴一起交流。就这样，我收获了我在Github上一个高star的项目。在之后的论文阅读过程中，如果我觉得有什么简单有趣的idea（比如重参数化），我也会在这个项目中进行整理复现。

在完成了这个代码库后，我的coding能力和论文阅读量也有了进一步的提升，我也开始着手我的第二篇工作了。几个月之后，这个工作的实验和论文都完成了，我将其投到了当时的MM上，初始分数是两个borderline，一个poster。当时觉得好好rebuttal，这篇文章还是有点希望能中哒。最终AC觉得这篇文章的novelty上比较有限，所以也以悲剧收场。

第四阶段：迷茫阶段（研一暑假，研二期间）

经过两篇文章悲剧之后，我开始怀疑自己是不是真的不适合做科研，因此也emo了一段时间，感觉做科研真的好难。甚至都开始担心研究生期间是否会因为没有科研成果而影响毕业。在那段emo的时间里，我的师兄也经常开导我，在他的开导下，我也开始重新回到了正常的科研状态。在这里真的非常感谢师兄指导，读研期间，在科研和心态上真的对我帮助非常大。

这段时间，为了push自己好好看论文，我创建了我自己的公众号FightingCV，并开始公众号上发最新论文的解读，初衷是希望通过这样一种形式来push自己养成阅读论文的好习惯，另一方面也可以和更多的同学进行学习交流。另外，也创建了一些交流群，在群里面和来自五湖四海的小伙伴们一起交流，发现大多数人在科研的前期，都会比较艰难一些。在此期间，我也在AAAI和CVPR进行了投稿，结果都以失败告终。在这几次被拒稿，我明显能感觉到我的心情似乎平静了许多，至少没有像第一次被拒那样急躁了。

第五阶段：收获阶段（实习——今）

在忙完学校的事情之后，我跟导师商量了实习的事情，并开始了在阿里达摩院之旅，实习期间做的是视频文本检索的任务。有了之前的投稿经历之后，我这次很快的完成了baseline的实验，并想到了一个简单有效的idea，进行了进一步的实验。在确定idea有效之后，也迅速跟导师和mentor商量起了投稿计划，当时准备投的是SIGIR。跟导师汇报了这个idea后，导师给的意见是可以在模型效率上进行进一步的改进，所以接下来的一段时间，尝试了一些提高模型效率的方法，然而无果，倒是在性能上有了进一步的提升。因此，抱着用效率换性能的想法，我开始了SIGIR的论文撰写。接着，我就在一边做ablation，一边写论文。然后就在投稿前10天左右，我发现ablation的结果有些不太好，实验发现单独一个模块的性能在某些数据集上甚至优于完整的模型结构，这让我又非常emo了。然而工作基本上都已经做完，只能在文章中对这一现象，做一些定性的可视化，并进行一些解释分析。然而，事实证明，论文还是做的尽善尽美，审稿人对这些解释不买账，并进行了argue；导师之前提出的效率问题，审稿人也提出了相同的concern；此外，还有一些实验上也不够完整。最终，这篇文章也悲剧了。之后，审稿人的意见和导师之前的疑问，我也对这篇文章进行了反思，并对文章的idea进行了改进，修改模型结构，重新进行实验。离职前将其投稿了今年的MM上。文章的初始分数两个BA，一个WA，最后被接收为poster。此外，之前被拒的两篇文章，我也根据审稿人、导师和师兄的意见进行了修改和完善，将其投稿到了期刊上，在今年上半年也被接收，瞬间觉得这两年的努力都值得！

MM的论文已经放在arXiv上啦（https://arxiv.org/abs/2207.07285），欢迎大家来玩呀！反思这篇论文，其实还有很多的瑕疵，贡献有限，能中也有一部分运气加持，但对自己来说真的有极大的鼓励作用。大佬可能会觉得很水，但自己辛苦作出的成果能够上岸，真的非常高兴，大佬请轻点喷。

非常感谢师兄和导师的指导和关怀，感谢实验室老师们和达摩院的严明老师、山启、若万帮忙修改论文～

在自己本身基础比较差的情况下，在研究生期间能够有现在这样的成果，真的非常满足了。之后可能会准备继续攻读博士，研究生的这两年时间里，在导师和师兄的细心指导下，不管是在心态和研究上都成长了许多，真的非常感谢实验室的栽培，在以后的研究生活中，还是要保持初心，继续做努力努力再努力的小马，耶！

---

最后打个小广告吧，这是我研究生期间创建的公众号FightingCV，里面一般会分享最新论文的解读，大家一起来交流呀～

本文由mdnice多平台发布