关于科研选题的一点思考
清华大学研究生 Low-level Vision&AIGC
Amusi 等 266 人赞同了该文章
发布于 2023-12-10 20:59・IP 属地广东 ,编辑于 2024-03-26 13:05・IP 属地广东
先说下我自己的状况吧,本人专业是目前比较卷的cv方向,目前研究生在读,已经发了两篇水会文章(IJCAI,MM)。导师对约束比较少,好处是可以做自己感兴趣的research,但是坏处就是整个科研流程需要自己全部走完,从找idea、代码到论文写作。没有师兄师姐的经验,期间也踩了不少的坑。
每次投完论文之后,一般都会去读一些论文去找下一步要做什么(当然,部分大佬除外)
这样就遇到了一个选题的问题,
- 我是选择一个比较新的问题,挖一个新坑,增加自己工作的影响力?(艰难但是有意义,不保证会做出来)
- 还是简单地follow别人的工作去刷点,去填别人的坑?(简单一些,但可能即使中稿也会无人问津)
这个问题其实一直在困惑着我。
首先回答一下我是要文章质量还是数量的问题。我个人觉得文章质量更重要,做科研的时候我也一直在问自己:你的代表作是什么?手里有一把叶子其实不如一朵花更好。当然,也不是绝对的,在这个环境下也是需要叶子的,但是前提是自己手里必须也要有拿得出手的工作。
之后我也一直在思考,其实选题本身也是一个金字塔。
- 塔尖是Resnet,MAE,Diffusion这种可以引起整个CV界大地震的工作,属于基础研究DreamWork,做的人少影响力大,但同时也充满曲折,因为你在开创一种新的范式没有之前的工作可以follow,同时也不一定会做出来。
- 塔中是一些较为开创性的工作(相较塔尖,但是能做出这一类的工作也同样是值得称赞的),也就是一些挖坑的工作。比方说把transformer引到视觉领域里,把参数高效微调引导视觉领域里,等等。这些工作背后可以引申出更多的相关工作(也就是俗称的填坑)。做出这类工作一般需要敏锐的科研嗅觉,了解其他领域的最新进展;同时还需要对自己的领域相当熟悉,需要知道怎么才能把其他领域的技术引进来。
- 塔底是一些follow别人工作的研究,做起来更容易(大多数情况都有之前的代码),新手友好。魔改网络,刷点等等。这些工作比较容易上手,但是坏处是你做出来之后关注度比较低,甚至可能因为follow的工作的意义不大而被拒稿。
其实大多数人的科研历程也类似一步步地从塔底走向塔尖的过程。
目前我的目标是既要做一些塔中的工作(锦上添花),也要做一些塔底的工作(雪中送炭)。对应前文叶子要有,花也至少要有一朵拿得出手的。当然在做塔底工作的时候也要尽量做“第二个吃螃蟹的人“。因为一个领域卷烂之后刷点很难,做出来也没有什么人引用你的文章,因为这个领域很难再刷上去了。
以上就是我在现阶段的一些思考。随着认知的深入,我会继续更新这篇文章。
如果有大佬看到这篇文章,觉得哪里还有改进的地方,也恳请不吝赐教 [抱拳]
发布于 2023-12-10 20:59・IP 属地广东 ,编辑于 2024-03-26 13:05・IP 属地广东
自己也不是大佬,给个微不足道的comments: (1)塔尖的工作,并不是一味的选择就能做出来的,往往你需要到更高的平台(计算资源和人才)。因为很多问题其实大家一直都知道,但是做起来困难,特别是一些非常重要的问题甚至你得从CUDA开始写。(2)塔底的工作也不是毫无意义,能鼓舞新的科研者加入到这个行业中。并且通过follow别人的工作,增加简历的厚度,从而去到更高的平台追求更高taste的研究。
分享一句之前看到特别喜欢的话:“我们这些做创意工作的人,之所以做这行,就是因为我们有品位。但是有一个坎儿。开始做这个工作的头几年,那些东西都不行,你想要做好,你知道你有潜力,你知道这东西有潜力,但是就是做不好。但是你有品味,你有品味你才做这行的。你的品味告诉你,不好。 你的品味是你对自己失望的原因。很多人永远跨不过这个阶段,他们就退出了。大部分我觉得做出了好东西的人经历了这个过程。”
空想问题感觉好难想,做实验发现问题会不会好些?但是好像这样也不行
其实我也一直在思考,大多数工作是先有实验结果还是先有motivation。因为我看很多工作都是先跑sota,之后再去找怎么讲故事。但是真正有意义的还是先通过实验或者某些现象发现问题,之后再去想解决方案,这样整个过程才合理。
请问你是研究生几年级,已经有两篇文章了
请问是什么专业的,编程方面有哪些基础?实验代码怎么调的?