日前,NeurIPS 2020 官网上正式更新了今年的论文截稿日期:摘要提交截止日期为 5月5日,论文提交截止日期为5月12日。
相对于去年的论文截止日期,今年整体提前了十天左右。各位要投稿的作者们,可得加快点速度了。而今天,NeurIPS 组委会还发布了NeurIPS 2020 在提交和评审机制上做出的一些重大更改,而本次将截稿日期提前,也正是为了评审机制上的调整做准备。我们来看提交和评审机制上具体有哪些重大变化:
据NeurIPS 组委会介绍,今年在提交和评审机制上主要做出了以下几点重要更改:
第一,将摘要提交截止日期提前至5月5日,论文提交截止日期提前至5月12日,以给组委会预留更加充足的时间来审阅数量上大幅增加的论文投稿,以及给评审过程中的早期拒稿阶段更多的考量时间。
第二,早期拒稿:领域主席有两周的时间来挑选出一批早期拒稿的论文,比例大概为 20%。接着由高级领域主席在一周时间内通过决议,一经通过,被拒稿的论文作者就会收到其论文不会再接受进一步评审的通知。
第三,作者即评审:要求每篇论文的每位作者或共同作者,在要求他们参与评审论文的情况下都同意参与评审论文。这项要求能够有效地扩大评审团队的规模,并且还能够在包括向NeurIPS 投稿的作者在内的社区成员间公平地分配评审负担。
第四,更广泛的影响:要求作者在投稿论文中单独拟一个章节来探讨他们这项工作将带来的更广泛的影响,包括可能带来的正面或负面的社会影响。
第五,视频spotlight:要求所有的作者在camera-ready提交截止前,都上传论文的spotlight演示视频。现在NeurIPS正在尝试为远程演示和远程参会做准备工作。
另外,如果作者提交的论文此前已在同行评审中被拒稿,必须标注这一信息,并且列出本次提交的论文所做出的改变。
而去年,NeurIPS 组委会也在评审机制上做过一些调整,其中最引人关注的就是 NeurIPS 组委会与 BMVC、ECML-PKDD、EMNLP-IJCNLP 以及 ICCV 的程序委员会主席通力合作,为防止一稿多投现象所采取的举措。最终,19 篇论文因一稿多投而被拒收,一时哗然,让各位投稿作者不禁绷紧了神经弦。
(雷锋网)NeurIPS会议现场图
为什么做出这些改变呢?
NeurIPS 2020 在官方博客中说明了原因,其实在NeurIPS 2019大会开幕之前,就一直考虑三个问题:1.如何应对参会和投稿人数剧增的趋势;研究伦理背后的考虑和含义是什么;怎么支持可持续的实践,例如远程参会。
以上三个问题每一个都对会议的审查制度或多或少产生了影响。
首先,面对参会和投稿人数剧增,必须找到合适的方法增强审核的容忍度,毕竟几周内审核千篇论文,NeurIPS面临的同行评审规模是前所未有的。据官方组委会预计,2020年将有10000篇论文提交。那么就需要产生30000条审核意见。
再者,早期拒稿阶段的采用已经在IJCAI进行了试点,采用这种模式是应对人数规模增长的最直接的办法,当然也是当前期刊普遍采用的一种方法。具体操作步骤是:领域主席确定20%节能被拒绝的论文,然后高级领域主席进一步确认是否拒绝,最后通知作者将该论文从审稿流程中删除。
此种做法的核心是将质量较差,相关性较小的投稿尽快排除,将审稿人的精力集中到高质量的作品中。
另外,论文作者在重新提交论文时候,要求注明“重新提交”字样,并总结之前“悲剧”原因,列举新版本的改进之处。
之所以鼓励远程参会是因为想为解决国际会议日益日益增长的碳足迹出一份力。在过去两年的时间里,抢会议门票的热度堪比“春运”,甚至还采用了抽奖模式。所以今年进一步布局远程参会,要求演讲者上传PPT和演讲视频,启用远程演讲和海报演示的方法。
人数之多,论文之多,参会者在只有几天的会议时间里可能无法找到自己感兴趣的论文,为此采用论文选配系统,利用个性化推荐算法推荐优质论文,节省论文寻找工作。
为了促进同行评审制度更加健康的发展,要求论文合著者担任程序委员会成员,让他们在CMT注册并征募为审稿人。
如果不愿意,那么他的论文可能会被拒绝接受。此举也是为了增加评审人员的队伍,审稿负荷平均分配下去。为了避免可能导致的潜在利益冲突,借鉴自然科学,物理科学以及医学的方法,要求披露研究的直接资金来源以及间接的财务关系,当然为了保证双盲评审的公平性,仅需将此内容添加到印刷(camera-ready)版本中。
最后,为了更全面的考虑新方法和意义,除了在要说明研究所能带来的有益应用和产品之外,还要注明潜在的黑暗面以及失败的后果。这部分可以放在附录和参考文献那部分专门讨论。
NeurIPS 评审制度的此次改版,在社区内总体反映较好,总的来说对人工智能的发展以及同行评审制度的完善都能够起到一定的帮助。reddit 上的热心网友也非常认真地从正面和反面两维度,阐述了对于NeurIPS 评审机制本次更改的看法:
(雷锋网)
1、看起来很公平,但不知道论文作者会不会对其同行的论文进行恶意且严厉的审查。
2、意味着糟糕的审稿人可能会在多个会议周期内产生影响,另外,一篇被拒绝过的论文可能会对审稿人的意见产生影响,但是一些超级有影响力的论文在一开始都是被拒绝的。
3、非常棒,很多人将会议看做他“半吊子项目”免费的反馈机制。
4、论文中要求增加的“广泛影响”可能是一些陈词滥调。但也有其他网友认为这可能会加快基于人工神经网络的研究进度,毕竟它继承了人工神经网络模型的所有正面和负面社会后果。
不光是NeurIPS,各大人工智能顶会审稿制度就经常招致批评,一些学者称给 给顶会投论文就像在买最火的篮球鞋:你需要先存好信用卡号,设置自动填写表单,然后让自己的电脑物理地址尽可能地靠近 NeurIPS 的服务器地址。
例如,去年NeurIPS放榜时,网友们就在reddit上面一顿吐槽:顶会评审意见不专业,或者说没包含什么信息量。
有位审稿人问我们为啥没有引用X。我们想说的是,已经引用了,还花了一整段来描述我们的研究和它的关系。
有位审稿人举出了个数据集,让我们用它评估模型。我们想说的是,已经用这个数据集评估过了,看实验章节。
这次NeurIPS评审制度的改版,加入了作者即评审的制度,相信一定会比去年更加专业,一些千奇百怪的review也会少一些吧!
(雷锋网)
NeurIPS 2019 收录论文的主题方面,神经网络、深度学习、强化学习等依旧是热门主题,而其中尤其值得注意的便是去年在各大学术顶会上强势刷脸的图机器学习,在去年的NeurIPS 上也是一匹当之无愧的“黑马”。
据悉,在NeurIPS 2019上,仅主会场就有 100多个与图相关的论文;另外,至少有三个workshop的主题与图有关:
Graph Representation Learning (大约有100多篇论文);
Knowledge Representation & Reasoning Meets Machine Learning (KR2ML)(大概也有50篇);
Conversational AI在今年,图机器学习的火热度似乎也是只增不减,比如 ICLR 2020的论文投稿中,就有150篇投稿与图机器学习有关,并且其中有近1/3的论文都被录用了!
NeurIPS 2020 上,图机器学习又将扮演重量级几何的角色呢?又是否会出现新的热度主题呢?我们现在还没有明确的答案,不过从NeurIPS 2019的论文奖项评选规则上,我们似乎可以找到一些线索一窥NeurIPS论文评审的偏好度。
话不多说,我们再来回顾下去年NeurIPS 论文奖项评选的具体规则:具备持久影响的潜力——论文聚焦于某个主流而非边缘化的研究领域,人们在未来的几十年时间里依旧会关注它。
有观点——提供了新的(并且希望是深的)见解,而不仅仅是在性能上提高几个百分点。
创造性/让人出乎意料/令人惊奇——以创造性的新视角去看待问题,并且得出了真正让读者惊喜的结果。变革性——将从根本上改变未来人类思考问题的方式。
严谨性——无懈可击的细致和严谨。
优雅——论文漂亮、工整、流畅并经过很好地润色。
现实性——不过分强调重要性。科学性——能够证伪。
可重复性——结果能够真正可重复、代码可用并且能够在多种机器上运行、数据可用以及能够提供详细的证实。
与此同时,组委会在评选论文时,还关注论文是否存在以下几点问题(并避免选择存在这些问题的论文):
低效——需要以消耗大量资源为前提才能够脱颖而出的工作(主要依赖于消耗大量资源在排行榜上获得了更高的排名)
时髦——采用某个方法是因为此方法比较热门,但其实还可以采用其他更加高效的方法。
过于复杂——论文中加入了本不需要的复杂性。各位作者如果能够按这些标准来准备自己的论文,相信会给自己的论文加分不少,说不定还能憧憬下论文奖项呢....
去年,NeurIPS 共收到 6809 篇论文投稿量再创新纪录,大家猜猜,今年会收到多少呢?