首页 / 资讯中心 / 文章详情

ICLR 2026四篇论文录用复盘:从选题到Rebuttal的实战经验

ICLR 2026四篇论文录用复盘:从选题到Rebuttal的实战经验 ★ FEATURED ARTICLE
实验室4篇论文被ICLR 2026录用这个消息在组里传开时大家先是短促的欢呼然后又各自坐回工位继续跑实验。那种状态很真实——喜悦有但更多是觉得接下来的活更重了。ICLR在机器学习圈子里意味着什么不用我多说双盲审稿、看重新颖性、审稿人普遍难缠整体录用比例摆在那儿一年能进四篇对一个几十人规模的研究组来说算得上一次值得复盘的小丰收。这篇文章我不打算复述论文本身的内容毕竟投稿版本还在双盲期很多细节不适合公开我更想把从选题、实验、写作、投稿到rebuttal这条完整链路中我们踩过的坑和用对的方法写出来给正在准备下一届投稿的同学做个参考。1. 事件背后4篇论文的一次集中爆发1.1 ICLR的分量到底重在哪很多人会拿“中了几篇”来简单衡量研究组的水平但ICLR真正难的地方不在于做实验而在于它的审稿文化。ICLR的评审非常看重一个问题你这篇论文除了改进数字有没有给出新的理解方式换句话说它不太接受“用新模块刷了一堆benchmark”这种套路反而愿意给那些有清晰动机和可解释分析的工作机会。我们这4篇论文不是临时凑出来的而是分布在三个大的研究主线上一类偏向理论分析一类偏向表征学习方法本身另一类偏向大模型的高效适配。这几条线在组里各自跑了大半年到一年中间经历过换方向、补实验、推倒重来的波折。最终被录用我觉得原因不是某一个单点做得好而是整个体系在正确的时间点同时成熟了。一个容易被忽略的点是时间窗口。ICLR 2026论文的投稿节点通常在2025年秋季这意味着所有工作在投稿前至少一个学期就要成型。我们组的做法是每年年初确定本年度要冲刺的会议清单然后把实验周期倒排到月。这个过程听起来简单执行起来非常考验节奏感——后续我会专门讲时间线失控的教训。1.2 四篇论文的方向构成与内在关联先说第一篇它属于图神经网络的理论分析路线处理的是深层图模型里的信息过度平滑问题。这项工作没有追求特别大的模型规模而是用谱域工具把“层数加深后节点表示趋于一致”这个现象做成了可量化的定理再据此调整消息传递的归一化方式。理论部分偏重但实验反而做得很收敛在中等规模数据集上把机制验证清楚没有到处刷榜。第二篇切的是自监督学习中的数据增强自适应。自监督方法里增强策略的选择往往靠经验强弱不匹配会导致下游任务表现波动。这个工作提出根据样本自身的语义复杂程度动态调整增强强度核心是设计了一个扩散式条件增强模块。它更偏方法型实验覆盖了图像和文本两类任务。第三篇落在多模态大模型的参数高效微调上。模型规模上去之后全参数微调在很多场景不可行低秩适配器这类做法已经很多这个工作想解决的是跨模态对齐时单一低秩空间容量不足的问题于是提出分组低秩适配器在不同模态子空间分配不同的秩预算在参数量受限时让对齐效果更稳定。第四篇关注推理阶段的大模型压缩与加速。它把结构化剪枝和动态稀疏结合起来目标是少重训练甚至不重训练只在推理阶段根据输入动态选择活跃通道把显存占用和延迟一起降下来。这个方向在工程上很讨喜实验以真实部署场景为主。把这四篇放一起看有意思的点在于它们不是孤立的理论篇给模型设计提供依据增强篇讨论数据怎么影响表征微调篇讨论参数层面的表征复用压缩篇讨论模型上线时的资源约束。它们从不同侧面回答“学习和表征”这个ICLR的核心母题。所以组里常说与其说今年中4篇不如说这是主线的自然生长。2. 从选题到实验录用背后的工作流2.1 选题的三个筛选条件我经常被师弟师妹问怎么找一个“能被ICLR录用的题目”。我的答案很土先别想着录用先想清楚这个问题是不是非答不可。我们组这4篇选题阶段都过了三个筛子。第一个筛子是问题真实性。就是这个问题在真实场景中确实存在不是先造一堆假设再自问自答。比如过度平滑问题只要做深层图模型就躲不开属于硬问题。第二个筛子是答案差异化。ICLR审稿人最烦你拿已有方法的变体去投你必须说清楚“前人为什么没有走到这里、我们做对了哪一步”。第三个筛子是结果可证伪性。如果一个问题好到值得做那也必须有办法设计实验去验证不能只有一个悬空的想法。拿第二篇来说一开始我们想做一个通用的数据增强自动搜索框架调研后意识到这更像是超参优化问题methodology的差异不大。后来把问题收窄到“样本难易度与增强强度的匹配”这个说法立刻变得具体实验也容易设计。题目变窄不是格局变小反而是可证伪的基础。2.2 实验设计先跑通再跑赢实验阶段我们组有一条纪律任何方法先搭一个最小的未优化版本跑通再逐步加复杂模块。很多失败的项目都是死在第一步——主方法还没跑通就急着引入工程技巧堆性能最后出问题你根本不知道是自己创新点的问题还是工程实现的问题。具体到这4篇论文实验流程分三个阶段。第一阶段是baseline复现。把要对比的方法在统一代码框架下重新实现或跑通统一数据划分、统一超参搜索范围这些约定能避免很多后续争议。第二阶段是有效性验证。只做最关键的一个实验证明你的方法在核心设置下有效此时不追求多个数据集开花只要机制成立了再大范围铺开。第三阶段才是补齐实验矩阵。消融、灵敏度、可视化、扩展到更大规模的模型。我特别想提醒的是实验记录不能偷懒。我们组要求每篇论文配一个实验日志记录每次运行的命令、随机种子、GPU型号、框架版本、指标值。这么做并不是为了归档强迫症而是rebuttal阶段如果审稿人找你要细节你不能临时去翻聊天记录。这次第三篇论文就因此受益rebuttal时有审稿人问到一个baseline在你这个backbone上的运行时长我们直接把日志里的设备型号和耗时数据贴上去问题顺利化解。2.3 论文写作前30秒决定审稿人心情关于写作我的体感是ICLR审稿人给一篇论文的时间非常有限你到手的不是耐心而是前30秒的机会。如果开头没有让审稿人快速抓住“这是什么问题、为什么方法是这样设计的”后面内容再扎实也容易被带偏见地评阅。我们写intro时习惯采用一段式嵌套先给大背景一句话再用一句话点出当前方法的共性缺陷紧接着抛出我们的差异点最后放一页贡献列表。这个结构不新颖但它高效。不要写三段式宽泛背景审稿人不是来看你普及机器学习的。Related work和Contribution部分是最容易翻车的地方。Related work最忌讳罗列正确的写法是每个人提出来都说清楚它与我们的区别最好用表格或对比段落组织。Contribution部分不要写“我们提出了一个高效的框架”这种自说自话要写“我们通过某机制解决了某问题在数据集X上比基线提升Y”用具体化的描述替代形容词。图表质量这个细节我要重点说。部分同学会用默认配色和默认字体出图但投稿前我要求全部手工检查一遍坐标轴字号是不是和图例一致、曲线颜色是不是色盲友好、PDF导出后有没有字体缺失、表格里的数字是否对齐、高亮行是否一眼能看到。审稿人不会说你配色好看但他会因为图乱而不想继续看。写作节奏上我们组的原则是摘要和intro可以初稿时就写但experiment章节的表述必须等最终结果稳定后再定稿否则很容易写出带固执预期的文字然后为了圆说法去挑结果。结果是跑出来的不是写出来的。3. 投稿、审稿与Rebuttal实操3.1 投稿前的硬检查清单这套检查清单我们每次投稿前都会过一遍如果你也在准备类似投稿可以直接拿来参考。匿名化是第一优先级。双盲审稿下正文和附录都不能出现可以识别出作者身份的信息。常见疏忽包括致谢里写导师和合作者名字、参考文献里大量自引甚至直接写“our previous work”、代码仓库链接带个人用户名。我们有一次在附录里放了内部服务器地址幸好赶在截止前检查出来否则直接违反投稿规则。格式合规交给模板编译器解决但有一些隐形问题值得注意摘要是否在页数限制内、正文术语是否和图表术语统一、附录的页码是否连续、公式编号是否存在乱跳。这些不会导致desk reject但会大量消耗审稿人的好感度。正文和附录的信息分配也很重要。核心的实验结果必须放在正文尤其是那个最能支撑主claim的表。审稿人如果需要在附录里扒数据他会默认你的方法不扎实。附录适合放完整消融、参数敏感性分析和更大范围的实验结果但前提是正文里已经给了明确的“见附录xx”的指引。3.2 Rebuttal就是升级版答辩ICLR的rebuttal是跨设定时间窗口内直接在评审对话区完成的它是让你补充信息、澄清误解不是让你说服审稿人“你的口味有问题”。我们组内部把rebuttal叫做“三个优先级”。第一优先级是解决所有审稿人共同提出的问题。如果有两个以上审稿人都质疑同一个短板那这不是误会是真短板必须正面回应通常的做法是补实验。第三篇论文的rebuttal过程中两个审稿人都认为分组低秩适配器在训练效率上优势不明显我们直接补充了一张不同秩预算下的训练时间-性能曲线正面回应效率问题。第二优先级是针对单个审稿人的质疑进行澄清。这类往往是写作问题只需要引用正文或附录的具体表、公式把逻辑链重新讲清楚。第三优先级是处理“建议引用更多相关工作”这类友好问题找到对应的文献说明它是什么再强调我们的方法与其差异。Rebuttal的语气我给出一个标准模板性格承认、澄清、然后给出证据。哪怕审稿人理解有误也要先说“感谢你指出这一点我们可能没有在原文中表达清楚”而不是去争论“你没看懂”。争赢了rebuttal输掉了录用这种例子我见过不止一次。具体到措辞英文写作上尽量用客观句式避免“we believe”“we think”这类主观词换成“we demonstrate”“the results show”。如果审稿人问的补充实验暂时忙不过来可以明确指出“完整实验需要更多资源但我们提供了小规模验证X”诚实比硬撑更有价值。3.3 从Rebuttal到Decision时间线里的管理问题Rebuttal结束到最终Decision之间有几周时间这段空窗期最容易出问题的是团队心态。我们组做了一件事在rebuttal提交那一刻起就把每篇论文的“备用投稿路径”写清楚如果被拒是转投另一个会议还是补充实验后再次投稿本会议如果录用是oral还是poster几号要交camera ready。这种预案不是丧气是效率管理。有一个组曾因为在Decision出来后才开始讨论备用路径白白浪费了一个月窗口期。我们反过来提前把预案做好Decision那天基本不需要开会直接执行。Decision结果出来后如果是Poster需要不少精力去准备学术海报如果是Oral那就更紧张了要准备幻灯片、口头报告甚至可能需要录像。很多人以为论文录用就万事大吉其实录用后的展示环节会占用大量时间。我们的经验是无论结果如何录用第一天就分配展示任务不要拖到会前一周再搞。4. 踩过的坑与常见问题自查4.1 实验复现不一致差点在Rebuttal翻车一个很典型的坑自己实验室复现自己的实验结果和论文里写的不一致。听起来荒谬但它确实会发生。我们第二篇论文在rebuttal期间某位合作同学重新跑了一个baseline发现数据划分方式不同导致结果偏差论文表格里用的是旧划分而本地新跑的是新划分。这是我们组后来强推实验日志的直接原因。现在的标准流程是论文里出现的每一个数字必须能在实验日志里找到对应记录包括运行脚本和随机种子。任何重新运行出现偏差的数字我们要么修正论文要么在rebuttal里主动说明绝不装作无事发生。如果你也遇到过类似情况我建议从框架版本锁死开始。组里所有论文都有一个requirements.txt框架版本、CUDA版本、设备信息全部固定只在统一环境里跑数。开头就做这个后期能省太多事了。4.2 审稿人质疑Novelty不足的标准应对不少学生会收到“novelty limited”“incremental contribution”这类的评价。一个残酷的提醒审稿人说你novelty不足不一定是你的工作真的没创新更多是创新点没有被他看见。所以工作中很重要的一件事就是把方法链条里真正的新组件用加粗、公式、对比图明确地视觉化呈现。我们第一篇论文也遇到过类似质疑有审稿人说它只是现有谱归一化在图领域的迁移。我们的回应是把他忽略的两个设计差异单独写了一页附录说明并把定理条件及其必要性逐一解释强调如果不做某个归一化修正定理不成立后面所有实验现象也无法复现。最终通过实验和理论分析一起把他拉了回来。组里后来的“自我攻击”机制也用在此处每篇论文投稿前两周指定两位不看论文的同学模拟审稿人挑刺每人至少列出三个“致命问题”然后由作者逐一解决或准备回应词。这个过程看起来很浪费时间但往往能提前发现很多视而不见的漏洞。4.3 时间线失控跨节假日的赶稿教训最真实的坑是时间线失控。有一篇论文我们原定计划是9月中旬完成所有实验10月初完成论文初稿。实际进度一路后移到投稿截止前72小时还在补图。那种状态下人的判断力会断崖式下降写作质量、引用检查、匿名排查都很容易遗漏。解决办法是提供至少10天的internal deadline正式截止前10天论文必须达到可投稿的完整版本。这10天专门留给查漏补缺和突发问题。这次4篇论文中有两篇在内部截止后都发现过图表错误和引用格式问题如果没有预留时间几乎肯定带着问题投出。我把这个建议送给每一位准备投稿的同学比任何审稿技巧都管用抢在提交前完成而不是抢在提交前赶工。4.4 Camera Ready阶段不能松懈Camera Ready是录用后的最终版本修改。不少论文后期被质疑“论文和代码不一致”或“版本和preprint不一致”多半是camera ready阶段出了问题。这个阶段要做的两件事一是逐条核对审稿人意见看是否需要在正文或附录中体现二是提醒自己解除匿名化状态补充作者全名、单位、致谢和作者贡献信息。有一个细节尤其注意如果你打算把论文挂到arXiv上请确保arXiv版本和camera ready版本内容一致。ICLR的审稿系统里录用的版本是camera ready如果读者看到的arXiv还是旧版会造成版本错乱影响引用可信度。我们组现在的做法是直接在camera ready提交后同步更新arXiv减少时间差。5. 一点个人经验复盘这次4篇论文全部录用的结果出来我复盘后最强烈的体感是它不是运气更不是哪个同学单打独斗的结果而是把科研流程规范化之后水到渠成的事情。选题坚持主线的深耕而非热点的随机切换实验流程上把日志和复现当作刚需写作和投稿严格按checklist执行rebuttal时刻保持证据导向——这些每一件单独拿出来也许很多组都在做但能够长期坚持直到形成肌肉记忆才是最后能四个项目同时跑通的真实原因。最后再分享一个小技巧。我们组长期维护一个“idea池”里面记录了平时聊天中产生的各种半成熟想法每一条只用两三行说清楚“问题是什么、大概能怎么做、验证方式可能是什么”。项目间隙或者某个论文收尾之后下一组同学可以直接从这个池子里启动新的冲刺项目而不是从零开始脑暴题目。ICLR这类会议每年都有固定的投稿时间线有一个随时可用的idea储备整个组的产出节奏会稳不少。不用把这个池子想得多高级一张共享表格就行关键是保持记录的习惯毕竟灵感这东西跑完实验洗完澡出来的时候最活跃不记下来转眼就没了。
阅读完成 · 觉得有帮助?
咨询建站