ICLR 2025：反驳的力量——一篇论文如何凭借“回击”跃升排名
引言： 在竞争激烈的 ICLR 2025 论文评审中，一篇名为“SANA: Efficient High-Resolution Image Synthesis with Linear Diffusion Transformers”的论文上演了精彩的“逆袭”好戏。通过精心撰写的反驳（rebuttal），该论文成功地让所有审稿人都提高了评分，平均分提升了整整 2 分，最终排名跃升至第 9 位。这不仅展现了 rebuttal 的重要性，也为我们揭示了高水平学术论文的精益求精之道。 这篇文章将深入探讨 SANA 论文的核心技术、评审过程以及其成功的关键因素。
主体：
1. SANA 论文的核心技术：高效高分辨率图像合成
SANA论文由来自英伟达、麻省理工学院和清华大学的研究团队共同完成，旨在解决高效生成高分辨率图像的难题。 该论文的核心贡献在于以下几个方面：
-
深度压缩自动编码器 (AE-F32): 突破性地将图像压缩因子提升至 32，相比于传统的 AE-F8，显著减少了潜在 token 的数量，为高效训练和生成超高分辨率图像（例如 4K 分辨率）奠定了基础。 实验结果（表1，图3）有力地证明了该设计的有效性。
-
高效的线性 DiT: 通过将原始 DiT 中的二次注意力模块替换为线性注意力模块，将计算复杂度从 O(N²) 降低到 O(N)，从而大幅提升了高分辨率图像生成的效率。 此外，论文还引入了 Mix-FFN 模块，无需位置编码即可有效聚合局部信息，进一步提高了效率。
-
仅解码器 LLM 作为文本编码器: 采用最新的 Gemma 作为文本编码器，充分利用其强大的文本理解、指令遵从和推理能力，提升了模型对用户提示词的理解和图像生成质量。 论文还设计了复杂人类指令 (CHI) 来更好地对齐图像和文本。 实验结果（表2）表明，使用 Gemma 和 CHI 显著提升了图像生成效果。
-
高效的训练和推理策略: 论文提出了一种基于 Clip Score 的训练策略和 Flow-DPM-Solver，分别提升了训练收敛性和推理效率。 实验结果（表3，图4）显示，这些策略有效地提高了模型的性能和速度。
2. 评审过程与反驳策略：从低分到高排名的关键
虽然论文本身技术创新性强，但初始评审结果并不理想。 正是通过认真分析审稿意见，并撰写了有理有据、针对性强的 rebuttal，才使得论文最终取得了如此显著的提升。 具体而言，rebuttal 应该：
*准确理解审稿人的质疑: 仔细分析每个审稿人的评论，明确其关注点和质疑之处。
* 提供有力的证据: 用实验结果、数据分析等证据来回应审稿人的质疑，并补充新的实验结果来支持论文的观点。
* 清晰简洁地表达: 用简洁明了的语言，清晰地表达自己的观点和回应，避免含糊不清或逻辑混乱。
* 积极的态度: 展现积极的态度，认真对待审稿人的意见，并感谢他们的宝贵建议。
3. ICLR 2025评审的启示：rebuttal 的重要性与学术论文的严谨性
SANA 论文的成功案例充分说明了 rebuttal 在 ICLR 论文评审中的重要性。 一篇优秀的 rebuttal 不仅仅是简单的回应，更是对论文进行完善和提升的机会。这同时也提醒我们，学术论文写作需要严谨细致，不仅要注重技术创新，更要注重论文的表达和论证。
结论：
SANA 论文的“逆袭”故事，为我们提供了一个宝贵的案例研究，展现了高质量 rebuttal 的力量，以及在学术研究中严谨性和持续改进的重要性。 它也为未来的研究者提供了宝贵的经验：注重技术创新，认真对待审稿意见，并通过精心撰写 rebuttal 来提升论文质量，最终在激烈的学术竞争中脱颖而出。
(参考文献：将根据论文最终正式发表后的信息补充完整，包括论文地址、OpenReview 地址、项目地址和代码地址。 目前提供的链接仅供参考。)
Views: 0