摘要： 人工智能公司 Sakana AI 近日宣布，其 AI Scientist-v2 系统撰写的一篇论文通过了 ICLR 会议一个研讨会的同行评审，引发了关于 AI 在科研领域角色的广泛讨论。这篇论文的成功，标志着 AI 在科学研究领域迈出了重要一步，但也引发了关于学术伦理、透明度和评估标准的诸多问题。
正文：
在人工智能浪潮席卷各行各业的今天，AI 不仅在技术应用层面展现出强大的能力，更开始渗透到科学研究的核心领域。近日，由 Transformer 论文作者之一 Llion Jones 与前谷歌研究者 David Ha 共同创立的 Sakana AI 公司宣布，其研发的 AI Scientist-v2 系统成功撰写了一篇论文，并通过了 ICLR（International Conference on Learning Representations）会议下属一个研讨会的同行评审。这一事件无疑为 AI 在科研领域的应用开启了新的篇章，同时也引发了人们对于科研范式、学术伦理以及 AI 在科学研究中角色的深入思考。
Sakana AI 的 AI Scientist 系统并非首次亮相。早在去年 8 月，该公司就推出了首个全自动科学发现的 AI 系统，并在 12 月份发布了另一项研究成果：使用基础模型搜索人工生命的系统 ASAL。而此次通过 ICLR 研讨会评审的论文，则标志着 AI 首次在学术界获得了同行认可。
据了解，该论文提交至名为“I Can’t Believe It’s Not Better: Challenges in Applied Deep Learning”的 ICLR 研讨会，该研讨会旨在探讨深度学习在实际应用中面临的挑战。为了确保评审的公正性，研究团队与研讨会组织者合作，提交了三篇完全由 AI 生成的论文进行双盲评审，评审人并不知道论文的来源。
令人惊讶的是，其中一篇论文获得了平均 6.25 分的成绩，超过了该研讨会的平均接受阈值，甚至优于许多人类撰写的论文。这篇论文主要探讨了 AI 科学家在尝试创新训练神经网络的新型正则化方法时遇到的负面结果，旨在提高神经网络的组成泛化能力。
尽管 AI 撰写的论文成功通过了同行评审，但 Sakana AI 团队表示，他们将根据预先确定的实验协议，在正式发表前撤回该论文，因为学术界尚未就 AI 生成手稿的发表达成共识。这一举动体现了研究团队对于学术伦理的谨慎态度，也引发了关于 AI 生成内容在学术界地位的讨论。
挑战与局限性：
尽管 AI Scientist 的成果令人瞩目，但我们也必须清醒地认识到其存在的挑战和局限性。首先，该论文通过的是 ICLR 的研讨会评审，而非主会议评审。通常而言，研讨会论文的接受标准相对较低，研究结果也相对初步。其次，在 Sakana AI 提交的三篇论文中，只有一篇通过了评审，这意味着 AI 在科研领域的表现仍有很大的提升空间。
此外，AI Scientist 的表现高度依赖于底层的大型语言模型（LLM）。这意味着，如果 LLM 存在缺陷或偏见，AI Scientist 的研究结果也可能受到影响。
透明度和道德行为守则的重要性：
在 AI 逐渐渗透到科学研究领域的背景下，建立透明度和道德行为守则显得尤为重要。Sakana AI 团队强调，应明确何时、如何声明论文的人工智能生成属性，以及研究过程中的适当时机。总体原则是提供最大透明度，尽管这涉及一个复杂问题：是否应先基于科学价值本身进行评判，以避免不必要偏见。
未来展望：
AI 撰写论文通过同行评审，无疑是 AI 在科研领域的一次重要突破。然而，这仅仅是一个开始。未来，我们需要进一步探索 AI 在科学研究中的潜力，同时也需要认真思考 AI 在科研领域可能带来的伦理挑战。
以下是一些值得关注的未来发展方向：
- 提升 AI 的科研能力： 通过不断改进算法和模型，提高 AI 在科学研究中的自主性、创造性和准确性。
- 建立完善的学术伦理规范： 制定关于 AI 生成内容在学术界地位的明确规定，确保科研的公正性和透明度。
- 探索人机协作的科研模式： 将 AI 作为辅助工具，与人类科学家共同开展研究，充分发挥各自的优势。
AI 在科研领域的应用前景广阔，但同时也面临着诸多挑战。只有在充分认识到这些挑战并积极应对的前提下，我们才能真正发挥 AI 的潜力，推动科学研究的进步。
参考文献：
- 机器之心. (2024). AI写的论文能过审？双盲评审6.25分，达到ICLR研讨会水平. https://www.jiqizhixin.com/articles/2024-03-13-10
（注：由于缺乏更多详细资料，本文基于现有信息进行了推断和分析。如有错误或遗漏，敬请谅解。）
Views: 0