近日，AI编程工具Cursor备受关注，其卓越表现和强大性能令人瞩目。Cursor团队的研究者参与的一项新研究揭示了Cursor强大的秘密武器——自然语言规划搜索方法，名为PlanSearch。
这项研究由Scale AI主导，第一作者为Scale AI研究者Evan Wang，第二作者Federico Cassano现为Cursor公司的一员。Cassano曾参与创立GammaTau AI项目，致力于实现AI编程的民主化，同时也是BigCode项目的活跃贡献者，负责开发用于AI编程的StarCoder系列大型语言模型。
研究论文《Planning In Natural Language Improves LLM Search For Code Generation》提出了一种通过搜索自然语言的规划来提升LLM代码生成能力的方法。该方法名为PlanSearch，旨在解决传统机器学习领域中“搜索”策略在大模型能力拓展方面的难题。
研究团队指出，随着大型语言模型的迅猛发展，人们对于“学习”是否有效的疑虑已基本消除。然而，在传统机器学习领域中表现出色的“搜索”策略，将如何拓展大模型的能力，仍是一个未知数。目前，阻碍模型应用“搜索”的主要难题是模型给出的答案过于雷同，缺乏多样性。
为了解决这一问题，研究团队提出了一个假设：想让模型输出的答案更加丰富，需要在自然语言的概念或想法的空间内进行搜索。为了验证这一假设，研究人员进行了一系列实验。
实验结果表明，通过搜索正确的思路，然后实现它，可以有效提升LLM代码搜索能力。不同于传统的搜索方法，PlanSearch搜索解决当前问题的可能规划，即有助于解决某个特定问题的高层级观察和草案的集合。
该研究团队发现，在推理时有效使用计算方面，PlanSearch方法优于标准的重复采样方法以及直接搜索思路的方法。该方法在多个实验中均取得了显著成果，证明了其在提升LLM代码生成能力方面的潜力。
总之，Cursor编程工具凭借其强大的自然语言规划搜索方法PlanSearch，成功突破了Scaling Law瓶颈，为AI编程领域带来了新的突破。未来，Cursor有望在LLM代码生成领域发挥更加重要的作用。
Views: 0