目录

LLM有助于筛选研究想法,但其新颖性判断过于受提示词和评估条件影响,无法用于最终决策。Ai2于2026年10月27日发布的 *Old Ideas, Novel Problems* 说明了为何即使回答充满自信,也仍需独立验证。

要点#

  • 即使是同一组人类构思与AI生成的想法配对,改变提示词后,GPT-5.4的准确率也从93.5%降至40.9%。
  • 在人类撰写的研究上经过验证的评判模型,在评估AI生成的想法时,也可能表现不同。
  • 在测试的配置中,增加推理和文献检索、投入更多费用,并未带来稳定的改善。
  • 应将新颖性评分用于确定文献调研的优先顺序,并检查在合理范围内调整提示词后,判断是否保持一致。

基准测试衡量什么#

Ai2基于ICLR 2026的审稿意见构建了基准测试。它没有将论文被录用视为新颖性的证据,而是使用了明确提及原创性的评论。

人类构思的想法分为以下两组。

  • 154个新颖性较高的想法: 来自所属研究领域评分位于前10%的录用论文,审稿人高度评价其新颖性,且无人提出异议。
  • 145个新颖性较低的想法: 来自评分位于后10%的未录用论文,审稿人对其原创性存疑,且无人肯定其新颖性。

另一种评估条件将154个人类构思的新颖性较高的想法,与基础LLM生成器产生的154个想法配对。研究者向生成器提供研究领域,并要求其提出具有新颖性的想法,没有使用文献检索或反馈。这一条件很重要,因为判断生成的提案是新颖性评估器的典型预期用途。

提示词稍作改动,判断便大幅逆转#

最明确的结果出现在改变GPT-5.4比较人类与AI想法的方式时。一种提示词告知模型,审稿人只认可其中一个想法的新颖性,并要求它指出是哪一个。另一种则只是询问哪个想法具有新颖性。

准确率从93.5%降至40.9%,下降了52.6个百分点。在同一批配对中,超过一半的模型判断发生了逆转。由于第一种提示词还包含了有关预期正确答案的信息,因此不应将其高分视为开放式新颖性评判模型同样可靠的证据。

影响因模型和数据集而异。在人类想法之间的比较中,同样的提示词变化使GPT-5.4的准确率变化约7个百分点,Claude Opus 4.6则变化了21个百分点。在比较两个AI生成器时,所测试的提示词变化导致6个评判模型平均约四分之一至三分之一的判断发生逆转。即使不知道哪个想法实际上更具新颖性,这些逆转也体现了判断的不稳定性。

增加工具也未能解决问题#

这项研究未发现增加检索或推理能带来稳定的改善。在一项比较中,将推理强度设为extra-high并反复搜索arXiv的评判模型,其宏平均F1为0.78;而向Claude Opus 4.6提供检索得到的5篇摘要时,宏平均F1为0.89。按研究采用的API价格计算,检索智能体每次判断的费用约为后者的10倍。

在混合人类与AI生成想法的数据集上,专用评估器的表现也低于简单的基线方案。

| 评估器 | 宏平均F1 | 评估总费用 | |---|---:|---:| | 通过提示词指示的Claude Opus 4.6 | 0.854 | $2.59 | | Idea Novelty Checker | 0.642 | $30.66 | | AI Scientist新颖性评估器 | 0.772 | $82.05 |

宏平均F1越高,说明越能准确区分具有新颖性和缺乏新颖性的想法。这些结果来自投票方式和调用配置各异的特定设置,并不表明检索普遍无效。但它们说明,更复杂的流程需要有实测证据来支持其改进效果。

如何负责任地使用评判模型#

应将LLM的判断视为评审的辅助。有用的输出应能找出最接近的已有研究,并清楚说明提案与其差异,让研究者能够核实。

在使用评判模型筛选想法前,应执行以下步骤。

1. 使用接近实际评估对象的提案进行验证,必要时也纳入AI生成的想法。 2. 至少尝试两种合理的提示词,并记录判断发生变化的频率。 3. 阅读引用的最接近的论文,确认其中是否已包含所声称的贡献。 4. 对判断存在分歧的案例,在否决想法或宣称其原创性之前,交由专家评审。

这一基准测试存在局限。生成想法的标签依据较弱,研究者假定它们的新颖性低于所选的人类研究成果。专家在核查的30组配对中均给予人类想法更高评价,但该样本偏向评判模型出错的案例,并未验证所有配对。此外,结果基于ICLR的研究,其他领域需要自行验证。

下一步#

用两种新颖性判断提示词检查当前的10份研究提案,并对所有判断发生变化的提案,手动核查最接近的已有研究。

来源: https://huggingface.co/blog/allenai/novelty-bench

目录