跳到正文
Hugging Face Blog·· 2 小时前精选AI 评分66

我们能相信大模型来判断科研想法是否具有创新性吗?

Can we trust LLMs to judge whether a research idea is novel?

AI 导读

研究团队发布了名为 Old Ideas, Novel Problems 的新研究及配套基准、数据与代码,用于测试大模型评估科研想法创新性的可靠性。测试结果表明,提示词的微小变化会导致大模型给出截然不同的判断结果,且增加搜索和推理并不一定能提升判断准确率,专用的检索评估系统表现甚至不如简单的 Claude Opus 4.6 基线。

推荐理由

研究表明大模型在评估科研想法创新性时表现出显著的不稳定性,为衡量和提升自动化科研评估的可靠性提供了基准与数据。

来源:Hugging Face Blog · huggingface.co