Hugging Face Blog·· 2 小时前精选AI 评分66
我们能相信大模型来判断科研想法是否具有创新性吗?
Can we trust LLMs to judge whether a research idea is novel?
AI 导读
研究团队发布了名为 Old Ideas, Novel Problems 的新研究及配套基准、数据与代码,用于测试大模型评估科研想法创新性的可靠性。测试结果表明,提示词的微小变化会导致大模型给出截然不同的判断结果,且增加搜索和推理并不一定能提升判断准确率,专用的检索评估系统表现甚至不如简单的 Claude Opus 4.6 基线。
推荐理由
研究表明大模型在评估科研想法创新性时表现出显著的不稳定性,为衡量和提升自动化科研评估的可靠性提供了基准与数据。
来源:Hugging Face Blog · huggingface.co