斯坦福研究：没有评估指标能在各方面与分词器无关

斯坦福大学新研究指出，没有任何评估指标能在各方面完全与分词器无关，因此在比较不同分词器时不能仅依赖单一 BPB 分数。 研究发现，未训练模型在不同分词器下会产生不同的 BPB 分数，且 BPB 与下游任务准确率之间的相关性较弱。研究建议，在选择词表前应在相同文本上检查任务准确率。

AI 根据报道生成 · 55 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。