一个叫 PHYRD 的理论物理基准刚放上 arXiv 预印本,干的事挺具体:63 道题要求把已发表结果的推导重新推一遍(Reproduce),43 道题改掉原有理论条件、看模型能不能推出后果(Discover)。出题用了一套叫 FormulaForest 的流程,每题都带参考答案和子问题级别的评分标准。
成绩单不太均匀。五个模型整题准确率在 Reproduce 上落在 49.21% 到 68.25%,闭卷做 Discover 时跨度拉到 18.60% 到 74.42%。配上工具后,四个模型能多做对几道 Discover,但概念错误和论证缺环还在。
论文还给 FormulaForest 找了另一份用途:把它当合成数据,在 OpenAI 的 FrontierScience 基准上,一个 Qwen-35B-A3B 模型的准确率从 61% 抬到 72%。这是预印本,还没经过同行评审,数字先当参考。
$BTC
成绩单不太均匀。五个模型整题准确率在 Reproduce 上落在 49.21% 到 68.25%,闭卷做 Discover 时跨度拉到 18.60% 到 74.42%。配上工具后,四个模型能多做对几道 Discover,但概念错误和论证缺环还在。
论文还给 FormulaForest 找了另一份用途:把它当合成数据,在 OpenAI 的 FrontierScience 基准上,一个 Qwen-35B-A3B 模型的准确率从 61% 抬到 72%。这是预印本,还没经过同行评审,数字先当参考。
$BTC
