Did Codex Reset

QQ·微信群

#swe-bench

查看全部AI快讯
TGRSS 订阅共 4 条

UT Austin 研究发现,削减 token 的上下文压缩可能拖慢编码智能体

UT Austin 一项研究在 SWE-bench Verified 和 Terminal-Bench 上运行了近 35,000 次编码智能体任务,分别改变上下文如何压缩、何时触发压缩以及压缩掉多少内容。在 Qwen 的 Terminal-Bench 上,只使用约三分之一 token 的策略,耗时可能比保留完整上下文多 20% 到 80%。

Taste-Bench 最佳模型选出更优方向的比例为 59.7%

微软及合作者的一篇论文报告,在长周期工程与研究任务中选择更优开放方向时,最佳模型正确回答 59.7% 的 Taste-Bench 问题。由后续证据决定的分叉难度高得多,增加推理预算并不能提高准确率,而将教师模型对结果的判断蒸馏到学生模型后,可提高留出集 SWE-bench Pro 任务的成功率。