Qwen 推出 RecreationBench 混合電腦使用代理基準測試
ModelScope 表示 Qwen 已推出 RecreationBench,這是一個針對混合電腦使用代理的基準測試,包含跨 Ubuntu、macOS、Windows、Android 及 Web 的 250 項應用重現任務。任務涵蓋生產力、開發、圖形、多媒體及科學等領域。
有別於僅限 GUI 或僅限終端的基準測試,代理必須探索正在運行的參考應用程式,以程式碼重現該應用,並同時通過程式化測試及基於 VLM 的視覺評估。數據集可於 https://modelscope.ai/datasets/Qwen/RecreationBench 取得。