Jiantao Jiao 公布 SWE-Serve,一項含 53 項任務的 NVIDIA 基準測試
Jiantao Jiao 表示,NVIDIA 團隊建立了 SWE-Serve,用以測試 AI 代理能否開發推理引擎,並讓其服務真實模型。該基準測試包含 53 項任務,取材自 sgl_project 的實際工程工作。
Jiantao Jiao 表示,NVIDIA 團隊建立了 SWE-Serve,用以測試 AI 代理能否開發推理引擎,並讓其服務真實模型。該基準測試包含 53 項任務,取材自 sgl_project 的實際工程工作。
SambaNova 表示 SN50 專為高階推論而設,透過將 RDU 解碼與現有 GPU 配對以進行預填充。該公司引用在 70% 可計費使用率規劃假設下,6 個月內達致 ROI。