Jiantao Jiao 发布 SWE-Serve,一项包含 53 项任务的 NVIDIA 基准
Jiantao Jiao 表示,NVIDIA 团队构建了 SWE-Serve,用以测试 AI 智能体能否开发推理引擎并服务真实模型。该基准包含 53 项任务,取自 sgl_project 的真实工程工作。
Jiantao Jiao 表示,NVIDIA 团队构建了 SWE-Serve,用以测试 AI 智能体能否开发推理引擎并服务真实模型。该基准包含 53 项任务,取自 sgl_project 的真实工程工作。
SambaNova 表示 SN50 专为高端推理打造,通过将 RDU 解码与现有 GPU 配对用于预填充。该公司称在 70% 可计费利用率规划假设下,6 个月内可实现投资回报。