Artificial Analysis 开源面向笔记本与工作站推理的 AA-AgentPerf-Local
Artificial Analysis 已开源 AA-AgentPerf-Local。该工具通过重放已记录的智能体会话来测量本地推理速度,并公布了四套系统的初步 4-bit 结果。在能装入 32 GB 的模型上,GeForce RTX 5090 的完成速度比其他受测系统快 3.5 倍以上。
Artificial Analysis 已开源 AA-AgentPerf-Local。该工具通过重放已记录的智能体会话来测量本地推理速度,并公布了四套系统的初步 4-bit 结果。在能装入 32 GB 的模型上,GeForce RTX 5090 的完成速度比其他受测系统快 3.5 倍以上。