SambaNova、SN50はRDUデコードを既存GPUと組み合わせてプレミアム推論を実現と発表

Jiantao Jiao、53タスクのNVIDIAベンチマークSWE-Serveを発表

Jiantao Jiaoは、NVIDIAのチームが、AIエージェントが推論エンジンを開発し、実際のモデルをサーブできるかを確かめるためSWE-Serveを構築したと述べている。このベンチマークは、sgl_projectの実際のエンジニアリング作業から取られた53のタスクで構成される。