Did Codex Reset
GitHub

Lambda、モデルカードにNVIDIA AIのAIPerfベンチマークを追加

Lambda

Lambdaはモデルカードの更新を発表し、最小構成のLambdaハードウェア上でNVIDIA AIのAIPerfベンチマークパッケージを用いて得られたベンチマーク結果を追加した。

この指標は、ユーザー数のしきい値ごとにモデルのデプロイがどう動作するかを評価し、システムのインタラクティブ性を測定した上で、単一並行時のトークンスループットにとどまらず、追加レプリカがいつ必要になるかを示すことを目的としている。