Lambda、モデルカードにNVIDIA AIのAIPerfベンチマークを追加
Lambdaはモデルカードの更新を発表し、最小構成のLambdaハードウェア上でNVIDIA AIのAIPerfベンチマークパッケージを用いて得られたベンチマーク結果を追加した。
この指標は、ユーザー数のしきい値ごとにモデルのデプロイがどう動作するかを評価し、システムのインタラクティブ性を測定した上で、単一並行時のトークンスループットにとどまらず、追加レプリカがいつ必要になるかを示すことを目的としている。
Lambdaはモデルカードの更新を発表し、最小構成のLambdaハードウェア上でNVIDIA AIのAIPerfベンチマークパッケージを用いて得られたベンチマーク結果を追加した。
この指標は、ユーザー数のしきい値ごとにモデルのデプロイがどう動作するかを評価し、システムのインタラクティブ性を測定した上で、単一並行時のトークンスループットにとどまらず、追加レプリカがいつ必要になるかを示すことを目的としている。