Lambda、モデルカードにNVIDIA AIのAIPerfベンチマークを追加
Lambdaはモデルカードを更新し、最小構成のLambdaハードウェア上でNVIDIA AIのAIPerfパッケージを用いて測定したサービングベンチマークを追加した。ユーザー並行数のしきい値に応じたデプロイの挙動を示す。
Lambdaはモデルカードを更新し、最小構成のLambdaハードウェア上でNVIDIA AIのAIPerfパッケージを用いて測定したサービングベンチマークを追加した。ユーザー並行数のしきい値に応じたデプロイの挙動を示す。