#dedicated-model-inference

Together AI 為 Dedicated Model Inference 新增金絲雀發佈

Dedicated Model Inference 現可在不停機的情況下，升級線上端點背後的模型。流量會按受控步驟轉移；若 p95 延遲或錯誤率惡化，指標門檻可暫停發佈。