TypeSafe AI 的 Jev 中介軟體可為 LangChain 託管深度代理進行模型路由
Nathan Drezner 表示,TypeSafe AI 的 Jev 中介軟體可與 LangChain 託管深度代理一併用於模型路由。用戶定義路由,Jev 負責模型選擇。
Nathan Drezner 表示,TypeSafe AI 的 Jev 中介軟體可與 LangChain 託管深度代理一併用於模型路由。用戶定義路由,Jev 負責模型選擇。
LangChain 表示已測試 Jev 對比 GPT-5.6 Luna、GPT-5.6 Terra 及 Claude Sonnet 4.6 作為代理評估評判,報告每次呼叫均與人類審核者一致,方差最多低 913x,每次呼叫 0.44s,完整運行成本為 $0.34,而使用 Claude Sonnet 4.6 則為 $28.17。
LangChain 表示 Jev-as-a-judge 現已於 LangSmith 推出。該公司聲稱它可為每條生產追蹤評分、在成本不上升的情況下為每條追蹤檢查更多準則,以及足夠快地捕捉安全或保安問題以觸發自動回應。
LangChain 表示,將於 LangSmith LLM Gateway 把開源決策模型 SemIf 免費提供一星期。在被引用的帖文中,Jacob Lee 亦表示 SemIf 會免費服務一星期,並與 TypeSafe SDK 兼容。
LangChain 重點介紹了 Sydney Runkle 一段不足 10 分鐘的影片,拆解 @typesafeai 的新 Jev 模型,以及如何將其接入智能代理。