TypeSafe AI 的 Jev 中介軟體可為 LangChain 託管深度代理進行模型路由
Nathan Drezner (@ndrezn) 表示，使用 LangChain 託管深度代理 的人可以嘗試 TypeSafe AI (@typesafeai) 的 Jev 中介軟體 進行模型路由。
根據該帖文，用戶定義其路由，Jev 負責模型選擇。
相關AI快訊
JEV 級聯以約 57% 費用保留 GPT-6 準確率的 99%
一篇 Jev-as-a-Judge 論文報告，接納 TypeSafe AI 有信心的 JEV 判定，並把其餘個案升級至 GPT-6 Astra，在 510 組留出偏好配對上保留了 GPT-6 準確率的 99%，費用約為 GPT-6 的 57%。作者表示，升級閾值並非對每個後備模型都能轉移，應按自身數據設定。
Pydantic AI 智能體現已在 Jev 上運行
Pydantic 表示，這些智能體使用 TypeSafe AI 的 Jev 分類器回答具類型的問題，並以各智能體既有的輸出模型回傳結果，每個欄位附帶一個信心分數。
Metaview 表示已把 TypeSafe AI 的 jev 部署到每個 agent
Shahriar Tajbakhsh 表示，Metaview 在週末把 TypeSafe AI 的 jev 加到每個 agent。他說，其 sourcing 產品的候選人搜尋由數分鐘縮至數秒，準確度相同，速度約為原先 10 倍，每次搜尋成本亦明顯降低。
TypeSafe AI：Jev 現已推出
TypeSafe AI 表示 Jev 現已推出，並連結至 https://console.typesafe.ai。該帖文並未指明 Jev 是甚麼或任何存取條款。
LangChain 重點介紹 Typesafe Jev 中介軟件，用於託管深度智能體模型路由
LangChain 引述 nathan drezner，並連結 Typesafe AI 的 Jev 中介軟件官方文件；該中介軟件可在用戶定義路由後，為 LangChain 託管深度智能體處理模型選擇。