TypeSafe AIのJevミドルウェアはLangChain管理のディープエージェント向けにモデルをルーティングできる
Nathan Drezner (@ndrezn) は、LangChainで管理されたディープエージェントを使用している人々が、TypeSafe AIの (@typesafeai) Jevミドルウェアをモデルルーティングに試すことができると述べました。
投稿によると、ユーザーはルートを定義し、Jevがモデル選択を処理します。
関連AIニュース
JEVのカスケードは料金の約57%でGPT-6の精度の99%を維持
Jev-as-a-Judgeの論文は、TypeSafe AIのJEVが確信を持って出した判定を採用し、残りをGPT-6 Astraへエスカレーションすると、510件のホールドアウト選好ペアでGPT-6の精度の99%を、GPT-6の料金の約57%で維持したと報告している。著者らは、エスカレーションの閾値はすべてのフォールバックモデルへそのまま移せず、自らのデータで設定すべきだとしている。
Pydantic AIエージェントがJev上で動作するようになった
Pydanticによると、エージェントはTypeSafe AIのJev分類器を使い、型付きの質問に答える。各エージェントの既存の出力モデルを返し、フィールドごとに1つの信頼度スコアが付く。
Metaview、TypeSafe AIのjevをすべてのエージェントに導入したと発表
Shahriar Tajbakhshは、Metaviewが週末にTypeSafe AIのjevをすべてのエージェントに追加したと述べた。同氏によると、ソーシング製品の候補者検索は数分から数秒になり、精度は同じで速度は約10倍、検索あたりのコストは有意に低下したという。
TypeSafe AI：Jevが現在利用可能
TypeSafe AIはJevが現在利用可能であると述べ、https://console.typesafe.ai にリンクしました。投稿ではJevが何であるかやアクセス条件は指定されていませんでした。
LangChain、マネージドディープエージェントのモデルルーティング向けTypesafe Jevミドルウェアを紹介
LangChainはnathan dreznerを引用し、Typesafe AIのJevミドルウェアの公式ドキュメントをリンクした。このミドルウェアは、ユーザーがルートを定義した後、LangChainのマネージドディープエージェントのモデル選択を処理できる。