TypeSafe AI Jev 미들웨어는 LangChain 관리형 딥 에이전트를 위한 모델을 라우팅할 수 있습니다
Nathan Drezner (@ndrezn)는 LangChain에서 관리형 딥 에이전트를 사용하는 사람들이 모델 라우팅을 위해 TypeSafe AI(@typesafeai)의 Jev 미들웨어를 시도해볼 수 있다고 말했습니다.
게시물에 따르면 사용자는 경로를 정의하고 Jev가 모델 선택을 처리합니다.
관련 AI 뉴스
JEV 캐스케이드는 GPT-6 정확도의 99%를 약 57% 비용으로 유지
Jev-as-a-Judge 논문은 TypeSafe AI의 확신 있는 JEV 판정을 받아들이고 나머지는 GPT-6 Astra로 올리면, 510개 홀드아웃 선호 쌍에서 GPT-6 정확도의 99%를 GPT-6 비용의 약 57%로 유지했다고 보고한다. 저자들은 상향 임계값이 모든 폴백 모델로 전이되지 않았으며 자체 데이터에서 설정해야 한다고 말한다.
Pydantic AI 에이전트, 이제 Jev에서 실행
Pydantic는 에이전트가 TypeSafe AI의 Jev 분류기로 타입이 지정된 질문에 답하며, 각 에이전트의 기존 출력 모델과 필드별 신뢰도 점수 하나를 반환한다고 밝혔다.
Metaview, TypeSafe AI의 jev를 모든 에이전트에 배포했다고 밝혀
Shahriar Tajbakhsh는 Metaview가 주말 동안 TypeSafe AI의 jev를 모든 에이전트에 추가했다고 말했다. 그는 소싱 제품의 후보자 검색이 수 분에서 수 초로 줄었고, 정확도는 같으며 속도는 약 10배, 검색당 비용은 의미 있게 낮아졌다고 말했다.
TypeSafe AI: Jev가 이제 이용 가능합니다
TypeSafe AI는 Jev가 이제 이용 가능하다고 밝히며 https://console.typesafe.ai 링크를 게시했습니다. 해당 게시물은 Jev가 무엇인지 또는 어떠한 접근 조건도 명시하지 않았습니다.
LangChain, 관리형 딥 에이전트 모델 라우팅을 위한 Typesafe Jev 미들웨어 강조
LangChain은 nathan drezner를 인용하고 Typesafe AI의 Jev 미들웨어 공식 문서를 링크했으며, 이 미들웨어는 사용자가 경로를 정의한 후 LangChain 관리형 딥 에이전트의 모델 선택을 처리할 수 있다.