Alex Atallah, OpenRouter Batch API가 71개 모델을 지원한다고 밝혀
그는 OpenRouter가 Batch API 요청을 가장 저렴한 제공업체로 라우팅하며, 호출자가 모든 모델에서 /chat/completions, /responses 또는 /messages를 사용할 수 있다고 말했다. 요청은 files API 없이 전체 응답을 폴링할 수 있고, bring-your-own-key도 동작한다.
그는 OpenRouter가 Batch API 요청을 가장 저렴한 제공업체로 라우팅하며, 호출자가 모든 모델에서 /chat/completions, /responses 또는 /messages를 사용할 수 있다고 말했다. 요청은 files API 없이 전체 응답을 폴링할 수 있고, bring-your-own-key도 동작한다.
각 배치는 OpenRouter 로그의 Batches 탭에 모델, 제공자, 상태, 비용과 함께 표시된다. 입력과 결과는 30일간, 또는 배치가 삭제될 때까지 보관된다.
이미지와 파일은 base64가 아닌 공개 URL이어야 한다. 오디오와 비디오 입력은 받지 않으며, OpenRouter 자체 웹 플러그인은 배치에서 사용할 수 없다.
OpenRouter의 Batch API는 즉시 답이 필요하지 않은 작업에 사용할 수 있다. 대부분 모델의 토큰당 가격을 절반으로 낮추며, 결과는 24시간 이내에 반환한다.