Alex Atallah、OpenRouterのBatch APIは71モデルに対応していると説明
OpenRouterはBatch APIのリクエストを最安のプロバイダーへ振り向け、呼び出し側は全モデルで/chat/completions、/responses、/messagesを使えると述べている。ファイルAPIなしでリクエストをポーリングして完全な応答を取得でき、持ち込みキーにも対応する。
OpenRouterはBatch APIのリクエストを最安のプロバイダーへ振り向け、呼び出し側は全モデルで/chat/completions、/responses、/messagesを使えると述べている。ファイルAPIなしでリクエストをポーリングして完全な応答を取得でき、持ち込みキーにも対応する。
各バッチはOpenRouterログのBatchesタブに表示され、モデル、プロバイダー、ステータス、コストが示される。入力と結果は30日間、またはバッチが削除されるまで保持される。
画像とファイルはbase64ではなく公開URLである必要がある。音声と動画の入力は受け付けず、OpenRouter独自のウェブプラグインはバッチでは利用できない。
OpenRouterのBatch APIは、即時の回答を必要としない処理向けに利用できる。大半のモデルでトークン単価を半額にし、結果は24時間以内に返される。